АНАЛИЗ ТЕНДЕНЦИЙ РАЗВИТИЯ СЕТЕЙ С КОМПЛЕМЕНТАРНОЙ РАЗРЯЖЕННОСТЬЮ - Варбанский, К.С.; Городничев, М.Г. (Международный журнал информационных технологий и энергоэффективности, 2024)
Проведен анализ и исследование подхода к оптимизации нейронных сетей с использованием разреженных-разреженных сетей. Работа направлена на выявление преимуществ и потенциала данного подхода в области машинного обучения, в частности в области больших языковых моделей и компьютерного зрения. В статье описываются подходы с использованием разреженности весов, разреженности активации, а также двойной разреженности.