Публикации по теме 'deep-learning'


Варианты использования доброкачественной переобучения, часть 9 (машинное обучение)
Доброкачественное переоснащение в состязательно устойчивой линейной классификации (arXiv) Автор: Цзинхуэй Чен , Юань Цао , Цюаньцюань Гу . Аннотация: «Безобидное переобучение», когда классификаторы запоминают зашумленные обучающие данные, но при этом достигают хороших результатов обобщения, привлекло большое внимание в сообществе машинного обучения. Чтобы объяснить это удивительное явление, в ряде работ было дано теоретическое обоснование чрезмерно параметризованной линейной..

Лучшее из Vision Transformers 2023, часть 3 (машинное обучение)
Слияние и сокращение маркеров изученных пороговых значений для Vision Transformers (arXiv) Автор : Максим Боннаренс , Джони Дамбре Аннотация: За последние годы трансформеры машинного зрения продемонстрировали замечательные успехи в решении широкого круга задач компьютерного зрения. Однако их высокие вычислительные затраты остаются серьезным препятствием для их практического применения. В частности, сложность моделей преобразователей квадратична по отношению к количеству входных..

Классификация неразмеченных изображений
Классификация изображений — одна из самых распространенных проблем компьютерного зрения. Алгоритмы, выполняющие классификацию изображений, не новы и существуют уже несколько лет. Тем не менее, из-за отсутствия достаточных вычислительных ресурсов и данных они не могли оказать никакого влияния до тех пор, пока несколько лет назад в 2012 году Алекс Крижевский не представил в своей статье AlexNet . AlexNet — это многослойная сверточная нейронная сеть, которая…

Рассуждения важны для людей и должны быть одинаково важны для ИИ.
Обзор существующих подходов к рассуждению Насколько развит искусственный интеллект, несмотря на то, что на него направлено все финансирование и исследования, он все еще борется с некоторыми из самых простых задач из-за отсутствия навыков рассуждения. Из-за этого продукты и услуги, оснащенные ИИ, могут показаться очень неразумными, несмотря на скачки, достигнутые за последние годы. В этой статье мы коснемся того, как ИИ может рассуждать, и предположим, что это необходимый компонент и..

Последние инновации в сетях ReLU, часть 4 (машинное обучение)
Слегка завышенные параметры сетей ReLU имеют благоприятный ландшафт потерь (arXiv) Автор: Кедар Кархадкар , Майкл Мюррей , Ханна Церан , Гвидо Монтуфар . Аннотация: мы изучаем ландшафт потерь двухслойных нейронных сетей ReLU со слегка завышенными параметрами на общем конечном наборе входных данных для квадрата ошибки. Наш подход включает ограничение размерности множеств локальных и глобальных минимумов с использованием ранга якобиана карты параметризации. Используя результаты для..

Глубокое обучение — будущее искусственного интеллекта
Краткий обзор Искусственный интеллект (ИИ) сегодня является одной из самых быстрорастущих областей технологий. Прогресс в этой области был замечательным, и потенциал того, что может быть достигнуто, огромен. Глубокое обучение — одна из самых захватывающих областей ИИ, и оно может революционизировать то, как мы живем, работаем и взаимодействуем с технологиями. В этой статье мы рассмотрим глубокое обучение, его приложения и то, как оно влияет на будущее ИИ. Что такое глубокое..

Инновации с комбинаторной оптимизацией, часть 3 (информатика)
Минимизация матрицы плотности отвечает задаче комбинаторной оптимизации (arXiv) Автор: Ясухару Окамото . Аннотация: В работе исследуется новый гибридный метод решения комбинаторной задачи оптимизации дробных функций с 0–1 бинарными переменными. Этот метод сочетает в себе минимизацию матрицы плотности (DMM), поиск табу (TS) и алгоритм Динкельбаха для оптимизации дробных функций. Хотя сам по себе цифровой мультиметр не дает достаточно точного решения, сочетание цифрового мультиметра с..