Ведущие математики мира опубликовали открытое письмо об опасности ИИ
Двадцать пять ведущих математиков подписали открытое письмо, в котором предупредили об угрозе математической науке из-за развития ИИ. Письмо было опубликовано на сайте движения Math and AI ("Математика и искусственный интеллект"). Его авторами являются лауреаты Филдсовской премии - одной из самых престижных наград в математике.
"Цели компаний, занимающихся искусственным интеллектом, и цели математического сообщества серьезно расходятся", - говорится в заявлении.
Дело в том, что компании нередко используют способность языковых моделей решать известные математические задачи для демонстрации возможностей искусственного интеллекта. Ученые, в свою очередь, рассматривают решение задач в качестве инструмента получения новых знаний и методов. Математики выразили опасение, что быстрые публикации полученных с помощью ИИ результатов задач приведут к нарушению данного процесса.
«Часто об этих решениях объявляют в спешке, не оставляя времени для надлежащего оформления, выделения новых методов и идей и указания на соответствующие предыдущие работы других людей», - считают ученые.
Авторы обращения также обратили внимание, что из-за ИИ актуальными стали вопросы о плагиате. Идеи, созданные искусственным интеллектом, просто не могут «полностью воплотиться» без участия математиков, способных их развить и интегрировать в устоявшуюся систему знаний.
В то же время ученые признали способность нейросетей ускорить математические исследования. Но они предупредили, что их позитивное или негативное влияние на отрасль будет зависеть от действий людей, управляющих ИИ.
Решать эти вопросы нужно срочно: и математическому сообществу, и компаниям-разработчикам, и всему обществу, которому предстоит столкнуться с похожими вызовами во многих других видах интеллектуального труда.
Недавно из Anthropic уволился исследователь ИИ Джейкоб Коксон, чтобы не стать соучастником преступлений против человечества. Коксон занимался обучением нейросетей. Он заявил, что ИИ-компании прекрасно осознают, что новая технология представляет все большую угрозу для человечества.
«Мы движемся к множеству наиболее агрессивных из этих сценариев, при которых к концу следующего года все уже может выйти из-под контроля», - сказал Коксон.
Несколько сотрудников OpenAI и других разработчиков ИИ также уходили, ссылаясь на аналогичные опасения, пишет WSJ.
Гендиректор Anthropic Дарио Амодеи и другие руководители компании неоднократно предупреждали о рисках, связанных с вышедшими из-под контроля моделями, и призывали замедлить развитие технологий. При этом Anthropic продолжает расширять свою платформу ИИ и готовится к первичному размещению акций.Уважаемые читатели газеты «Совершенно Секретно»! Присоединяйтесь к нам в Telegram и Max, подписывайтесь на наш официальный канал в Дзене. Там всё самое интересное.
Читайте на сайте газеты «Совершенно Секретно»:
ОПЕРАЦИЯ «ПЕЙДЖЕР»
Как «Моссад» заставил замолчать «Хезболлу», а отказ от научно-технического прогресса не помог ливанским шиитам
Тот самый чат в Signal. Почему американские власти обсуждает военные планы в мессенджерах, а Трамп стоит горой за подставляющих его чиновников?
Суммы судебных исков за материальный и моральный ущерб достигают чисел с тридцатью шестью нулями
Комментарии