Илон Маск, Стив Возняк и тысяча ученых призывают ввести мораторий на обучение нейросетей
Илон Маск вместе с одним из основателей Apple Стивом Возняком и еще тысячью ученых подписали открытое письмо с призывом остановить на время разработку мощного искусственного интеллекта.
"Современные системы искусственного интеллекта в настоящее время становятся конкурентоспособными в решении общих задач, и мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места? Должны ли мы развивать искусственные умы, которые в конечном итоге могут превзойти нас численностью, превзойти и и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий. Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми", — спрашивается в письме.
"Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем более мощных, чем GPT-4. Эта пауза должна быть общедоступной и поддающейся проверке, и в ней должны участвовать все ключевые участники. Если такую паузу нельзя ввести быстро, правительства должны вмешаться и ввести мораторий".
GPT-4 — система искусственного интеллекта компании OpenAI. Основатель OpenAl, Сэм Альтман, отсутствует в списке ученых, подписавших письмо.
