В письме содержится призыв как минимум на полгода приостановить работу над любыми ИИ-системами, более мощными, чем недавно представленная компанией OpenAI GPT-4. Подписавшие документ опасаются, что создание нейросетей, способных составить человеку конкуренцию, может привести к взрывному росту в интернете числа материалов пропагандистского и дезинформирующего толка.
"Должны ли мы разрабатывать нечеловеческие разумы, которые со временем могут стать многочисленнее и умнее нас, сделав нас устаревшими и заменив нас?" – сказано в письме. По мнению подписавших, решения, способные привести человечество к потере контроля над развитием цивилизации, не должны приниматься лидерами технологических компаний, которых никто не избирал демократическим путем.
Письмо предупреждает, что лаборатории ИИ включились в неконтролируемую гонку по созданию все более мощных цифровых разумов, которые никто, даже их создатели, не могут понять, надежно контролировать или предсказать их поведение.
Перерыв в разработке, считают обеспокоенные эксперты, должен быть открытым, контролироваться и включать всех ключевых игроков в этой сфере. Его следует использовать для публичной дискуссии о рисках создания слишком мощного ИИ.
