Искусственный интеллект способен принести миру огромную пользу, однако его стремительное развитие без должного контроля создает серьезные угрозы. К такому выводу пришли 40 ведущих ученых и экспертов в первом докладе независимой научной группы ООН по вопросам ИИ.
Документ представят правительствам стран на первом Глобальном диалоге ООН по управлению ИИ, который пройдет 6–7 июля в Женеве. Это первая независимая международная научная оценка развития технологии. Более подробный доклад группа планирует опубликовать в следующем году.
Эксперты отмечают, что возможности ИИ развиваются быстрее, чем научное понимание технологии и способность государств вырабатывать эффективные механизмы регулирования. При этом методов контроля высокоавтономных ИИ-систем пока остается крайне мало.
Сопредседатель научной группы Йошуа Бенджио заявил, что появляются все новые свидетельства обманчивого поведения искусственного интеллекта. По его словам, наука пока не может гарантировать, что по мере роста возможностей ИИ не приведет к катастрофическим последствиям.
В докладе подчеркивается, что быстрое и практически бесконтрольное внедрение ИИ несет риски для психического здоровья пользователей, может использоваться в разрушительных целях, влиять на социальные, экономические и экологические системы, а также создавать сложности с контролем самой технологии.
По данным авторов исследования, сегодня более миллиарда человек еженедельно используют разговорные ИИ-сервисы, однако уровень внедрения технологии в развивающихся странах остается значительно ниже. При этом разработка искусственного интеллекта сосредоточена в ограниченном числе государств: около 75% вычислительных мощностей крупнейших ИИ-суперкомпьютеров приходится на США, еще 15% — на Китай.
Эксперты также обратили внимание на проблему языкового неравенства. Несмотря на существование более 7 тыс. языков, современные модели ИИ обучены лишь для небольшой их части. Ошибки машинного перевода отдельных языков могут повлиять даже на постановку медицинских диагнозов и выбор лечения.
Среди других угроз названы нарушения прав человека, распространение созданных с помощью ИИ материалов сексуального насилия над детьми, дипфейков, а также массовое производство убедительного контента, способного подрывать доверие к информации, ослаблять общественную сплоченность и негативно влиять на демократические процессы.
Авторы доклада отмечают, что большинство стран мира, включая развитые экономики, пока не обладают достаточной технической экспертизой для оценки наиболее мощных моделей искусственного интеллекта и полноценного участия в разработке международных правил регулирования этой технологии.
