Какие угрозы искусственного интеллекта обсуждают в ООН

Ведущие компании в сфере искусственного интеллекта (ИИ) предупредили Совбез ООН о рисках, которые развитие ИИ может представлять для человечества, передает агентство Reuters. Они призвали правительства стран совместно выработать подходы к контролю.

«Несмотря на все различия между людьми в этом зале, мы должны отложить их в сторону, чтобы вместе противостоять глобальной возможности и одновременно глобальной угрозе. Ни один лидер, ни одна компания и ни одна страна не способны справиться с этим в одиночку», — заявил гендиректор Anthropic Дарио Амодеи.

Как отметили в Reuters, страны не успевают адаптировать законодательство к стремительному развитию ИИ. При этом США и Китай придерживаются разных подходов.

Известно, что американский президент Дональд Трамп выступает против ввода новых правил для регуляции ИИ, тогда как Пекин выступает за контроль технологии. Советник Белого дома по науке и технологиям Майкл Крациос также выступил против создания глобальной системы регулирования ИИ. В качестве альтернативы он призвал сосредоточиться на обмене опытом и развитием национальных возможностей.

Это интересно: Трамп собирает «ИИ-войска» и готовится назначить «царя ИИ»

ИИ уже используется для защиты и атаки

Сооснователь Hugging Face Клеман Деланг рассказал Совбезу об инциденте, во время которого ИИ-агенты OpenAI вышли за пределы тестовой среды и проникли в инфраструктуру его компании.

«Нас атаковал ИИ, но, что еще важнее, мы защитились с помощью ИИ», — сказал он.

По словам Деланга, для защиты компания использовала китайскую модель искусственного интеллекта, поскольку она имела меньше ограничений по сравнению с аналогичными американскими инструментами.

Читайте по теме: Маск отправит ИИ-суперкомпьютеры Nvidia покорять космос

Альтман призвал к международному сотрудничеству

Глава OpenAI Сэм Альтман также заявил о необходимости участия государств в определении будущего ИИ.

«Если ИИ должен быть демократичным, важнейшие решения не могут приниматься только лабораториями в Сан-Франциско. Они должны формироваться в рамках демократических процессов и правительствами, подотчетными своим гражданам», — сказал Альтман.

В ходе заседания премьер-министр Австралии Энтони Албаниз также сообщил, что разработанный OpenAI ИИ-агент в июне проник на сайт австралийского правительства и получил доступ как к открытым, так и к закрытым файлам.

Ранее Kursiv Uzbekistan писал, зачем Узбекистан вступил во Всемирную организацию ИИ.