ИИ может привести к гибели миллиарда людей — Билл Гейтс
Искусственный интеллект (ИИ) необходимо контролировать не только силами технологических компаний, но и на уровне государства, заявил основатель Microsoft Билл Гейтс в интервью американской программе Meet the Press.
При использовании ИИ злоумышленниками последствия могут оказаться настолько серьезными, что погибнуть могут до миллиарда человек, предупредил он.
Гейтс отметил, что современные ИИ-системы уже обладают огромными возможностями. Если эти инструменты попадут в руки людей, которые захотят использовать их во вред, они могут запустить события с масштабными последствиями.
По мнению Гейтса, рассчитывать исключительно на добровольные ограничения со стороны разработчиков нельзя. В обсуждении правил для ИИ, считает он, должны участвовать государственные органы, правоохранительные структуры и законодатели.
Глава Anthropic также предложил замедлить развитие ИИ
Высказывание Гейтса прозвучало на фоне растущих дискуссий о безопасности искусственного интеллекта. Одним из сторонников более осторожного подхода выступает глава Anthropic Дарио Амодеи.
Ранее он призвал крупнейшие ИИ-компании временно снизить скорость разработки наиболее мощных систем. Амодеи считает, что разработчики должны договориться о дополнительных мерах безопасности и привлечь государство к формированию правил для отрасли.
При этом он признает, что создание законов может занять значительное время, тогда как технологии развиваются значительно быстрее.
Это интересно: Пошлины вниз, ИИ на стол переговоров — о чем договорились США и Китай
Крупные ИИ-компании договорились усилить контроль
В конце сентября представители ведущих технологических компаний США встретились с президентом Дональдом Трампом. В переговорах участвовали руководители и представители OpenAI, Anthropic, Google, Meta, Nvidia и других компаний.
После встречи компании договорились усилить внутренний и внешний контроль за безопасностью передовых ИИ-моделей.
Один из пунктов соглашений предусматривает создание независимых комитетов при советах директоров. Они должны контролировать работу подразделений, отвечающих за безопасность технологий, и следить за устранением выявленных проблем.
Компании также намерены проверять ИИ-модели на потенциальные угрозы в сфере кибербезопасности, а также риски, связанные с биологическими и химическими технологиями. Дополнительно планируется привлекать независимых специалистов для оценки эффективности защитных механизмов.
Читайте также: ИИ может стать причиной обвала на мировых финрынках.
В США пока нет единого подхода к регулированию ИИ
Вопрос о том, какие именно ограничения должны действовать для разработчиков ИИ, остается предметом споров в США.
В Конгрессе ранее предлагали обязать компании оценивать риски ИИ-систем, сертифицировать некоторые из них и обеспечивать прозрачность контента, созданного нейросетями. Однако перспективы принятия соответствующего законодательства пока остаются неопределенными.
На этом фоне часть представителей технологической отрасли выступает за более активное участие государства в контроле ИИ. Другие политики, напротив, считают, что чрезмерные ограничения могут замедлить развитие американских технологий.
