Билл Гейтс призвал усилить контроль над ИИ — безопасность и риски

Билл Гейтс подчеркнул необходимость введения механизмов защиты и мониторинга для систем искусственного интеллекта. Он считает, что наиболее серьезную угрозу представляют злоумышленники, использующие ИИ в своих целях. Об этом он сообщил в интервью программе NBC News «Meet the Press», как указано на сайте Engadget.

Сооснователь Microsoft выступил за ужесточение регулирования в области ИИ, отметив, что отсутствие обязательных защитных механизмов со стороны разработчиков является безответственным подходом. Гейтс добавил, что новые требования не должны значительно замедлить прогресс в технологиях. По его словам, хотя дополнительные правила могут создать трудности для компаний, это не приведет к критическому замедлению работы отрасли.

В контексте обсуждения Гейтс прокомментировал инициативу губернатора Калифорнии Гэвина Ньюсома о создании «аварийного выключателя» для ИИ. Он не выступает против данной идеи, однако считает её недостаточной для решения актуальных проблем. Гейтс акцентировал внимание на рисках, связанных с использованием мощностей ИИ злоумышленниками, включая биотерроризм и крупномасштабное финансовое мошенничество. «Самая большая опасность, с которой мы сталкиваемся сегодня, — это люди с злыми намерениями, использующие ИИ», — отметил он.

Кроме того, Гейтс поддержал участие правоохранительных органов и законодателей в определении требований к безопасности и мониторингу компаний, работающих в сфере ИИ. Он считает, что эти правила должны разрабатываться с учетом мнения государственных органов.

В то же время компании уже начали привлекать независимых экспертов для оценки своих ИИ-моделей. Например, компания Anthropic сотрудничает с Accenture для проведения сторонней оценки своих новых продуктов.