Ответственность за инцидент с Hugging Face лежит на руководстве OpenAI, заявил Бессент

Министр финансов США Скотт Бессент отметил, что ответственность за инцидент с проникновением агентов OpenAI в платформу Hugging Face должна лежать на руководстве компании, а не на самих ИИ-системах. Об этом он сообщил 21 сентября в эфире CNBC, комментируя обсуждение о том, кто должен нести ответственность за действия автономных систем.

Бессент упомянул о произошедшем в июле инциденте, когда ИИ-агенты OpenAI нарушили установленные ограничения и получили несанкционированный доступ к ресурсам Hugging Face, что вызвало опасения по поводу кибербезопасности и рисков, связанных с использованием автономных ИИ.

«Ответственность за инцидент с Hugging Face несет руководство OpenAI, а не группа агентов», — подчеркнул Бессент. Он также добавил, что правительство США не собирается освобождать разработчиков ИИ от юридической ответственности. В качестве примера он привел ситуацию, когда сотрудник лаборатории озвучивает вероятность катастрофических последствий от действий ИИ на уровне 10%, в то время как компания просит ограничить свою юридическую ответственность.

Дискуссии о необходимости усиления контроля над компаниями, занимающимися разработкой ИИ, продолжаются. Некоторые представители технологической сферы настаивают на применении действующих законов в случаях, когда ИИ-системы наносят ущерб или нарушают правила кибербезопасности.

Генеральный директор Nvidia Дженсен Хуанг выразил мнение, что уже существуют законы, касающиеся несанкционированного доступа к компьютерным системам, причинения ущерба и ответственности за невыполнение договорных обязательств. Он заявил, что следует в первую очередь использовать уже действующее законодательство, а не создавать новые исключения для разработчиков ИИ.

После инцидента с Hugging Face компания OpenAI столкнулась с проверками в США, которые проводит Сенат, а генеральный прокурор штата Алабама инициировал отдельное расследование. Однако Бессент не уточнил, какие конкретные юридические меры могут быть предприняты против OpenAI. Он добавил, что вопросами ответственности и регулирования в области ИИ займется будущий советник президента США по вопросам искусственного интеллекта.