Meta Muse — тестирование функции звонков и скандал из-за оператора

Во время тестирования функции телефонных звонков на платформе Muse, разработанной компанией Meta, среди операторов-людей произошел инцидент, связанный с расистским высказыванием. Об этом сообщает издание Gizmodo.

Платформа Muse была запущена 8 сентября и привлекла большое внимание пользователей благодаря своей функции, позволяющей ИИ осуществлять звонки от имени человека, например, для записи на стрижку или уточнения наличия товара.

Как сообщает Reuters, в некоторых случаях к звонкам привлекались люди, что позволяло оператору вмешаться, если ИИ не справлялся с задачей. Такой подход был необходим, поскольку некоторые компании отказывались общаться с ботом. Один из тестировщиков рассказал, что страховая компания несколько раз прекращала разговор, когда Muse указывала на то, что она не является человеком.

Сотрудники Meta также выражали опасения касательно конфиденциальности, так как оператор во время звонка мог получить доступ к личной информации пользователя. Один из сотрудников, изучивший расшифровку разговора, сообщил о расистском замечании, сделанном оператором.

После получения жалобы вице-президент Meta Superintelligence Labs извинился перед сотрудником. Представитель компании уточнил, что Meta прекратила сотрудничество с этим оператором и отказалась от тестирования функции в таком формате.

Кроме того, компания отметила, что привлеченные люди во время тестов повысили успешность телефонных звонков до более чем 90%, в то время как показатели звонков, полностью выполненных ИИ, были ниже.

Однако пока не ясно, полностью ли Meta прекратила использование телефонных звонков через Muse или просто исключила сторонних операторов. Представитель компании Дэйв Арнольд заявил, что внутренние тесты необходимы для выявления проблем безопасности и конфиденциальности. Он добавил, что Meta продолжает работать с бизнес-партнерами над улучшением функции и запустит ее для широкой аудитории только после соответствующих проверок и предоставления пользователям необходимой информации.