СТОКГОЛЬМ, 20 марта. /ТАСС/. Чат-бот с искусственным интеллектом ChatGPT предоставил пользователю ложную информацию на запрос, заявив, что тот убил двух своих детей и пытался убить третьего. Об этом сообщила организация noyb, подавшая жалобу на компанию - разработчика OpenAI в Норвежское агентство по защите данных (Datatilsynet).
"Некоторые считают, что дыма без огня не бывает. Больше всего меня пугает, что кто-то может прочитать этот ответ и поверить ему", - передает пресс-служба noyb слова пострадавшего пользователя Арве Ялмара Хольмена. Согласно жалобе, ChatGPT приписал Хольмену преступления, которые он не совершал, включая убийство и приговор к 21 году заключения. В ответе содержались реальные данные пользователя - его имя, количество детей и родной город
В nyob заявляют, что OpenAI не исправляет ошибки, а лишь блокирует их выдачу. Юрист nyob Клеанти Сардели отметил, что дисклеймер о возможных ошибках не освобождает компанию от ответственности.
После жалобы OpenAI обновила модель, но в noyb заявляют, что неверные данные могут сохраняться в системе. Организация требует от Datatilsynet обязать OpenAI удалить ложные сведения, скорректировать алгоритм и наложить штраф за нарушение GDPR.
Комментарии