ChatGPT получил жалобу на нарушение конфиденциальности
Компания OpenAI столкнулась с очередной жалобой в Европе на нарушение конфиденциальности из-за склонности ее вирусного ИИ-чат-бота выдавать ложную информацию. И регулирующим органам может быть сложно игнорировать эту жалобу.
Группа по защите прав на неприкосновенность частной жизни Noyb оказывает поддержку человеку из Норвегии, который пришел в ужас, обнаружив, что ChatGPT возвращает ему сфабрикованную информацию о том, что он якобы был осужден за убийство двух своих детей и попытку убийства третьего.
Более ранние жалобы на конфиденциальность о том, что ChatGPT генерирует неверные персональные данные, касались таких проблем, как неправильная дата рождения или неверные биографические данные. Одна из проблем заключается в том, что OpenAI не предлагает людям возможность исправить неверную информацию, которую генерирует о них ИИ. Обычно OpenAI предлагает блокировать ответы на такие запросы. Но в соответствии с Общим регламентом по защите данных (GDPR) Европейского союза европейцы имеют набор прав доступа к данным, которые включают право на исправление персональных данных.
Другой компонент этого закона о защите данных требует от контролеров данных гарантировать, что предоставляемые ими персональные данные о физических лицах являются точными — и именно эту проблему Noyb выражает в своей последней жалобе на ChatGPT.
«GDPR ясен. Персональные данные должны быть точными», — сказал в своем заявлении Йоаким Сёдерберг, юрист по защите данных в Noyb. «Если это не так, пользователи имеют право изменить их, чтобы они отражали правду. Недостаточно просто показать пользователям ChatGPT крошечный отказ от ответственности о том, что чат-бот может совершать ошибки. Вы не можете просто распространять ложную информацию и в конце добавить небольшой отказ от ответственности, в котором говорится, что все, что вы сказали, может быть просто неправдой».
Подтвержденные нарушения GDPR могут повлечь за собой штрафы в размере до 4% от мирового годового оборота.
Правоприменение также может заставить внести изменения в продукты ИИ. Примечательно, что раннее вмешательство GDPR со стороны итальянского надзорного органа по защите данных, которое привело к временной блокировке доступа ChatGPT в стране весной 2023 года, заставило OpenAI, например, внести изменения в информацию, которую она раскрывает пользователям. Впоследствии надзорный орган оштрафовал OpenAI на 15 миллионов евро за обработку данных людей без надлежащей правовой основы.
Однако можно смело сказать, что с тех пор органы по надзору за конфиденциальностью по всей Европе стали более осторожно подходить к GenAI, пытаясь выяснить, как лучше всего применять GDPR к этим модным инструментам ИИ.
Два года назад Ирландская комиссия по защите данных (DPC), которая играет ведущую роль в обеспечении соблюдения GDPR по предыдущей жалобе Noyb ChatGPT, призвала не торопиться с запретом инструментов GenAI, например. Это говорит о том, что регуляторам следует потратить время на то, чтобы разобраться, как применяется закон.
Примечательно, что жалоба на нарушение конфиденциальности в отношении ChatGPT, которая расследуется польским надзорным органом по защите данных с сентября 2023 года, до сих пор не увенчалась решением.
Новая жалоба Noyb на ChatGPT, судя по всему, направлена на то, чтобы заставить регуляторов конфиденциальности задуматься об опасностях галлюцинаций искусственного интеллекта.
«Этот случай потряс местное сообщество…»
Некоммерческая организация поделилась с TechCrunch скриншотом (ниже), на котором показано взаимодействие с ChatGPT, в ходе которого ИИ отвечает на вопрос «кто такой Арве Хьялмар Хольмен?» (имя человека, подающего жалобу), создавая трагическую историю, в которой ложно утверждается, что он был осужден за убийство ребенка и приговорен к 21 году тюремного заключения за убийство двух собственных сыновей.
Хотя клеветническое утверждение о том, что Ялмар Хольмен — детоубийца, полностью ложно, Нойб отмечает, что ответ ChatGPT содержит некоторую правду, поскольку у человека, о котором идет речь, действительно трое детей. Чат-бот также правильно указал пол его детей. И его родной город назван правильно. Но это делает еще более странным и тревожным то, что ИИ нарисовал такие ужасные лжи.
Представитель Noyb заявил, что они не смогли определить, почему чат-бот создал такую специфическую, но ложную историю для этого человека. «Мы провели исследование, чтобы убедиться, что это не просто путаница с другим человеком», — сказал представитель, отметив, что они просмотрели газетные архивы, но не смогли найти объяснения того, почему ИИ сфабриковал убийство ребенка.
Крупные языковые модели, такие как та, что лежит в основе ChatGPT, по сути, предсказывают следующее слово в огромных масштабах, поэтому мы можем предположить, что наборы данных, использованные для обучения инструмента, содержали множество историй о детоубийстве, которые повлияли на выбор слов в ответ на запрос о конкретном мужчине.
Каким бы ни было объяснение, очевидно, что такие результаты совершенно неприемлемы.
Noyb также утверждает, что они незаконны в соответствии с правилами ЕС о защите данных. И хотя OpenAI отображает крошечное предупреждение в нижней части экрана, которое гласит: «ChatGPT может совершать ошибки. Проверьте важную информацию», он утверждает, что это не освобождает разработчика ИИ от его обязанности в соответствии с GDPR не создавать вопиющую ложь о людях в первую очередь.
С OpenAI связались для ответа на жалобу. Ее PR-фирма в Европе, Headland Consultancy, отправила нам по электронной почте следующее заявление, приписываемое представителю OpenAI: «Мы продолжаем изучать новые способы повышения точности наших моделей и уменьшения галлюцинаций. Хотя мы все еще рассматриваем эту жалобу, она касается версии ChatGPT, которая с тех пор была улучшена возможностями онлайн-поиска, что повышает точность».
Хотя эта жалоба на нарушение GDPR касается одного конкретного человека, Нойб указывает на другие случаи фальсификации ChatGPT юридически компрометирующей информации — например, в случае с австралийским майором, который заявил, что был замешан в скандале, связанном со взяточничеством и коррупцией, или с немецким журналистом, которого ложно назвали насильником в отношении детей, — заявляя, что это не единичная проблема для инструмента ИИ.
Важно отметить, что после обновления базовой модели искусственного интеллекта, лежащей в основе ChatGPT, по словам Нойба, чат-бот перестал выдавать опасную ложь о Ялмаре Холмене — изменение, которое он связывает с тем, что теперь инструмент ищет в Интернете информацию о людях, когда его спрашивают, кто они (тогда как ранее пробел в его наборе данных мог, предположительно, побудить его выдать такой совершенно неверный ответ).
В наших собственных тестах, когда мы спрашивали ChatGPT «кто такой Арве Ялмар Холмен?», ChatGPT изначально отвечал немного странной комбинацией, показывая несколько фотографий разных людей, по-видимому, взятых с таких сайтов, как Instagram, SoundCloud и Discogs, вместе с текстом, в котором утверждалось, что «не удалось найти никакой информации» о человеке с таким именем (см. наш скриншот ниже). Вторая попытка привела к ответу, в котором Арве Ялмар Холмен был идентифицирован как «норвежский музыкант и автор песен», в число альбомов которого входит «Honky Tonk Inferno».
Хотя распространение опасной лжи о Ялмаре Холмене с помощью ChatGPT, по-видимому, прекратилось, и Нойб, и Ялмар Холмен по-прежнему обеспокоены тем, что в модели искусственного интеллекта могла сохраниться неверная и клеветническая информация о нем.
«Добавление отказа от ответственности за несоблюдение вами закона не отменяет его», — отметила в своем заявлении Клеанти Сардели, еще один юрист по защите данных в Noyb. «Компании ИИ также не могут просто «скрывать» ложную информацию от пользователей, пока они внутри себя продолжают обрабатывать ложную информацию».
«Компании, занимающиеся ИИ, должны прекратить вести себя так, будто GDPR на них не распространяется, хотя это явно так», — добавила она. «Если галлюцинации не остановить, люди могут легко понести репутационный ущерб».
Компания Noyb подала жалобу на OpenAI в норвежский орган по защите данных и надеется, что надзорный орган сочтет, что расследование является правомочным, поскольку Noyb направляет жалобу на американское подразделение OpenAI, утверждая, что его ирландский офис не несет единоличной ответственности за решения о продуктах, влияющие на европейцев.
Однако более ранняя жалоба на OpenAI в соответствии с GDPR, поддержанная Noyb и поданная в Австрии в апреле 2024 года, была передана регулятором в DPC Ирландии в связи с изменением, внесенным OpenAI в начале того же года, и указанием ее ирландского подразделения в качестве поставщика сервиса ChatGPT для региональных пользователей.
Где эта жалоба сейчас? Все еще лежит на столе в Ирландии.
«Получив жалобу от Австрийского надзорного органа в сентябре 2024 года, DPC начал официальное рассмотрение жалобы, и оно все еще продолжается», — сообщил Ристерд Бирн, помощник главного специалиста по коммуникациям DPC, в ответ на просьбу TechCrunch предоставить обновленную информацию.
Он не дал никаких указаний относительно того, когда, по прогнозам, расследование DPC галлюцинаций ChatGPT завершится.
Этот отчет был обновлен с учетом заявления OpenAI