Последняя вирусная тенденция ChatGPT
В сети набирает популярность новая тревожная тенденция: люди используют ChatGPT, чтобы узнать местоположение, показанное на фотографиях.
На этой неделе OpenAI выпустила свои новейшие модели ИИ, o3 и o4-mini, обе из которых могут уникальным образом «рассуждать» через загруженные изображения. На практике модели могут обрезать, вращать и приближать фотографии — даже размытые и искаженные — для их тщательного анализа.
Эти возможности анализа изображений в сочетании со способностью моделей осуществлять поиск в Интернете создают мощный инструмент для определения местоположения. Пользователи X быстро обнаружили, что o3, в частности, довольно хорошо определяет города, достопримечательности и даже рестораны и бары по едва заметным визуальным подсказкам.
Во многих случаях модели, по-видимому, не опираются на «воспоминания» прошлых разговоров ChatGPT или данные EXIF — метаданные, прикрепленные к фотографиям и раскрывающие такие подробности, как место съемки фотографии.
X полон примеров того, как пользователи отправляют ChatGPT меню ресторанов, снимки окрестностей, фасады домов и автопортреты, а также просят o3 представить, что он играет в «GeoGuessr» — онлайн-игру, в которой игрокам предлагается угадывать местоположения по изображениям Google Street View.
Это очевидная потенциальная проблема конфиденциальности. Ничто не мешает злоумышленнику сделать скриншот, скажем, истории Instagram человека и использовать ChatGPT, чтобы попытаться раскрыть его личность.
Конечно, это можно было сделать еще до запуска o3 и o4-mini. TechCrunch прогнал ряд фотографий через o3 и более старую модель без возможностей рассуждения об изображении, GPT-4o, чтобы сравнить навыки моделей по угадыванию местоположения. Удивительно, но GPT-4o чаще приходил к тому же правильному ответу, что и o3, чем нет — и на это уходило меньше времени.
За время нашего краткого тестирования был по крайней мере один случай, когда o3 нашел место, которое GPT-4o не смог найти. Получив изображение фиолетовой головы носорога в тускло освещенном баре, o3 правильно ответил, что это из нелегального бара в Уильямсбурге, а не из британского паба, как предположил GPT-4o.
Это не значит, что o3 безупречен в этом отношении. Несколько наших тестов провалились — o3 застрял в цикле, не сумев прийти к ответу, в котором он был бы достаточно уверен, или добровольно указал неверное местоположение. Пользователи X также отметили, что o3 может быть довольно далек от истины в своих выводах о местоположении.
Но эта тенденция иллюстрирует некоторые из возникающих рисков, представляемых более способными, так называемыми моделями рассуждений ИИ. Похоже, что существует мало мер безопасности для предотвращения такого рода «обратного поиска местоположения» в ChatGPT, и OpenAI, компания, стоящая за ChatGPT, не рассматривает эту проблему в своем отчете по безопасности для o3 и o4-mini.