Пользователи X, которые относятся к Гроку как к проверяющему факты
Некоторые пользователи X Илона Маска обращаются к его искусственному интеллекту-боту Grok для проверки фактов, что вызывает опасения среди людей, проверяющих факты, что это может способствовать распространению дезинформации.
Ранее в этом месяце X позволил пользователям вызывать Grok из xAI и задавать вопросы по разным вопросам. Этот шаг был похож на Perplexity, которая запустила автоматизированную учетную запись на X, чтобы предложить похожий опыт.
Вскоре после того, как xAI создала автоматизированный аккаунт Grok на X, пользователи начали экспериментировать, задавая ему вопросы. Некоторые люди на рынках, включая Индию, начали просить Grok проверять комментарии и задавать вопросы, которые касаются конкретных политических убеждений.
Фактчекеры обеспокоены использованием Grok — или любого другого помощника ИИ такого рода — таким образом, потому что боты могут формулировать свои ответы так, чтобы они звучали убедительно, даже если они фактически неверны. Случаи распространения фейковых новостей и дезинформации с Grok были замечены в прошлом.
В августе прошлого года пять государственных секретарей призвали Маска внести критические изменения в Grok после того, как вводящая в заблуждение информация, сгенерированная помощником, всплыла в социальных сетях перед выборами в США.
Другие чат-боты, включая ChatGPT от OpenAI и Gemini от Google, также были замечены в создании неточной информации о выборах в прошлом году. Кроме того, исследователи дезинформации обнаружили в 2023 году, что чат-боты на основе ИИ, включая ChatGPT, могут легко использоваться для создания убедительного текста с вводящими в заблуждение нарративами.
«Помощники ИИ, такие как Grok, действительно хороши в использовании естественного языка и дают ответ, который звучит так, как будто его сказал человек. И в этом смысле продукты ИИ претендуют на естественность и аутентично звучащие ответы, даже если они потенциально очень неверны. В этом и заключается опасность», — сказала TechCrunch Энджи Холан, директор Международной сети проверки фактов (IFCN) в Poynter.
Пользователь X попросил Grok проверить факты по заявлениям другого пользователя. Источники изображений: X/Twitter (скриншот)
В отличие от помощников ИИ, проверяющие факты люди используют множественные, достоверные источники для проверки информации. Они также несут полную ответственность за свои выводы, указывая свои имена и организации для обеспечения достоверности.
Пратик Синха, соучредитель индийского некоммерческого сайта по проверке фактов Alt News, сказал, что, хотя в настоящее время Grok, похоже, дает убедительные ответы, его качество напрямую зависит от предоставленных ему данных.
«Кто будет решать, какие данные ему предоставлять, и вот тут-то и возникнет необходимость во вмешательстве правительства и т. д.», — отметил он.
«Нет никакой прозрачности. Все, что лишено прозрачности, причинит вред, потому что все, что лишено прозрачности, может быть сформировано любым способом».
«Может быть использовано не по назначению — для распространения дезинформации»
В одном из ответов, опубликованных ранее на этой неделе, аккаунт Грока на X признал, что его «можно использовать не по назначению — для распространения дезинформации и нарушения конфиденциальности».
Однако автоматизированная учетная запись не показывает пользователям никаких предупреждений, когда они получают ее ответы, что приводит к их дезинформации, если, например, она придумала ответ, что является потенциальным недостатком ИИ.
Ответ Grok о том, может ли он распространять дезинформацию (перевод с хинглиша).
«Это может быть выдуманная информация, чтобы дать ответ», — рассказала TechCrunch Анушка Джайн, научный сотрудник многопрофильного исследовательского коллектива Digital Futures Lab в Гоа.
Также есть некоторые вопросы о том, насколько Grok использует посты на X в качестве обучающих данных, и какие меры контроля качества он использует для проверки фактов таких постов. Прошлым летом он выпустил изменение, которое, как казалось, позволяло Grok потреблять данные пользователей X по умолчанию.
Другой проблемной областью, связанной с доступом к ИИ-помощникам, таким как Grok, через платформы социальных сетей, является предоставление ими информации публично — в отличие от ChatGPT или других чат-ботов, используемых в частном порядке.
Даже если пользователь прекрасно понимает, что информация, которую он получает от помощника, может быть вводящей в заблуждение или не совсем верной, другие пользователи платформы все равно могут в это поверить.
Это может нанести серьезный социальный вред. Ранее подобные случаи наблюдались в Индии, когда дезинформация, распространяемая через WhatsApp, приводила к самосуду толпы. Однако эти серьезные инциденты произошли до появления генеративного ИИ, который сделал генерацию синтетического контента еще проще и более реалистичной.
«Если вы увидите много ответов Grok, вы скажете: эй, ну, большинство из них верны, и это может быть так, но будут и неверные. И сколько? Это не маленькая часть. Некоторые исследования показали, что модели ИИ подвержены 20%-ному уровню ошибок… и когда что-то идет не так, это может пойти совсем не так с реальными последствиями», — сказал Холан из IFCN в интервью TechCrunch.
ИИ против настоящих проверяющих факты
Хотя компании, занимающиеся разработкой искусственного интеллекта, включая xAI, совершенствуют свои модели искусственного интеллекта, чтобы они могли общаться более похоже на людей, они все еще не могут заменить людей.
В течение последних нескольких месяцев технологические компании изучают способы снижения зависимости от людей, проверяющих факты. Платформы, включая X и Meta, начали внедрять новую концепцию краудсорсинговой проверки фактов через Community Notes.
Естественно, такие изменения также вызывают беспокойство у фактчекеров.
Синха из Alt News с оптимизмом полагает, что люди научатся различать машины и людей, проверяющих факты, и будут больше ценить точность людей.
«В конечном итоге мы увидим, как маятник качнется обратно в сторону большей проверки фактов», — сказал Холан из IFCN.
Однако она отметила, что в то же время у проверяющих факты, скорее всего, будет больше работы, поскольку информация, генерируемая ИИ, быстро распространяется.
«Во многом эта проблема зависит от того, действительно ли вас волнует, что на самом деле правда, а что нет? Вы просто ищете видимость чего-то, что звучит и ощущается правдой, но на самом деле не является правдой? Потому что именно это вам даст помощь ИИ», — сказала она.
X и xAI не ответили на нашу просьбу прокомментировать ситуацию.