GetReal взломал код ИИ deepfakes
Распространение пугающе реалистичных дипфейков является одним из наиболее пагубных побочных продуктов развития ИИ, и падение жертв мошенничества, основанного на этих дипфейках, уже обходится компаниям в миллионы долларов — не говоря уже о последствиях, которые они могут иметь для национальной безопасности. Стартап, который создал набор инструментов, предназначенный для правительств и предприятий, чтобы помочь обнаружить и остановить дипфейки и подделки в аудио, видео и неподвижных изображениях, объявляет в среду о финансировании с некоторыми впечатляющими клиентами и инвесторами.
GetReal, соучредителем которой является Хани Фарид, один из пионеров в области обнаружения дипфейковых медиа, привлекла 17,5 млн долларов США в виде акционерного капитала, который будет направлен на исследования и разработки, найм персонала и развитие бизнеса.
Наряду с финансированием компания запускает свою платформу криминалистики как услугу, которая включает веб-интерфейс, API и интеграции для запуска анализа медиа как услуги. Функции включают панель управления угрозами; инструмент «Inspect», специально предназначенный для защиты высокопоставленных руководителей от подделки; инструмент «Protect» для проверки медиа; и «Respond», который включает человеческие команды в GetReal, выполняющие более глубокий анализ.
Forgepoint Capital, специалист в области кибербезопасности и искусственного интеллекта, возглавляет эту серию A, в которой участвуют Ballistic Ventures, Evolution Equity и K2 Access Fund.
Ballistic — ключевая фирма в этом списке. GetReal инкубировалась в VC с 2022 года, пока не вышла из тени в июне 2024 года. Ballistic также возглавила посевной раунд GetReal в размере 7 миллионов долларов — раунд, в котором, по данным PitchBook, также участвовали Venrock, Artisanal, Qudit и Silver Buckshot.
Ballistic важен еще по одной причине: основатель фирмы Тед Шлейн является председателем и другим соучредителем GetReal. До Ballistic Шлейн возглавлял Kleiner Perkins.
Хани как услуга
GetReal находится в более широком мире кибербезопасности, в частности в быстро развивающейся области киберкриминалистики. Пробел на рынке, который заполняет стартап из Сан-Матео, — это нехватка талантов и знаний в этой области.
«Если вы считаете, что в сфере кибербезопасности не хватает людей, приготовьтесь к криминалистике», — сказал Мэтт Мойнахан, генеральный директор GetReal.
Мойнахан не является основателем стартапа; он пришел в GetReal, когда компания еще была в тайне, после трех десятилетий работы в качестве руководителя ряда крупных компаний в сфере кибербезопасности, таких как Symantec, Arbor Networks, Veracode и Forcepoint.
«Честно говоря, я не думаю, что видел столь повсеместную угрозу», — сказал он о возможности создания и последующего применения вредоносных дипфейков.
Он описал вирусы как «новую угрозу» в сравнении с ними. «То, что мы видели за последние 20 лет, — это угроза, переходящая к конечному пользователю», — сказал он. «Забавные» приложения, которые позволяют людям создавать deepfakes, являются частью проблемы, но то же самое относится и к среде, в которой мы работаем сегодня. «Люди перешли от кирпичей и раствора к предприятиям, которые теперь почти полностью цифровые и находятся в облаке».
По его словам, фишинг доказал, что даже очень умных людей можно легко обмануть, и в целом это сложный и очень плохой знак того, к чему могут привести события.
GetReal — детище Фарида, давнего, известного академика (в настоящее время работающего в Калифорнийском университете в Беркли), который считается пионером в области методов определения подделки цифровых изображений. Можно утверждать, что Фарид понимал риски дипфейков еще до того, как этот термин появился.
Как Фарид объяснил TechCrunch, работая в основном как академик и исследователь, он годами применял свои знания более или менее неформально в качестве услуги для медиаорганизаций, юридических групп (после того, как цифровые изображения стали допустимыми в суде) и других. В 2022 году он объединился со Шляйном, чтобы подумать, как превратить это в реальный бизнес, превратив этот следственный процесс в код.
«Никто не вникает в это так, как Hany», — сказал Мойнахан. «Но Hany не может масштабироваться. Поэтому мы по сути взяли Hany и попытались создать «сервис Hany» в облаке».
Фарид отмечает, что, хотя разрабатываемая им технология зависит от того, как работают новые приложения (в GetReal много занимаются обратным проектированием), она сочетается с десятилетиями знаний, которые практически не изменились.
«Есть методы, которые мы разработали 20 лет назад и которые работают и сегодня», — сказал он. Он отказался объяснить, в чем они заключаются. «Не обязательно рассказывать людям все, что мы делаем, но сложно сделать все правильно».
Эффект сигнала: текст еще не готов
В серии A, о которой будет объявлено в среду, также участвуют некоторые ключевые стратегические спонсоры, в том числе Cisco Investments, Capital One Ventures и In-Q-Tel, инвестиционная фирма, тесно связанная с ЦРУ.
По словам Альберто Йепеса, соучредителя Forgepoint, который руководил инвестициями, этот список стратегических направлений отражает типы компаний, которые заинтересованы или уже начали внедрять продукт GetReal.
По словам Йепеса, в ходе комплексной проверки он обнаружил, что жестко регулируемые отрасли, такие как финансовые учреждения, уже запрашивали подобный продукт, а руководители служб информационной безопасности обращались к ним по поручению советов директоров.
«Они подняли вопрос [о поддельных подражаниях] после того, как их генеральные директора были включены в голосовые интервью», — сказал он. Они выдавали себя за себя и обманывались подражаниями. Среди названных клиентов — John Deere и Visa.
Что касается работы правительства, Йепес сказал: «У них также есть некоторые приоритеты в этой сфере».
К таким «приоритетам» относятся случаи, когда спецслужбы и правительственные чиновники обманным путем заставляют действовать или бездействовать на основе фальшивой информации, полученной от недобросовестных лиц.
Однако им еще предстоит распространить свои возможности на подражание с помощью текста.
Это то, что всплыло только на этой неделе, когда редактор The Atlantic, которого по ошибке добавили в групповой чат Signal, планирующий военную атаку в Йемене, изначально предположил, что это был розыгрыш. Шокирующе, но этот чат оказался вполне реальным и во многом нарушающим процедуры национальной безопасности.
Фарид сказал, что текст в настоящее время не входит в компетенцию GetReal. «Это другой зверь», — сказал он. Но в долгосрочной перспективе план будет заключаться в том, чтобы со временем расширить сферу действия, включив в нее все виды угроз deepfake и имперсонации.