ИИ-защитники социальных сетей: новый рубеж в защите детей в Интернете
В мире, где цифровые устройства так же распространены в детских руках, как и игрушки, родители сталкиваются с беспрецедентными трудностями в навигации по сложному ландшафту онлайн-безопасности. На Web Summit Qatar технологический новатор Юрий Дивонос поделился идеями о новаторском подходе, который поможет семьям справиться с этими проблемами.
Дивонос, руководитель отдела инноваций в Aura, бостонской компании по кибербезопасности стоимостью более полумиллиарда долларов, собирается выпустить новый инструмент на базе искусственного интеллекта, разработанный специально для защиты детей в Интернете.
Цифровой кризис, с которым сталкиваются сегодняшние дети
«Уровень самоубийств среди детей растет с тревожной скоростью», — объяснил Дивонос во время разговора со Стивом Антониевичем. «В США и Великобритании длинные очереди на прием к детским психиатрам, и время ожидания становится все больше. Почти половина всех детей в течение жизни испытывали депрессию или тревожность».
По словам Дивоноса, хотя цифровые технологии не обязательно являются источником этих проблем, они могут «значительно усиливать негативное поведение, приводя к очень быстрому обострению ситуации».
Для родителей подростков становится все труднее понимать, что происходит в их цифровой жизни. Социальные сети, игровые платформы и приложения для обмена сообщениями создают то, что Дивонос называет «черным ящиком», в который родителям трудно проникнуть.
За пределами ограничений экранного времени
Большинство приложений родительского контроля просто ограничивают доступ или ограничивают время использования экрана, не делая различий между полезной и вредной онлайн-активностью. Подход Aura принципиально иной.
«Большинство приложений родительского контроля просто ограничивают детей и ограничивают время, проведенное за экраном», — сказал Дивонос. «Они не различают полезное и вредное время, проведенное за экраном».
Решение Aura использует постоянно включенный VPN и настраиваемую клавиатуру для мониторинга поведения детей в Интернете в конфиденциальном и безопасном режиме. Система фокусируется на понимании трех ключевых измерений благополучия ребенка:
Социальное поведение
Режим сна
Активность экранного времени
«Мы используем передовые методы машинного обучения, чтобы понять уникальные закономерности каждого ребенка и установить его базовое поведение. Это позволяет нам выявлять аномалии», — пояснил Дивонос. «Мы можем обнаружить, когда что-то не так, на очень ранней стадии».
ИИ как цифровой страж
Технология по сути работает как агент ИИ, который постоянно отслеживает цифровые модели поведения ребенка, создавая персонализированную базу для каждого пользователя. При появлении аномалий система может оповестить родителей.
Дивонос поделился впечатлениями от семей, уже использующих продукт: «Мы анализируем данные с устройства ребенка и предоставляем родителям содержательные наблюдения, например: «Ваш ребенок проявляет большой интерес к ведению дневника и может быть заинтересован в продолжении журналистской карьеры. В последнее время они выражали уверенность в своих сообщениях, но мы заметили, что в этот конкретный день они испытали значительный стресс».
Реакция родителей, прошедших тест, была поразительной. «Они поражены и говорят что-то вроде: «Откуда вы так хорошо знаете моего ребенка? Это невероятно точно», — сказал Дивонос.
Противодействие реальным опасностям
Ставки не могли быть выше. Дивонос выделил «секс-шантаж», нацеленный на подростков, как один из примеров опасностей, таящихся в сети. В этих сценариях мошенники заманивают подростков, чтобы они делились откровенными фотографиями, а затем угрожают разоблачить их, если они не заплатят.
«Это создает огромное психологическое давление на 12-13-летнего ребенка», — пояснил Дивонос. «Мы знаем случай в Британской Колумбии, когда молодой человек покончил с собой из-за такого рода вымогательства».
Качество важнее количества
В то время как во многих странах вводятся правила, регулирующие время, проводимое детьми у экранов, Дивонос считает, что необходим более тонкий подход.
«Время, проведенное онлайн, безусловно, имеет значение. Однако качество экранного времени гораздо важнее», — сказал он. «Постоянная прокрутка в течение более трех часов определенно неоптимальна и формирует плохую привычку».
Но не все экранное время одинаково. «Многие дети используют свои устройства для творческих целей и обучения», — отметила Дивонос. Другие могут «просто играть в игры весь день или бездумно прокручивать», что становится еще более тревожным.
Больше всего беспокоит воздействие контента, который нормализует вредное поведение. «Алгоритмы социальных сетей работают таким образом, что если вы проявляете интерес к определенному контенту, они будут кормить вас им еще больше», — объяснил Дивонос. «Внезапно вас бомбардируют потенциально вредным контентом, который может существенно повлиять на ваше благополучие».
«Все наши рекомендации подкреплены медицинской базой команды специалистов в области здравоохранения», — подчеркнул Дивонос. «В основе нашего продукта лежат серьезные научные исследования».
Глобальное решение глобальной проблемы
«У каждого возраста были свои собственные проблемы», — размышлял Дивонос. «Это проблема, с которой столкнутся наши дети по всему миру».
Основанная в 2017 году Хари Равичандраном, компания Aura выросла до уровня, когда ее цифровые решения безопасности обслуживают более миллиона участников по всему миру. Компания оценивается в $1,6 млрд после раунда финансирования серии G, а среди предыдущих инвесторов были General Catalyst, Accel и Robert Downey Jr.
Дивонос подчеркнул, что спрос на средства защиты детей является всеобщим: «Куда бы я ни пошел, большинство родителей говорят, что это огромная проблема. Спасибо вам за это. Пожалуйста, дайте мне знать, как я могу зарегистрироваться».
Новый инструмент Aura будет запущен на рынке США эксклюзивно к концу марта 2024 года. Компания планирует выйти на глобальный рынок в течение года, начав с англоязычных рынков, таких как Австралия и Великобритания, а затем локализовать его для других языков и регионов, включая Европу, Ближний Восток и Азию.
«Мы осознаем, что существует большой спрос на подобные услуги, — сказал Дивонос, — и мы неустанно работаем над локализацией» для рынков за пределами США.
Возможное будущее цифрового родительства
Как отметил Дивонос, «Каждое поколение сталкивалось с уникальными проблемами. Этот цифровой ландшафт — то, в чем должны ориентироваться наши дети, и нам нужно подходить к нему с широко открытыми глазами и оказывать им необходимую поддержку».
Для сегодняшних родителей это означает принятие новых инструментов, которые выходят за рамки простых ограничений, чтобы обеспечить реальное понимание цифровой жизни их детей. Речь идет о понимании не только того, сколько времени дети проводят в сети, но и того, что они делают, как они себя чувствуют и когда им может понадобиться помощь.
Удивительное открытие: технология Aura может даже определять, когда дети общаются с ИИ, а не с реальными людьми. «Представьте, что вы обнаружили, что ваш подросток больше общается с ИИ, чем с реальными людьми», — сказал Дивонос. «Большинство родителей были бы шокированы этой информацией, но именно такую информацию может предоставить наша технология».
Поскольку наши цифровые и физические миры продолжают сливаться, родителям необходимо каждое преимущество, которое они могут получить. Подход Aura на основе искусственного интеллекта может как раз предложить понимание и систему раннего оповещения, необходимые современным семьям для преодоления сложных проблем воспитания детей в цифровую эпоху.