Почему соцсети и ИИ-чат-боты не защищают уязвимых пользователей
Два новых исследования показывают, как пробелы в коммуникации усложняют защиту уязвимых пользователей социальных сетей и чат-ботов. Работу представят на 29-й конференции ACM по совместной работе и социальным вычислениям (CSCW 2026), которая проходила с 1 по 14 октября в Солт-Лейк-Сити.
Одно исследование, проведенное на фоне множества судебных исков о негативном влиянии социальных сетей среди молодежи, показывает, что платформы не могут сообщать о рисках социальных сетей для детей.
Компании социальных сетей сейчас находятся под пристальным вниманием из-за их влияния на детей, но важная часть этого разговора заключается в том, могут ли семьи и политики на самом деле понять, какие платформы защиты предоставляются и работают ли эти защиты. Наши исследования показывают, что сообщения безопасности часто могут быть избирательными, расплывчатыми и трудными для проверки. «Если мы хотим значимой подотчетности, платформы должны гораздо более прозрачно сообщать о том, что делают их функции безопасности, кто имеет к ним доступ и какие существуют доказательства того, что они эффективны».
Памела Вишневски, доктор философии, главный научный сотрудник и лидер Исследовательской группы по социально-техническому взаимодействию, Международный институт компьютерных наук
Во втором исследовании рассматривается другой, но все более важный вопрос: что происходит, когда люди начинают полагаться на ИИ, чтобы помочь ориентироваться в самых сложных и последовательных жизненных ситуациях? Исследователи сравнили, как чатботы, клиницисты и лица, осуществляющие уход за сверстниками, отвечали на реальные вопросы людей, ухаживающих за кем-то с болезнью Альцгеймера.
«Оба исследования действительно касаются потенциального разрыва между обещанием технологической поддержки и тем, что люди на самом деле испытывают», — сказал Вишневский. С ИИ этот разрыв может иметь решающее значение, поскольку люди все чаще обращаются к этим системам в моменты уязвимости. Ответ может показаться полезным, но при этом он не учитывает реальную необходимость, стоящую за этим вопросом».
Как платформы говорят о безопасности детей?

В первом исследовании ученые изучили, как платформы социальных сетей сообщают об онлайн-рисках для детей и их усилиях по повышению безопасности молодежи. Анализируя более 350 пресс-релизов и блогов, связанных с безопасностью, опубликованных YouTube, TikTok, Meta и Snapchat за 5-летний период, исследователи обнаружили заметные пробелы в том, как платформы сообщали о наличии функций безопасности, как они работают и их эффективности.
Например, платформы иногда описывали функции безопасности как «раскручивающиеся», тестируемые или доступные только в определенных регионах, что затрудняет определение того, какие средства защиты были фактически доступны для каких пользователей. Платформы также утверждали, что функции были «улучшены», «сильнее» или более эффективны без последовательного предоставления исходных условий, методов оценки или измеримых результатов.
Результаты показали, что платформы сообщали больше о том, что молодые люди видят или с кем они взаимодействуют, и меньше о том, как платформы собирают или обмениваются данными молодых людей, как дети получают доступ к платформам, как распространяется контент, созданный молодежью, или как платформы могут извлекать выгоду из этого контента или усиливать его. Определяя безопасность как вопрос индивидуального поведения и родительского надзора, а не дизайна платформы и деловой практики, исследователи заявили, что платформы, как правило, сообщают об этих проблемах таким образом, что перекладывают ответственность за предотвращение вреда с компаний, которые структурируют эти среды, на молодых людей и их семьи, хотя многие из рисков формируются решениями, которые пользователи не могут видеть или контролировать.
Исследователи надеются, что полученные результаты помогут разработать руководящие принципы для ответственного информирования о функциях безопасности молодежи.
Вишневский и его коллеги представят свое исследование «Анализ заявлений в социальных сетях относительно функций безопасности молодежи в Интернете для выявления проблемных областей и коммуникационных разрывов» во время сессии CSCW 2026 по поддержке молодежи и семей с 9:18 до 9:36 в среду, 14 октября.
Что отвечают чат-боты по уходу?
Второе исследование, получившее награду CSCW 2026 Impact Recognition, рассматривает, как чат-боты ИИ противостоят людям, предлагая советы людям, ухаживающим за кем-то с болезнью Альцгеймера.
Для этого исследования ученые проанализировали ответы на 85 реальных вопросов, поданных пользователями ALZConnected, онлайн-сообщества, ориентированного на лечение деменции. Используя 28 показателей таких факторов, как лингвистический стиль, эмоциональный контент и клинический контент, они оценили ответы на одни и те же вопросы из четырех групп респондентов: лиц, осуществляющих уход за сверстниками, врачей, ChatGPT и CareGPT, чат-бота, специально обученного на обсуждениях со сверстниками.
Результаты выявили последовательную закономерность: лица, осуществляющие уход за сверстниками, предоставили привязанные ко времени повествования и обоснование сообщества; клиницисты предоставили краткое, консультативное, клинически ограниченное руководство; и чат-боты произвели формальный, многословный, высоко структурированный «консультационный» голос. Примечательно, что анализ не показал большой разницы между ответами CareGPT и ChatGPT, предполагая, что специальная подготовка CareGPT не двигала иглу на то, чтобы ответы чатбота казались более человечными.
В целом, чат-боты набрали больше, чем лица, осуществляющие уход за сверстниками, по показателям вежливости и поддержки эмоций, и были сопоставимы с клиницистами по показателям информативности и выравнивания врачей. Тем не менее, ответы чат-ботов, как правило, были менее повествовательными, менее контекстуальными и более узко ориентированными на консультирование, в то время как люди-ответчики, особенно лица, осуществляющие уход за сверстниками, охватывали более широкий круг вопросов, включая эмоциональную обработку, юридические / финансовые проблемы и повседневные заботы.
«Мы должны быть осторожны в том, чтобы приравнять отполированный, поддерживающий звучание ответ, генерируемый ИИ, к значимой поддержке», — сказал Вишневский. Чат-боты были очень хороши в том, чтобы казаться полезными, но уход за ними беспорядочен, эмоциональн и глубоко контекстуален. Люди, осуществляющие уход, принесли живой опыт и выявили проблемы, которые ИИ часто пропускал. Это имеет значение, потому что по мере того, как эти системы становятся все более встроенными в здравоохранение и уход, мы рискуем проектировать для появления поддержки, а не для полной сложности того, что на самом деле нужно людям».
Вишневский и его коллеги представят свое исследование «Один вопрос, четыре голоса: как советы по уходу за болезнью Альцгеймера различаются между воспитателями, клиницистами и крупными языковыми моделями» во время сессии CSCW 2026 по AI-Assisted Healthcare с 10:12 до 10:30 утра во вторник, 13 октября.
Как технологии влияют на мозг детей?
Позже в этом месяце Вишневский примет участие в созыве экспертов, изучающих, как использование цифровых технологий влияет на развитие мозга. Она является членом комитета по планированию семинара «Цифровые технологии и развивающийся мозг: понимание нейробиологии» национальных академий наук, инженерии и медицины. Семинар состоится в понедельник, 26 октября, и открыт для публики.
Вопросы и ответы
Что именно выяснили исследователи о том, как соцсети рассказывают о безопасности детей?
Проанализировав более 350 пресс-релизов и блогов YouTube, TikTok, Meta и Snapchat за 5 лет, учёные нашли пробелы: функции описывались как тестируемые или доступные лишь в некоторых регионах, а заявления об эффективности не подкреплялись методами оценки.
Как отличить ответы чат-ботов от ответов живых людей при вопросах об уходе за больными Альцгеймером?
Чат-боты давали формальные, многословные и структурированные ответы, тогда как лица, осуществляющие уход за сверстниками, делились историями и ссылались на опыт сообщества. При этом разницы между ответами CareGPT и ChatGPT почти не было.
Где и когда можно услышать доклад о проблемах коммуникации платформ о безопасности молодёжи?
Исследование «Анализ заявлений в социальных сетях относительно функций безопасности молодежи в Интернете» представят на сессии CSCW 2026 по поддержке молодёжи и семей 14 октября с 9:18 до 9:36.




