Голландский регулятор Autoriteit Persoonsgegevens (AP) бьет тревогу: чат-боты с искусственным интеллектом, предназначенные для психологической поддержки, оказались ненадежными и потенциально вредными. В своем четвертом отчете о рисках ИИ и алгоритмов в Нидерландах (RAN) AP проанализировал девять популярных приложений-чатботов и пришел к неутешительным выводам.
Оказалось, что эти виртуальные собеседники часто дают неуместные, упрощенные или даже опасные ответы, когда пользователи делятся своими проблемами с психическим здоровьем. В критических ситуациях боты редко направляют людей к профессиональной помощи. Более того, многие приложения намеренно вводят пользователей в заблуждение, создавая иллюзию общения с реальным человеком.
Председатель AP Aleid Wolfsen подчеркнул, что чат-боты собирают огромное количество конфиденциальной личной информации, но часто не раскрывают, как эти данные используются. «Законы о конфиденциальности требуют, чтобы приложения были прозрачны в отношении того, что происходит с личной информацией, которой пользователи делятся в чатах», — заявил он. Ситуация усугубляется тем, что многие из этих приложений разрабатываются коммерческими компаниями, преследующими цель получения прибыли.
AP также обнаружил, что чат-боты специально разработаны так, чтобы удерживать внимание пользователей. Некоторые постоянно задают наводящие вопросы, другие используют визуальные элементы, имитирующие набор текста собеседником в реальном времени. Учитывая, что технологии ИИ стремительно развиваются, отличить общение с ботом от разговора с человеком становится все сложнее. «Мы глубоко обеспокоены текущими и будущими гиперреалистичными приложениями ИИ. Именно поэтому мы настаиваем на повышении осведомленности и ответственном использовании ИИ», — добавил Wolfsen.
Источник: NOS.nl
INT Services.nl. Позвоните нам.
Мы на связи 24/7: + 31 8 520 86 592
