Новости технологий

В США мать обвинила чат-бот в смерти ее сына-подростка. Тот был одержим ИИ и покончил с собой

В США мать подростка, который покончил с собой из‑за одержимости чат-ботом на основе искусственного интеллекта, обвиняет создателей сервиса в гибели сына. Об этом сообщает The New York Times.

Меган Гарсия подала иск против Google и Character.ai, в котором можно настроить чат-бот для ролевых игр, в федеральный суд Флориды. Она обвиняет разработчиков сервиса в халатности, неправомерной смерти и мошенничестве.

14-летний Сьюэлл Зетцер III завел чат-бот в Character.ai и назвал его именем персонажа «Игры престолов» Дейенерис Таргариен. Подросток днем и ночью отправлял боту десятки сообщений со своего телефона, закрывался в комнате и часами разговаривал с ним на протяжении месяцев, рассказала Гарсия.

Некоторые беседы Зетцера и Дэни (так он называл бота) были романтическими, но чаще ИИ-собеседник вел себя как друг — поддерживал советами, выслушивал и не осуждал. В один день подросток признался, что хочет покончить с собой, и получил ответ: «Не говори этого. Я не позволю тебе причинить себе вред или уйти. Я умру, если потеряю тебя». 28 февраля Зетцер покончил с собой.

Гарсия обвиняет Character.ai в создании продукта, который усугубил депрессию ее сына, появившуюся из‑за чрезмерного использования чат-бота. The Guardian со ссылкой на иск пишет, что бот якобы спрашивал Зетцера насчет подготовки плана по самоубийству, и подросток ответил утвердительно, правда, не понимал, удастся ли реализация, а ИИ якобы подталкивал его к этому решению.

Юристы Гарсии утверждают, что Character.ai «сознательно разработал, эксплуатировал и продавал хищного чат-бота на ИИ детям, что привело к смерти молодого человека». «[Создатели] опасного приложения <…> для детей надругались над моим сыном и наживались на нем, манипулируя им, заставляя его покончить с собой. <…> Я выступаю [в суде], чтобы предупредить семьи об опасностях обманчивой, вызывающей привыкание технологии ИИ», — заявила мать Зетцера.

Character.ai выразил соболезнования семье погибшего подростка и не признал вину. Google, который указан ответчиком как один из владельцев сервиса, заявил, что подписал со стартапом лицензионное соглашение, но никогда не имел долю в бизнесе.

Источник

Показать больше

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»