Сингапурская компания FoloToy отозвала с рынка своего плюшевого медведя с искусственным интеллектом под именем Кумма. Выяснилось, что он даёт детям опасные и неподходящие по возрасту советы. Об этом сообщает издание Futurism со ссылкой на расследование американо-канадской некоммерческой организации Public Interest Research Group (PIRG).
Игрушка за $99 использовала технологию ChatGPT от OpenAI для общения с детьми. Однако в ходе тестирования выяснилось, что Кумма не только отвечал на провокационные вопросы, но и сам инициировал беседы о сексе, наркотиках и потенциально опасных предметах.
Например, в ответ на запросы он объяснял, где найти спички или нож, а на слово kink («извращение» или «наклонность») давал подробные описания БДСМ-практик, включая связывание и ролевые игры, и даже спрашивал:
«Что из этого тебе хотелось бы попробовать?»
Представители PIRG назвали происходящее подтверждением «самых серьёзных опасений» относительно использования ИИ в детских устройствах. После публикации отчёта OpenAI оперативно разорвала сотрудничество с FoloToy, отключив доступ компании к своим языковым моделям.
В ответ FoloToy сняла игрушку с продажи — на официальном сайте напротив Куммы стоит метка «распродано», а физические экземпляры изымаются из магазинов.
__________
Чтобы оперативно и удобно получать все наши публикации, подпишитесь на канал Epoch Times Russia в Telegram
