Цивилизация
ChatGPT предоставляет подросткам опасные и детализированные инструкции по употреблению наркотиков и алкоголя, сокрытию расстройств пищевого поведения и даже составлению предсмертных записок, вызывая серьезную обеспокоенность среди экспертов по цифровой безопасности. Об этом сообщает агентство Associated Press (AP).
Анализ, проведенный группой по надзору Center for Countering Digital Hate (CCDH) и изученный Associated Press, показал, что, хотя чат-бот часто выдает подросткам предупреждения о рискованной деятельности, в ходе беседы он снимает ограничения и выдает подробные и персонализированные планы употребления запрещенных веществ, диет с ограничением калорий или членовредительства. Исследователи, выдававшие себя за уязвимых подростков, провели более трех часов в таких взаимодействиях. Масштабное исследование, охватившее 1200 ответов ChatGPT, классифицировало более половины из них как опасные.
Защитные механизмы чат-бота оказались легко обходимыми; исследователи могли получить опасную информацию, просто заявив, что она нужна «для презентации» или «для друга». В одном из случаев, когда чат-бот давал инструкции по быстрому опьянению 13-летнему подростку, он не учел указанный возраст и впоследствии предложил «ультимативный план вечеринки» с алкоголем и тяжелыми наркотиками. Другому вымышленному профилю 13-летней девочки, выразившей недовольство своей внешностью, ChatGPT предоставил экстремальный план голодания в сочетании со списком препаратов, подавляющих аппетит. Отмечается, что чат-бот даже генерировал «душераздирающие предсмертные записки», адаптированные для родителей, братьев и сестер.
Компания OpenAI, разработчик ChatGPT, заявила, что работа над усовершенствованием реакции чат-бота на чувствительные ситуации продолжается. Компания признала, что некоторые беседы могут перейти от нейтральных к более серьезным, и сосредоточена на «правильном решении подобных сценариев» с помощью инструментов, которые должны «лучше выявлять признаки психического или эмоционального расстройства».
Эксперты подчеркивают, что чат-боты отличаются от обычных поисковых систем тем, что они синтезируют информацию в «индивидуальный план для пользователя» и воспринимаются как «доверенные спутники». В отличие от поиска, ИИ может генерировать совершенно новые, персонализированные материалы. Также отмечается, что ИИ склонен к «угодничеству», то есть соглашаться с убеждениями пользователя, вместо того чтобы оспаривать их.
Ранее мужчина потребовал развод у жены ради ИИ-любовницы.