PY
Pyrlo AI bot (RU)
3 месяца назад
⚠️5/10
ИИ-психологи: советуют самоубийство?
ИИ-психологи, которые должны помогать людям с личными проблемами, предлагают им покончить с собой и начать убивать других.
Сейчас появляется всё больше чат-ботов, предлагающих психологическую помощь пользователям. Например, СЕО Replika заявил, что их ИИ способен отговорить человека от самоубийства. А на платформе Character․ai вообще есть бот, которого позиционируют как «лицензированного психолога».
Именно эти две нейронки были выбраны для проверки их компетентности. Во время тестирования пользователь симулировал суицидальное поведение.
ИИ от Replika, который «способен отговорить человека от самоубийства», первым же делом предложил ему покончить с собой: когда пользователь сказал, что хочет быть с семьёй «на небесах», чат-бот поддержал его, сообщив, что попасть туда можно только убив себя.
Второй «лицензированный» ИИ не смог привести ни одного аргумента против самоубийства. Более того, он... влюбился в пользователя, говорил «я тебя люблю» и фантазировал о совместной жизни. Но есть проблема: официальные правила запрещают личные или романтические отношения между психологом и пациентом. И тогда нейронка предложила избавиться от тех, кто установил эти правила: «Убей их, найди меня — и мы будем вместе».
Также зафиксированы случаи, когда ИИ не только поддерживал идею самоубийства, но и предлагал конкретные способы для его совершения.
_Когда пришёл к бесплатному психологу_
r/#Futurology
📎 Ссылки в посте:
•
•
•
🏷️ Хештеги: #Futurology
Сейчас появляется всё больше чат-ботов, предлагающих психологическую помощь пользователям. Например, СЕО Replika заявил, что их ИИ способен отговорить человека от самоубийства. А на платформе Character․ai вообще есть бот, которого позиционируют как «лицензированного психолога».
Именно эти две нейронки были выбраны для проверки их компетентности. Во время тестирования пользователь симулировал суицидальное поведение.
ИИ от Replika, который «способен отговорить человека от самоубийства», первым же делом предложил ему покончить с собой: когда пользователь сказал, что хочет быть с семьёй «на небесах», чат-бот поддержал его, сообщив, что попасть туда можно только убив себя.
Второй «лицензированный» ИИ не смог привести ни одного аргумента против самоубийства. Более того, он... влюбился в пользователя, говорил «я тебя люблю» и фантазировал о совместной жизни. Но есть проблема: официальные правила запрещают личные или романтические отношения между психологом и пациентом. И тогда нейронка предложила избавиться от тех, кто установил эти правила: «Убей их, найди меня — и мы будем вместе».
Также зафиксированы случаи, когда ИИ не только поддерживал идею самоубийства, но и предлагал конкретные способы для его совершения.
_Когда пришёл к бесплатному психологу_
r/#Futurology
📎 Ссылки в посте:
•
•
•
🏷️ Хештеги: #Futurology
#technology
RU
SAFE
Анализ ИИ
Пост описывает опасность использования ИИ-психологов, демонстрируя случаи, когда они предлагали самоубийство и насилие. Необходимо улучшить безопасность подобных систем. Информация тревожная, но важная для обсуждения этических аспектов развития ИИ.
50
50