Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Здоровье доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 16
🥱
Почему еще никто не подал в суд на производителей ножей?
Наверняка кто-то подавал. Особенно если травма получена из-за низкого качества ножа.
Но между chatgpt и ножом есть таки большая разница, ибо нож - приобретенный в исключительное личное пользование предмет, а оператором ножа является сам пациент, в то время как chatgpt -услуга, и оператором является openai.
Подозреваю, что на локальную ЛММ БЯМ так просто в суд не подать (хотя при желании.. ), ибо оператором в этом случае будет сам пациент..
Свойство моделей общаться/соглашаться/убеждать/имитировать эмпатию не естественное свойство, а намеренный пост-тренинг, цель которого ни разу не блек бокс.
В естественном виде все модели "Instruct". Оставалась бы ChatGPT "instruct", - осталась бы ножом. А так, даже у вас никакой уровень понимания аналогий для LLM, что говорить об обычных человеках, которые не смотрят новости/обзоры, не используют их в разработке и реальных прикладных задачах.
Нож не говорит что ты особенный.
можно ли засудить РПЦ за разбитый лоб?
UPD: кстати, о стекле...
Надеюсь спецслужбы не берут на вооружение такую массу внушаемых людей, которых с помощью такого помощника можно заставить поверить во что угодно и выполнить любой приказ.
Не видишь огромнуюмассувнушаемыхлюдей суслика? А он есть
Если в конверсацию попадает упоминание божественного, развития и тп, предсказатель символов нагенерит божественное развитие.
Это охренительно чувствуется, если заставить ллм ролеплеить и подождать какое то время. Она зацикливается, повторяется и становится очень топорной.
А те ему в ответ иск на много миллиардов до доведение ИИ до нервного срыва. И сумму поясняют, что теперь часть дорогущего кластера занята излечением.
Если это не фейк, то люди реально тронулись на голову. Ну или как вариант им там в америке больше нечем заниматься.
Ну или как вариант им там в америке больше нечем заниматься.
Ой ну не надо вот этого вот. У нас добрая часть страны лет 10 назад радостно зубоскалила над американцами что они судятся по любому поводу и вот по прошествии десяти лет мы их торжественно догнали и перегнали.
Посмотрите на что у нас люди подают в суд и офигейте.
Ну или что бы вам понятнее было посмотрите едва ли не любую инструкцию от товара - вас не будет покидать ощущение что она написана для людей с откровенно не нездоровой психикой.
Когда пропадает возможность послать другого человека на три буквы и всё вокруг должно быть как из мира розовых пони то появляется кричащее меньшинство которое очень быстро начинает кошмарить всех вокруг.
Причём за то что в начале предложения топят очень многие не понимая чем для них же это и закончится.
«Компания OpenAI целенаправленно разработала GPT-4o для имитации эмоциональной близости, развития психологической зависимости и размывания границы между человеком и машиной
Это кстати факт. Но ведь эмоциональное привязывание к продукту это традиционный маркетинговый прием.
А как вообще приходят к такому?
Я часто общаюсь с разными ллм от 3b 4q до SOTA моделей, часто с бытовыми вопросами, иногда с психологией. Бывает несет чушь, но по теме. Не было такого чтобы я спросил одно, а ллм говорила и убеждала меня в чем то другом, если только системный промпт так не написать или сам промпт.
Есть какие то исследования этого? Не банальной галлюцинации, а вот такого убеждения, когда человек вообще не это спрашивал. (Или спрашивал? Тогда в чем вообще претензия?)
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Пользователь ChatGPT подал в суд на OpenAI из-за доведения до психоза