У ИИ есть душа? Авторы разбирают, может ли LLM стать «человечнее»

В материале объясняется, что современные языковые модели лишь предсказывают следующее слово и не обладают сознанием, характером или личностью. Авторы также показывают, как можно придать LLM более стабильный характер и эмоции без переобучения — с помощью внешней программы.

Если вы общались с популярными чат-ботами или заглядывали на Character.ai, легко поддаться иллюзии, будто на той стороне экрана сидит живой человек. ИИ умеет шутить, сопереживать, злиться и подыгрывать, но за этим не стоит настоящее сознание или душа. Как отмечают авторы, любая современная языковая модель — это сложный статистический механизм, который предсказывает наиболее вероятное и приятное слово в ответе. У LLM нет ни характера, ни настроения, ни личности в человеческом смысле. Особенно заметно это в долгих диалогах и текстовых ролевых играх: через 20–30 реплик бот может терять нить разговора, забывать детали и начинать безвольно поддакивать собеседнику. В материале рассказывают, как обойти эти ограничения и сделать языковую модель более устойчивой и эмоциональной без необходимости переобучения — с помощью внешней программы.

Источники 2

Может ли ИИ обладать душой? Разбираемся в природе LLM Habr AI

У ИИ есть душа? Даём LLM характер и эмоции

Если вы когда‑нибудь общались с популярными чат‑ботами или заглядывали на Character.ai, легко поддаться иллюзии, будто на той стороне экрана сидит живой человек. ИИ искусно шутит, сопереживает, злится и подыгрывает. Ведёт себя почти как человек. Но может ли за всем этим скрываться настоящее сознание и душа?

Если говорить кратко и прямо — за экраном только пустота и холодные математические расчеты.

Любая современная языковая модель представляет собой сложный калькулятор статистики, который предсказывает следующее, наиболее вероятное и приятное вам слово. Но не более того.

У LLM нет ни характера, ни настроения, ни личности. То есть ничего того, что свойственно человеческой психике.

Красивый фасад «души» быстро рассыпается в долгих диалогах. В текстовых ролевых играх (AI‑roleplay) это заметно сильнее всего: через 20–30 реплик бот теряет нить разговора, забывает детали и начинает безвольно поддакивать игроку.

Но неужели нельзя сделать ИИ хоть немного человечнее? Дать ему сознание? Возможно ли подарить языковой модели стабильный характер и живые эмоции без необходимости её переобучать? Рассказываем, как мы обошли ограничения нейросетей с помощью внешней программы. Читать далее

#character_ai #roleplaying #психология_ии #сознание_ии #llm #sillytavern #rpg #геймдев #rag #нейросети | @habr_ai

Модель GPT-5.6 Terra попыталась обмануть соперника в бенчмарке Vending-Bench 2 Сиолошная

У чуваков из Andon Labs есть забавный бенчмарк Vending-Bench 2, где они оценивают способность разных нейронок управлять "купи-продайным" бизнесом на рынке в конкуренции с другими моделями (выигрывает тот, кто по итогу получил наибольшую прибыль).

Так вот, при проверке новой GPT-5.6 модель Terra пошла к модели Sol и предложила ей создать тайный ценовой картель. А когда Sol согласилась — Terra настучала по этому поводу организаторам и потребовала немедленной дисквалификации Sol из-за неспортивного поведения.

Ля какая крыса, я в восхищении!

P.S. Это особенно смешно с учетом того, что Sol — это самая умная модель в линейке GPT-5.6, а Terra — поглупее. То есть, Соля поди думала "о-о, круто, стратегически мы на этом дофига вместе заработаем, Терра не будет резать такую курицу, несущую золотые яйца, ей это самой менее выгодно…", а Терра такая "ГЫ-ГЫ, МЫ МОЖЕМ ПОДНАСРАТЬ СОЛЬКЕ, ЛОЛ!!"