Как перенести факт в LLM с помощью ROME

Исследователи применили метод точечного редактирования весов ROME к GPT-2 XL, чтобы заменить факт о местоположении Эйфелевой башни с Парижа на Рим без полного переобучения.

Исследователи показали, как с помощью ROME можно точечно изменить один факт в языковой модели GPT-2 XL. В примере они заменили утверждение о том, что Эйфелева башня находится в Париже, на Рим, а затем проверили ответ модели в разных формулировках и сопоставили его с другими связанными фактами. После эксперимента исходные веса модели вернули обратно.

Источники 1

Как перенести факт в LLM с помощью ROME Habr AI

Где LLM хранит факты, или как перенести Эйфелеву башню из Парижа в Рим

Помните, как в «Матрице» Нео загрузили боевые навыки прямо в мозг? Раз, и человек, который раньше не умел драться, говорит: «Я знаю кунг-фу».

Попробуем повторить этот трюк с языковой моделью. Но так как мы далеки от единоборств, возьмем простой факт: Эйфелева башня находится в Париже. Попробуем заменить в GPT-2 XL Париж на Рим без полного переобучения модели.

Для этого используем ROME, метод точечного редактирования весов. После правки зададим модели тот же вопрос в нескольких формулировках, проверим другие факты об Эйфелевой башне, а потом вернем исходные веса. Читать далее

#нейросеть #нейросети_и_machine_learning #gpt_2 | @habr_ai