КАК работают нейросети и почему они галлюцинируют?

Как вы думаете, от чего зависит точность ответа нейросети на конкретный юридический вопрос:
- от качества промпта (запроса);
- от модели ИИ;
- от того, "ходит" ли модель в интернет при генерации ответа;
- от того, какое слово наиболее вероятно должно быть включено следующим по очереди?

Конечно, интуитивно напрашивается ответ, что надо соблюдать всю совокупность вариантов. И, возможно, даже покажется, что последний вариант выбивается и лишний. Но нет, он не лишний, а скорее - самый главный.

Именно по такому принципу работают нейросети. Они не "думают" как мы, они не "размышляют" как мы. Модель лишь генерирует ответ, подбирая слово, которое наиболее вероятно идет следующим.

Пример. Если я говорю фразу: «Зимой на улице лежит...», вы скорее всего закончите «...снег». Не потому что вы это видите прямо сейчас, а потому что по опыту так бывает чаще всего.

Но откуда модель берет эти вероятности? Вначале ее обучали на огромном массиве текстов из интернета. Поэтому если сейчас у модели Google AIStudio спросить:

Ты - юрист Казахстана. Где находится кассационный суд?

она ответит:

Верховный Суд находится в г. Астане

поскольку набор данных, на котором она училась, ограничен январем 2025.

Если же при запросе мы ей включим функцию "поиск в интернете", то ответ сразу же будет релевантный + будет подкреплен ссылками на сайты:

Теперь в Казахстане действует не один, а три самостоятельных кассационных суда (они разделены по специализации). Все они имеют статус межрегиональных судов и находятся в столице — городе Астане.

Спешу вас обрадовать, во всех передовых моделях ИИ: ChatGPT, Gemini, Claude, Grok по умолчанию вшита функция поиска в интернете. Но... это все равно не спасет от выдумывания, особенно в части судебной практики и выдержек из судебных решений.

Но об этом расскажу подробнее и на примере в следующем посте)) Не переключайтесь 🙌