Стохастические VS детерминированные системы

«LLM скоро заменят всех программистов». — «Нет, это статистические попугаи, которые постоянно врут». Кто из них прав?

Правы и те и другие. А корень спора — в профдеформации инженеров, которые пытаются засунуть стохастическую систему в мир детерминированных правил.

LLM — это катастрофа для мира строгих обязательств, где:
– инвариант обязан сохраняться;
– ошибка стоит слишком дорого;
– правила должны исполняться на 100%;
– результат обязан быть воспроизводимым.

Для этого у нас уже есть прекрасные символические системы: базы данных, компиляторы, формальная логика, rule engines, тесты, валидация, криптография.

Когда юрист ищет в ChatGPT прецеденты для суда, а бухгалтер — точные проводки, результат предсказуемо ужасен. И из этого делается вывод: «LLM бесполезны».

Нихера.

Это означает лишь то, что LLM решают *другой* класс задач. Они стохастичны по своей природе. Даже с температурой на нуле они будут выдавать разные ответы на один и тот же запрос — из-за нюансов арифметики с плавающей запятой, параллелизма GPU и маршрутизации в Mixture-of-Experts.

Их суперсила — как раз работа с недетерминированным, хаотичным вводом. А это и есть почти весь реальный мир:
– человеческий язык;
– размытые требования от клиента;
– хаотичные документы;
– шумные данные и неполная информация;
– ситуации, где невозможно прописать все правила заранее.

Символические системы великолепны, когда мир уже упакован в формальные структуры. Но они пасуют перед хаосом человеческой коммуникации. LLM созданы, чтобы заполнить именно этот разрыв.

Они — идеальный переводчик с человеческого на машинный. Они превращают хаос в структуру, намерение — в формальный запрос, а грязный ввод — в набор гипотез для дальнейшей обработки.

Поэтому самые мощные AI-системы сегодня — не «чистые LLM», а гибриды. В них каждый делает свою работу:
– LLM понимает намерение пользователя.
– Retrieval-система ищет факты в базе знаний.
– Детерминированный код исполняет логику.
– Валидаторы и тесты гарантируют инварианты.

И дело не в том, что LLM «недостаточно умны». А в том, что у каждого инструмента своя задача. Молотку и скальпелю нет смысла спорить, кто из них лучше.

Трансформер не заменяет компилятор. Он заменяет человека, который часами переводил хаос реального мира на язык, понятный компилятору.

Инженерам кажется, что их задача — продолжать завоёвывать мир детерминированными системами.

А на самом деле, пора научить детерминированные системы понимать хаос.