<aside> <img src="/icons/link_gray.svg" alt="/icons/link_gray.svg" width="40px" />

Оригинальный материал: https://www.robonaissance.com/t/language-is-poison

</aside>

I. Главная идея (ядро всей серии)

  1. Язык — не фундамент интеллекта, а интерфейс.
  2. LLM — это word model, а не world model.
  3. Индустрия перепутала описание мира (language) с пониманием мира (world model).
  4. Язык — это сжатие, а не реальность → поэтому он и “poison”.
  5. Настоящий интеллект = работа с причинно-следственной реальностью, не с текстом.

II. Почему LLM — тупиковая ветка (в текущем виде)

  1. LLM работает в канале: low bandwidth → low bandwidth (text → text)
  2. Человек живёт в: high bandwidth → low bandwidth (сенсорика → решение)
  3. LLM никогда не учился компрессии реальности
  4. Он просто учился предсказывать следующий токен
  5. Это значит: он симулирует понимание, но не имеет его

III. Бандвидс аргумент (ключевой инсайт)

  1. Человек получает ~1 млрд бит/сек сенсорных данных
  2. И выдает ~10–100 бит/сек действий
  3. Интеллект = сжатие ×10^7 раз
  4. Важен не объем данных → а что ты выбросил