'AI' Is Not a Tool by Rich Hickey
Большие языковые модели — не инструмент, а автоматизация, и путать эти понятия опасно. Инструмент — это то, чем вы управляете: он удерживается в руках, даёт силовую отдачу, непрерывную обратную связь и требует мастерства. Работа с инструментом учит понимать мир, задачу и самого себя. У LLM всего этого нет: вы не направляете процесс, а лишь отправляете запросы, и модель действует сама, без вашей энергии и контроля. Это цикл «запрос — автоматизация», а не владение инструментом.
Автор сравнивает это с окном в фастфуде: это не инструмент для готовки, а автоматизация, позволяющая избежать готовки. Так и LLM — не инструмент, которым пишут код, а автоматизация, которой письмо делегируют. Вместо изучения реальных закономерностей вы пытаетесь угадать капризы автомата и «обыграть» их — как заказ бургера без лука ради свежего, или заполнение файла заклинаниями. Одно обновление алгоритма — и всё «выученное» устареет. Вы променяли работу с миром на работу на своенравного робота.
Особенно велика потеря при чтении: если модель читает и суммирует статьи за вас, вы не учитесь писать у тех, кто умеет, не строите аргументацию, не замечаете деталей, не копите материал для идей, не обретаете доверие к одним авторам и подозрение к другим, не видите шуток и нюансов — и не учитесь думать. Инструменты не «выходят из-под контроля» и не «сговариваются»; у автоматизации же есть внутренние свойства, игнорировать которые — на свой риск.