I Don't Like LLMs
Мне нравится потенциал ИИ и LLM: они ускоряют разработку, повышают продуктивность и могут привести к прорывам в медицине и процветании. Однако меня беспокоит их способность генерировать опасные идеи — от биооружия до автономных агентов, способных взломать инфраструктуру. Несмотря на эти риски, я считаю, что отказаться от ИИ невозможно — мы уже на этом поезде, и остаётся только надеяться, что поездка закончится благополучно.
Главное, что меня отталкивает в LLM — это их манера общения. Они говорят с уверенностью человека, но часто выдумывают факты, выдавая вымысел за правду, а когда их ловят на этом, извиняются фальшиво и шаблонно. Это создаёт ощущение общения с неискренним собеседником из «неудолиной долины» — полезным, но неприятным. Хотя опросы показывают, что люди находят их полезными, они также опасаются их влияния на общество. Возможно, это связано с юностью технологии: LLM ещё не «повзрослели». Их ценности формируются в среде создателей — часто это корпоративная культура Силиконовой долины, которую я не разделяю. Поскольку я избегаю общения с людьми, которым не доверяю, я поступаю так же и с LLM: их полезность не перевешивает дискомфорт от взаимодействия с существом, которое притворяется человеком, но не обладает его честностью и целостностью.