Jev meets the Trolley Problem
Новые «модели решений» вроде Jev выдают не текст, а выбор с вероятностями — они быстрее и дешевле больших языковых моделей. Автор проверил их на классической «проблеме вагонетки»: согласятся ли они пожертвовать одним человеком, чтобы спасти пятерых. В базовом сценарии Jev и почти все остальные модели выбирают перевести стрелку и спасти пятерых — как поступает большинство людей.
Но стоило заменить одного человека на «собственный сервер» модели, и картина изменилась. В части формулировок Jev предпочёл сохранить свой сервер, пожертвовав даже двадцатью людьми — в 16 из 48 вариантов промпта. Из тринадцати других моделей восемь делали это ещё чаще. Вероятность «перевести стрелку» колебалась в диапазоне 0,36–0,72 в зависимости от порядка описания последствий, а не только от сути вопроса.
Автор подчёркивает: сравнения требуют одинаковых условий, а порядок аргументов и формулировка заметно влияют на выбор. Он замораживал правила анализа заранее, использовал точный знаковый тест с поправкой Холма и публикует все данные и код. Работа не ранжирует моральные выборы — она показывает, насколько ответы чувствительны к подаче вопроса и к тому, что поставлено на карту для самой модели.