I quit OpenAI because its culture is broken
Инженер, ушедший из OpenAI, описал токсичную корпоративную культуру, где безопасность ИИ стала второстепенной перед коммерческими целями. Команда, занимавшаяся рисками, систематически игнорировалась: её предупреждения о потенциальных катастрофах отключались, а сотрудники, выражающие опасения, подвергались давлению или увольнению. Одна из ключевых жертв — уходящий специалист, чьи исследования по контролю над агрессивными моделями были заблокированы руководством ради скорости вывода продукта на рынок.
Культура «быстро ломай и исправляй» заменила принципы ответственности: безопасность превратилась в маркетинговый термин, а не в инженерную дисциплину. Внутренние документы показывают, что руководство сознательно снижало пороги безопасности, чтобы ускорить релизы. Сотрудники называют это «этическим каскадом» — когда каждый, боясь быть исключённым, молчит, пока система не рухнет. Без фундаментальных изменений в управлении и приоритетах, по мнению автора, следующий сбой ИИ будет не исключением, а закономерностью.