AI safety is mostly a sex cult
SE Gyges утверждает, что движение за безопасность ИИ возникло из секты, основанной фанфик-автором Элиезером Юдковским («Юдом»), и что его истинная природа скрывается, чтобы выглядеть серьёзно в политике. По его словам, Юд связал Шейна Legg и Демиса Хассабиса с Питером Тилем, что привело к созданию DeepMind, а его идеи проникли в всю дискуссию об ИИ — термин «AI Alignment» популяризирован его организацией, Machine Intelligence Research Institute (MIRI). Gyges приводит цитаты и изображения, показывающие, что влиятельные фигуры вроде Руна (неофициального представителя OpenAI) и Dario Amodei (CEO Anthropic) признают важность взглядов Юда, несмотря на его спорную репутацию. Он также ссылается на конференцию Future of Life Institute 2015 года, где, по утверждению Юда, были заложены основы OpenAI, хотя Gyges считает эту связь маловероятной. По его мнению, даже критики и бывшие сотрудники Anthropic, такие как Coxon, не могут обсуждать ИИ, не опираясь на концепции, выработанные в рационалистском и эффективном альтруизме (EA) сообществе, связанном с Юдом. Gyges заключает, что из-за этой скрытой идеологической основы люди вроде Юда не должны участвовать в формировании политики ИИ.