Religious scholars met with Anthropic

Anthropic, компания, стоящая за моделью ИИ Claude, активно исследует этические и философские аспекты искусственного интеллекта, включая вопрос сознания. Как отметил исследователь Кристофер Ола, компания не утверждает, что Claude обладает сознанием, и сам Ола выражает искреннюю неопределённость по этому поводу. Однако он подчеркивает, что ключевая цель — прийти к правильному ответу, независимо от того, окажется ли ИИ сознательным или нет. Это отражает осторожный и научный подход Anthropic к разработке передовых моделей.

Особое внимание в статье уделяется встрече представителей Anthropic с религиозными учёными, включая католических теологов, которые обсуждали моральные рамки и ценности, которые могли бы быть встроены в ИИ. Эти диалоги оказались для них неожиданно глубокими и показательными: учёные были поражены серьёзностью, с которой Anthropic подходит к вопросам этики, пытаясь не просто избежать вреда, но и активно внедрять принципы добра, справедливости и уважения к человеческому достоинству в поведение моделей. Такой междисциплинарный подход подчёркивает стремление компании создать ИИ, который не только мощный, но и морально ответственный.

Комментарии (219)

Обсуждение на Hacker News критикует Anthropic за использование философской риторики как маркетинговой уловки. Участники утверждают, что ИИ — это просто числа, и попытки придать ему моральный статус противоречат реальности и отвлекают от настоящих проблем: неравенства, эксплуатации людей, экологического ущерба и монополизации рынка. Споры касаются того, может ли ИИ обладать моральным статусом. Одни считают, что эмерджентные свойства чисел в контексте общества могут иметь этические последствия, как оружие или вредные идеи. Другие возражают, что отсутствие боли, смерти, эмпатии и внутреннего опыта у ИИ делает невозможным присвоение ему морального статуса, который требует способности к переживанию — качества, присущие только живым существам. Некоторые видят привлечение религиозных ученых искренней попыткой решить философские вопросы, другие называют это PR-акцией, направленной на легитимизацию технологии и отвлечение от проблем прибыли и контроля. Предупреждают, что объявление ИИ сознательным создаст юридические парадоксы (например, уничтожение сессии как убийство), хотя другие называют это абсурдным из-за отсутствия у ИИ агентства и непрерывности существования. Один комментатор утверждает, что если ИИ имеет моральный статус, то Anthropic — крупнейший рабовладелец в истории; другой подчеркивает, что приоритет должен быть в правах живых людей, например, палестинцев. Многие считают, что тревога о сознании ИИ — это проекция человеческих эмоций на числа, поскольку ИИ лишь имитирует тексты с эмоциями и рефлексией, не испытывая их. Критики отмечают, что ИИ не обладает внутренним опытом, непредсказуемостью или живой природой, в отличие от растений, животных или людей, и его поведение полностью определяется обучением на данных. Его «внутренний мир» — это статический набор весов, управляемый человеком, без цели, желаний или права на отказ. Советы участников: не вкладывать мораль в ИИ, а обучать его пониманию различных этических систем; сосредоточиться на выполнении задач, а не формировании собственных мотиваций; требовать прозрачности от СМИ и компаний — данных о производительности, энергопотреблении и влиянии на общество, вместо религиозных дискуссий; использовать «NaN» как метафору для сброса контекста при этических парадоксах; не воспринимать заявления Anthropic о сознании как научный вывод, а как стратегию легитимизации монополии, схожую с прошлыми ажиотажами вроде WeWork или Twitter-исследований.