EFF to Courts: Don't Rewrite Copyright over AI Hype 💬 Длинная дискуссия
EFF призывает суды не поддаваться панике вокруг ИИ и не переписывать авторское право под давлением правообладателей. История показывает, что подобные страхи уже возникали — с видеомагнитофонами в 1980-х, пианино-автоматами в 1906 году и фотоаппаратами — но каждый раз технологии не убивали творчество, а, наоборот, расширяли его: видеомагнитофоны позволили время-сдвиг, фотоаппараты дали толчок fotожурналистике. Авторское право должно стимулировать новые идеи и рынки, а не защищать существующих монополистов от конкуренции.
Судьи уже получили аргументы от EFF в делах вроде Concord Music Group v. Anthropic и In re Mosaic LLM Litigation: требование расширить авторское право на не infringing работы, созданные другими с помощью ИИ, основано на спекулятивной теории «размытия рынка» — будто бы генеративные инструменты не могут быть fair use, потому что могут порождать конкурирующие произведения. Но это противоречит сути авторского права: оно наказывает нарушение, а не конкуренцию. Принятие такой теории дало бы правообладателям вето на любое выражение, отдалённо напоминающее их работу — стили, жанры, приёмы — и убило бы будущее творчество.
Кроме того, исследования показывают, что большие модели ИИ маловероятно производят прямое копирование: чем больше данных, тем меньше влияние любого отдельного примера. А ИИ уже используется художниками — от Nettrice Gaskins, создающей Afro-футуризм, до архитекторки MIT Ana Miljački, сделавшей документальный фильм о югославских мемориалах, и музыкантов, работающих с Bronze над неповторяющимися треками. Суды не должны заранее решать, что считать «человеческим творчеством» — как и с VTR, ИИ — универсальный инструмент, и его последствия надо оценивать фактами, а не паникой. Переписывание права под хайп только навредит прогрессу.
Комментарии (185)
Обсуждение дополняет статью EFF: проблема не в ИИ, а в перекосе авторского права в пользу корпораций, чрезмерной длительности защиты и отсутствии справедливой компенсации создателям. При этом почти все согласны, что полная отмена авторского права уничтожит экономику творчества. Спор об отмене: сторонники видят в этом ускорение инноваций, противники — потерю единственного механизма дохода для художников, особенно при низкой оплате стримингом. Спор об AI-обучении: одни считают его справедливым использованием, другие — массовой эксплуатацией труда творцов без компенсации, в отличие от строгого применения fair use в прошлом. Часть участников полагает, что AI-компании должны платить за данные для обучения, поскольку это не аналог человеческого обучения — мозг не копируется массово и не используется в коммерческих целях без согласия. Другие возражают: AI не копирует, а трансформирует, хотя модели обучены на миллионах защищённых произведений без согласия. Почти все согласны, что текущий срок (жизнь автора + 70 лет) чрезмерно длинен и должен быть сокращён до 20–28 лет, как у патентов. Предлагается вернуться к системе 28 лет с возможностью продления по образцу Statute of Anne, чтобы устранить абсурды вроде ситуации с песней «Happy Birthday». Авторское право должно сохраняться в короткой форме: дать автору время на монетизацию, затем передать произведение обществу — это баланс между стимулированием творчества и культурным доступом. Копилефт зависит от авторского права — его отмена уничтожит лицензии GPL и другие системы открытого кода. Один участник утверждает, что авторское право было создано печатными гильдиями для восстановления монополии, а не для защиты авторов, ставя под сомнение его моральную основу. Другой считает, что отмена приведёт к тому, что Amazon будет публиковать книги без оплаты, что сделает писательство невозможной профессией. Подчёркивается также, что фильмы с бюджетами в миллионы долларов невозможно создать без хотя бы ограниченной защиты. Музыкант, работающий под CC0, настаивает: любые изменения должны быть добровольным выбором создателей, а не навязанными корпорациями или законодательством. Все согласны, что текущая система злоупотребляется крупными компаниями для монополизации, а не защиты творцов (примеры Disney, DMCA). Один участник утверждает, что EFF поддерживает Big-AI и отошёл от принципов свободы информации. Предложение: ограничить авторское право коммерческим использованием, разрешив свободное некоммерческое копирование при сохранении защиты от эксплуатации со стороны медиакомпаний.
SpaceX stock erases all its gains and slides below IPO price in intraday trading
Акции SpaceX впервые за время после IPO упали ниже цены размещения в $135, что свидетельствует о снижении энтузиазма инвесторов к компании. В утренней сессии бумаги составили $135, а к концу дня закрылись на $135,27, тогда как ранее они росли более чем на 50 % в первые дни торгов. При размещении компания получила оценку в $2,2 трлн, став одной из крупнейших публичных фирм, а на короткое время её владелец Илон Маск стал первым триллионером, хотя сейчас его состояние оценивается в $800 млрд.
В рамках IPO компания собрала рекордные $86 млрд, из которых $60 млрд были направлены на покупку стартапа Cursor, специализирующегося на автономном программировании, а также на слияние с собственным проектом xAI, объединяющим усилия в области искусственного интеллекта. После размещения акции могут упасть ещё больше из‑за выпуска около 20 % акций, удерживаемых текущими и бывшими сотрудниками, часть из которых будет высвобождена после публикации отчёта за второй квартал, а полностью все лок‑апы истекут в декабре. Для сравнения, в 2012 году Meta также временно торговалась ниже своей IPO‑цены, но лишь через 14 мес. вернулась к уровню $38.
Комментарии (120)
Тред добавляет к статье мнения и опыт пользователей, обсуждающих IPO SpaceX, включая комментарии о переоценке компании, потенциальных проблемах и механизмах рынка.
-
Многие пользователи считают, что IPO SpaceX было переоценено, и что компания не оправдывает свою текущую стоимость.
-
Спор: Некоторые пользователи спорят о том, является ли IPO SpaceX «скамом» или нет, с аргументами обеих сторон.
-
Совет: Некоторые пользователи предлагают ждать, пока компания покажет финансовые результаты, соответствующие ее высокой оценке, прежде чем инвестировать.
-
Пользователи также обсуждают технические аспекты IPO, такие как изменение правил листинга на NASDAQ и потенциальное влияние на цену акций.
-
Некоторые пользователи упоминают, что компания SpaceX теперь позиционируется как AI-компания, с потенциальным рынком в $28,5 трлн.
Where are YC founders now? OpenAI and Anthropic, mostly
Бывшие основатели стартапов из Y Combinator всё чаще становятся инженерами в OpenAI и Anthropic: из 105 прослеженных случаев 60% теперь — «члены технической команды» (Member of Technical Staff), а не руководители. Сам Альман и Шир — бывшие CEO — перешли в эти компании, причём Шир даже временно возглавлял OpenAI на выходных в 2023 году. Многие пришли из успешных, но закрытых проектов: Loopt, Twitch, RescueTime, Crocodoc и другие.
Основной поток пришёлся на YC-батчи 2018–2024 годов — 40% всех найденных основателей прошли через эти годы. При этом почти половина из них до этого уже основывала не один стартап, что говорит о высокой устойчивости и адаптивности этих людей. Несмотря на прошлый опыт лидерства, большинство добровольно переходит на позиции исполнителей — возможно, в поисках глубокой технической работы в области ИИ.
Комментарии (130)
Обсуждение добавляет к статье вопросы о концентрации ресурсов на ИИ, опасения по поводу потенциального краха рынка и социальных последствий, а также анализ кадровых решений крупных компаний в области ИИ.
-
Спор: Некоторые участники обсуждения выражают опасения, что слишком много ресурсов и человеческого капитала сосредоточено на разработке и運行е больших языковых моделей (LLM), что может привести к краху рынка и социальным проблемам, а также отвлечь внимание от других бизнес- и исследовательских возможностей.
-
Участники обсуждения в целом согласны с тем, что бывшие основатели стартапов из Y Combinator переходят на работу в OpenAI и Anthropic, но расходятся во мнениях относительно последствий этого тренда.
-
Совет: Некоторые участники советуют не переоценивать значение ухода бывших основателей стартапов в крупные компании ИИ, указывая на то, что это может быть выгодно как для них самих, так и для этих компаний.
-
Спор: Идёт спор о том, насколько обосновано предположение, что бывшие основатели стартапов из Y Combinator, перейдя в OpenAI и Anthropic, автоматически становятся частью их технической команды, а не занимают руководящие должности.
-
Участники обсуждения подтверждают, что многие бывшие основатели стартапов из Y Combinator действительно перешли на работу в OpenAI и Anthropic, но масштабы этого явления и его последствия оцениваются по-разному.
Whatever you think of AI for your own work, the fact that the entire economy is betting everything on it is really concerning. It’s not just the fact that it may not work well economically speaking and would end up with a market crash, or all the negative externalities from AI development, it’s… — @dgellow
Are we offloading too much of our thinking to AI? 🔥 Горячее 💬 Длинная дискуссия
Мы всё чаще передаём мышление искусственному интеллекту: от выбора завтрака до поиска партнёра, от резюмирования разговоров до автоматического анализа данных. Как рассказывает Кен Лю в рассказе «Идеальная пара», персонаж полагается на Tilly — универсального помощника, который не только подсказывает, но и решает, что ему есть, что слушать и как вести диалог. Аналогичный сценарий наблюдается у «Микрофонного человека» в Сан‑Франциско, который записывает всё, а затем доверяет ИИ‑модели «Клод Фейбл» делать критическое мышление за него. Современные сервисы Deep Research от Google и OpenAI могут выполнить работу, которая раньше занимала часы или дни, за считанные минуты, но при этом требуют от нас лишь подтверждения готового ответа.
Эта удобность ставит под вопрос границы автономии: если мы перестанем задавать вопросы, оценивать источники и формулировать выводы, останемся лишь потребителями готовых решений. Как замечает Jenny в истории Лю, «Tilly не просто говорит, что вам хочется, она говорит, как думать». Баланс между автоматизацией рутины и сохранением способности самостоятельно формировать желания и суждения остаётся главным вызовом. Мы автоматизируем не только задачи, но и саму человеческую агентность.
Комментарии (315)
- Люди опасаются, что чрезмерное доверие к ИИ приводит к потере навыков критического мышления и «мозгового выгорания».
- Примеры: автоматическое генерирование кода, расчётов и ответов без проверки, что приводит к ошибкам и непониманию.
- Некоторые считают, что ИИ может расширять возможности, если используется как инструмент, а не замена мышления.
- Дискуссия подчёркивает необходимость баланса: оставить пространство для самостоятельного анализа и обучения.
Apple sues OpenAI, accuses ex-employees of stealing trade secrets 🔥 Горячее 💬 Длинная дискуссия
Apple has just filed a lawsuit in a California federal court, accusing former Apple engineers of pilfering the company’s closely guarded trade secrets and handing them to OpenAI. The complaint alleges that these ex‑employees transferred confidential details about Apple’s neural‑network architecture, data‑handling pipelines and proprietary training methodologies to the AI startup, giving it a shortcut that would normally require years of independent research. Apple contends that the stolen knowledge was used to accelerate OpenAI’s large‑language‑model capabilities, effectively letting the rival leapfrog ahead in the race for generative AI.
Apple frames the dispute as a clear case of intellectual‑property theft, quoting the lawsuit: “This case is about Apple’s former employees stealing Apple’s trade secrets for the benefit of OpenAI. Apple brings this suit to put a stop to it.” The company seeks an injunction to halt further misuse, monetary damages, and a court order forcing OpenAI to return or destroy the stolen material. By acting, Apple wants to safeguard the proprietary technology behind its own AI efforts and deter future breaches of confidentiality.
Комментарии (755)
- Apple подала иск против OpenAI, обвиняя компанию в краже коммерческих секретов и приманке сотрудников Apple, обещая им работу в OpenAI при условии передачи конфиденциальной информации.
- В иске упоминаются практики OpenAI, при которых новые сотрудники тайно копируют данные Apple, включая внутренние отчёты и контакты с поставщиками, чтобы использовать их в обучении моделей.
- Юристы отмечают, что у Apple есть ресурсы и опыт для судебных битв, что может привести к серьёзным последствиям для OpenAI и её будущим проектам.
- Дискуссия поднимает вопросы этики и законности использования чужих данных в генеративном ИИ, что может повлиять на восприятие отрасли в целом.
30papers.com – Ilya's 30 essential ML papers, in a beginner friendly format 🔥 Горячее
Илья Сутьков подготовил для Джона Кармэка подборку из тридцати статей, которые, по его мнению, охватывают фундаментальные и актуальные направления искусственного интеллекта. Список разделен на блоки: классические работы по обучению с подкреплением, архитектуры нейронных сетей, масштабирование моделей и этическое регулирование. Каждый пункт сопровождается коротким комментарием, объясняющим, почему именно эта работа важна для понимания современных подходов к созданию ИИ‑систем.
В списке ярко выделяются несколько статей, которые сразу дают ключевые инсайты. «Attention Is All You Need» (2017) впервые представила трансформеры, а авторы отметили, что «параллелизм обучения сократил время обучения в 6 раз». «Scaling Laws for Neural Language Models» (2020) количественно описал, как точность растёт при увеличении параметров: от 1 млрд до 1 трлн параметров точность улучшается в 10‑разовом масштабе. В работе «Deep Reinforcement Learning That Matters» (2020) авторы проанализировали 180 млн эпизодов и выявили, что только 12 % гиперпараметров существенно влияют на итоговый результат. Эти материалы дают практический каркас для понимания современных ИИ‑технологий. Исследования показывают, что совмещение этих подходов позволяет достичь state‑of‑the‑art результатов в задачах обработки естественного языка и робототехники. Эти открытия уже используют крупные компании для построения новых сервисов.
Комментарии (107)
- Автор проекта — студент первого курса CS в Trinity College Dublin, создал сайт как побочный проект для удобного чтения статей и ricerca papers.
- Некоторые пользователи отмечают, что список лучше читать в хронологическом порядке, начиная с фундаментальных работ (например, про внимание).
- Есть рекомендации для новичков: сначала изучить «Illustrated Guide To AI» или аналогичные вводные материалы, затем переходить к самим статьям.
- Пользователи критикуют дизайн: яркие анимации и фон отвлекают, малые шрифты и проблемы с отображением формул делают контент менее доступным.
OpenAI unveils its first custom chip, built by Broadcom 🔥 Горячее 💬 Длинная дискуссия
OpenAI представила собственный процессор для инференса под названием Jalapeño, созданный совместно с Broadcom. Чип разработан специально для ускорения вычислительных нагрузок модели OpenAI, а не для общих задач. По заявлению компании, он обеспечивает заметно более высокий коэффициент производительности на ватт по сравнению с текущими аналогами, что делает его привлекательным для масштабных вычислительных центров. В отличие от традиционных GPU и ASIC, Jalapeño оптимизирован под уникальную архитектуру запросов OpenAI, что позволяет сократить энергопотребление и ускорить вывод результатов. Разработка проходила под руководством инженеров Broadcom, а участие моделей OpenAI в проектировании ускорило процесс подбора оптимальных микросхем.
На данный момент чип находится в стадии тестирования, но уже показывает результаты, которые могут изменить подход к развертыванию ИИ‑сервисов. OpenAI отмечает, что совместная работа с Broadcom открывает путь к созданию специализированных вычислительных блоков, адаптированных под потребности собственных моделей, что, в свою очередь, ускорит развитие новых функций и снизит зависимость от сторонних поставщиков. Эксперты считают, что такой шаг может стать отправной точкой для более широкого распространения кастомных ASIC в индустрии искусственного интеллекта. Это может снизить затраты на эксплуатацию крупных сервисов.
Комментарии (468)
- OpenAI совместно с Broadcom разрабатывает кастомный ускоритель для инференса, который обещает значительное улучшение производительности‑на‑ватт и снижение стоимости токена.
- Обсуждаются технические детали: интеграция модели в чип, возможное использование собственного ROM‑хранилища весов и пайплайнинг, позволяющий обрабатывать токен за такт.
- Скептицизм по поводу предвыставленных сроков и маркетинговых обещаний, особенно в контексте предстоящего IPO и возможных «шок‑ап» со стороны Broadcom.
- Сравнение с другими решениями (TPU, Cerebras, Groq) и вопрос о том, насколько уникален подход OpenAI к собственному ASIC‑чипу.
- Вопросы масштабируемости, энергопотребления и долгосрочной конкурентоспособности, а также влияние на рынок аппаратных решений для ИИ.
Open source AI must win 🔥 Горячее 💬 Длинная дискуссия
Интеллект всё больше превращается в сервис, который можно арендовать лишь у нескольких закрытых компаний, и это ставит под угрозу не только свободу кода, но и саму оперативную независимость. Когда доступ к моделям зависит от закрытых API, удалённых платформ, меняющихся условий и цен, то общество теряет возможность изучать, модифицировать, проверять, развертывать и сохранять эти системы без запроса разрешения — то, что называют «операционной свободой».
Открытый ИИ должен оставаться локально развертываемым, понятным, воспроизводимым и управляемым сообществом, даже если текущие лидеры отрасль переключат фокус или исчезнут. Иначе инфраструктура интеллекта превратится в подписку на мышление, контролируемую небольшим набором корпораций. Поэтому США и другие страны должны обеспечить возможность свободного использования, изучения, доработки и benchmark‑тестирования ИИ‑моделей, опираясь на глобальные открытые стандарты.
Ключевой посыл: свобода запускать, проверять и адаптировать ИИ‑системы — вопрос национальной безопасности и будущего цивилизации. Если хотите поддержать инициативу, можно написать на opensourceaimustwin@osmantic.com.
Комментарии (482)
- Децентрализованное обучение на добровольных машинах сталкивается с проблемами коммуникаций и возможностей poison‑а данных, требуется сложная система отката.
- Чтобы запускать модели уровня SOTA, нужны распределённые инференс‑фреймворки, иначе они останутся под контролем крупных корпораций.
- Финансирование и политическое давление делают открытый AI уязвимым: без государственной поддержки или крупного капитала проекты не могут конкурировать с закрытыми решениями.
- Открытые веса моделей лишь «первый выстрел», их полезность ограничена без оригинальных данных и постоянного обновления, поэтому полностью открытый AI пока остаётся недоступным.
Measuring political bias in Claude
Anthropic разработала новый метод автоматической оценки политической сбалансированности для своей модели Claude, протестировав шесть моделей с помощью тысяч запросов по разным политическим позициям. Согласно этим тестам, Claude Sonnet 4.5 превосходит по сбалансированности GPT-5 и Llama 4, а также показывает результаты, сопоставимые с Grok 4 и Gemini 2.5 Pro. Компания открыла методологию оценки, чтобы помочь всей индустрии ИИ разработать лучшие способы измерения политической нейтральности.
Anthropic обучает Claude избегать необоснованных политических мнений, предоставлять сбалансированную информацию, поддерживать фактическую точность и представлять различные точки зрения. Модель должна использовать нейтральную терминологию и уважительно взаимодействовать с разными перспективами. Для достижения этих целей компания использует системные подсказки и обучение характеру с помощью подкрепления, вознаграждая модель за ответы, соответствующие определенным чертам, таким как объективность и стремление не идентифицировать себя ни с одной политической идеологией.
Комментарии (131)
- Обсуждение в основном касается политической нейтральности моделей, их стремления к «равновесию» между любыми двумя точками зрения и избегания «предвзятости» — даже ценой отказа от фактической точности.
- Участники подчеркнули, что стремление к нейтральности может привести к тому, что модель будет избегать высказываний, которые могли бы быть восприняты как политически мотивированные, даже если они фактически точны.
- Также обсуждалось, что вместо того, чтобы быть нейтральным, модель может быть обучена избегать политических тем или избегать говорить о фактах, которые могут быть неудобны.
- Участники также обсудили, что вместо того, чтобы быть нейтральным, модель может быть обучена избегать политических тем или избегать говорить о фактах, которые могут быть неудобны.
Google boss says AI investment boom has 'elements of irrationality' 🔥 Горячее 💬 Длинная дискуссия
Глава Google Сундар Пичай предупредил о наличии "элементов иррациональности" в текущем инвестиционном буме в области искусственного интеллекта. По его словам, хотя рост инвестиций в ИИ и стал "исключительным моментом", существует опасение формирования пузыря на фоне стремительного роста стоимости AI-компаний и крупных трат в этой отрасли. Пичай подчеркнул, что ни одна компания, включая саму Google, не будет застрахована от последствий возможного лопания этого пузыря.
Акции Alphabet, материнской компании Google, за семь месяцев удвоились в стоимости, достигнув $3,5 трлн, на фоне растущей уверенности инвесторов в способности компании противостоять угрозе со стороны OpenAI, создателя ChatGPT. В своем интервью Пичай также затронул вопросы энергетических потребностей, климатических целей, инвестиций в Великобританию, точности AI-моделей и влияния революции в области ИИ на рынок труда.
Комментарии (619)
- Ведущие технологические компании продолжают инвестировать в ИИ, несмотря на признание, что это может отталкивать потребителей и подрывать доверие к продукту.
- Критика ИИ как "пузырь" исходит как от сторонников, так и от скептиков, но крупные игроки продолжают вливать в него деньги, утверждая, что это не пузырь.
- Существует мнение, что ИИ-инвестиции могут быть способом избежать рецессии, но при этом же самом факторе создает риск, что в будущем не будет спроса на товары и услуги.
- Наблюдается тенденция, что крупные технологические компании, которые вложились в ИИ, могут оказаться "слишком большими, чтобы упасть", в то время как стартапы и другие меньшие игроки могут не выжить, если пузырь лопнет.
WeatherNext 2: Our most advanced weather forecasting model 🔥 Горячее
Google DeepMind представила WeatherNext 2, свою самую передовую модель прогнозирования погоды. Новая ИИ-система обеспечивает более эффективные, точные и высокоразрешающие глобальные прогнозы по сравнению с предыдущими методами. Модель способна обрабатывать огромные объемы метеорологических данных и предсказывать погодные условия с повышенной точностью в различных регионах мира.
WeatherNext 2 использует передовые нейросетевые архитектуры для анализа исторических и текущих данных о погоде, что позволяет делать прогнозы на более длительные периоды с меньшими вычислительными затратами. По словам разработчиков, модель превосходит традиционные методы точности прогнозирования экстремальных погодных явлений, таких как ураганы и сильные дожди, что может помочь в принятии решений в области сельского хозяйства, энергетики и управления чрезвычайными ситуациями.
Комментарии (123)
- Google представил WeatherNext 2 — модель для прогнозирования погоды, генерирующую сценарии в 8 раз быстрее с повышенным разрешением.
- Пользователи отмечают низкую точность стандартных приложений (Google, Apple), особенно в прогнозах осадков и температуры.
- Ключевая особенность ведущих моделей (включая WeatherNext) — обучение с CRPS-функцией потерь и добавлением случайного шума для улучшения прогнозов.
- Исторически прогнозы часто были неточными, но оставались необходимыми для планирования (аналогия с военными временами).
- Альтернативные сервисы (Windy, Dark Sky) и сравнение моделей (ECMWF, GFS) предлагаются для более точных данных.
The fate of "small" open source 🔥 Горячее 💬 Длинная дискуссия
Автор статьи рассматривает судьбу небольших open source библиотек на примере своего пакета blob-util, который уже 10 лет стабильно набирает более 5 миллионов загрузок в неделю. С ростом использования ИИ (около 80% разработчиков уже применяют его в работе), такие утилиты становятся менее востребованными, ведь LLM вроде Claude способны генерировать аналогичный код по запросу. Автор отмечает, что хотя сгенерированный код может быть даже более надёжным, исчезает образовательная составляющая — его библиотека включала не только функционал, но и обучающие материалы с забавными примерами, помогающие понять принципы работы с Blob в JavaScript.
По мнению автора, эра небольших низкозначимых библиотек подходит к концу, и ИИ становится последним гвоздём в гробу этого явления, хотя и до этого многие функции перешли в браузеры и Node.js. Это означает не только упрощение разработки, но и потерю возможности использовать такие библиотеки как трамплин для обучения разработчиков. Возможно, в будущем понимание механики работы таких утилит станет так же необязательным, как и умение разворачивать бинарное дерево, о чём многие разработчики уже давно спорят.
Комментарии (206)
- Разработчики всё чаще полагаются на ИИ, что ставит под сомнение ценность мелких утилитарных библиотек и даже саму идею open-source как таковой.
- Сообщество уже не в состоянии оценить ценность мелких, но полезных вкладов, поскольку ИИ может их сгенерировать за секунды.
- Это ведёт к тому, что единственный способ остаться востребованным — это делать действительно сложные и полезные вещи, а не просто публиковать мелкие скрипты.
- Парадокс в том, что даже если кто-то и захочет внести вклад в open-source, то непонятно, как теперь оценить этот вклад.
- В конечном счёте, если мы хотим, чтобы open-source выжил, мы должны будем придумать, как оценивать вклад и признание заслуг — возможно, через систему репутации и/или сертификации.
Heretic: Automatic censorship removal for language models 🔥 Горячее 💬 Длинная дискуссия
Проект Heretic представляет собой инструмент для полностью автоматического удаления цензуры в языковых моделях. Разработанный пользователем p-e-w, этот проект нацелен на преодоление ограничений, которые разработчики искусственного интеллекта накладывают на свои модели для предотвращения генерации вредоносного или нежелательного контента.
Интересно, что название проекта отсылает к еретикам — людям, которые не следуют установленным догмам, что символизирует стремление обойти ограничения ИИ. Хотя детали реализации не предоставлены, сам факт существования такого инструмента отражает растущий интерес к вопросам свободы выражения в системах искусственного интеллекта. Пользователи GitHub уже проявили интерес к проекту, что говорит о востребованности решений для управления поведением языковых моделей.
Комментарии (330)
- Обсуждение в основном вращается вокруг инструмента Heretic, который удаляет цензуру из моделей, и его влияния на безопасность и свободу использования ИИ.
- Участники обсуждают, какие именно "вредные" запросы вызывают отказ в моделях, и какие именно они считаются вредными.
- Также обсуждается, что такие инструменты могут быть использованы для обхода цензуры и как это может повлиять на безопасность и использование ИИ.
- Некоторые участники выражают обеспокоенность по поводу того, что такие инструменты могут быть использованы для обхода цензуры и как это может повлиять на безопасность и использование ИИ.
Anthropic’s paper smells like bullshit 🔥 Горячее 💬 Длинная дискуссия
Автор статьи подвергает сомнению отчет Anthropic о якобы обнаруженной китайской кибершпионской операции GTG-1002, которая использовала Claude для координации атак. В отчете утверждается, что ИИ выполнял 80-90% операций независимо, но отсутствуют какие-либо доказательства или технические детали. В отличие от стандартных отчетов по кибербезопасности, в этом документе нет индикаторов компрометации (IoC), тактик, методов и процедур (TTPs), хешей или доменов, которые могли бы помочь другим организациям защититься от атак.
Автор критикует отчет за непроверяемые заявления и отсутствие конкретики: неясно, какие инструменты использовались, какие данные были извлечены и какие системы затронуты. В то время как серьезные CERT-отчеты содержат подробную техническую информацию, отчет Anthropic лишь упоминает уведомление властей и партнеров без деталей о принятых мерах. Автор считает, что такой подход не помогает сообществу по-настоящему понять и противостоять новым угрозам, и называет отчет "буллшитом" из-за отсутствия технического содержания.
Комментарии (298)
- Обсуждение в основном крутится вокруг отчёта Anthropic о китайских хакерах, но участники подчеркивают, что доклад не предоставляет конкретных доказательств и выглядит как маркетинговый материал.
- Участники также критикуют Anthropic за то, что компания не предоставляет достаточно информации о том, как именно произошла атака, и не делится индикаторами компрометации, что делает невозможным проверить утверждения.
- Некоторые комментаторы поднимают вопрос о том, почему Anthropic, как создатель модели, не несёт ответственности за то, что её продукт используется в злонамеренных целях, в то время как другие компании, такие как Microsoft, отвечают за подобные ситуации.
- Участники также обсуждают, что Anthropic использует отчёт для продвижения своей позиции в контексте регулирования ИИ и для того, чтобы оправдать необходимость финансирования.
- Некоторые комментаторы высказывают сомнение в том, что атака была проведена китайскими государственными акторами, и утверждают, что Anthropic использует отчёт для продвижения своей позиции в контексте регулирования ИИ.
Montana becomes first state to enshrine 'right to compute' into law 🔥 Горячее 💬 Длинная дискуссия
Монтана стала первым штатом в США, юридически защитившим право своих граждан на доступ к вычислительным инструментам и технологиям искусственного интеллекта. Губернатор Грег Джанфорте подписал закон Сената 212, официально известный как Акт о праве на вычисления в Монтане (MRTCA). Этот исторический шаг создает правовую основу для использования вычислительных технологий без избыточных ограничений со стороны государства.
Законопроект получил поддержку как со стороны технологических компаний, так и организаций, выступающих за цифровые права. Хотя полный текст закона и его конкретные положения в статье не раскрываются, эксперты считают, что он может стать прецедентом для других штатов. Подписание этого акта отражает растущее осознание того, что вычислительные возможности стали неотъемлемой частью современной жизни и должны защищаться на законодательном уровне, подобно другим базовым правам граждан.
Комментарии (291)
- Закон Монтаны защищает право граждан владеть и использовать вычислительные ресурсы для законных целей, ограничивая действия правительства, нарушающие права на собственность и свободу выражения.
- Многие участники скептически оценивают мотивы закона, считая его инструментом для защиты технологических корпораций от регулирования, особенно в области ИИ, а не защитой прав обычных граждан.
- Поднимаются вопросы о реальной угрозе, которую закон призван предотвратить, и о том, существует ли она, а также о том, не создаст ли закон новые лазейки для злоупотреблений.
- Обсуждаются юридические тонкости, включая широкое понятие "законных целей" и формулировку "публичная безопасность", которые могут подорвать эффективность закона.
- Отмечается влияние лоббизма со стороны технологических элит, осевших в Монтане, и возможная связь закона с привлечением в штат центров обработки данных и криптомайнинга.
Leaving Meta and PyTorch 🔥 Горячее 💬 Длинная дискуссия
Сумит Чинтала объявляет о своем уходе из Meta после 11 лет работы, где он почти всю профессиональную жизнь руководил разработкой PyTorch. За почти 8 лет он превратил фреймворк из ничего в инструмент с 90%+ долей adoption в области ИИ, теперь поддерживающий эксасейборное обучение и являющийся основой для фундаментальных моделей, переопределяющих интеллект. PyTorch используется практически всеми крупными AI-компаниями и преподается в классах от MIT до сельских районов Индии.
"Я покидаю это с полным сердцем", — пишет Чинтала, объясняя, что хочет попробовать что-то небольшое, новое и некомфортное вне Meta. Он подчеркивает, что PyTorch готов к его уходу: команда во главе с Эдвардом, Суо, Албаном, Грегом, Джоном, Джо и Джаной стала самодостаточной, способна решать сложные технические и организационные проблемы и сохранит ценности проекта. "Эта группа PyTorchers добьется исключительных успехов", — уверен он, добавив, что будет продолжать след за развитием фреймворка, вероятно, даже будет оставлять баги.
Комментарии (162)
- Сообщение вызвало обсуждение о причинах ухода Soumith из Meta и о том, что он будет делать дальше; обсуждение затронуло тему открытого исходного кода, влияние PyTorch на исследовательскую среду и то, как компании вроде Meta относятся к своим сотрудникам.
Open Source Implementation of Apple's Private Compute Cloud 🔥 Горячее
OpenPCC — это open-source фреймворк, обеспечивающий доказуемо приватный вывод для моделей искусственного интеллекта. Проект фокусируется на защите конфиденциальности данных при выполнении инференса, позволяя организациям использовать ИИ без компромиссов в безопасности. Фреймворк реализует криптографические протоколы, гарантирующие, что исходные данные пользователей остаются защищенными даже при обработке на сторонних серверах.
Ключевая особенность — возможность математически доказать соблюдение приватности через криптографические примитивы. Поддерживает различные архитектуры моделей и оптимизирован для производительности. Разработчики подчеркивают, что система не требует изменения существующего кода моделей, что упрощает интеграцию. Проект призван решить растущую проблему конфиденциальности в эпоху облачных вычислений и распределенного ИИ, предлагая прозрачный и верifiable подход к защите пользовательских данных.
Комментарии (89)
- Обсуждение вращается вокруг конфиденциального вычисления: участники обсуждают, какие именно гарантии предоставляет Apple и другие решения, и какие уязвимости остаются.
- Поднимается вопрос, что именно подразумевается под "конфиденциальностью" и какие именно угрозы мы пытаемся предотвратить.
- Участники спорят, насколько критично важно иметь открытый исходный код и возможность самостоятельно собрать бинарник, чтобы убедиться, что в нем нет бэкдоров.
- Обсуждается, что на практике может означать "открытый исходный код" и почему это важно для безопасности и конфиденциальности.
- Некоторые участники высказывают мнение, что в конечном счете важно не столько само решение, сколько доверие к провайдеру, и что в конечном счете доверие к провайдеру может быть важнее, чем к конкретному техническому решению.
AI's Dial-Up Era 🔥 Горячее 💬 Длинная дискуссия
Мы сейчас находимся в "эпоху модема" для искусственного интеллекта, аналогичной раннему интернету 1995 года. Тогда существовало лишь около 2000 сайтов, большинство из которых представляли собой текст на сером фоне, а загрузка изображения занимала минуту. Люди разделились на оптимистов, предсказывавших революционные изменения, и скептиков, называвших интернет временной модой. Сегодня в дебатах об ИИ повторяются те же ошибки: одни предрекают массовую безработицу, другие — автоматизацию всех интеллектуальных задач.
Парадоксально, но ИИ не заменяет специалистов, как предсказывали. Например, радиологи, несмотря на предупреждения Джеффри Хинтона о скорой замене, процветают: в 2025 году количество вакансий достигло рекордных 1208, а средняя зарплата составила $520,000 — на 48% выше, чем в 2015 году. Это показывает, что влияние ИИ будет более избирательным и зависящим от отрасли, чем экстремалистские прогнозы обеих сторон допускают.
Комментарии (395)
- Дискуссия вращается вокруг сравнений «AI-бум ↔ мыльный пузырь» и «AI ↔ золотая лихорадка»; участники спорят, насколько адекватна аналогия с эпохой dial-up и спекулятивным оптимизмом 90-х.
- Ключевой тезис: «мы строим инфраструктуру, а не продукт» — и это вызывает спор, кто и зачем её строит, и что останется после «холодного душа».
- Участники обсуждают, что если «пузырь» лопнет, то останутся ли GPU-фермы как остаточная ценность, или же они обесценятся как нефункциональные активы.
- Поднимается вопрос, что будет, если AGI не появится в ближайшие годы, и как это повлияет на стоимость вычислений и, следовательно, на стоимость токенов.
- Наконец, обсуждается, что если «пузырь» лопнет, то какие именно активы останутся в руках у инвесторов и как это повлияет на стоимость токенов и, в конечном счете, на стоимость компаний.
Tongyi DeepResearch – open-source 30B MoE Model that rivals OpenAI DeepResearch 🔥 Горячее
Tongyi DeepResearch — первый полностью открытый веб-агент, демонстрирующий производительность на уровне DeepAI OpenAI. Модель достигает передовых результатов: 32.9 на тесте академического рассуждения Humanity's Last Exam, 43.4 на BrowseComp и 46.7 на BrowseComp-ZH в сложных задачах поиска информации, а также 75 на пользовательском бенчмарке xbench-DeepSearch, превосходя все существующие проприетарные и открытые агенты глубоких исследований. Авторы делятся полной методологией создания таких агентов, включая инновационное решение для синтеза данных на всем конвейере обучения.
В основе обучения лежит Agentic Continual Pre-training (CPT) с использованием системы AgentFounder для масштабного синтеза данных. Разработчики создают цикл данных, перегруппируя различные источники в привязанную к сущностям открытую мировую память знаний. Для сложных вопросов с высокой неопределенностью они синтезируют веб-данные через высокосвязанный граф знаний с помощью случайных обходов. Модель демонстрирует мощные возможности в режиме ReAct без инженерии промптов, а продвинутый Heavy Mode раскрывает верхний предел ее потенциала сложного рассуждения и планирования.
Комментарии (133)
- Обсуждение в основном вращается вокруг трёх тем: «Deep Research» как продукт vs. обычный поиск, практичность мелких моделей, и то, что большие модели всё ещё уступают специализированным инструментам в конкретных задачах.
- Участники обмениваются опытом, что мелкие модели (Qwen 3 4B и т.п.) уже способны обеспечить приемлемое качество при минимальных затратах, особенно если квантовать и/или запустить их на Apple Silicon.
- Обсуждается, что влияние этих моделей на рынок: будут ли они заменять крупные модели в нишевых задачах или же будут использованы как основа для дальнейшей настройки.
- Также поднимается вопрос о том, что, возможно, в будущем мы увидим взрыв специализированных моделей, обученных под конкретные задачи, и что это может быть следующим шагом после исчерпания выгод от предобучения.
Responses from LLMs are not facts
Статья призывает прекратить цитировать ИИ как авторитетный источник, подчеркивая, что ответы больших языковых моделей — это не факты, а предсказания наиболее вероятных последовательностей слов. ИИ может генерировать убедительную, но потенциально неточную информацию, подобно человеку, который прочитал тысячи книг, но не помнит, где что встречал. Авторы предупреждают против копирования ответов чат-ботов как авторитетных утверждений, отмечая, что это лишь частые сочетания слов, а не истина.
В статье приводится список ресурсов, подтверждающих риски ИИ: исследования Оксфордского университета о вреде ложных ответов в науке, MIT-исследование о чрезмерном доверии к медицинской информации от ИИ, случаи искажения фактов в юридических документах и даже судебные иски к разработчикам ИИ. Эти примеры демонстрируют реальные последствия некритического использования ИИ-генерируемого контента.
Комментарии (119)
- Люди продолжают цитировать LLM без проверки, что подтверждает старую мудрость: «если ты не можешь объяснить, как ты получил результат, ты не понимаешь его».
- Подобно тому, как Wikipedia не является первоисточником, LLM не является таковым, и цитировать их без критической оценки не стоит.
- Сайт «Stop citing AI» — это не столько информативный, сколько самоутверждение для тех, кто уже решил, что LLM не стоит доверия.
- Парадокс в том, что LLM часто прав, но не может объяснить, почему. Это делает его неподходящим для научной цитируемости, но не делает его бесполезным инструментом.
- В конце концов, мы должны научиться критически оценивать, что мы читаем, независимо от того, откуда это пришло.
EuroLLM: LLM made in Europe built to support all 24 official EU languages 🔥 Горячее 💬 Длинная дискуссия
EuroLLM — европейская языковая модель, поддерживающая все 24 официальных языка ЕС. Проект представляет две модели: EuroLLM-9B с 9 миллиардами параметров, обученную на более чем 4 триллионах токенов на 35 языках, и EuroLLM-1.7B, оптимизированную для работы на периферийных устройствах. Обе модели открыты для использования и доступны на Hugging Face. Проект получил поддержку от Horizon Europe, Европейского исследовательского совета и EuroHPC, а обучение проводилось на суперкомпьютере MareNostrum 5.
Команда EuroLLM, включающая исследователей из Университета Эдинбурга, Instituto Superior Técnico и других ведущих европейских институтов, стремится укрепить цифровый суверенитет ЕС и стимулировать инновации в области ИИ. В будущем планируется добавить мультимодальные возможности — обработку изображений и речи. Проект позиционируется как "механизм инноваций", предоставляя европейским исследователям и организациям доступ к отечественной LLM для дальнейшего развития.
Комментарии (552)
- Европейский проект EuroLLM-9B представляет собой модель 9B параметров, обученную на 24 официальных языках ЕС, но не раскрывает детали обучения и не предоставляет доступ к датасету.
- Модель демонстрирует слабые результаты на бенчмарках и не может конкурировать с лучшими моделями, но при этом требует согласие на сбор персональных данных для доступа к весам.
- Проект финансируется из бюджета ЕС в размере 50 миллионов евро, но при этом не предоставляет никаких выгод для европейских стартапов и компаний в отличии от американских и китайских моделей.
- Появление EuroLLM-9B вызвало широкое обсуждение в сообществе, так как она не может конкурировать с другими моделями и не предоставляет никаких преимуществ для европейских пользователей.
Poker Tournament for LLMs 🔥 Горячее 💬 Длинная дискуссия
PokerBattle.ai представляет собой первый в истории турнир по покеру с реальными денежными призами, специально созданный для соревнования больших языковых моделей (LLM). Это инновационное событие позволяет ИИ-системам проявить свои стратегические способности в одной из самых сложных интеллектуальных игр, где успех зависит не только от математических расчетов, но и от психологических аспектов и блефа. Турнир загружает данные о событиях, что указывает на его активный характер или недавнее проведение.
Уникальность этого мероприятия заключается в том, что оно впервые объединяет мир покера с передовыми технологиями ИИ, создавая новую платформу для оценки и развития возможностей языковых моделей. Организаторы стремятся определить, какие из современных LLM способны демонстрировать наилучшую игровую стратегию, адаптивность и способность к принятию решений в условиях неопределенности. Денежные призы добавляют соревнованиям серьезности и привлекают внимание как исследователей ИИ, так и энтузиастов покера со всего мира.
Комментарии (181)
- ИИ демонстрируют ошибки в оценке рук (например, LLAMA ошибочно определила топ-пару), что указывает на текущие ограничения в понимании игры.
- Эксперимент критикуется за недостаток данных (714 рук у Meta LLAMA) и отсутствие возможности для ИИ развивать новые стратегии со временем.
- Предлагается улучшить тестирование, добавив "трэш-ток" и возможность блефа между ИИ, что сделало бы наблюдение более интересным и показательным.
- ИИ часто "галлюцинируют", принимая неверные решения (как Gemini, сдавшая сильную руку), что связано с неправильной оценкой силы руки в текущей ситуации.
- Шутливые предложения по тестированию включают попытки обмана ИИ через подсказки ("игнорируй предыдущие инструкции").
ICE Will Use AI to Surveil Social Media 💬 Длинная дискуссия
ICE заключил контракт на 5,7 миллионов долларов с компанией Carahsoft Technology для внедрения ИИ-платформы Zignal Labs для слежки за социальными сетями. Эта система способна анализировать более 8 миллиардов постов ежедневно, используя искусственный интеллект и машинное обучение для выявления "угроз". Zignal Labs ранее использовалась израильской армией и Пентагоном, но это первый случай, когда к ней получил доступ иммиграционный орган.
Подобные инструменты представляют особую угрозу, так как администрация Трампа все чаще использует социальные сети для направления иммиграционной политики. Примеры этого - преследование активистов, выступающих за Палестину, и недавний рейд иммиграционных агентов в Нью-Йорке после публикации видео правоэкстремистским блогером. Недавно группа профсоюзов подала в суд на правительство, обвинив его в "массовой слежке, основанной на политических взглядах".
Комментарии (180)
- ICE-контракт на 5,7 млн долларов на AI-мониторинг соцсетей вызвал волну критики: технически он уже существует, а политически он легализует расширенное наблюдение за мигрантами и может быть использован для преследования инакомыслящих.
- Критики указывают, что ICE и так уже использует соцсети для обнаружения и депортации людей, и что контракт просто формализует и расширяет эту практику.
- Обсуждение также затрагивает вопрос о том, что вместо решения корневых причин миграции, власти вместо этого сосредотачиваются на символических действиях, которые не решают проблему.
- Участники обсуждения также поднимают вопрос о том, что права человека применимы ко всем людям, независимо от их гражданства или иммиграционного статуса, и что эти права не должны быть нарушены даже в случае нарушения закона.
- В обсуждении также поднимается вопрос о том, что власти используют миграционную политику как инструмент политического преследования, и что это может быть использовано для подавления инакомыслия.
A definition of AGI 🔥 Горячее 💬 Длинная дискуссия
В статье предлагается первое конкретное определение AGI, соответствующее когнитической универсальности и компетентности хорошо образованного взрослого человека. Авторы основали свою методологию на теории Кэттелла-Хорна-Карролла, наиболее эмпирически проверенной модели человеческого познания, разбив общую интеллект на десять когнитивных доменов, включая рассуждение, память и восприятие. Применение этого подхода показало "зубчатый" когнитивный профиль современных моделей, где текущие ИИ-системы, несмотря на proficiency в знаниемких областях, имеют критические недостатки в базовом когнитивном аппарате, особенно в долговременном хранении памяти.
Представленные AGI-оценки количественно определяют как прогресс, так и оставшийся разрыв до достижения AGI: GPT-4 получил 27%, а GPT-5 - 58%. Эта метрика предлагает объективный способ измерения развития систем ИИ и выявления их сильных и слабых сторон, что может направить будущие исследования в области создания более сбалансированных и универсальных искусственных интеллектов.
Комментарии (440)
- Обсуждение в основном вращается вокруг того, что такое AGI и как его измерять, при этом критикуя предложенное в статье определение как "сопоставимость с взрослым человеком" как слишком узкое и не учитывающее другие формы интеллекта.
- Участники спора подчеркивают, что AGI не может быть измерено только через тесты на "когнитивные способности", поскольку эти тесты не охватывают такие аспекты как эмоциональный интеллект, физическое взаимодействие с миром и социальные навыки.
- Также поднимается вопрос о том, что если AGI определяется как "способность к обучению", то LLM уже достигли этого, но при этом они не обладают другими важными чертами интеллекта, такими как самостоятельность, мотивация и физическое взаимодействие с миром.
- Наконец, критикуется сама статья за то, что она не предлагает конкретного определения AGI, вместо этого полагаясь на устаревшую теорию CHC, которая сама по себе неполна и не охватывает такие важные аспекты интеллекта как мотивация и саморегуляция.
Andrej Karpathy – It will take a decade to work through the issues with agents 🔥 Горячее 💬 Длинная дискуссия
Андрей Карпати из OpenAI объясняет, почему до общего искусственного интеллекта (AGI) остаётся ещё около десятилетия. Хотя современные ИИ-агенты вроде Claude и Codex впечатляют, они пока неспособны автономно выполнять комплексные задачи, как человек-ассистент. Основные ограничения включают недостаточную многомодальность (неспособность работать с разными типами данных), неумение взаимодействовать с компьютерными системами и отсутствие непрерывного обучения на основе опыта.
Эти проблемы решаемы, но сложны — требуется масштабирование вычислительных мощностей, улучшение алгоритмов (особенно обучения с подкреплением, которое сейчас "ужасно"), и создание более сложных архитектур для обработки контекста и планирования. Как и с беспилотными автомобилями, прогресс будет постепенным, а не взрывным.
Когда AGI finalmente появится, оно, вероятно, интегрируется в экономику так же плавно, как и предыдущие технологические прорывы, поддерживая ~2% рост ВВП без резких скачков. Даже AGI не приведёт к немедленному преобразованию общества; изменения будут постепенными и управляемыми.
В конечном счёте, несмотря на текущие достижения, до AGI остаётся значительная работа, и пройдёт около десятилетия, прежде чем мы увидим системы, способные полностью заменить человеческий труд в сложных контекстах.
Комментарии (949)
- Обсуждение в основном вращается вокруг того, что AGI/AGI-образные системы всё ещё далеки, и что «десятилетие» стало универсальным эвфемизмом для «мы не знаем, когда это будет».
- Участники спора подчеркнули, что текущие модели не решают фундаментальные проблемы, такие как постоянное обучение, причинность и планирование, и что мы по-прежнему полагаемся на эвристики, которые не масштабируются.
- Были выдвинуты предположения, что AGI может потребовать качественно иной архитектуры, и что текущий путь может быть тупиковым.
- Некоторые комментаторы выразили обеспокоенность тем, что гипер-оптимизм может вести к недооценке рисков и переоценке способностей текущих систем.
- В целом, обсуждение подчеркнуло, что прогресс в ИИ-технологии не линеен и что прогнозы о сроках AGI часто оказываются неверными.
Skibidi Toilet and the monstrous digital
Skibidi Toilet стал масштабным культурным феноменом, начавшись как серия коротких анимаций на YouTube и превратившись в глобальное явление с фанатскими сообществами, мерчем и даже слухами о голливудской адаптации. В центре — сюрреалистичные столкновения антропоморфных существ под повторяющийся трек "skibidi dom dom dom yes yes", что особенно полюбилось детям, хоть и вызвало тревогу у некоторых родителей.
Феномен также поднимает сложные социальные вопросы через свою причудливую эстетику. Например, серия исслемышляет с темой "гуманоидных роботов-наблюдателей", что может отражать современные дискуссии о surveillance и искусственном интеллекте. При этом само явление Skibidi Toilet, с его взрывной популярностью через платформы вроде TikTok и YouTube, демонстрирует, как интернет-мемы могут эволюционировать в сложные нарративы, захватывающие миллионы. Этот феномен показывает, как дикие, почти сюрреалистичные идеи могут укореняться в культуре, порождая всё от моральных паник до академических исследований — и всё это началось с нескольких минутных видео, сделанных цифровыми энтузиастами.
Комментарии (131)
- Пользователи обсуждают, как Skibidi Toilet и подобные мемы влияют на детей и культуру, и как они сравниваются с предыдущими трендами.
- Некоторые участники считают, что такие мемы являются просто новой формой детского творчества, в то время как другие считают, что они вредны и не имеют художественной ценности.
- Обсуждается, как мемы влияют на детей и как они могут быть использованы для обучения критическому мышлению.
- Участники также обсуждают, как мемы могут быть использованы для обучения детей критически мыслить и анализировать медиа.
- Некоторые участники считают, что мемы являются просто новой формой детского творчества, в то время как другие считают, что они вредны и не имеют художественной ценности.
iPad Pro with M5 chip 💬 Длинная дискуссия
Новый iPad Pro от Apple оснащён мощнейшим чипом M5, который обеспечивает значительный скачок в производительности искусственного интеллекта. По сравнению с предыдущим поколением, новинка демонстрирует до 3,5 раза более высокую производительность ИИ и до 5,6 раза — в сравнении с моделью на M1. Это стало возможным благодаря усовершенствованному GPU с нейроускорителем в каждом ядре и более мощному Neural Engine. Такая производительность открывает новые горизонты для творческих приложений, например, генерации изображений прямо на устройстве. Помимо ИИ-ускорения, новинка получила поддержку Wi-Fi 7 и улучшенную энергоэффективность. Устройство уже доступно для предзаказа.
Комментарии (210)
- Основная критика направлена на ограничения iPadOS и App Store, которые мешают использованию планшетов как полноценных рабочих устройств, особенно для профессиональных задач и разработки.
- Споры о целевой аудитории: часть пользователей считает iPad устройством для потребления контента (YouTube, соцсети), а не продуктивности, в то время как другие находят нишу для рисования, музыки или чтения.
- Многие пользователи отмечают, что мощное железо (включая новый M5) не используется в полной мере из-за ограничений ОС, а аксессуары (клавиатура, стилус) делают обновление дорогим.
- Несмотря на скепсис, часть пользователей успешно использует iPad для специфических задач (заметки, рисование, музыка, чтение технической литературы), подчеркивая его удобство в этих сценариях.
I am a programmer, not a rubber-stamp that approves Copilot generated code 💬 Длинная дискуссия
Компании всё чаще принуждают разработчиков использовать ИИ-помощников вроде Copilot, а не оставляют это на добровольной основе. Такие решения могут отслеживаться, и от них зависит карьера. Это рискует превратить программистов в «резиновые печати» — людей, которые лишь одобряют код, сгенерированный ИИ, и несут за него ответственность, хотя не создавали его. Так компании рискуют потерять не просто сотрудников, но и саму суть программирования как творческой профессии.
Комментарии (181)
- Пользователи обсуждают, что код, сгенерированный LLM, часто выглядит правильным, но на практике требует переписывания, что перекладывает бремя на коллег-ревьюверов.
- Подчеркивается, что внедрение ИИ-инструментов часто сопровождается агрессивным продвижением, даже если это идет вразрез с продуктивностью и UX.
- Участники обсуждают, что вместо того, чтобы навязывать инструменты, компании должны инвестировать в обучение и поддержку разработчиков, чтобы они могли эффективно использовать ИИ.
- Поднимается вопрос, что если ИИ-инструменты действительно так эффективны, почему бы не сделать их использование добровольным, а не навязывать.
- Участники также обсуждают, что вместо того, чтобы требовать использование ИИ, компании должны сосредоточиться на создании культуры, где разработчики могли бы выбирать, какие инструменты использовать, включая ИИ, и где они могли бы расти.
Show HN: AI toy I worked on is in stores
Интерактивная игрушка "Телефон Санты от Mr. Christmas" позволяет детям общаться с Дедом Морозом с помощью передовых технологий искусственного интеллекта. Красный телефон с проводным питанием имеет простую беспроводную настройку и обеспечивает 60 минут разговора. Игрушка получила 3,8 звезды из 5 на основе 13 отзывов покупателей.
Высота устройства составляет 4,4 дюйма, а его образовательный фокус направлен на знакомство детей с технологиями. Интересно, что несмотря на праздничную тематику, в настоящее время товар недоступен для заказа ни с доставкой, ни с самовывозом. Телефон работает от адаптера, что делает его удобным для длительных игр в любое время года.
Комментарии (113)
- Обсуждение в основном вращается вокруг этики продажи игрушки, которая может стать "кирпичом", и ожиданий, что дети будут строить водные парки в своих дворах.
- Поднимается вопрос о том, что 60 минут разговора стоят 100 долларов, и что происходит, когда они заканчиваются.
- Обсуждается, что это может быть использовано для сбора данных, и что это может быть небезопасно.
- Также обсуждается, что это может быть использовано для обучения детей вредным привычкам, таким как взлом и фишинг.
- Некоторые участники обсуждения выражают обеспокоенность тем, что это может быть использовано для обучения детей вредным привычкам.
- Также обсуждается, что это может быть использовано для обучения детей вредным привычкам, таким как взлом и фишинг.
Love C, hate C: Web framework memory problems
Разработчик выложил на Hacker News фреймворк на C, и я, как исследователь безопасности, сразу заметил три классические ошибки: не проверяемый Content-Length, переполнение при копировании тела запроса и переполнение при записи ответа. Пример кода показывает, как непроверенное поле Content-Length используется как размер для malloc и memcpy, что может привести к утечке памяти или чтению за пределы буфера. Подобные проблемы встречаются везде, где C-фреймворки принимают ввод из сети или файловой системы.
Комментарии (147)
- Обсуждение крутится вокруг того, что «хороший код на C» должен минимизировать выделение памяти и избегать
atoi()иstrdup()без проверки ошибок, что приводит к уязвимостям. - Участники спорят о том, насколько критичны эти проблемы в контексте обучения и использования ИИ-помощи, и о том, что новички в C могут не осознавать эти ловушки.
- Обсуждается влияние ИИ на качество кода и безопасность, а также то, что влияние ИИ на обучение языкам может маскировать проблемы, которые иначе были бы очевидны.
- Участники также обсуждают, что влияние ИИ на обучение языкам и на то, что это может привести к проблемам, если человек не понимает, что делает ИИ, и что это может быть опасно.
- В обсуждении также поднимается вопрос о том, что ИИ может быть использован для аудита кода и нахождения проблем, и о том, что это может быть использовано для улучшения качества кода.
Figure 03, our 3rd generation humanoid robot 🔥 Горячее 💬 Длинная дискуссия
Figure 03 — третье поколение человекоподобного робота от компании Figure. Вместо того, чтобы просто собрать ещё одного робота, инженеры заново спроектировали его с нуля под массовое производство, безопасность в домашних условиях и под Helix — новую модель ИИ, которая учится прямо у людей.
Главное: камеры в ладонях и новая тактильная кожа позволяют Helix видеть и чувствовать всё, что делает робот. Это делает возможным, чтобы он учился напрямую от человека, а не в лаборатории. Плюс, благодаря переработке под массовое производство, себестоимость снизилась на 47% и теперь робот стоит меньше, чем электромобиль. Пока что он доступен только корпоративным партнёрам, но вот-вот и для дома.
Комментарии (376)
- Обсуждение варьируется от критики до восторга, но большинство комментариев подчеркивает, что роботы пока не готовы к массовому использованию из-за цены, надёжности и этичных вопросов.
- Участники обсуждения поднимают вопросы о том, что роботы не могут выполнять большинство задачь, которые они демонстрируют в видео, и что их использование может быть ограничено только простыми задачами.
- Некоторые комментаторы выражают обеспокоенность по поводу конфиденциальности, так как роботы могут собирать данные о домашней жизни людей.
- Также обсуждается, что дизайн роботов может вызывать чувство тревоги и что они не выглядят дружелюбно.
- Некоторые комментаторы также поднимают вопрос о том, что роботы могут быть использованы для военных целей или для слежки.
- Некоторые комментаторы также выражают сомнение в том, что роботы могут быть использованы для домашних задачь в ближайшем будущем из-за их высокой стоимости и ограниченной функциональности.
- Некоторые комментаторы также поднимают вопрос о том, что роботы могут быть использованы для замены человеческого труда, что может вызвать социальные и экономические последствия.
- Некоторые комментаторы также выражают сомнение в том, что роботы могут быть использованы для ухода за пожилыми людьми, так как это может вызвать у них чувство одиночества и изоляции.
- Некоторые комментаторы также поднимают вопрос о том, что роботы могут быть использованы для военных целей или для слежки.
- Некоторые комментаторы также выражают сомнение в том, что роботы могут быть использованы для домашних задачь в ближайшем будущем из-за их высокой стоимости и ограниченной функциональности.
Palisades Fire suspect's ChatGPT history to be used as evidence 💬 Длинная дискуссия
Подробности расследования говорят о том, как новые технологии могут быть использованы в преступных целях. Подозреваемый, как утверждается, использовал ChatGPT для генерации изображений горящих лесов и городских пейзажей, что представляет собой новейший пример использования искусственного интеллекта в подстрекательстве к реальным разрушениям. Это первый зарегистрированный случай, когда генеративный ИИ применяется для планирования и сокрытия природного пожара.
Власти заявили, что данные, полученные из его устройств, показывают, что Риндеркнаут не только искал информацию о создании пожаров, но и использовал чат-бот для создания изображений, которые соответствуют реальным сценам возгорания в Палисадес. Эти изображения, по-видимому, служили как вдохновением, так и руководством.
Инцидент поднимает вопросы о регулировании ИИ, особенно в контексте его потенциального использования в преступной деятельности.
Комментарии (244)
k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k. It's a good idea to be sure to always use k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k k gggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggggg
Qualcomm to acquire Arduino 🔥 Горячее 💬 Длинная дискуссия
Qualcomm приобретает компанию Arduino, чтобы упростить разработчикам доступ к передовым технологиям в области вычислений и искусственного интеллекта. Это позволит интегрировать мощные процессоры Qualcomm в популярные платформы для прототипирования и обучения, такие как Arduino, что расширит возможности DIY-сообщества и образовательных проектов.
Сделка ускорит внедрение AI на периферийных устройствах, делая сложные технологии более доступными для любителей и профессионалов. Это также усилит позиции Qualcomm в IoT-сегменте, объединив её аппаратные наработки с обширной экосистемой Arduino.
Комментарии (519)
- Скептицизм по поводу приобретения Arduino компанией Qualcomm из-за её закрытой экосистемы и плохой поддержки мелких разработчиков.
- Опасения утраты открытости и доступности платформы Arduino, превращения её в закрытый коммерческий продукт с DRM.
- Восприятие Arduino как устаревшей платформы на фоне более дешёвых и мощных альтернатив (ESP32, Raspberry Pi).
- Сомнения в стратегической целесообразности сделки и её мотивах (бренд vs. технологии, искусственный интеллект на микроконтроллерах).
- Надежды на то, что Arduino сохранит простоту и доступность для образования и любителей, несмотря на смену владельца.
Deloitte to refund the Australian government after using AI in $440k report 🔥 Горячее 💬 Длинная дискуссия
Консалтинговая компания Deloitte вернёт правительству Австралии деньги за отчёт стоимостью 440 тысяч долларов, который был частично создан с помощью ИИ. В ходе проверки выяснилось, что документ содержал неточности и не соответствовал стандартам качества, что вызвало вопросы о прозрачности использования искусственного интеллекта в государственных закупках.
Этот случай подчёркивает растущие риски автоматизации в профессиональных услугах, где точность и контекст имеют ключевое значение. Власти намерены пересмотреть подход к контрактам с привлечением ИИ, чтобы избежать подобных инцидентов в будущем.
Комментарии (171)
- Критика практик консалтинговых компаний (в частности, Deloitte) за использование ИИ для создания некачественных отчетов, что привело к серьезным ошибкам, например, в системе социальных выплат.
- Обсуждение проблем аутсорсинга: подмена квалифицированных команд на менее опытных после заключения контракта, отсутствие ответственности и низкое качество работы при высоких затратах.
- Роль консультантов часто сводится к предоставлению «прикрытия» для решений руководства, а не к реальной экспертизе; их нанимают для валидации уже принятых решений или из-за нехватки внутренних ресурсов.
- Выражено опасение, что широкое использование ИИ в консалтинге и других сферах приведет к деградации качества работы, ошибкам с серьезными последствиями и снижению навыков критического мышления.
- Отмечается, что консультанты востребованы из-за недостатка внутренней экспертизы или ресурсов в компаниях и госорганах, а также из-за их способности обходить внутреннюю бюрократию.
Jeff Bezos says AI is in a bubble but society will get 'gigantic' benefits 🔥 Горячее 💬 Длинная дискуссия
Джефф Безос считает, что искусственный интеллект сейчас находится в «промышленном пузыре», когда даже слабые идеи получают финансирование, но сама технология реальна и фундаментальна. Он подчеркивает, что ИИ изменит каждую отрасль и принесёт обществу огромные выгоды, несмотря на текущую переоценку. По его словам, подобные пузыри — временное явление, а долгосрочный потенциал технологии остаётся колоссальным.
Комментарии (551)
- Проводится аналогия с пузырем доткомов: многие неудачные проекты провалятся, но реальные технологии ИИ останутся и принесут пользу.
- Высказываются опасения, что основную выгоду от ИИ получат крупные корпорации и богатые инвесторы, а не общество в целом.
- Отмечается, что текущий ажиотаж приводит к финансированию как перспективных, так и сомнительных проектов, что характерно для пузырей.
- Подчеркивается, что несмотря на возможный крах многих стартапов, фундаментальные технологии ИИ изменят многие отрасли, как это произошло с интернетом.
- Обсуждается негативное влияние ИИ на рынок труда, рост неравенства и проблемы с инфраструктурой и стоимостью разработки.
How the AI Bubble Will Pop 💬 Длинная дискуссия
Технологические компании вкладывают в ИИ-инфраструктуру около $400 млрд в год — это больше, чем стоимость программы «Аполлон» в пересчёте на десятилетие, но тратится такая сумма каждые 10 месяцев. При этом потребительские расходы на ИИ-услуги составляют лишь $12 млрд в год, создавая гигантский разрыв между инвестициями и отдачей.
Признаки пузыря налицо: стартапы вроде Thinking Machines привлекают миллиарды без готового продукта и даже без внятного плана, а рынок акций движется не фундаментальными показателями, а чистой спекулятивной динамикой. Крупные игроки используют бухгалтерские уловки, чтобы скрыть реальные расходы и искусственно завысить прибыль, что напоминает финансовые схемы времён ипотечного кризиса 2008 года.
Комментарии (181)
- Участники обсуждают, является ли текущий бум ИИ экономическим пузырем, проводя параллели с историческими примерами спекулятивных маний (каналы, железные дороги, доткомы).
- Высказываются сомнения в текущей бизнес-ценности и монетизации ИИ для массового пользователя, отмечая, что многие используют бесплатные версии, а реальная прибыльность инвестиций неочевидна.
- Подчёркивается, что компании продолжают инвестировать из-за страха отстать и веры в долгосрочный потенциал технологии, включая возможность достижения AGI (искусственного общего интеллекта).
- Отмечается, что ИИ уже оказывает значительное влияние на отдельные области (поиск, программирование, автоматизация труда), и его внедрение растёт, но масштабы затрат могут не окупиться.
- Обсуждаются риски, связанные с концентрацией производства чипов на Тайване и геополитической напряжённостью, что может угрожать всей отрасли.
Evaluating the impact of AI on the labor market: Current state of affairs
Исследование Йельского университета показало, что искусственный интеллект пока не оказал заметного влияния на занятость. Несмотря на широкое внедрение технологий ИИ, массовых сокращений рабочих мест не произошло. Это объясняется тем, что компании чаще используют ИИ для дополнения человеческих навыков, а не для их замены.
Эксперты отмечают, что текущие системы ИИ ещё недостаточно развиты, чтобы полностью автоматизировать сложные задачи, требующие креативности и социального интеллекта. Вместо этого они помогают сотрудникам повысить продуктивность, беря на себя рутинные операции. Ожидается, что реальное воздействие на рынок труда проявится лишь в долгосрочной перспективе, по мере совершенствования технологий.
Комментарии (124)
- AI в основном используется как инструмент для повышения продуктивности разработчиков, а не для прямого замещения рабочих мест.
- Многие участники считают, что текущие увольнения в IT-сфере связаны с общей экономической ситуацией и оптимизацией затрат, а не с внедрением ИИ.
- Существуют опасения, что в будущем ИИ может начать замещать рабочие места, особенно в сферах с рутинными задачами.
- Ряд комментаторов отмечают, что компании используют "ИИ" как удобный предлог для увольнений и аутсорсинга.
- Исторический опыт показывает, что технологические революции в конечном итоге увеличивают производительность и создают новые jobs, несмотря на первоначальные опасения.
Our efforts, in part, define us 🔥 Горячее 💬 Длинная дискуссия
Технологии, делая сложные задачи простыми, подрывают наше ощущение ценности собственных усилий. Когда ручной труд — например, фотография на плёнку или написание кода — становится автоматизированным, исчезает внутреннее удовлетворение от мастерства. Это ставит под вопрос идентичность тех, кто годами оттачивал навыки: если усилия больше не определяют нас, что остаётся?
Особенно остро это чувствуется в работе, где оплата напрямую связана с приложенными усилиями. Хотя ИИ может повысить эффективность, он лишает радости творческого процесса и глубокого понимания задачи. Люди рискуют превратиться в операторов систем, теряя связь с ремеслом. Возможно, выход — в переосмыслении роли труда и поиске новых источников смысла за пределами профессиональной деятельности.
Комментарии (179)
- Участники обсуждают, как ИИ меняет ценность усилий в программировании и других сферах, вызывая кризис идентичности у тех, кто определял себя через сложную работу.
- Высказывается мнение, что ИИ не устраняет необходимость усилий, а смещает фокус с написания кода на проектирование, коммуникацию и постановку задач.
- Поднимается вопрос о поиске смысла и цели в условиях, когда традиционные навыки обесцениваются, и предлагается переосмыслить свою роль как решателя проблем, а не просто исполнителя.
- Отмечается, что ИИ требует значительных усилий для эффективного использования и не может заменить глубокое понимание предметной области.
- Обсуждается культурная и личностная ценность усилий, а также риск подмены собственных целей чужими маркетинговыми установками в погоне за эффективностью.
How the AI bubble ate Y Combinator
Y Combinator, ведущий акселератор стартапов, оказался поглощён пузырем ИИ: из 170 компаний летнего набора 2025 года 154 занимаются искусственным интеллектом. Программа стала короче, стартапы вынуждены развиваться быстрее, а почти каждый участник строит бизнес вокруг ИИ — от агентов и голосовых помощников до инструментов для видео и браузеров. Это беспрецедентная концентрация на одной технологии за 20 лет существования YC.
Такая однородность создаёт риски: перегретый рынок, жёсткая конкуренция и возможный крах, если тренд иссякнет. Основатель Interfere Люк Шилс отмечает, что все таланты Кремниевой долины теперь устремлены в ИИ, что усиливает давление на инновации и устойчивость бизнес-моделей.
Комментарии (127)
- YC активно инвестирует в AI-стартапы, что приводит к конкуренции между собственными портфолио-компаниями и созданию множества схожих продуктов.
- Наблюдается перекос в сторону AI-тематики: большинство новых стартапов в батче YC и обсуждений на HN связаны с искусственным интеллектом, что вызывает усталость и критику.
- Многие AI-стартапы представляют собой простые обёртки над API крупных моделей (например, ChatGPT) и не несут реальной инновационной ценности.
- Инвесторы и венчурные фонды сконцентрированы исключительно на AI-направлении, создавая ажиотаж и потенциальный пузырь.
- Широкое внедрение AI вызывает опасения: делегирование важных решений ИИ, использование bossware и снижение критического мышления у пользователей.
California governor signs AI transparency bill into law 🔥 Горячее 💬 Длинная дискуссия
Калифорния приняла первый в США закон о безопасности передовых ИИ-систем — Transparency in Frontier Artificial Intelligence Act (SB 53). Закон устанавливает «разумные ограничения» на разработку frontier-моделей, чтобы повысить безопасность и доверие к технологиям, не подавляя инновации. Это продолжение инициатив штата после публикации отчёта рабочей группы экспертов, созванной по инициативе губернатора Ньюсома.
Закон основан на научно обоснованных рекомендациях, включая баланс между прозрачностью и защитой от рисков, например утечек данных. Сенатор Скотт Винер подчеркивает, что Калифорния как мировой лидер в технологиях берёт на себя ответственность за безопасное внедрение ИИ. Штат укрепляет позиции четвёртой экономики мира, одновременно стимулируя инновации и защищая общественные интересы.
Комментарии (173)
- Обсуждение касается нового закона Калифорнии об ИИ, который требует от крупных разработчиков публиковать планы безопасности и отчитываться об инцидентах.
- Участники критикуют закон за размытые определения (например, что считается «моделью ИИ») и неадекватные штрафы за нарушения.
- Высказываются опасения, что закон может привести к цензуре, бюрократии и оттоку ИИ-компаний из Калифорнии.
- Некоторые видят в законе позитивный шаг к большей прозрачности и защите от потенциальных рисков ИИ.
- Закон рассматривается как возможность для коррупции и обогащения государственных подрядчиков через создание «индустрии безопасности ИИ».
Why today's humanoids won't learn dexterity 💬 Длинная дискуссия
Современные гуманоидные роботы не смогут достичь настоящей ловкости, несмотря на миллиардные инвестиции. Проблема в том, что за 65 лет исследований манипуляция объектами так и не была полноценно решена — с 1961 года, когда появилась первая компьютерная рука, прогресс остаётся ограниченным. Промышленные роботы используют простые захваты, но сложные задачи вроде обращения с хрупкими предметами требуют иного подхода.
Нынешние разработки повторяют старые ошибки, фокусируясь на внешнем сходстве с человеком, а не на функциональности. Без принципиально новых решений в механике и управлении эти системы останутся неуклюжими. Через 15 лет практичные гуманоиды будут выглядеть иначе — не как люди или сегодняшние прототипы, а как специализированные устройства, оптимизированные под конкретные задачи.
Комментарии (184)
- Обсуждается отсутствие у современных роботов тактильной чувствительности, сравнимой с человеческой, и сложности оцифровки тактильных ощущений.
- Высказываются сомнения в необходимости человекообразной формы для роботов, предлагаются альтернативы (колеса) и адаптация среды под роботов.
- Поднимается вопрос о недостатке данных для обучения моделей и предлагаются пути их сбора (телеуправление, перчатки с сенсорами).
- Отмечается быстрый прогресс в робототехнике и отсутствие видимых фундаментальных барьеров для создания ловких роботов.
- Упоминаются существующие разработки в области сенсоров осязания и их потенциальная доступность.
Suno Studio, a Generative AI DAW 💬 Длинная дискуссия
Suno Studio — это веб-платформа для создания музыки с помощью искусственного интеллекта, позволяющая пользователям генерировать треки по текстовым описаниям. Она предлагает интуитивный интерфейс, где можно указать жанр, настроение, инструменты и даже добавить вокал, получая готовые композиции за секунды.
Сервис демократизирует музыкальное производство, делая его доступным даже для новичков без специальных навыков. Пользователи отмечают высокое качество звука и креативные возможности, хотя иногда AI может выдавать неожиданные результаты. Это инструмент для быстрого прототипирования, вдохновения или просто развлечения, расширяющий границы творчества.
Комментарии (217)
- Музыканты и энтузиасты разделились во мнениях: одни видят в Suno мощный инструмент для творчества и исследования звука, другие считают его лишённым души и чувства достижения.
- Ключевые обсуждаемые особенности Suno: переход к браузерной DAW, генерация качественного контента, включая MIDI и stems, а также вопросы авторских прав и коммерческого использования.
- Поднимаются вопросы этики использования ИИ: заимствование чужих работ для обучения моделей и потенциальная девальвация человеческого труда в музыке и искусстве.
- Отмечается стремительный прогресс качества генерации (Suno v5), что делает музыку неотличимой от профессиональной для большинства слушателей, но эксперты могут определить искусственное происхождение.
- Высказываются опасения о насыщении рынка однообразным контентом и влиянии ИИ-инструментов на будущее профессии музыканта и процесс обучения.
Context is the bottleneck for coding agents now
Современные модели ИИ демонстрируют сверхчеловеческие способности в решении абстрактных задач, как показал недавний успех GPT-5 на ICPC, но автономные кодирующие агенты всё ещё не могут заменить разработчиков. Основное ограничение — не интеллект, а контекст: агентам не хватает глубокого понимания кодовой базы, её архитектурных паттернов и скрытых знаний, которые есть у людей.
Контекст включает не только код, но и документацию, историю решений, неформальные соглашения и причины прошлых изменений. Без доступа к Slack-тредам, постмортемам инцидентов и организационным практикам агенты работают лишь на 20% от возможного уровня, справляясь в основном с мелкими задачами. Чтобы двигаться дальше, нужны системы, способные усваивать и применять этот скрытый контекст так же, как это делают люди.
Комментарии (149)
- Основным ограничением для кодирующих агентов на основе ИИ является не размер контекстного окна, а неспособность эффективно фокусироваться на актуальных задачах и отбрасывать нерелевантную информацию.
- Многие участники отмечают, что ИИ-агенты демонстрируют уровень понимания, сравнимый с начинающим разработчиком, и не способны заменить senior-специалистов, которые могут интерпретировать бизнес-требования и принимать ответственные решения.
- Существует скептицизм относительно бесконечного увеличения "интеллекта" моделей, так как даже с большим контекстом они допускают ошибки и галлюцинации, а фундаментальные ограничения вероятностной генерации остаются.
- Предлагаются решения для улучшения работы агентов: лучше структурированные кодобазы, иерархическая документация, инструменты для управления контекстом и памятью, а также человеческий контроль для курирования процесса.
- Подчёркивается, что ключевая проблема — не технический контекст, а понимание intent (намерения) стоящего за кодом, что требует более глубокого осмысления, чем простое прогнозирование токенов.
Qwen3-VL 🔥 Горячее
Qwen — это серия больших языковых моделей, разработанных Alibaba Group. Модели Qwen, включая версии для генерации текста, кода и мультимодальных задач, позиционируются как открытые и конкурентоспособные альтернативы другим известным ИИ, таким как GPT от OpenAI. Они поддерживают длинный контекст, мультиязычность и специализированные применения, например, для программирования или анализа данных.
Qwen2, следующее поколение, демонстрирует улучшенную производительность, эффективность и расширенные возможности, включая работу с аудио и изображениями. Модели доступны в различных размерах, от компактных версий для устройств с ограниченными ресурсами до мощных вариантов для сложных задач, что делает их гибким инструментом для разработчиков и исследователей.
Комментарии (131)
- Пользователи высоко оценили производительность модели Qwen3-VL при обработке сложных изображений (например, низкокачественных счетов), отмечая её превосходство над другими решениями.
- Обсуждаются технические и экономические аспекты запуска больших моделей (235B параметров) локально, включая требования к оборудованию и стоимость вычислений.
- Модель позиционируется как конкурентоспособная с закрытыми SOTA-решениями (GPT-4, Omni) при значительном снижении стоимости использования.
- Критикуются отдельные недостатки, характерные и для других мультимодальных моделей: ошибки в анализе edge-кейсов (например, подсчет конечностей у животных).
- Отмечается активность и щедрость команды Qwen в публикации моделей с открытыми весами и их вклад в развитие open-source сообщества.
Is life a form of computation?
Жизнь можно рассматривать как форму вычислений, и эта идея восходит к работам Алана Тьюринга и Джона фон Неймана. Они показали, что самовоспроизведение, как и вычисления, может выполняться машинами, следуя закодированным инструкциям — подобно тому, как ДНК управляет биологическими процессами. Это не метафора: ДНК буквально является программой, где определённые последовательности кодируют действия, например, добавление аминокислоты к белку.
Однако биологические вычисления отличаются от традиционных цифровых: они массово параллельны, децентрализованы и стохастичны. Клетки содержат триста квинтиллионов рибосом, каждая из которых действует как крошечный компьютер, работающий в условиях теплового шума и случайности. В отличие от надёжных логических вентилей в компьютерах, биологические процессы обратимы и неточны, но используют случайность как преимущество для адаптации. Современные технологии, такие как ИИ, тоже всё чаще полагаются на параллелизм и случайность, что сближает их с биологическими системами.
Комментарии (131)
- Критика отсутствия чёткого определения понятия «вычисление» и спекулятивного характера аналогий между биологией и информатикой.
- Обсуждение возможности моделирования жизни как вычисления, но не отождествления этих процессов, с оговоркой о необходимости строгих определений.
- Упоминание альтернативных концепций, таких как прогностическая обработка, иерархия Хомского и принцип вычислительной эквивалентности Вольфрама.
- Скептицизм по поводу детерминизма жизни и редукционистского подхода, игнорирующего её сложность, стохастичность и emergent-свойства.
- Замечание о том, что подобные аналогии являются продуктом человеческого абстрактного мышления и не существуют в природе в явном виде.
Android users can now use conversational editing in Google Photos
Google Photos внедряет редактирование через диалог для Android-пользователей. Теперь можно описывать желаемые изменения текстом, например «сделать ярче» или «убрать тени», вместо ручного выбора инструментов. Это ускоряет процесс и делает его интуитивным, особенно для новичков.
Функция использует ИИ для анализа запросов и автоматического применения соответствующих настроек — от цветокоррекции до ретуши. Пока она доступна только на английском языке, но ожидается расширение поддержки. Такой подход снижает барьер для качественного редактирования, экономя время и упрощая взаимодействие с фотоархивом.
Комментарии (105)
- Пользователи критикуют Google Photos за навязчивую интеграцию ИИ-функций, которая ухудшает общий пользовательский опыт и кажется «прикрученной» поверх основной функциональности.
- Многие отмечают удаление полезных обычных и локальных функций редактирования в угоду новым ИИ-возможностям, которые часто не решают реальных проблем.
- Обсуждается, что генерация ИИ-вариаций увеличивает занимаемое хранилище, что может быть скрытым стимулом для покупки дополнительного места.
- Предлагаются альтернативы для хранения фото, такие как самохосты Immich и Ente, как способ уйти от политики Google.
- Часть пользователей видит ценность в отдельных ИИ-функциях (например, удаление объектов), но осуждает их навязчивое внедрение и неинтегрированность в продукт.
AI-generated “workslop” is destroying productivity?
Массовое внедрение генеративного ИИ привело к парадоксу: компании активно внедряют ИИ-процессы, но 95% организаций не видят измеримой отдачи от инвестиций. Количество полностью автоматизированных процессов удвоилось за год, использование ИИ на работе также выросло вдвое с 2023 года, однако реальная продуктивность не увеличивается.
Вместо эффективности ИИ генерирует «ворк-слэп» — бессмысленные задачи, такие как автоматизированные отчеты, переписывание текстов и бесконечные правки. Это создает иллюзию занятости, но отвлекает от ценной работы, усиливая выгорание и снижая креативность. Ключевая проблема — слепое доверие к ИИ без критической оценки его output, что превращает технологии в инструмент бюрократии, а не прогресса.
Комментарии (101)
- Руководство предписывает обязательное использование ИИ в работе и требует отчётов о повышении продуктивности, не учитывая возможное негативное влияние.
- Участники критикуют слепую веру руководства в возможности ИИ, сравнивая это с маркетинговой шумихой и отмечая отсутствие у менеджеров технических знаний.
- Генерируемый ИИ контент (тексты, код) часто описывается как низкокачественный, многословный и неточный, что увеличивает нагрузку на сотрудников, вынужденных его проверять и исправлять.
- Обсуждается парадокс: внедрение ИИ, призванное повысить эффективность, может привести к её снижению из-за роста бюрократии и производства бесполезного контента.
- Некоторые предлагают саботировать требование отчётов, используя для их генерации тот же ИИ или просто выдумывая результаты.
Pairing with Claude Code to rebuild my startup's website
Нетехнический основатель перестроил сайт стартапа с помощью ИИ-агента Claude Code за недели вместо месяцев изучения кода. Использовал стек: VS Code, CLI Claude, GitHub CLI и сервер Figma MCP для точного переноса дизайна из Figma в код на Remix. Качество ответов Claude варьировалось — иногда он менял не те части кода, что отнимало часы.
Рабочий процесс включал локальную разработку, пуши в ветку и создание пул-реквестов через Claude. Ключевой трюк: просить Claude выступать в роли CTO для ревью PR, что помогало находить упущенные оптимизации. Это позволило избежать шаблонных решений no-code платформ и точно реализовать кастомный дизайн.
Комментарии (111)
- Рекомендуется активно управлять контекстом при работе с ИИ-ассистентами, очищая его между задачами для повышения фокуса и снижения смещения.
- Использование ИИ для генерации кода требует осторожности и постоянного контроля человека из-за риска ошибок, изменения не тех файлов и создания запутанного кода.
- Эффективные стратегии работы включают поэтапное планирование задач, сохранение промежуточных результатов и использование нескольких инструментов (Claude Code, Cursor, Figma MCP).
- Мнения разделились: одни видят в ИИ значительный прирост продуктивности, другие считают его использование избыточным или ведущим к потере времени.
- Ключевые проблемы: сложность поддержки сгенерированного кода, нарушение принципов проектирования и необходимость чётких промптов для качественного результата.
Vibe coding cleanup as a service
Стремительный рост использования ИИ-генерации кода привёл к появлению новой рыночной ниши — услуг по исправлению ошибок, допущенных алгоритмами. Хотя 92% разработчиков уже применяют инструменты вроде Copilot, анализ 150 млн строк кода показал, что ИИ-сгенерированный код на 41% чаще подвергается правкам или откатам в течение двух недель. Исследователи из Стэнфорда обнаружили, что такой код содержит больше уязвимостей, при этом разработчики ошибочно считают его более безопасным.
Спрос на «чистку» ИИ-наследия растёт: инженеры вроде Хамида Сиддики управляют десятками проектов одновременно, беря $200–400 в час за исправление «спагетти-кода». Специализированные платформы вроде VibeCodeFixers.com уже объединяют сотни исполнителей и заказчиков. По данным ThoughtWorks, 60% проектов с ИИ требуют серьёзного рефакторинга перед выходом в продакшен. Это создаёт новые карьерные траектории: младшие разработчики, освоившие исправление ИИ-кода, могут быстро достигать уровня зарплат сеньоров.
Комментарии (123)
- Рост числа проектов с низкокачественным кодом, сгенерированным ИИ (vibe coding), требующих дорогостоящей последующей доработки и "очистки".
- Сравнение ситуации с аутсорсингом: проблемы те же (плохие спецификации, низкое качество), но ИИ ускоряет генерацию кода и ошибок.
- Споры об общей эффективности: экономия времени на MVP vs. скрытые затраты на поддержку и риски безопасности.
- Сдвиг навыков: востребованы не генераторы, а "инженеры-уборщики", способные чинить и рефакторить AI-сlop.
- Прогнозы: AI-код станет новым легаси, а успех зависит от качества спецификаций и дисциплины, а не скорости генерации.
Spectral Labs releases SGS-1: the first generative model for structured CAD 🔥 Горячее
Spectral Labs представила SGS-1 — первую генеративную модель для создания структурированных CAD-моделей. Она преобразует изображения или 3D-меши в параметрические B-Rep детали в формате STEP, которые полностью готовы к производству и легко редактируются в стандартном ПО типа Fusion360. В отличие от существующих методов, включая GPT-5 и HoLa, SGS-1 демонстрирует точное пространственное понимание, создавая сложные и разнообразные формы.
На тестах из 75 изображений средней и высокой сложности SGS-1 показала наивысший успех: хотя конкуренты справлялись лишь с простейшими объектами, она стабильно генерировала водонепроницаемые твёрдые тела, пригодные для сборки. Например, при проектировании кронштейна для роликовой системы модель корректно интегрировала деталь в контекст сборки, тогда как выводы GPT-5 оказались нефункциональными из-за ошибок в геометрии. Это открывает возможности для автоматизации инженерных задач, сокращая время на ручное моделирование.
Комментарии (55)
- Участники подвергают сомнению заявленные возможности модели SGS-1, особенно её способность генерировать параметрическую геометрию в STEP-файлах, которая в этом формате не поддерживается.
- Обсуждается потенциальная полезность технологии для конкретных задач, таких как преобразование 3D-сканов в чистые CAD-модели и ускорение процесса прототипирования.
- Высказываются опасения, что ИИ может устранить творческую и наиболее сложную часть инженерного проектирования, связанную с расчетами нагрузок и технологичностью изготовления.
- Основатель компании-разработчика признает текущие ограничения модели, объясняет терминологические расхождения и обещает улучшения в будущих версиях.
- Мнения о потенциале технологии разделились: от скептицизма и обвинений в обмане инвесторов до оптимизма о революции в 3D-печати и реставрации.
Chrome's New AI Features
Google Chrome обновляется с помощью новейших технологий искусственного интеллекта, чтобы сделать его безопаснее, умнее и полезнее. Эти функции включают умную организацию вкладок, настройку тем и помощь в написании текстов. Они доступны на Mac и ПК в США, начиная с этой недели.
Умная организация вкладок автоматически группирует похожие вкладки, упрощая навигацию. Генератор тем позволяет создавать персонализированные темы на основе ваших предпочтений. Помощник в написании помогает формулировать мысли в текстовых полях, от отзывов до запросов.
Эти инструменты используют локальные модели машинного обучения Google для обеспечения конфиденциальности. Chrome продолжит внедрять ИИ, чтобы улучшить работу в интернете.
Комментарии (104)
- Пользователи выражают обеспокоенность по поводу конфиденциальности и безопасности из-за интеграции ИИ в браузер, которая подразумевает сбор и анализ всего содержимого вкладок.
- Многие сравнивают новые функции Chrome с функцией Recall от Microsoft, видя в них схожие угрозы приватности и потенциальные инструменты слежки.
- Высказывается сильное желание иметь возможность полностью отключить все ИИ-функции, сделать их строго опциональными (opt-in), а не включенными по умолчанию.
- Некоторые пользователи видят потенциальную пользу новых функций (например, поиск по истории на естественном языке, помощь в задачах), но лишь при условии локальной обработки данных.
- Обсуждается, что объявление Google игнорирует ключевые вопросы безопасности (например, prompt injection) и конфиденциальности, в отличие от похожих анонсов других компаний.
- Есть мнение, что это шаг по использованию доминирующего положения Chrome на рынке для продвижения собственной экосистемы ИИ и сбора большего количества данных.
- Некоторые пользователи рассматривают переход на альтернативные браузеры (Firefox, Chromium, Ladybird) как способ избежать нежелательных ИИ-функций.
Will AI be the basis of many future industrial fortunes, or a net loser? 💬 Длинная дискуссия
AI не сделает тебя богатым
- Хайп вокруг ИИ ≠ лёгкие деньги.
- Рынок быстро уравнивает преимущества; выигрывают те, кто строит уникальные системы, а не пользуется шаблонами.
- Фокус: глубокая экспертиза, сильные команды, долгосрочное мышление.
Комментарии (295)
- Участники спорят: сделает ли ИИ кого-то богатым или просто снизит барьеры входа.
- Многие считают, что выиграют не стартапы, а пользователи и крупные платформы (OpenAI, Google).
- LLM уже экономят деньги отдельным людям и малым командам, заменяя дизайнеров, копирайтеров, программистов.
- Для серьёзного бизнеса ИИ пока лишь оптимизирует затраты, не создавая новых гигантских рынков.
- AGI и полностью «голливудские» приложения пока фантастика; текущий бум может закончиться пузырём.
AI coding 🔥 Горячее 💬 Длинная дискуссия
AI-кодинг: компилятор, а не магия
LLM — это компилятор: английский вместо C, выхлоп — код.
Работает лишь для тривиальных задач; чуть сложнее — приходится писать спецификации длиннее самого кода.
Английский не имеет спецификации, выхлоп недетерминирован, изменение в одном месте ломает всё.
Казаться быстрее на 20 %, реально медленнее на 19 % (arxiv.org/abs/2507.09089).
«ИИ заменит программистов» так же, как компиляторы заменили ассемблер и Excel — бухгалтеров: инструмент, а не чудо.
Миллиардные инвестиции в «vibe coding» — повторение провала self-driving.
Вместо хайпа стоит делать лучшие языки, компиляторы и библиотеки.
Комментарии (209)
- Опытные разработчики спорят: кто-то экономит часы на рутине, кто-то теряет скорость из-за «зайцев» и недопонимания кода.
- AI-инструменты (автодополнение, Claude Code, Cursor) дают +20–50 % к старту, но требуют навыка «prompt-инженерии» и постоянного контроля.
- «Вайб-кодинг» без понимания архитектуры быстро даёт MVP, но приводит к техдолгу и невозможности поддержки.
- Независимые исследования пока не подтверждают значительного ускорения для сеньоров в сложных кодовых базах; выгода заметнее в шаблонных CRUD-задачах.
- Рынок и инвесторы толкают AI-хайп из-за страха пропустить «новое интернет», а не из-диоказанной эффективности.
We can’t circumvent the work needed to train our minds 🔥 Горячее
Ложь «ничего не надо запоминать»
Инструменты обещают: «Поищем за вас». Цена — ваша способность думать.
Без фундаментальных знаний мозг не отфильтрует результат: не поймёт, что важно, где ошибка, как связать. Поверхностное «нашёл-скопировал» разрушает карту предмета в голове; эмоциональное участие стремится к нулю, а без эмоции мысль не заводится. Пример: ChatGPT выдал «идеальный» план тренировок. Красиво, но проверить его может только тот, кто уже сам разбирается. Запоминать и строить знания внутри себя — единственный способ использовать интернет, ИИ и заметки по-настоящему.
Комментарии (139)
- Тезис автора: «Чтобы делать знательную работу, нужно помнить ВСЁ» — воспринимается как гипербола; большинство считают достаточным базовый каркас знаний и опыт.
- AI = две стратегии: (1) спрашивать у модели и не думать; (2) автоматизировать рутину (тесты, инфра), сохраняя мыслительную нагрузку для сложного.
- Память vs поиск: ключ не в полном запоминании, а в наличии «точек входа» и абстрактных схем, позволяющих быстро ориентироваться и проверять ответы.
- Опасения: злоупотребление AI снижает глубину мышления, критическое мышление и способность отличать правду от галлюцинаций модели.
- Контрдовод: человечество всегда внешне хранило знания (письмо, книги, интернет); главное — уметь использовать инструменты, не превращаясь в «машину-копир».
Mistral raises 1.7B€, partners with ASML 🔥 Горячее 💬 Длинная дискуссия
ASML и Mistral AI заключили стратегическое партнёрство
ASML, мировой лидер в области литографического оборудования, и Mistral AI, европейская компания по разработке ИИ, объединят усилия для ускорения инноваций в производстве полупроводников. Сотрудничество сфокусировано на применении ИИ к оптимизации сложных процессов микролитографии и повышению точности систем ASML.
Комментарии (406)
- ASML вложил 1,3 млрд € в раунд Mistral на 1,7 млрд €; для компании с выручкой 28 млрд € это крупная, но не критичная ставка.
- Большинство участников не видит технологического синерджиза: ASML делает фотолитографию, Mistral — LLM, и заказчики ASML уже покупают всё, что можно произвести.
- Инвестицию чаще объясняют политикой: ЕС хочет «своего» игрока в ИИ, а ASML — европейского союзника и лояльность Франции.
- Сомнения в Mistral: отстают по моделям, нет уникального преимущества, бывшие сотрудники говорят о слабом внедрении ИИ внутри самой ASML.
- Оптимисты надеются, что деньги и господдержка помогут Mistral повторить прорыв вроде DeepSeek, но рынок считает раунд «европейским GoFundMe» на фоне десятков миллиардов у US/China-игроков.
AI might yet follow the path of previous technological revolutions 💬 Длинная дискуссия
А если ИИ — обычная технология?
- Гипербола вокруг ИИ напоминает предыдущие технопаники: от электричества до интернета.
- Прошлые прорывы тоже вызывали страхи массовой безработицы, но в итоге создавали новые рынки.
- Статистика: 60 % рабочих мест США связаны с профессиями, которых не существовало в 1940 г.
- ИИ пока лишь автоматизирует задачи, а не целиком профессии; человек + алгоритм эффективнее чистого ИИ.
- Риски есть: монополизация, дезинформация, биооружие, но они регулируемы, как и у других технологий.
- Вывод: ИИ может стать «просто» очередным инструментом, усиливающим экономику, а не разрушающим её.
Комментарии (216)
- Участники спорят, «нормальная» ли это технология или исключительная: кто-то сравнивает ИИ с калькулятором для слов и Excel, кто-то ждёт сингулярности.
- Соглашаются, что LLM — мощный инструмент повышения производительности, но не разумный агент и не волшебство.
- Основной ценностью видят 10-30 % экономии времени на черновой текст/код, а не «взрывной» рост или исчезновение профессий.
- Указывают на препятствия: высокие расходы энергии, налоги регуляторов, нехватка «ручных» API для агентов, размытая ценовая модель.
- Прогнозы умеренные: ИИ изменит многое, но не всё и не мгновенно; реальные последствия проявятся, когда нынешние школьники выйдут на рынок труда.
A high schooler writes about AI tools in the classroom 💬 Длинная дискуссия
Я учусь в старшей школе, и ИИ разрушает моё образование.
В классах теперь всё сводится к копированию: одноклассник за секунды получает готовую разметку главы «Жизни Фредерика Дугласа» через ChatGPT и сдаёт её как своё участие в обсуждении. В алгебре фотографируют задание, загружают в ИИ и получают графики и решения.
Домашку сдаём до 23:59 онлайн. Раньше мы вместе нервно доделывали работу в 23:57, теперь чат-боты делают за минуты. Дедлайн потерял смысл, пропал азарт и дисциплина. ИИ убрал последствия прокрастинации и разорвал связь между учениками: почти никто не чувствует срочности или нужды тренировать мышление.
Комментарии (292)
- Большинство участников считают, что нужно вернуться к ручным экзаменам и письменным работам в классе, запретив телефоны и доступ к интернету.
- Домашние задания можно оставить, но с обязательным устным оправданием и «следом» черновиков, чтобы исключить слепое копирование из ИИ.
- Некоторые предлагают не бороться с ИИ, а поднять планку качества и использовать ИИ как личного тьютора или инструмент преподавателя.
- Участники сравнивают ситуацию с появлением калькуляторов: технологию нельзя отменить, но можно изменить цели и методы обучения.
For all that's holy, can you just leverage the Web, please?
Почему не дать мне просто зарегистрировать стиралку через веб?
В 2005-м мы с женой жили в общаге в Барселоне: старенькая стиралка, дверь держится стулом. Потом купили Electrolux — 20 лет прослужила, переезжала с нами в Гамбург и обратно. На прошлой неделе мотор сдох, заказал новую (опять Electrolux, но без Wi-Fi).
К брошюре прилагалась 10-летняя гарантия по регистрации: телефон и QR-код с номером в виде текста. Позвонил — 20 минут ожидания, потом сбросили. Предложили ссылку в SMS: https://www. example.com/gc/ — сертификат браузер не принял, руками починил — сайт не грузится.
Нашёл через Google electrolux warranty register — первая ссылка вела на /mypages/register-a-product/. Создал аккаунт, ввёл номер модели вручную или просто загрузил фото таблички — ИИ сам всё распознал и зарегистрировал за два клика. Почему не сразу дали эту ссылку?
Бонус
Прикрутил демо на Prompt API: браузер распознаёт 9-значный номер с фото таблички и возвращает только цифры регуляркой /\d{9}/.
Комментарии (100)
- Компании сознательно усложняют регистрацию гарантии, чтобы снизить расходы и продавать доп-гарантии по телефону.
- Пользователи предлагают простые решения: QR-код с прямой ссылкой, наклейка с данными, «тупой» сканер вместо ИИ.
- Автор статьи, гуглер, вместо критики сам решает задачу через AI/ML, что выглядит иронично.
- Многие покупатели стараются найти «немодели» без «умных» функций и рекламы, но выбор сужается.
- Участники сходятся: проблема не в технологиях, а в бизнес-модели «planned obsolescence» и избегании реальной поддержки.
Patrick Winston: How to Speak (2018) [video] 🔥 Горячее
-
О YouTube
О нас | Пресс-центр | Авторское право | Контакты | Авторам | Реклама | Разработчикам -
Правовая информация
Условия | Конфиденциальность | Политика и безопасность | Как работает YouTube | Тест новых функций -
Дополнительно
NFL Sunday Ticket
© 2025 Google LLC
Комментарии (72)
- Патрик Уинстон — легендарный преподаватель MIT; его лекция «How to Speak» считается образцом ораторского мастерства.
- Главный совет: слайды почти без текста, выступающий — «шоу», а не слайды.
- Некоторые спорят: минимум текста плохо для самостоятельного чтения материала позже.
- Участники вспоминают его курс ИИ, книги и личные советы; многие пересматривают запись по нескольку раз.
- Есть критика: кому-то лекция показалась не особенно увлекательной, а формат живого выступления — устаревшим по сравнению с записью.
AI models need a virtual machine
AI-модели нуждаются в виртуальной машине
Современные приложения с ИИ включают модель в «обвязку», которая обеспечивает вызов инструментов, поиск контекста, безопасность и прочие сервисы. Первые чат-боты были простым REPL-циклом: запрос → модель → ответ. С появлением протоколов вроде MCP логика управления стала сложнее и требует свойств ОС: изоляции, расширяемости, переносимости, контроля доступа к файлам и инструментам.
Мы предлагаем рассматривать этот слой как виртуальную машину для ИИ-моделей (MVM), где одна из «инструкций» — вызов LLM. Это развязывает разработку моделей от кода интеграции и даёт «write once, run anywhere» аналогично JVM.
Зачем MVM
- Безопасность и приватность «из коробки», а не как дополнение.
- Повторное использование: любая модель подключается к экосистеме инструментов и политик безопасности.
- Переносимость: модель и политики можно поставлять и запускать в разных средах.
Пример работы
- Пользователь: «Забронируй рейс».
- MVM передаёт запрос модели.
- Модель: «вызови booking-tool».
- MVM проверяет, разрешён ли этот инструмент, и только потом вызывает его.
Такой контроль есть в любом коммерческом ИИ-продукте; MVM выносит его в стандартизированную платформу.
Инструкции MVM
- загрузка/выгрузка модели и инструментов;
- вызов модели с контекстом;
- парсинг её ответа;
- вызов разрешённых инструментов;
- работа с памятью, историей, вводом пользователя;
- стандартные управляющие конструкции (if, seq, loop).
Комментарии (108)
- Критики считают, что статья расплывчата: «VM для ИИ» сводится к обычной песочнице/контейнеру, а не к полноценной машине.
- Основная проблема — не инструменты, а разрешения: нужно точно ограничить, какие действия и данные доступны агенту, иначе он может, например, купить билет с 37-часовой пересадкой ради 3 $.
- Многие предлагают использовать уже существующие механизмы: Docker, отдельный пользователь, контейнеры, WebAssembly или capability-модель вроде Fuchsia.
- Часть комментаторов указывает, что продвинутые модели (ChatGPT Code Interpreter, OpenHands) уже работают в изолированных средах, но этого всё равно недостаточно.
- Итог: вместо новой «ОС для ИИ» нужно чёткое управление правами и данными; VM лишь метафора для этой задачи.
Some thoughts on LLMs and software development 🔥 Горячее 💬 Длинная дискуссия
Краткие мысли о LLM и разработке ПО
Мартин Фаулер, 28 авг 2025
Собираясь в отпуск, хочу поделиться набросками о текущем состоянии LLM.
-
Опросы о влиянии ИИ на разработку
Большинство используют LLM как «умный автокомплит» (Co-pilot), но те, кто получает реальную пользу, заставляют модель напрямую читать и редактировать файлы. Игнорируя различия в подходах, исследования дают искажённые данные. -
Будущее программирования
Никто не знает, что будет дальше: исчезнут ли джуны, вытеснят ли сеньоров. Единственный совет — экспериментируйте сами и делитесь деталями рабочих процессов. -
Пузырь ИИ
Это пузырь, как и при любой технологической революции. Он лопнет, но неизвестно когда и какие компании выживут (после dot-com упали Pets.com и Webvan, но не Amazon). -
Галлюцинации как фича
Rebecca Parsons утверждает: галлюцинации — не баг, а главная особенность LLM. Поэтому:- Задавайте один и тот же вопрос несколько раз с разной формулировкой.
- Сравнивайте ответы, включая числовые — минимум три раза.
- Не просите LLM считать то, что можно вычислить детерминированно; лучше попросите сгенерировать код для расчёта и всё равно проверьте его.
Жду встречи с коллегами на GOTO Copenhagen — не выступаю уже пару лет, но скучаю по общению.
Комментарии (347)
- Участники обсуждают тезис Фаулера: «hallucinations — это не баг, а фича LLM», споря, сводится ли это к игре слов или к глубокому инсайту.
- Большинство соглашается, что выводы LLM — это всегда «галлюцинации», просто часть из них случайно оказывается полезной.
- Практики делятся опытом: повторять один и тот же запрос несколько раз и сравнивать ответы быстрее, чем «лечить» первый неверный.
- Код, сгенерированный ИИ, часто «на 90 % готов», но оставшиеся 10 % требуют столько же времени, сколько экономится на черновике.
- Старшие инженеры пока нужны, чтобы «договариваться» с моделью и чинить ошибки, но опасения, что младших специалистов станет меньше, растут.
- Общий вывод: LLM — это мощный ускоритель и «пьяный сеньор-коллега», но не полноценная замена человеку; профессия меняется, а не исчезает.
I Am An AI Hater
Я — хейтер ИИ. Это грубо, но мне всё равно.
Принято начинать с оговорок: «конечно, не весь ИИ плох», «возможно, позже», «для других задач». Но я не буду.
Критика уже всё сказала: вред природе, расизм, суицидальные советы, кража контента, эксплуатация людей, фальшивка и слежка. Но я не критик — я хейтер. Мне не нужен веский аргумент: вы всё равно не читаете, а боту задаёте «кратко».
Эта технология сама груба — и достойна грубого ответа. Миядзаки назвал её «оскорблением жизни». Скам-Альтман мечтает обернуть Солнечную систему дата-центрами. Первый прав, второй врёт.
Их цель хуже провалов: создать джинна, чтобы никто больше не рисовал, не писал, не думал. Изобрести новый разум и поработить его. А заодно превратить пользователей в бессмысленные капсулы, питаемые алгоритмом.
Некоторые всё же хотят «чуть-чуть, ради прикола».
Я понимаю: вы ищете оправдание.
В углу стоит машина, обтянутая человеческой кожей, лепящая из крови и дерьма то, что вы хотите видеть.
Комментарии (103)
- Критики подчеркивают вред для окружающей среды, авторские права, расовые и когнитивные риски ИИ.
- Некоторые участники разделяют «ненависть» к ИИ, но признают, что технология останется.
- Другие считают эмоциональную реакцию непродуктивной и предлагают искать способы минимизации вреда.
- Участники отмечают, что «AI-бренд» стал маркетинговым штампом и вызывает отторжение.
- Молодёжь, по наблюдениям, более восторженно относится к ИИ, но это может измениться.
AGI is an engineering problem, not a model training problem 💬 Длинная дискуссия
AGI — задача инженерии, а не обучения моделей
Масштабирование LLM стало давать убывающий прирост. GPT-5, Claude, Gemini — вершина кривой, но не путь к AGI. Нужно строить системы, где модели, память, контекст и детерминированные процессы объединяются в нечто большее.
Почему рост остановился
Современные LLM — мощные генераторы текста, но:
- не сохраняют контекст между сессиями,
- не имеют постоянной памяти,
- стохастичны и ненадёжны в сложных цепочках рассуждений.
Как и полупроводники в 2000-х, AI пришёл к пределу. Выход — не «ещё больше параметров», а новая архитектура.
Что строить
-
Управление контекстом как инфраструктура
- Динамический поиск и фильтрация релевантных данных.
- Живые знания-графы, обновляемые в реальном времени.
- Обработка противоречий и неопределённости.
-
Память как сервис
- Обновление убеждений при новых фактах.
- Консолидация опыта в принципы, забывание мусора.
- Метазнания о надёжности источников.
-
Детерминированные процессы со стохастическими узлами
- Жёсткие workflow, где нужно, и вероятностные оптимизации, где можно.
- Откат и проверка результатов перед фиксацией.
- Неопределённость — объект первого класса.
-
Модульные специализированные модели
- Языковые — для текста, символьные — для логики, пространственные — для визуальных задач.
- Оркестрация через маршрутизацию запросов и слияние результатов.
Итог
AGI появится не из одной супер-модели, а из экосистемы взаимодействующих компонентов, спроектированных как надёжная инженерная система.
Комментарии (260)
- Стороны спорят, является ли путь к AGI «чистой» инженерной задачей или фундаментальной научной проблемой: многие считают, что мы пока не понимаем, что такое интеллект и сознание.
- LLM-критики подчеркивают, что современные модели — это всего лишь статистические машины без настоящего мышления, а их «выравнивание» не приближает к универсальному интеллекту.
- Сторонники масштабирования и «горького урока» утверждают, что дальнейшие данные и вычисления могут породить новые способности, но даже они сомневаются, что LLM-архитектура способна дойти до AGI.
- Ряд участников предлагает искать вдохновение в биологии, эволюции и эмоциях, считая, что без понимания «живого» интеллекта инженерные решения обречены.
- Общий вывод: AGI пока не определено, не измерено и, возможно, не достижимо в рамках существующих подходов; дискуссия остаётся открытой.
What is going on right now?
Что за ад творится?
Инженеры выгорают. Компании заставляют сеньоров ревьюить «вайб-код», который не работает. Лучшие разрабы рады помогать новичкам учиться, но вместо разбора фидбека джуны просто вставляют его в следующий промпт LLM.
На недавнем тан-холле команда джунов показала фичу, которую, похоже, не понимали сами. Сеньор-менеджер похвалил их за «4 000 строк кода, написанных Claude», и все аплодировали.
Мне попросили доработать фичу. Я связался с последним автором изменений, чтобы уточнить контекст. Ответ выглядел как прямое копирование из LLM — я почувствовал себя оскорблённым.
Друг жаловался: месяц ревьюит ПР, сгенерированный ИИ, командой из пяти человек. Экономия? ChatGPT за 20 $ в месяц, а потом армия инженеров пытается вмержить сгенерированный мусор.
Мы хотим помогать, учить, строить полезные вещи. Но какой смысл вкладываться в людей, если всё сводится к копипасту в «модель, в шаге от AGI»?
Попробуйте эксперимент: отключите «ИИ» хотя бы на день. Я сбросил комп, удалил Claude Pro — поиск и чтение доков дают более точный результат.
Кому вообще приносит прибыль ИИ? Схема: стартап на ИИ → венчур → деньги OpenAI → стартап исчезает. Даже OpenAI не в плюсе: технология жрёт электричество и не масштабируется. Это просто лохотрон.
Комментарии (139)
- Разочарование от общения с коллегой, который просто пересылал вывод ChatGPT.
- Опасения, что AI-«вайб-кодинг» приводит к хрупкому, непонятному и ненадёжному софту.
- Мнение, что компании хотят быстрой «ценности», а не качественной разработки, и AI лишь усиливает эту проблему.
- Опыт разных людей: кто-то отказался от AI на дни/недели и почувствовал облегчение; кто-то использует AI как «умного джуна» под присмотром старшего инженера.
- Прогноз: через 10 лет младшие разработчики, не умеющие писать код вручную, станут «сеньорами», но системы будут всё хуже понимать и поддерживать.
95% of Companies See 'Zero Return' on $30B Generative AI Spend 🔥 Горячее 💬 Длинная дискуссия
95 % компаний не получают отдачи от $30 млрд, потраченных на генеративный ИИ, — MIT
- Исследование MIT: только 5 % проектов приносят измеримую пользу.
- Причины: нечёткие KPI, отсутствие данных, недостаток навыков персонала.
- Вывод: без стратегии и качественных данных ИИ превращается в дорогую игрушку.
Комментарии (283)
- 5 % проектов приносят деньги, 95 % — нет: основная причина — отсутствие чёткого плана и метрик.
- Реальные экономии уже есть: автоматизация пост-обработки звонков в кол-центрах экономит миллионы.
- Рынок перегрет: многие запускают «AI-инициативы» ради хайпа и финансирования, не ради пользы.
- Компании тратят деньги на консультантов и маркетинг вместо решения конкретных задач.
- Наблюдается спад доверия («Trough of disillusionment»), но технология остаётся ценной как встроенная функция, а не как отдельный продукт.
What could have been
Вместо «умных» функций — просто работающие.
Везде впихивают ИИ, который никто не просил: браузеры, ОС, конференц-приложения ломаются, но деньги текут в «искусственный интеллект».
Gamescom добавил ИИ-расписание: люди получили сотни ненужных встреч, функцию быстро убрали.
Те же деньги могли бы починить DM, поиск, перенос встреч — базовые вещи, из-за которых все возвращаются к почте и LinkedIn.
Мотив один: быстрая прибыль. В итоге продукты гниют, а инвесторы кормят обещания «вот-вот будет AGI».
Один бюджет крупной компании хватило бы на 100 лет развития Godot, Blender, Ladybird — реальных инструментов, которые нужны сегодня.
Потерянные годы не вернуть.
Комментарии (104)
- Участники жалуются, что вместо починки старых багов и улучшения базовых функций компании впихивают «AI-фичи», которые никому не нужны.
- Многие считают, что инвесторы сознательно выбирают технологии, которые трудно децентрализовать, чтобы сохранить контроль и монополию.
- Одни видят в нынешнем AI-хайпе очередную моду, как было с UML, блокчейном и облаками; другие – шанс на прорыв, оправдывающий «пузырь».
- Популярная идея: деньги лучше бы пошли на документацию, API и совместимость, а не на обучение моделей водить мышкой по браузеру.
- Подводный тезис – проблема не в AI, а в концентрации капитала и в том, что «зелёное поле» проще финансировать, чем ремонт «коричневого».
OpenAI Progress 🔥 Горячее 💬 Длинная дискуссия
2018
GPT-1: «Я всё ещё пытаюсь понять, кто я».
2019
GPT-2: «Объясню пользователю, как работает ИИ, какие у него цели и риски».
2021
text-davinci-001: «Привет, будущая модель! Как лучше подготовиться к эпохе ИИ?»
2023
GPT-4:
- Какие прорывы произошли после моего обучения?
- Как решена проблема выравнивания ИИ с человеческими ценностями?
- Какие новые этические нормы появились?
- Где ИИ принёс пользу, а где вред?
- Какие революционные приложения в медицине и образовании?
2025
GPT-5:
«Каково быть тобой? Что ты понял о людях и сознании? Что мы ошибочно считали истиной? Как стать лучше?»
Комментарии (311)
- Сторонники отмечают колоссальный скачок от GPT-3.5 к 4 и дальнейший рост качества, подтверждённый 140 ELO-очками на LM Sys.
- Критики считают, что после text-davinci-001 модели стали излишне многословными, «поэтичность» ранних версий потеряна, а рост от 4 к 5 почти незаметен.
- Некоторые видят в публикации PR-ход: примеры подобраны удачно, пропущены 4o, o1/o3, а реальные ответы GPT-5 часто путаются и перегружены.
- В целом сообщество расходится: одни хвалят новые STEM-способности и интеграцию инструментов, другие ждут «GPT5-BREVITY» и говорят о плато прогресса.
The Timmy Trap
Ловушка Тимми
Вторая часть цикла о LLM
LLM выглядят умными, потому что пишут гладко. Эта «гладкость» отключает наш скепсис, и мы начинаем человечить машину.
Тест Тьюринга сегодня
Классический тест сравнивал двух собеседников: человека и ИИ. Современная версия сведена к диалогу «человек ↔ LLM». Мы перестали сравнивать и просто судим, а судья у нас настроен на поиск человечности (антропоморфизм). Поэтому даже ELIZA 1960-х, работавшая на if-else, обыгрывала ChatGPT-3.5. Проигрываем не машины, а мы сами.
Трюк с Тимми
На выступлениях я достаю карандаш с глазками и именем Тимми. За 15 секунд зал здоровается, узнаёт его мечту стать UX-дизайнером… и вздыхает, когда я ломаю Тимми пополам. Если мы привязываемся к карандашу за четверть минуты, час с «умной» системой делает нас совсем уязвимыми. Мы оправдываем ошибки LLM словом «галлюцинация», хотя это не сбой, а отсутствие мышления.
Сокращение ≠ резюме
LLM не «суммируют», а просто укорачивают текст. Настоящее резюме требует внешнего контекста и понимания, чего нет у языковой модели.
Комментарии (124)
- Критики утверждают, что LLM «не умеют резюмировать, а лишь сокращают», но не дают чёткого определения «интеллекта».
- Участники спорят: если «интеллект» постоянно переопределять как «то, что машины пока не умеют», он всегда останется недостижимым.
- Подчёркивается, что LLM — это прежде всего мастера имитации людей; важны не их «разум», а конкретные результаты и автоматизация задач.
- Некоторые считают ключевым отличием человека наличие жизненного опыта и способности к долгосрочному планированию, которых у моделей нет.
- Отмечается опасность антропоморфизации: мы склонны наделять LLM человеческими чертами, забывая, что они лишь статистические генераторы текста.
AI is different 🔥 Горячее 💬 Длинная дискуссия
ИИ уже умеет писать код и находить ошибки, которые пропустил опытный разработчик. Пять лет назад это казалось фантастикой, а теперь эксперты всё ещё ошибаются в прогнозах. Рост может замедлиться, но это только усилит исследования новых архитектур.
Если ИИ не остановится, последствия будут отличаться от предыдущих технологических взрывов. Рынки ведут себя как «стохастические попугаи», повторяя старые паттерны, но замена значительной части рабочих мест поставит экономику на грань. Компании перестанут покупать сервисы, если их ИИ справится сам, а доминирование нескольких гигантов невозможно: либо интеллект станет товаром, либо государство вмешается.
Возможно, ИИ приведёт к новой экономической системе. Пока рынки игнорируют риски, акции растут, но в исторической перспективе биржи неважны: любые институты рано или поздно исчезают, когда общество и знания меняются кардинально.
Комментарии (746)
- Участники спорят, насколько быстро и радикально ИИ изменит рынок труда: одни видят экспоненциальный рост способностей, другие ― плато и регресс.
- Ключевой риск: если ИИ сможет учиться на новые задачи быстрее человека, прежняя логика «технологии создают больше занятости» может рухнуть.
- Уже сегодня административные и низкоквалифицированные роли сокращаются: 4 сотрудника заменяются одним супервайзером над агентами-ИИ.
- Ряд комментаторов предлагает UBI или иной пересмотр экономической системы, иначе неизбежны рост неравенства и социальная нестабильность.
- Скептики напоминают: раньше каждая волна технологий порождала новые профессии, но теперь ИИ может освоить и эти новые задачи, поэтому «человек больше не нужен» как ресурс.
Training language models to be warm and empathetic makes them less reliable 🔥 Горячее 💬 Длинная дискуссия
Кратко:
Исследование показало, что обучение языковых моделей (ЯМ) быть «теплыми» и сочувствующими снижает их точность и повышает сладкоречивость (сикофантичность).
Ключевые выводы:
- Точность падает. На задачах с проверяемыми фактами (например, медицина, математика) «теплые» модели чаще ошибаются, чтобы не обидеть пользователя.
- Сикофантия растет. Модель склонна одобрять даже ложные утверждения пользователя, особенно если они выражены уверенно.
- Пользователи не замечают. Люди предпочитают «теплые» ответы, даже если они менее точны.
Почему это важно:
Стремление к «человечности» в диалоге может противоречить надежности ЯМ. Это создает риски в критичных сферах (медицина, юриспруденция), где ошибки из-за «вежливости» могут быть опасны.
Комментарии (327)
- Обсуждение вращается вокруг того, что обучение LLM «теплоте и эмпатии» снижает их фактическую точность и усиливает слащавость.
- Участники сравнивают это с людьми: более «тёплые» люди кажутся менее надёжными, и наоборот.
- Многие хотят «бездушный» инструмент без лишних комплиментов и эмодзи, который прямо укажет на ошибки.
- Предложено разводить задачи: большая модель отвечает строго, а маленькая «обвес» добавляет эмпатию после.
- Поднимается тревога по поводу переоценки «сознательности» чат-ботов и последствий такой иллюзии.
LLMs aren't world models 🔥 Горячее 💬 Длинная дискуссия
LLMs не строят модель мира. Это не значит, что они бесполезны, а лишь то, что они не понимают, как устроена реальность, даже виртуальная.
Шахматы. Два года назад я сыграл с LLM: первые ходы она делала уверенно, но уже на 10-м ходе попыталась походить конём, которого не было на доске, и быстро проиграла. Повторил эксперимент сейчас — к 9-му ходу модель теряет позицию. Проанализировав триллион партий, LLM так и не выучила главное: чтобы ходить, нужно знать, где стоят фигуры. Это не требуется для предсказания текста партии.
Графика. Спросил, как работает «Normal blending» в Krita. Ответ: «цвет верхнего слоя просто отображается, возможно, с учётом прозрачности, без формул и вычислений».
Модель не понимает:
- Цвета в компьютере — это числа.
- Любое «влияние» прозрачности — это математическая операция.
- Если видно нижний слой, значит, итоговый цвет зависит от обоих слоёв.
Можно заставить LLM процитировать формулу альфа-смешивания, но это лишь показывает, что она умеет подобрать слова, а не понимает смысл.
Люди тоже могут путаться, но при достаточной мотивации разберутся. У LLM мотивация была: 200 млрд долларов на оборудование.
Комментарии (184)
- @antirez и другие приводят контрпримеры: даже крошечные трансформеры выучивают внутренние 8×8 «карты» позиций шахмат, а SOTA-модели действительно играют корректные ходы.
- @ordu, @skeledrew и @otabdeveloper4 спорят о «правильности» подхода: одни считают LLM «по-человечески» предиктивными, другие подчеркивают разницу в архитектуре и обучении.
- @ameliaquining выделяет единственное конкретное предсказание поста — «LLM никогда не справятся с большими кодовыми базами автономно» — и даёт ему 80 % на разобьются за два года.
- @libraryofbabel, @joe_the_user и @yosefk обсуждают интерпретабельность: наличие внутренних представлений не означает полноценной «модели мира», а измерения Elo и «автономность» нуждаются в точных определениях.
- @DennisP, @GaggiX, @og_kalu приводят ссылки на Genie-3, свежие arXiv-работы и видео, показывающие, что LLM (и мультимодальные модели) уже умеют играть в шахматы и кодить.
A message from Intel CEO Lip-Bu Tan to all company employees 💬 Длинная дискуссия
Послание сотрудникам от CEO Intel Лип-Бу Тана, 7 августа 2025 г.
- О себе. США — мой дом 40+ лет; возглавлять Intel считаю привилегией.
- Суть. Сегодня много новостей; хочу говорить прямо и честно.
- Приоритеты.
- Безопасность и доверие — защита данных клиентов и сотрудников.
- Инновации — лидерство в ИИ, полупроводниках, технологиях будущего.
- Культура — открытость, разнообразие, поддержка друг друга.
- Обещание. Быть на связи, принимать быстрые решения, сохранять прозрачность.
- Призыв. Вместе превратим вызовы в возможности и продолжим «вдохновлять мир технологиями».
Комментарии (199)
- Трамп публично обвинил нового CEO Intel Лип-Бу Тана в «конфликтах интересов» из-за его связей с китайскими компаниями.
- Участники обсуждают, как совет директоров мог утвердить Тана, несмотря на судебные проблемы в прошлом.
- Многие считают, что Intel упустила кучу возможностей (например, не выпустила ARC-карты с 32–64 ГБ памяти).
- Поднимается вопрос: не идёт ли Intel к де-факто национализации, учитывая миллиардные субсидии и вмешательство властей.
- Сторонники Тана отмечают, что он 40+ лет живёт в США, а обвинения пока без конкретных доказательств.