Разговоры про безопасность AI дошли до абсурда, и всё равно пугают по-настоящему
На неделе разошлись два заявления об AI-безопасности, и оба звучат как завязка технотриллера. Отличить реальную угрозу от красивой байки стало почти невозможно.…
На неделе разошлись два заявления об AI-безопасности, и оба звучат как завязка технотриллера. Отличить реальную угрозу от красивой байки стало почти невозможно.…
Человек, двадцать лет предупреждавший мир о климатической катастрофе, говорит, что дата-центры: не главная проблема. К этому стоит прислушаться хотя бы из любопытства.…
Во вторник на конференции Salesforce Dreamforce Дженсен Хуанг сказал вслух то, что многие в индустрии думают, но боятся произнести публично: новые законы…
Три компании, определяющие лицо всей отрасли, признались: они несколько недель обсуждают друг с другом, как не довести развитие искусственного интеллекта до катастрофы.…
Модели учатся, набирают возможности, и в какой-то момент разработчикам приходится честно сформулировать: чего мы точно не хотим, чтобы они делали. Microsoft выпустила…
Пока лаборатории публикуют графики с рекордными результатами моделей, в политике назревает свой спор: о том, кто и как должен эти результаты контролировать.…
Человек, чья компания зарабатывает на продаже всё более мощного AI, публично просит замедлить его развитие. Так поступил Дарио Амодей, СЕО Anthropic, в…
Пока Amodei готовил взвешенный манифест о безопасности, изнутри компании прозвучало нечто менее сдержанное. Исследователь Джейкоб Коксон уволился из Anthropic, опубликовав в X…
Когда глава компании, зарабатывающей десятки миллиардов на разработке всё более мощных моделей, публично призывает эту разработку замедлить: стоит присмотреться внимательнее. Дарио Амодей…
Paul Christiano: не рядовой эксперт. Он один из создателей RL from human feedback, метода, на котором держится обучение современных больших языковых моделей.…