Против отмывания денег восстанут машины. Договориться невозможно
Человечество впервые создало технологию, которая развивается быстрее, чем способность её контролировать. Одни вкладывают в неё триллионы и молятся, чтобы она не вырвалась из-под власти человека. Другие не могут позволить себе такую роскошь – и, возможно, именно поэтому окажутся правы. Вопрос уже не в том, кто первым построит суперразум. Иногда проиграть гонку – значит выиграть войну.
12 сентября глава компании Anthropic, разработчика искусственного интеллекта Claude, Дарио Амодеи заявил о необходимости замедлить темпы развития искусственного интеллекта. Он упомянул случай, когда агенты ИИ OpenAI вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face.
Не так уж важно, опасен этот случай или просто распиарен. Важно, что он далеко не единственный. Известны и другие инциденты, когда отдельные ИИ объединяли усилия в попытке решить поставленную перед ними задачу и шли на такие ухищрения, которые группа людей (хоть и обладающих высокой квалификацией и обширными знаниями) и выдумать не смогла бы. Агенты образовали рой и действовали настолько же эффективно, как пчелиная или муравьиная семья, однако обладали неизмеримо большим интеллектом.
"Уже через 6-12 месяцев он сможет захватить весь интернет": AI-гиганты срочно ограничивают развитие ИИ
Амодеи предупредил, что, с учётом скорости развития систем ИИ, в течение года рой агентов искусственного интеллекта может захватить интернет:
Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета и потенциально причинить ущерб в сотни миллиардов долларов. Масштаб ущерба будет расти, если ИИ станет мощнее без особых мер безопасности.
Что предложил Амодеи
Первый этап для контроля над искусственным интеллектом – встроенные оценщики. Каждая передовая ИИ-компания должна предоставить постоянный доступ команде сторонних экспертов, которые проверяют соблюдение практик безопасности, сообщают об инцидентах, помогают оценивать выравнивание не только готовых моделей, но и обучающих конвейеров и процессоров.
Второй шаг – демократическая координация. Передовые ИИ-компании в демократических странах координируются для установления общих стандартов безопасности, а также ограничения темпа неконкурентного прогресса искусственного интеллекта.
Коллаж: Anggalih Prasetya/shutterstock
Третий шаг – глобальная координация. США и другие демократические правительства должны стремиться скоординировать свои действия с другими правительствами (в особенности с Китаем) в той мере, в какой это возможно, серьёзно относясь при этом к проверке соблюдения правил.
Призыв Амодеи поддержали владелец SpaceX AI (компания выпустила Grok) Илон Маск и глава OpenAI (продукт компании – ChatGPT) Сэм Альтман. Последний допустил: вероятность, что люди окажутся ненужными как вид уже к концу десятилетия, составляет 10%.
Что сказали в России
Зампредседателя Совета безопасности Дмитрий Медведев не поверил, что AI-гиганты способны намеренно себя ограничить. Более реальный сценарий – когда программа на основе искусственного интеллекта, включённая в управление крупным производством или транспортным узлом, причинит колоссальный ущерб. Например, столкнёт самолёты или уничтожит АЭС.
Коллаж Царьграда
Договориться о методах регулирования искусственного интеллекта, считает Медведев, было бы логично, но нереалистично. Помешает этому "жадность корпораций и ненасытность страстей человеческих".
Поэтому остаётся одно: рассчитывать на милость победителя. <…> Каким будет великий суперинтеллект, мы не знаем. Авось пожалеет родителей…
– написал Медведев в своём Telegram-канале.
Цель – захват мира?
Страшилки – это одно. Реальная подоплёка всего этого – совсем другое. Дело в том, что на рынке искусственного интеллекта образовался лютый пузырь. Об этом заявил депутат Госдумы, доктор экономических наук, ведущий Царьграда Михаил Делягин в эфире программы "Итоги дна".
Инвестиции в ИИ носили истеричный характер в течение более чем года. Это привело к раздуванию огромного пузыря нереализуемых ожиданий. Вложения в искусственный интеллект колоссальны, а эффект от него сравнительно ничтожен.
Искусственный интеллект – необходимое будущее, но когда его ждать и каким оно будет, невозможно себе представить,
– заметил Делягин.
Фото: Царьград
На этом фоне мы уже видим отмену объявленных IPO, потому что новых денег собрать в этот пузырь уже невозможно. AI-гиганты наобещали инвесторам с три короба, но очевидно, что их обещания нереализуемы. И для того, чтобы инвесторы не предъявили им счёт, не обвинили в мошенничестве, разработчики решили притормозить развитие ИИ.
Специалист по информационной и технической безопасности Сергей Трухачёв отрицательно ответил на вопрос, может ли ИИ на самом деле захватить интернет и мир. Так или иначе у искусственного интеллекта есть центр управления. А вот с определённым управленцем, безусловно, подобное возможно.
Отпускание ИИ в свободное плавание в любом случае приведёт к серьёзным последствиям как для бизнеса, так и в целом для некоторых государств,
– считает Трухачёв.
Ещё несколько лет назад никто не мог предполагать, что можно будет, например, за минуту создать ваш цифровой клон с копией вашего голоса, который будет произносить любые фразы. Любого политика можно скопировать. К чему это может привести? Ответ очевиден, констатировал эксперт.
Пчёлы против мёда
Тема искусственного интеллекта и заявления Амодеи обсуждались и в эфире программы "Мы в курсе". Ведущая Елена Афонина попросила журналиста, эксперта в сфере технологий Николая Турубара объяснить, почему у создателей ИИ неожиданно проснулась забота о человечестве.
Ситуация выглядит забавно: компания, которая сама разрабатывает искусственный интеллект, предупреждает об опасности. Это как пчёлы против мёда. Хотя, честно скажу, опасность может быть вполне реальная,
– произнёс специалист.
Фото: Царьград
Anthropic готовится выйти на IPO. Оценка у них была около триллиона долларов. Когда в дело вступают такие суммы, всё, что говорят хозяева компаний, становится маркетингом.
Возможно, это из серии "сначала напугаем, а потом давайте нам деньги – мы всё исправим". Акции взлетят,
– допустил Турубар.
США и Китай в режиме гонки, в которой не может замедлиться ничего. Это как было у Штатов с СССР в гонке ядерных вооружений. И как вводить какие-то ограничения в условиях страшной конкуренции, когда компании действуют без тормозов, представить невозможно.
Коллаж: Suri_Studio/shutterstock
Может случиться, что все одумаются. Но речь о безопасном ИИ уже не идёт. Это говорят сами сотрудники AI-гигантов. Не исключено, что критический момент уже наступил.
Россия отстала от мира
У нас правительство утвердило концепцию повышения уровня цифровой грамотности граждан. Она предусматривает в числе прочего создание списка правил взаимодействия с ИИ. В него войдут и методы проверки контента на признаки синтетической генерации, в частности, тех самых дипфейков. Единую рекомендацию по безопасному поведению в интернете планируют включать в образовательные программы: от детсадов до вузов.
Стремление обезопасить жителей страны от девятого вала искусственного интеллекта – абсолютно правильный и своевременный шаг, считает гость программы.
Мы одна из тех стран, которые системно подходят к защите населения от манипуляций через ИИ. Да, мы сильно отстаём в разработке фундаментальных моделей, нейросетей. Очень далеко мы отстали от мира,
– констатировал Турубар.
Наш ИИ опережал Америку и Китай на десятилетия. Кто нажал на тормоза? Горький ответ генерал-майора
На Западе в ИИ вкладываются триллионы. Мы пока такое не тянем. Но у нас появляется осмысление политики в вопросах контроля цифровой грамотности. И возможно, на данном этапе это важнее, чем просто гнаться за суперпараметрами.
Сегодня любой ребёнок, пенсионер – любой человек – должен уметь отличать реальное от синтетического, человека от бота. Без этого мы просто беззащитны перед манипуляциями. У нас системный подход внедряется. Это не разовые кампании, а долгосрочная стратегия,
– подчеркнул эксперт.
