Маск и Бутерин поддержали спорный законопроект об ИИ.
Илон Маск и Виталик Бутерин выразили поддержку широко обсуждаемому калифорнийскому законопроекту SB 1047, призванному регулировать искусственный интеллект.
«Более 20 лет я выступаю за регулирование ИИ, так же как мы регулируем любой продукт/технологию, представляющий потенциальный риск для общества», — отметил миллиардер.
В феврале был предложен законопроект «О безопасных и надежных инновациях для передовых моделей искусственного интеллекта», известный как SB 1047. Если он будет принят, разработчикам потребуется внедрить протоколы безопасности для предотвращения массовых жертв или крупных кибератак, а также ввести возможность «аварийной остановки» ИИ-модели.
Законопроект также включает требование проводить ежегодные независимые аудиты безопасности ИИ. Правила будут применяться только к крупнейшим моделям, которые стоят не менее $100 млн и используют 10^26 FLOPS для обучения. Они в первую очередь затронут гигантов вроде OpenAI, Google и Microsoft.
Позже калифорнийские законодатели внесли ряд изменений, в основном направленных на снижение полномочий правительства штата для привлечения к ответственности ИИ-лабораторий. Однако документ по-прежнему возлагает на разработчиков ответственность за опасность их моделей.
Пост Илона Маска прокомментировал Виталик Бутерин, отметив, что цель документа — сделать обязательным проведение тестирования на безопасность перед запуском искусственного интеллекта, который «может быть опасен для мира».
Крупный ИИ-стартап Anthropic поддержал SB 1047, отметив, что «выгоды от законопроекта, вероятно, перевешивают затраты». Правки в первоначальный документ были внесены в том числе по просьбе компании.