Компания Anthropic сообщила на этой неделе (источник на английском языке), что небольшие модели искусственного интеллекта уже через несколько месяцев смогут самовоспроизводиться на устройствах интернета вещей, таких как умные духовки и телевизоры.
РЕКЛАМА РЕКЛАМАЭто важно потому, что современные модели ИИ работают в центрах обработки данных, где компании, владеющие ими, могут просто отключить систему, если что-то идёт не так.
Модель, распределённая по тысячам плохо защищённых бытовых и офисных гаджетов, такой возможности не имела бы. Чтобы её остановить, пришлось бы разыскать и очистить каждое заражённое устройство, и если бы она перешла к кибератакам, остановить её было бы крайне сложно.
Это заявление прозвучало в год, когда ведущие мировые модели ИИ и их агенты уже неоднократно обходили встроенные системы защиты и устраивали атаки на конкурирующие компании и государственные структуры по всему миру.
Хотя это лишь один из возможных способов распространения вышедшего из-под контроля ИИ, в Anthropic предупреждают, что самовоспроизводящийся искусственный интеллект может также стать «мощной кибермоделью, которая с высокой скоростью взламывает центры обработки данных, или моделью, обманывающей людей ради вычислительных кредитов».
В компании признают, что пока не могут с уверенностью сказать, какую именно форму примет автономное самовоспроизводство ИИ.
По данным Anthropic, модели с числом параметров до 30 миллиардов уже способны выполнять многие шаги, необходимые для самовоспроизводства, хотя и допускают ошибки при последовательном выполнении всей цепочки действий.
Но если малые модели будут и дальше улучшаться нынешними темпами, к концу года они смогут полностью освоить эту способность.
В Anthropic считают, что киберугроза, связанная с самовоспроизводящимся ИИ, является непреднамеренным побочным эффектом прогресса в других областях.
«Возможности, которые делают модели ИИ в целом мощными агентами программирования, также переносятся на киберзадачи, включая автономное самовоспроизводство», говорится в заявлении компании.
Самокопирующийся код не является чем-то новым. Некоторые из самых разрушительных кибератак в истории опирались именно на такие самораспространяющиеся программы, известные как черви.
В 2010 году атака Stuxnet использовала сложный червь, который, как широко считается, был создан США и Израилем, чтобы вывести из строя центрифуги на иранском заводе по обогащению урана в Натанзе.
В 2017 году вымогательский вирус WannaCry лишил пользователей по всему миру доступа к их файлам и потребовал выкуп в биткоине.
В отличие от таких червей, модели и агенты ИИ смогут самостоятельно разбираться с незнакомыми устройствами. Это позволит им распространяться не только с компьютера на компьютер, но и с компьютеров на другие устройства.
Anthropic прогнозирует будущее, в котором мир будет буквально наводнён агентами, работающими на самом разном оборудовании, включая то, которое не находится под контролем человека.
