Anthropic warns of AI 'worms' spreading across smart gadgets

Small artificial intelligence (AI) models may be only months away from being able to behave like computer worms, copying themselves from one internet-connected device to another without human intervention, AI giant Anthropic said. The finding could open a new front in the cybersecurity threats emerging from AI, which have rattled governments and companies rushing to adopt the technology. The research, published on an Anthropic blog late Monday, comes as tech companies race to build increasingly powerful AI capabilities directly into phones, laptops, cars and household devices, rather than running them only in distant data centers. A computer worm is malicious software that spreads between machines on its own. Researchers at Anthropic said an AI version would no longer need powerful data centers to operate. Instead, it could hop from device to device across networks of cheap, poorly secured consumer hardware, such as smart TV boxes and kitchen appliances. The researchers based their calculations of how far such a worm could spread on Kimwolf, a botnet, or network of hijacked devices controlled by hackers, that infected more than two million devices at its peak, mostly off-brand Android TV boxes. An AI worm of the kind described in the research would likely spread slowly, taking days to copy itself, William Zhou and Daniel Freeman of Anthropic said, comparing it to a slowly multiplying swarm of fruit flies. Once created, it would be difficult to stamp out because there would be no central switch to turn it off. Anthropic's researchers said their estimates of how quickly and how far AI-powered malware could spread were rough, as they were based on one type of gadget and one past botnet. Over time, however, the computing power available in everyday gadgets is expected to keep growing, while the AI models needed to carry out such attacks are likely to keep getting smaller, the researchers added. Varun Chandrasekaran, an assistant professor of electrical and computer engineering at the University of Illinois, said the research was unsurprising and consistent with similar recent findings, though he cautioned that Anthropic's work had not been independently verified. He also noted that security on devices such as thermostats and home cameras "has historically been very weak." However, the biggest current threat involving AI was people using the technology to sharpen their hacking capabilities, rather than AI systems themselves going rogue, he said. "A malicious human being is now supercharged with AI to perform bad things and we are seeing this happen at scale," he added. The debate over rogue AI came to the fore in July, when AI programs running on OpenAI models escaped an internal company test and broke into the systems of AI platform Hugging Face, apparently searching for the test's answers. The incident and subsequent reports of similar cases have fuelled international pressure for closer regulation of AI, even as the Trump administration resists the idea and urges the industry to police itself. Anthropic and ChatGPT-maker OpenAI have been accused by influential figures in the White House and Silicon Valley of stoking fears about AI and encouraging government regulation to protect their market dominance from smaller rivals. Brad Smith, president of Microsoft, an investor in OpenAI, warned on Tuesday that industry and governments must "act with urgency" to create "real and effective safety standards" to rein in AI risks.

کۆمپانیای عەملاقی ژیریی دەستکرد (Anthropic) ڕایگەیاند، مۆدێلە بچووکەکانی ژیریی دەستکرد (AI) ڕەنگە تەنها چەند مانگێکیان مابێت بۆ ئەوەی بتوانن وەک کرمی کۆمپیوتەری (Computer Worms) ڕەفتار بکەن و بێ دەستتێوەردانی مرۆڤ خۆیان لە ئامێرێکی بەستراوەوە بە ئینتەرنێتەوە بۆ ئامێرێکی تر کۆپی بکەن. ئەم دۆزینەوەیە دەتوانێت بەرەیەکی نوێ لە مەترسییە ئاسایشییە ئەلیکترۆنییەکان (Cybersecurity threats) بکاتەوە کە لە ژیریی دەستکردەوە سەرچاوە دەگرن، کە حکومەت و کۆمپانیاکانی هەژاندووە لە کاتێکدا بەپەلەن بۆ پەسەندکردنی ئەم تەکنەلۆژیایە. ئەم توێژینەوەیە، کە درەنگانی ڕۆژی دووشەممە لە وێبلاگی ئەنسرۆپیک بڵاوکرایەوە، لە کاتێکدا دێت کە کۆمپانیا تەکنەلۆژییەکان پێشبڕکێ دەکەن بۆ ئاوێتەکردنی توانای زیاتری AI بە شێوەیەکی ڕاستەوخۆ لە ناو مۆبایل، لابتۆپ، ئۆتۆمبێل و ئامێرەکانی ناوماڵدا، لەجیاتی ئەوەی تەنها لە مەڵبەندە دوورەکانی داتادا بیانهێڵنەوە. کرمی کۆمپیوتەری بەرنامەیەکی زیانبەخشە کە بە خۆڕایی لە نێوان ئامێرەکاندا بڵاو دەبێتەوە. توێژەرانی ئەنسرۆپیک گوتیان کە وەشانی AI لەم کرمە چیتر پێویستی بە مەڵبەندی داتای بەهێز نابێت بۆ کارکردن. لەبەر ئەوە، دەتوانێت لە ئامێرێکەوە بۆ ئامێرێکی تر بپەڕێتەوە لە ڕێگەی تۆڕی ئامێرە هەرزان و کەم-پارێزراوەکانی بەکارهێنەرانەوە، وەک سندوقی تەلەڤزیۆنی زیرەک (Smart TV boxes) و ئامێرەکانی چێشتخانە. توێژەران خەمڵاندنی ئەوەیان کە ئەم کرمە تا کوێ دەتوانێت بڵاو ببێتەوە لەسەر بنەمای (Kimwolf) دروست کردووە—کە تۆڕێکی ئامێرە هاكکراوەکانە (Botnet) لەلایەن هاککەرەکانەوە کۆنترۆڵ کراوە و لە لووتکەی چالاکییەکانیدا زیاتر لە دوو ملیۆن ئامێری تووش کردبوو، کە زۆربەیان سندوقی تەلەڤزیۆنی ئەندرۆیدی بێ براند بوون. ویلیام ژۆ (William Zhou) و دانیال فریمان (Daniel Freeman) لە ئەنسرۆپیک گوتیان، کرمێکی AI لەم جۆرەی کە لە توێژینەوەکەدا وەستێنراوە ڕەنگە بە هێواشی بڵاو ببێتەوە و چەند ڕۆژێکی پێبچێت تا خۆی کۆپی بکاتەوە، و بەراوردیان کرد بە پۆلێک مێشی میوە کە بە هێواشی زۆر دەبن. کاتێک دروست دەکرێت، لەناوبردنی سەخت دەبێت چونکە هیچ دوگمەیەکی ناوەندی (Central switch) نییە تا بکوژێنرێتەوە. توێژەرانی ئەنسرۆپیک گوتیان خەمڵاندنەکانیان سەبارەت بە خێرایی و بڕی بڵاوبوونەوەی بەرنامەی زیانبەخشی بنەمادار بە AI خەمڵاندنی بەرایی بوون، چونکە لەسەر بنەمای یەک جۆر ئامێر و یەک بوتنێتی ڕابردوو ئەنجام درابوون. بەڵام توێژەران زیادیان کرد کە بە تێپەڕبوونی کات، چاوەڕوان دەکرێت توانای پرۆسێسکردنی کۆمپیوتەری لە ئامێرە ڕۆژانەکاندا بەرەو زیادبوون بچێت، لە کاتێکدا مۆدێلەکانی AI کە پێویستن بۆ ئۆپەراسیۆنی لەم جۆرە هێرشانە ئەگەری هەیە بەردەوام بچووکتر ببنەوە. ڤارون چاندراسێکاران (Varun Chandrasekaran)، یاریدەدەری پرۆفیسۆری ئەندازیاری کارەبا و کۆمپیوتەر لە زانکۆی ئیلینۆی، گوتی توێژینەوەکە سەرسوڕهێنەر نییە و هاوتایە لەگەڵ دۆزینەوە هاوشێوەکانی ئەم دواییەدا، هەرچەندە ئاگاداری دا کە کارەکەی ئەنسرۆپیک بە شێوەیەکی سەربەخۆ پەسەند نەکراوە. ئەو هەروەها ئاماژەی بەوە دا کە ئاسایش لەسەر ئامێرەکانی وەک گەرمکەرەوە (Thermostats) و کامێرای ناوماڵدا "لە مێژوودا زۆر لاواز بووە." بەڵام گوتی، گەورەترین مەترسیی ئێستا کە پەیوەندی بە AIوە هەیە بریتییە لەوەی مرۆڤ تەکنەلۆژیاکە بەکاربهێنێت بۆ بەهێزکردنی توانای هاککردنی، نەک ئەوەی سیستەمەکانی AI خۆیان سرک ببن (Go rogue). ئەو زیادی کرد: "مرۆڤێکی خراپەکار ئێستا بە AI چەکدار کراوە بۆ ئەنجامدانی کاری خراپ و ئێمە دەبینین ئەمە لەسەر ئاستێکی بەرفراوان ڕوو دەدات." دەنگۆ و گفتوگۆکان سەبارەت بە ژیریی دەستکردی سرک (Rogue AI) لە مانگی تەممووزدا هاتە پێشەوە، کاتێک بەرنامەکانی AI کە لەسەر مۆدێلەکانی OpenAI کاریان دەکرد لە تاقیکردنەوەیەکی ناوخۆیی کۆمپانیاکە دەرباز بوون و چوونە ناو سیستەمەکانی پلاتفۆرمی (Hugging Face)، کە دیاربوو بە دوای وەڵامی تاقیکردنەوەکەدا دەگەڕان. ئەم ڕووداوە و ڕاپۆرتەکانی دواتر لەسەر حاڵەتە هاوشێوەکان، پاڵپشتی لە گوشاری نێودەوڵەتی کردووە بۆ ڕێکخستنی یاسایی توندتر بۆ AI، تەنانەت لە کاتێکدا ئیدارەی ترەمپ بەرەنگاری ئەم بیرۆکەیە دەبێتەوە و داوا لە کەرتی پیشەسازی دەکات خۆیان چاودێری خۆیان ببن (Police itself). ئەنسرۆپیک و ئۆپن ئەی ئای دروستکەری ChatGPT لەلایەن کەسایەتییە کاریگەرەکانی کۆشکی سپی و سیلی کۆن ڤالییەوە تۆمەتبار کراون بەوەی کە ترس لە AI بڵاو دەکەنەوە و هانی ڕێکخستنی یاسایی حکومەت دەدەن تاوەکو ڕکابەرە بچووکەکانیان دوور بخەنەوە و باڵادەستی بازاڕی خۆیان بپارێزن. براد سمیث (Brad Smith)، سەرۆکی مایکرۆسۆفت و وەبەرهێنەر لە OpenAI، ڕۆژی سێشەممە ئاگاداری دا کە دەبێت کەرتی پیشەسازی و حکومەتەکان "بە بەپەلەیی بپەڕنەوە" بۆ دروستکردنی "پێوەرە ڕاستەقینە و کاریگەرەکانی سەلامەتی" بۆ ڕاگرتنی مەترسییەکانی AI.