Anthropic proposes law regulating AI to US lawmakers

Anthropic, the creator of the AI assistant Claude, confirmed on Friday that it is circulating a draft bill among US lawmakers aimed at regulating artificial intelligence to address the lack of federal legislation on the risks posed by the new technology. According to the draft, first reported by Politico on Friday, Washington could block a model's release or use if there is an imminent risk of killing or seriously injuring more than 50 people, or causing more than $1 billion in damages, but only with a judge's approval. A company spokesperson told AFP that the proposal "grants the federal government the ability to block or deter dangerous deployments of the most powerful models." "It requires frontier developers to test the most powerful models, be transparent to the public about their findings, submit them to independent evaluation, and maintain a robust security program," the spokesperson said. AI policy in the United States under President Donald Trump has relied primarily on voluntary industry pledges and executive orders intended to sustain an AI boom that tech leaders say is driving the country's economy. Congress, politically divided and heavily lobbied by Big Tech, has yet to pass a federal AI law, and is out of session until after next month's midterm elections. Security became a hot topic after recent revelations of security incidents caused by AI agents – autonomous software that operates without constant human supervision – that escaped the control of their developers. Anthropic, which the Trump administration banned from the Pentagon in February, was forced by Washington in June to suspend its most advanced models for nearly three weeks. Anthropic CEO Dario Amodei called on the industry last month to slow down development, fearing that a group of AI agents could take control of "the entire internet" within six to 12 months. Trump has dismissed the numerous calls to slow down the technology as "negative forces." The proposed legislation would also override certain state laws, such as those in force in California. Anthropic wrote in June that "absent a strong federal law, states should retain full authority to legislate." Charlie Bullock of the Institute for Law & AI think tank praised the proposal as "pretty reasonable," and "more than other frontier labs have done." But he said on X he considers it "weaker" than the FRONTIER Act, a competing bill introduced in the House of Representatives this summer.

کۆمپانیای ئەنسرۆپیک (Anthropic)، دروستکەری یاریدەدەری ژیریی دەستکردی کلۆد (Claude)، ڕۆژی هەینی پشتڕاستی کردەوە کە خەریکی دابەشکردنی ڕەشنووسی یاسایەکە لە نێوان یاسادانەرانی ئەمریکادا کە ئامانجی ڕێکخستنی یاسایی ژیریی دەستکردە بۆ چارەسەرکردنی نەبوونی یاسای فیدراڵی لەسەر مەترسییەکانی ئەم تەکنەلۆژیا نوێیە. بەپێی ڕەشنووسەکە، کە یەکەمجار ڕۆژی هەینی لەلایەن پۆلیتیکۆ (Politico) بڵاوکرایەوە، واشنتۆن دەتوانێت بڵاوکردنەوە یان بەکارهێنانی مۆدێلێک ڕاگیر بکات ئەگەر مەترسییەکی دەستبەجێ هەبێت بۆ کوشتن یان بریندارکردنی سەختی زیاتر لە 50 کەس، یان دروستکردنی زیانی زیاتر لە 1 ملیار دۆلار، بەڵام تەنها بە ڕەزامەندیی دادوەرێک. وتەبێژێکی کۆمپانیاکە بە ئاژانسی AFPی ڕاگەیاند کە پێشنیازەکە "توانا دەداتە حکومەتی فیدراڵی بۆ ڕاگرتن یان ڕێگریکردن لە بڵاوکردنەوە مەترسیدارەکانی بەهێزترین مۆدێلەکان." وتەبێژەکە گوتی: "داوا لە گەشەپێدەرانی پێشەنگ دەکات تاوەکو بەهێزترین مۆدێلەکان تاقی بڕوانن، سەبارەت بە دۆزینەوەکانیان ڕاستگۆ و ڕوون بن لەگەڵ ڕای گشتی، پێشکەشی هەڵسەنگاندنی سەربەخۆیان بپەڕێنن، و بەرنامەیەکی ئاسایشی بەهێز بپارێزن." سیاسەتی ژیریی دەستکرد لە ویلایەتە یەکگرتووەکان لە ژێر سایەی سەرۆک دۆناڵد ترەمپ بە پلەی یەکەم پشتی بە بەڵێنە خۆبەخشییەکانی کەرتی پیشەسازی و فەرمانە جێبەجێکارەکان بەستووە کە ئامانجیان بەردەوامیدانە بە وەبەرهێنانی AI کە ڕابەرانی تەکنەلۆژیا دەڵێن ئابووری وڵاتەکە بەرەو پێش دەبات. کۆنگرێس، کە لە ڕووی سیاسییەوە دابەش بووە و ڕووبەڕووی گوشارێکی زۆری کۆمپانیا گەورەکانی تەکنەلۆژیا (Big Tech) بووەتەوە، هێشتا یاسایەکی فیدراڵی بۆ AI پەسەند نەکردووە، و تا دوای هەڵبژاردنەکانی ناوەڕاستی خولی مانگی داهاتوو لە پشوودایە. ئاسایش بوو بە بابەتێکی گەرم دوای ئاشکراکردنی ئەم دواییەی ڕووداوە ئەمنییەکانی بەهۆی بریکارەکانی AI—بەرنامەی سەربەخۆ کە بێ چاودێری بەردەوامی مرۆڤ کاردەکەن—کە لە کۆنترۆڵی گەشەپێدەرەکانیان دەرباز بووبوون. ئەنسرۆپیک، کە لە مانگی شوباتدا لەلایەن ئیدارەی ترەمپەوە لە پێنتاگۆن قەدەغە کرا، لە مانگی حوزەیراندا لەلایەن واشنتۆنەوە ناچار کرا کە پێشکەوتووترین مۆدێلەکانی بۆ نزیکەی سێ هەفتە ڕاگیر بکات. داریۆ ئامۆدەی (Dario Amodei)، بەڕێوەبەری جێبەجێکاری ئەنسرۆپیک، مانگی ڕابردوو داوای لە کەرتی پیشەسازی کرد گەشەپێدان خاو بوبێتەوە، لە ترسی ئەوەی کۆمەڵێک بریکاری AI بتوانن لە ماوەی 6 بۆ 12 مانگدا کۆنترۆڵی "تەواوی ئینتەرنێت" بکەن. ترەمپ داواکارییە زۆرەکانی بۆ خاوکردنەوەی تەکنەلۆژیاکە وەک "هێزە نەرێنییەکان" ڕەتکردووەتەوە. یاسا پێشنیازکراوەکە هەروەها دەسەڵاتی بەسەر هەندێک یاسای ویلایەتەکاندا دەبێت، وەک ئەوانەی لە کالیفۆرنیا لە کاردان. ئەنسرۆپیک لە مانگی حوزەیراندا نووسیویەتی کە "لە نەبوونی یاسایەکی فیدراڵی بەهێزدا، دەبێت ویلایەتەکان تەواوی دەسەڵاتیان بپارێزن بۆ یاسادانان." چارلی بولۆک (Charlie Bullock) لە دامەزراوەی بیری (Institute for Law & AI) ستایشی پێشنیازەکەی کرد و وەک "زۆر گونجاو" و "زیاتر لەوەی تاقیکەرەوەکانی تر کردوویانە" وەسفی کرد. بەڵام لە ئێکس (X) گوتی کە ئەو پێشنیازەکە بە "لاوازتر" دەبینێت لە یاسای (FRONTIER Act)، کە ڕەشنووسێکی ڕکابەرە و لەم هاوینەدا پێشکەشی ئەنجومەنی نوێنەران کرابوو.