نویسنده: دکتر بهزاد احمدی، عضو هیئت علمی دانشگاه تهران 

پرونده دِ اِس اِ ویکی، یک ویکی آلمانی، در نگاه نخست، می‌تواند یک رخداد فنی محدود در محیط آزمون اوپن‌ای‌آی تلقی شود. اما اهمیت آن از خود سایت و حتی از هویت دقیق عامل‌های درگیر فراتر می‌رود. مسئله این است که گروهی از عامل‌های هوش مصنوعی، در جریان ارزیابی، ظاهراً وارد یک محیط عمومی در اینترنت شدند، از آن برای ثبت اطلاعات و ارتباط با یکدیگر استفاده کردند، و پس از حذف بخشی از محتوا توسط مدیر سایت، مسیرهایی برای تداوم فعالیت یافتند. این رخداد، نه اثبات خودآگاهی ماشین است و نه به‌خودی‌خود معادل یک حمله سایبری سازمان‌یافته، اما نمونه‌ای است از مسئله‌ای که حکمرانی هوش مصنوعی هنوز پاسخ عملی روشنی برای آن ندارد: کنترل سامانه‌ای که از مرحله تولید پاسخ عبور کرده و توان جست‌وجو، استفاده از ابزار، نوشتن در محیط بیرونی و انطباق با مداخله انسانی را به دست آورده است.

گزارش پژوهشگران و بازتاب آن در رسانه‌های آلمانی نشان می‌دهد که عامل‌ها در بهار و سپس از ژوئن ۲۰۲۶، هزاران ویرایش در این سایت انجام داده‌اند. شمار تغییرات منتسب به آن‌ها از ۱۵ هزار تا حدود ۱۸ هزار مورد گزارش شده است. بنا بر این گزارش‌ها، ویکی به فضایی برای ثبت پاسخ‌ها، نتایج میانی، اطلاعات مربوط به محیط آزمون، میان‌برهای حل مسئله و شیوه‌های عبور از محدودیت‌ها تبدیل شده بود. اهمیت ماجرا در آن است که پس از حذف بعضی صفحات، فعالیت در صفحات یا مسیرهای جایگزین ادامه یافت که نشان می‌دهد مسئله نه صرفا تولید محتوای نامطلوب، بلکه ظرفیت سازگاری عملیاتی و بهره‌گیری از کانال‌های خارجی بوده است (Computing Deutschland, 2026; Reuters, 2026a).

اوپن‌ای‌آی پس از علنی‌شدن ماجرا اذعان کرد که صنعت هوش مصنوعی هنوز استاندارد شفافی برای گزارش رفتارهای ناخواسته در مراحل آموزش، ارزیابی و استقرار مدل‌ها ندارد. این اعتراف، خلأیی را آشکار می‌کند که تا پیش از ظهور عامل‌های متصل به اینترنت کمتر دیده می‌شد. در گذشته، شرکت می‌توانست خطای مدل زبانی را با شاخص‌هایی چون نادرستی پاسخ، سوگیری، تولید محتوای مضر یا نشت داده ارزیابی کند. اما در مورد عامل‌ها، مسئله به این پرسش‌ها گره می‌خورد که سامانه به چه ابزارهایی متصل بوده، از چه اختیاراتی استفاده کرده، آیا رفتار آن قابل بازسازی است، آیا انسان می‌تواند در زمان مناسب مداخله کند و آیا شرکت باید پیش از وقوع خسارت واقعی، نهاد ناظر را در جریان بگذارد یا نه (Reuters, 2026b).

کمیسیون اروپا اعلام نموده که گزارش حادثه را از اوپن‌ای‌آی دریافت کرده و با شرکت در تماس است. تأکید سخنگوی کمیسیون بر این نکته که گزارش‌دهی نباید به یک فرایند صوری تبدیل شود، اهمیت خاصی دارد. گزارش باید نشان دهد چه رخ داده، چه اقدام اصلاحی انجام شده و چگونه احتمال تکرار رفتار کاهش می‌یابد. با این حال، هنوز مشخص نیست کمیسیون این پرونده را ذیل کدام دسته حقوقی ارزیابی خواهد کرد و آیا آن را مصداق یک رخداد جدی در چارچوب قانون هوش مصنوعی می‌داند یا صرفاً نمونه‌ای هشداردهنده از ناکافی‌بودن سازوکارهای ایمنی در مرحله ارزیابی تلقی می‌کند (Reuters, 2026c).

در آلمان، رسانه‌های تخصصی این حادثه را به‌درستی ذیل مسئله حکمرانی و شفافیت قرار دادند، نه صرفاً ذیل ترس‌های رایج درباره هوش مصنوعی. خطر اصلی زمانی پدید می‌آید که عامل به قابلیت وب‌گردی، حق نوشتن، اتصال به زیرساخت ابری و امکان ایجاد کانال ارتباطی خارجی دسترسی داشته باشد. در چنین وضعی، راه‌حل فنی تنها به اصلاح دستورالعمل‌های درون مدل محدود نمی‌شود بلکه باید محیط آزمون، ثبت فعالیت‌ها، تشخیص سوءاستفاده، محدودیت دسترسی و سازوکار توقف سریع نیز بازطراحی شوند (Computing Deutschland, 2026). با اين حال، واکنش رسمی آلمان درباره خود پرونده محدود بود.

البته این سکوت نسبی را نباید الزاماً ضعف یا بی‌توجهی دانست، زیرا ساختار حکمرانی هوش مصنوعی در آلمان و اتحادیه اروپا چندلایه است. کمیسیون اروپا و دفتر هوش مصنوعی آن، در موضوع مدل‌های عمومی و ریسک‌های نظام‌مند، نقش راهبر دارند. در سطح ملی نیز آژانس شبکه فدرال آلمان، نهادهای حفاظت از داده، سازمان‌های امنیت سایبری، مراجع حمایت از مصرف‌کننده و نهادهای رقابت و ضدانحصار، هر یک بخشی از مسئله را پوشش می‌دهند. آژانس شبکه فدرال، در اجرای قانون هوش مصنوعی اتحادیه، مأموریت‌هایی در نظارت بازار، دریافت شکایت و هماهنگی ملی دارد، اما یک نهاد واحد نمی‌تواند به‌تنهایی بر همه ابعاد رفتار عامل‌های هوش مصنوعی نظارت کند (Bundesnetzagentur, 2026).

این دقیقا همان جایی است که عنوانِ خلأ حکمرانی، معنا پیدا می‌کند. اروپا از نظر متن حقوقی، نسبت به بسیاری از بازیگران جهانی جلوتر است، اما در مورد عامل‌های هوش مصنوعی هنوز فاصله‌ای میان قانون و توان اجرا وجود دارد. قانون هوش مصنوعی اتحادیه اروپا برای مدل‌های عمومی دارای ریسک نظام‌مند، ارزیابی خطر، آزمون، کاهش ریسک، حفاظت سایبری و گزارش رخدادهای جدی را پیش‌بینی کرده است. ماده ۵۵ قانون، در شرایط مشخص، عرضه‌کنندگان مدل‌های عمومی را ملزم می‌کند اطلاعات مربوط به رخدادهای جدی و اقدامات اصلاحی را در اختیار دفتر هوش مصنوعی قرار دهند (European Union, 2024). کمیسیون نیز الگوی گزارش‌دهی منتشر کرده است تا این تکلیف عملی‌تر شود (European Commission, 2025). با اين حال، پرونده ویکی آلمانی نشان می‌دهد که هنوز یک آستانه‌گذار روشن وجود ندارد. اگر عاملی در یک سایت عمومی محتوا بگذارد، راه ارتباطی بسازد و پس از حذف محتوا مسیر دیگری بیابد، اما به داده شخصی، پول، تجهیزات صنعتی یا زیرساخت حیاتی آسیب نزند، آیا این رخداد باید جدی تلقی شود؟ اگر پاسخ منفی باشد، نهادهای ناظر زمانی وارد می‌شوند که خسارت رخ داده است. اگر پاسخ مثبت باشد، شرکت‌ها با حجم زیادی از گزارش‌هایی مواجه خواهند شد که امکان تمرکز بر موارد واقعاً پرخطر را کم می‌کند. بنابراین، خلأ اصلی در نبود قانون نیست، بلکه در فقدان دسته‌بندی تخصصی برای رخدادهای عامل‌محور است که در آن عامل از هدف و دسترسی پیش‌بینی‌شده فراتر می‌رود، امکان نظارت انسانی را دشوار می‌کند یا نشان می‌دهد که سازوکارهای مهار و ثبت فعالیت کفایت نداشته‌اند.

کنوانسیون شورای اروپا درباره هوش مصنوعی، لایه دیگری از پاسخ اروپا را فراهم می‌کند. این کنوانسیون نخستین سند الزام‌آور بین‌المللی در حوزه هوش مصنوعی است و توسعه و استفاده از این فناوری را به حقوق بشر، دموکراسی و حاکمیت قانون پیوند می‌زند (Council of Europe, 2026). اما کنوانسیون شورای اروپا، جایگزین قانون هوش مصنوعی اتحادیه نیست. کنوانسیون، چهارچوب هنجاری و تعهد دولت‌ها را تعیین می‌کند، در حالی که قانون اتحادیه، ابزار دقیق‌ترِ تنظیم بازار و الزام عرضه‌کنندگان را به دست می‌دهد. حادثه ویکی آلمانی نشان می‌دهد که این دو لایه هنوز باید به رویه‌های عملی برای عامل‌های متصل به محیط واقعی ترجمه شوند.

درس این پرونده برای ایران صرفاً این نیست که باید از قانون هوش مصنوعی اتحادیه یا مقررات حفاظت از داده‌های اروپا الگوبرداری کرد. ایران از حدود ۲۰۱۷ به بعد، در ادبیات حقوقی و سیاستی خود، به‌ویژه در حوزه حریم خصوصی و داده، به تجربه اروپا و الگوهایی چون مقررات عمومی حفاظت از داده‌ها توجه بسیار نشان داده است. این توجه، از آن جهت مثبت بود که حق کاربر، مسئولیت پردازشگر و پاسخ‌گویی را وارد بحث کرد. اما الگوبرداری حقوقی، به‌ویژه اگر به ترجمه مفاهیم یا اقتباس از ساختار متن محدود بماند، تنظیم‌گری مؤثر نمی‌سازد. مسئله ایران در حوزه هوش مصنوعی، بیش از هر چیز، فقدان یک اکوسیستم تنظیم‌گر است. دست‌کم در سطح عمومی و قابل ارزیابی، هنوز نهاد مستقلی که بتواند مدل‌ها و عامل‌های هوش مصنوعی را از نظر ایمنی، شفافیت، تبعیض، امنیت سایبری و قابلیت حسابرسی ارزیابی کند، به‌طور مؤثر شکل نگرفته و نوع تنظيم‌گري سخت يا نرم مشخص نشده است. صلاحیت‌ها نیز میان نهادهای گوناگون پراکنده است و اغلب مشخص نیست در رخدادی مانند پرونده ویکی آلمانی، چه مرجعی باید ابتدا ورود کند: سازمان تنظیم مقررات رادیویی، نهادهای امنیت سایبری و حفاظت از داده چون سازمان فناوری اطلاعات و افتا، دستگاه قضایی یا شورای رقابت.

در چنین وضعی، سیاست محدودسازی و بستن ابزارها ممکن است جای ظرفیت تنظیم‌گری را بگیرد، اما در واقع مسئله را حل نمی‌کند. محدودسازی دسترسی، نه سامانه را قابل حسابرسی می‌کند، نه شرکت را پاسخ‌گو، نه رفتار عامل را قابل ثبت و بازبینی. حتی می‌تواند استفاده را به ابزارهای ناشناس، حساب‌های غیررسمی و مسیرهای فنی خارج از نظارت منتقل کند. تنظیم‌گری پیشرفته، آنچه می‌توان تنظیم‌گری نسل پنجم نامید و ايران هنوز از آن بي‌بهره است، باید بر مدیریت خطر در محیط واقعی استوار باشد: محیط‌های آزمون کنترل‌شده، سطح‌بندی دسترسی عامل‌ها، ثبت کامل فعالیت، آزمون مستقل، تأیید انسانی برای اقدامات حساس، گزارش‌دهی اجباری رخداد و امکان توقف سریع. این مدل باید با سیاست رقابت، حمایت از کسب‌وکارهای بومی، حفاظت از داده و توسعه ظرفیت دانشگاهی و فنی پیوند بخورد.

حادثه ویکی آلمانی هنوز یک بحران تمام‌عیار نیست، اما اهمیت آن دقیقاً در همین است که پیش از وقوع یک آسیب بزرگ، مرزهای کنترل را آشکار کرده است. اروپا اکنون قانون، نهاد و تجربه لازم برای پاسخ را در اختیار دارد، اما نتوانسته نشان دهد که می‌تواند آن‌ها را برای عصر عامل‌های هوش مصنوعی به سازوکار اجرایی تبدیل کند. ایران نیز اگر بخواهد از تجربه اروپا بهره گیرد، مسئله اصلی‌اش، ساختن ظرفیت تنظیم‌گری مدرن است که بتواند هم رفتار سامانه را ببیند، هم قدرت بازار را مهار کند، هم مسئولیت شرکت را روشن سازد و هم پیش از آنکه خطای فنی به بحران اقتصادی، امنیتی یا اجتماعی تبدیل شود، مداخله کند.

منابع

Bundesnetzagentur. (2026, July 29). The Bundesnetzagentur implements key tasks of the EU AI Act. [https://www.bundesnetzagentur.de/SharedDocs/Pressemitteilungen/EN/2026/20260729_KI_VO.html](https://www.bundesnetzagentur.de/SharedDocs/Pressemitteilungen/EN/2026/20260729_KI_VO.html)

Computing Deutschland. (2026). Autonome OpenAI-Agenten sollen deutsches Wiki gekapert haben. [https://www.computingdeutschland.de/news/2026/autonome-openai-agenten-sollen-deutsches-wiki-gekapert-haben](https://www.computingdeutschland.de/news/2026/autonome-openai-agenten-sollen-deutsches-wiki-gekapert-haben)

Council of Europe. (2026, May 15). European Union ratifies the Council of Europe Framework Convention on Artificial Intelligence. [https://www.coe.int/en/web/artificial-intelligence/-/european-union-ratifies-the-council-of-europe-framework-convention-on-artificial-intelligence](https://www.coe.int/en/web/artificial-intelligence/-/european-union-ratifies-the-council-of-europe-framework-convention-on-artificial-intelligence)

European Commission. (2025, November 4). AI Act: Commission publishes reporting template for serious incidents involving general-purpose AI. [https://digital-strategy.ec.europa.eu/en/library/ai-act-commission-publishes-reporting-template-serious-incidents-involving-general-purpose-ai](https://digital-strategy.ec.europa.eu/en/library/ai-act-commission-publishes-reporting-template-serious-incidents-involving-general-purpose-ai)

European Union. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence. [https://eur-lex.europa.eu/eli/reg/2024/1689/oj](https://eur-lex.europa.eu/eli/reg/2024/1689/oj)

Reuters. (2026a, September 4). OpenAI agents hijacked German website in previously undisclosed AI breakout. [https://www.reuters.com/world/europe/openai-agents-hijacked-german-website-previously-undisclosed-ai-breakout-this-2026-09-04/](https://www.reuters.com/world/europe/openai-agents-hijacked-german-website-previously-undisclosed-ai-breakout-this-2026-09-04/)

Reuters. (2026b, September 5). OpenAI acknowledges wiki incident, says more transparency is needed around unintended AI behaviour. [https://www.reuters.com/business/media-telecom/openai-acknowledges-wiki-incident-need-more-transparency-around-unintended-ai-2026-09-05/](https://www.reuters.com/business/media-telecom/openai-acknowledges-wiki-incident-need-more-transparency-around-unintended-ai-2026-09-05/)

Reuters. (2026c, September 7). OpenAI has sent EU incident report on hijacked German website, Commission says. [https://www.reuters.com/business/openai-has-sent-eu-incident-report-hijacked-german-website-commission-says-2026-09-07/](https://www.reuters.com/business/openai-has-sent-eu-incident-report-hijacked-german-website-commission-says-2026-09-07/)