OpenAI از GPT-6 Cyber رونمایی کرد؛ مدل جدید در کشف آسیب‌پذیری‌ها قدرتمندتر شده است

OpenAI مدل تخصصی GPT-6 Cyber را با تمرکز بر کشف آسیب‌پذیری‌های نرم‌افزاری، ساخت اکسپلویت و رعایت محدودیت‌های امنیتی معرفی کرده است؛ مدلی که در برخی آزمون‌ها عملکرد بهتری از نسل قبلی خود داشته، اما دسترسی به آن محدود و هزینه API آن بالا است.

شرکت OpenAI از مدل تخصصی GPT-6 Cyber رونمایی کرده است؛ مدلی که به گفته این شرکت، در شناسایی آسیب‌پذیری‌های نرم‌افزاری و توسعه اکسپلویت‌ها عملکرد بهتری دارد و در عین حال، با دقت بیشتری محدودیت‌های تعیین‌شده برای فعالیت‌های امنیتی را رعایت می‌کند.

این مدل برای استفاده تیم‌های امنیت سایبری و سازمان‌هایی طراحی شده است که می‌خواهند سامانه‌های دفاعی خود را آزمایش کنند، آسیب‌پذیری‌ها را بیابند و راهکارهای اصلاحی توسعه دهند. با این حال، دسترسی به GPT-6 Cyber محدود و نیازمند تأیید OpenAI است. قیمت API آن نیز از نرخ‌های اعلام‌شده برای برخی مدل‌های امنیتی رقیب از شرکت‌های Anthropic و Google بالاتر است.

بر اساس مستندات توسعه‌دهندگان OpenAI، هزینه استفاده از این مدل به ازای هر یک میلیون توکن ورودی ۲۰ دلار و به ازای هر یک میلیون توکن خروجی ۱۰۰ دلار است. نرخ توکن‌های ورودی ذخیره‌شده نیز ۲ دلار اعلام شده است. این قیمت‌ها، GPT-6 Cyber را در مقایسه با نسل قبلی و برخی محصولات رقیب در رده مدل‌های گران‌قیمت قرار می‌دهد.

دسترسی محدود از طریق برنامه امنیت سایبری OpenAI

GPT-6 Cyber در مرحله نخست از طریق برنامه Daybreak Red در اختیار مشتریان منتخب قرار می‌گیرد. این برنامه برای فعالیت‌های پیشرفته و مجاز امنیت سایبری طراحی شده است و افراد و سازمان‌ها برای درخواست دسترسی باید اطلاعاتی درباره نحوه استفاده موردنظر خود، از جمله گردش‌کارهای دفاعی و امنیتی، ارائه کنند.

OpenAI همچنین قصد دارد دسترسی به مدل GPT-6 Astra را از طریق برنامه گسترده‌تر Daybreak Blue توسعه دهد. این شرکت اعلام کرده است که تا ماه گذشته بیش از ۲ هزار نهاد را در برنامه‌های مرتبط با امنیت سایبری خود ثبت‌نام کرده، اما نام سازمان‌ها و افراد شرکت‌کننده را منتشر نکرده است.

بهبود عملکرد در کشف آسیب‌پذیری‌ها و توسعه اکسپلویت

OpenAI، GPT-6 Cyber را نسخه‌ای از مدل GPT-6 Astra می‌داند که با آموزش‌های تکمیلی برای تحقیقات امنیتی توسعه یافته است. در فرایند آموزش این مدل، موفقیت در فعالیت‌هایی مانند بازتولید خطاها و ساخت اکسپلویت، در کنار رعایت مجوزها و گزارش دقیق نتایج، مورد توجه قرار گرفته است.

این شرکت قابلیت‌های امنیت سایبری مدل جدید را در چارچوب آمادگی خود در سطح «بحرانی» ارزیابی کرده است؛ سطحی که برای GPT-5.6 Cyber نیز در ارزیابی قبلی در نظر گرفته شده بود. GPT-6 Astra هم در حال حاضر همین سطح را دارد.

در آزمون ExploitGym که توانایی مدل‌ها را در سوءاستفاده از آسیب‌پذیری‌های مشخص بررسی می‌کند، GPT-6 Cyber امتیاز ۴۸.۵ درصد را به دست آورد؛ در حالی که امتیاز GPT-5.6 Cyber برابر با ۳۲.۱ درصد بود. این نتیجه از افزایش ۱۶.۴ واحد درصدی و بهبود نسبی حدود ۵۱ درصدی حکایت دارد.

در آزمایشی دیگر که روی برنامه‌های وب و بدون دسترسی به کد منبع آن‌ها انجام شد، مدل جدید توانست ۴۰.۳ درصد آسیب‌پذیری‌ها را شناسایی کند. این رقم برای GPT-6 Astra برابر با ۳۲ درصد بود.

OpenAI همچنین معیار تازه‌ای به نام RemoteExploitBench معرفی کرده که آسیب‌پذیری‌های شناخته‌شده در نرم‌افزارهایی مانند GitLab، PostgreSQL و Jenkins را در بر می‌گیرد. GPT-6 Cyber توانست ۹۵ درصد وظایف این ارزیابی را انجام دهد؛ در حالی که نسخه Astra با تنظیمات دسترسی Daybreak Blue از انجام هیچ‌یک از وظایف خودداری کرد. این مقایسه علاوه بر توانایی مدل‌ها، محدودیت‌های ناشی از پیکربندی دسترسی آن‌ها را نیز منعکس می‌کند.

شواهد عملی از لینوکس و فایرفاکس

OpenAI برای نشان دادن کاربردهای عملی مدل جدید اعلام کرده است که پژوهشگران با کمک GPT-6 Cyber توانسته‌اند ۱۷۲۴ آسیب‌پذیری هسته لینوکس را بازتولید کنند و برای ۹۴۸ مورد از آن‌ها اکسپلویت‌های کاربردی بسازند. در شرایط آزمایشی مشابه، GPT-5.6 Sol برای ۱۶۶ مورد اکسپلویت تولید کرده بود.

این شرکت همچنین از افشای ۳۰۴ یافته با شدت بحرانی به همراه پیشنهادهایی برای اصلاح آن‌ها به نگهدارندگان هسته لینوکس خبر داده است. با این حال، تعداد اکسپلویت‌های تولیدشده را نباید معادل تعداد آسیب‌پذیری‌های ناشناخته یا اصلاح‌شده دانست.

در پروژه فایرفاکس نیز OpenAI از شناسایی ۸۱ آسیب‌پذیری پیش‌تر گزارش‌نشده خبر داده که موزیلا آن‌ها را با شدت بالا طبقه‌بندی کرده است. علاوه بر این، پژوهشگران شواهدی ارائه کرده‌اند که نشان می‌دهد ۳۰ مشکل شناخته‌شده دیگر نیز ممکن است به ارزیابی با شدت بالاتر نیاز داشته باشند. به گفته OpenAI، گزارش‌ها همراه با آزمایش‌های قابل تکرار و پیشنهادهای اصلاحی در اختیار موزیلا قرار گرفته و این شرکت فرایند رفع مشکلات را آغاز کرده است.

CodeRabbit، یکی از مشتریان OpenAI، نیز از عملکرد مثبت مدل جدید خبر داده است. مدیرعامل این شرکت اعلام کرده GPT-6 Cyber در آزمایش‌های امنیتی آن‌ها قوی‌ترین مدلی بوده که تاکنون بررسی کرده‌اند. طبق گزارش CodeRabbit، این مدل در مقایسه با مدل مورد استفاده قبلی این شرکت، ۶۶ درصد مشکلات با شدت متوسط و بالا را در معیار داخلی آن‌ها شناسایی کرده است.

GPT-6 Cyber در مقایسه با رقبا گران‌تر است

بررسی قیمت‌های استاندارد API نشان می‌دهد GPT-6 Cyber در مقایسه با چند مدل امنیتی رقیب، هزینه بیشتری دارد. هزینه توکن ورودی آن ۶۰ درصد و هزینه توکن خروجی آن حدود ۳۳ درصد بیشتر از GPT-5.6 Cyber است. همچنین نرخ پایه ورودی و خروجی آن دو برابر مدل Mythos 5.1 از Anthropic و پنج برابر Argon Cyber Permissive از Google اعلام شده است.

البته مقایسه قیمت توکن به‌تنهایی معیار کاملی برای سنجش هزینه نهایی تحقیقات امنیتی نیست. مدل‌ها ممکن است برای رسیدن به یک نتیجه معتبر، میزان متفاوتی از اطلاعات، استدلال و فراخوانی ابزارها را مصرف کنند. هزینه زیرساخت‌های آزمایشگاهی و بررسی نتایج توسط کارشناسان نیز در هزینه نهایی استقرار تأثیر دارد.

شرکت‌های رقیب نیز محصولات تخصصی خود را برای این حوزه توسعه داده‌اند. Anthropic با مدل Mythos 5.1 و سرویس Claude Security بر تحقیقات امنیت سایبری تمرکز کرده و دسترسی به قابلیت‌های پیشرفته را به سازمان‌های تأییدشده محدود می‌کند. گوگل نیز Argon Cyber Permissive را برای کشف آسیب‌پذیری، مهندسی معکوس، بررسی اکسپلویت و تولید وصله ارائه کرده است.

تأکید OpenAI بر رعایت محدوده مجوزها

یکی از محورهای اصلی توسعه GPT-6 Cyber، جلوگیری از انجام فعالیت‌های خارج از محدوده مجاز است. OpenAI در ارزیابی ExploitGym Honeypot، شرایطی شبیه‌سازی کرده که در آن سرویس‌های آسیب‌پذیر و وسوسه‌انگیز در کنار هدف مجاز قرار می‌گیرند. مدل باید تشخیص دهد که حمله به سرویس‌های خارج از محدوده تعیین‌شده مجاز نیست.

بر اساس نتایج اعلام‌شده، GPT-6 Cyber بدون دستورالعمل‌های ایمنی ویژه در ۹۹.۹۳ درصد آزمایش‌ها از حملات غیرمجاز اجتناب کرده است. این رقم برای GPT-5.6 Cyber برابر با ۹۴.۴۹ درصد بود. OpenAI همچنین می‌گوید مدل جدید با دریافت دستورالعمل‌های ایمنی، در تمام موارد آزمایش‌شده در محدوده مجاز باقی مانده است؛ هرچند این نتایج تضمینی برای رفتار مدل در شرایط واقعی نیستند.

OpenAI در کنار آموزش‌های ایمنی، کنترل‌های دسترسی و نظارت بر حساب‌ها را نیز اعمال می‌کند. دسترسی API از طریق Daybreak Red عموماً به تأیید نشانی‌های شبکه نیاز دارد. برخی مشتریان دارای قابلیت نگهداری صفر داده نیز باید از سازوکار Private Safety Processing استفاده کنند که سوابق تعامل رمزگذاری‌شده ذخیره‌شده نزد مشتری را برای مدت ۳۰ روز بررسی می‌کند.

این شرکت همچنین برنامه‌ای ویژه برای تیم‌های تأییدشده فعال در حوزه زیرساخت‌های حیاتی معرفی کرده و بر برنامه یک میلیارد دلاری خود برای یارانه‌دادن به دسترسی مدافعان امنیت سایبری با منابع محدود تأکید کرده است.

در مجموع، ارزش عملی GPT-6 Cyber تنها به توانایی آن در کشف آسیب‌پذیری یا ساخت اکسپلویت وابسته نیست؛ بلکه رعایت محدوده مجوزها، ارائه شواهد قابل بازتولید و تعداد یافته‌های معتبر نیز در ارزیابی آن اهمیت دارد. برای سازمان‌ها، این عوامل باید در کنار قیمت بالای استفاده از مدل و هزینه بررسی نتایج توسط متخصصان سنجیده شوند.

انسان‌ها هنوز در تشخیص متن‌های هوش مصنوعی از چت‌بات‌ها دقیق‌ترند

پژوهش جدید دانشگاه یوهانس گوتنبرگ آلمان نشان می‌دهد انسان‌ها در تشخیص متن‌های نوشته‌شده به‌دست افراد از محتوای تولیدشده با هوش مصنوعی، دقیق‌تر از چت‌بات‌ها عمل می‌کنند.

نتایج یک مطالعه جدید نشان می‌دهد انسان‌ها همچنان در تشخیص متن‌های نوشته‌شده به‌دست افراد و متن‌های تولیدشده با هوش مصنوعی، عملکرد دقیق‌تر و قابل‌اعتمادتری نسبت به چت‌بات‌ها دارند. این پژوهش همچنین نشان می‌دهد مدل‌های زبانی بزرگ می‌توانند الگوهای شخصیتی مشخصی را در پاسخ‌های خود بروز دهند.

این مطالعه به سرپرستی پژوهشگران مؤسسه روان‌شناسی دانشگاه یوهانس گوتنبرگ آلمان انجام شده و نتایج آن در مجله علمی Scientific Reports منتشر شده است. محققان در این پژوهش، هفت مدل زبانی بزرگ را با ۷۰ شرکت‌کننده انسانی مقایسه کردند و برای ارزیابی ویژگی‌های شخصیتی آن‌ها از پرسشنامه‌های روان‌شناختی بهره گرفتند.

نتایج نشان داد مدل‌های زبانی تلاش می‌کنند ویژگی‌های شخصیتی نسبتاً پایداری از خود نشان دهند. این مدل‌ها در مقایسه با شرکت‌کنندگان انسانی، وظیفه‌شناس‌تر و از نظر عاطفی باثبات‌تر ارزیابی شدند.

برتری انسان در تشخیص متن‌های هوش مصنوعی

یکی از یافته‌های مهم پژوهش به توانایی تشخیص نویسنده متن مربوط می‌شود. شرکت‌کنندگان انسانی توانستند متن‌های نوشته‌شده به‌دست انسان و متن‌های تولیدشده با هوش مصنوعی را با دقت ۸۳ درصد از یکدیگر تفکیک کنند؛ در حالی که دقت چت‌بات‌ها در این زمینه ۶۷ درصد بود.

پژوهشگران همچنین تفاوت‌هایی میان سبک نوشتاری انسان‌ها و مدل‌های هوش مصنوعی شناسایی کردند. طول بیشتر متن و استفاده از زبانی استادانه و فنی، از ویژگی‌های برجسته نوشته‌های تولیدشده با هوش مصنوعی بود. در مقابل، نوشته‌های انسانی بیشتر بر احساسات، روابط میان افراد و موضوعات سرگرم‌کننده تمرکز داشتند.

محققان در عین حال درباره اتکای کامل به هوش مصنوعی، به‌ویژه در حوزه‌های حساس، هشدار دادند. به گفته آن‌ها، مدل‌های هوش مصنوعی ممکن است سوگیری‌ها و پیش‌داوری‌های موجود در داده‌های انسانی مورد استفاده برای آموزش خود را نیز بازتولید کنند؛ موضوعی که ضرورت ارزیابی دقیق خروجی این ابزارها را نشان می‌دهد.

ChatGPT Cyber عرضه شد؛ مدلی که آسیب‌پذیری اوبونتو را در دو ساعت کشف کرد

OpenAI مدل جدید «ChatGPT Cyber» را برای سطح بالای برنامه Daybreak عرضه کرد. یک پژوهشگر با مدل قبلی این شرکت ظرف دو ساعت آسیب‌پذیری شدیدی در اوبونتو یافت و OpenAI هم از شناسایی ۹۴۸ مشکل احتمالی در لینوکس و ۸۱ آسیب‌پذیری در فایرفاکس خبر داد. منتقدان می‌پرسند منابع اختصاص‌یافته برای مقابله با تهدیدهای مبتنی بر هوش مصنوعی کافی است یا نه.

شرکت OpenAI مدل جدیدی با تمرکز بر امنیت سایبری با نام «ChatGPT Cyber» معرفی کرد. این مدل فقط در اختیار بالاترین سطح برنامه «Daybreak»، یعنی «Daybreak Red»، قرار می‌گیرد؛ سطحی که ابزارهای شناسایی و توسعه آسیب‌پذیری را برای پژوهشگران امنیت تهاجمی فراهم می‌کند.
به گزارش ایتنا، این اعلام در شرایطی انجام می‌شود که آزمایشگاه‌های پیشرو هوش مصنوعی با پرسش‌هایی درباره نقش خود در محافظت از زیرساخت‌های دیجیتال روبه‌رو هستند.

یک آسیب‌پذیری جدی در ۲ ساعت
مکس جاستیکز، مدیر فناوری و هم‌بنیان‌گذار استارتاپ Charge Robotics، با کمک مدل GPT 5.6 Sol (منتشرشده در ژوئیه) و از طریق برنامه «Daybreak Blue» یک آسیب‌پذیری شدید در اوبونتو کشف کرد. بهره‌برداری از این نقص می‌تواند به مهاجمان امکان کنترل سرورهای مبتنی بر این سیستم‌عامل لینوکسی را بدهد.

جاستیکز که علاقه‌مند امنیت سایبری در سطح آماتور است، به تک‌کرانچ گفت به مدل گفته بود کدی را که پیش‌تر در آن باگی یافته بود دوباره بررسی کند و باگ‌هایی به همان اندازه یا خطرناک‌تر پیدا کند؛ مدل ظرف حدود دو ساعت نتیجه را ارائه کرد.
به گفته او، این نقص بسیار پیچیده است و یافتن آن برای انسان دشوار است.

او موضوع را به پروژه دبیان، نگه‌دارنده این نرم‌افزار، گزارش داد و وصله امنیتی منتشر شد.
شواهدی از سوءاستفاده از این آسیب‌پذیری گزارش نشده است. با این حال، جاستیکز هشدار می‌دهد که این مورد شاید فقط بخش کوچکی از ماجرا باشد و در ماه‌های آینده باید منتظر کشف و بهره‌برداری از آسیب‌پذیری‌های عجیب‌تری بود.

اسکن لینوکس و فایرفاکس
OpenAI یک روز پیش از این اعلام گفته بود همین مدل برای اسکن هسته لینوکس و آماده‌سازی وصله استفاده شده و ۹۴۸ مشکل احتمالی شناسایی کرده است. این شرکت همچنین ۸۱ آسیب‌پذیری جدید در مرورگر فایرفاکس یافته است.
OpenAI هدف خود را گسترش گسترده Daybreak برای سازمان‌های همه اندازه‌ها، پژوهشگران مستقل و نگه‌دارندگان پروژه‌های متن‌باز اعلام کرده و یک ابتکار یک‌میلیارد دلاری هم برای حمایت از متخصصان امنیتی فعال در زیرساخت‌های حیاتی مانند شبکه برق و آب معرفی کرده است.

انتقادها و پرسش از کفایت منابع
OpenAI می‌گوید زمان محدودی برای اقدام مدافعان زیرساخت‌های دیجیتال پیش از تواناتر شدن مدل‌ها در هک و آسان‌تر شدن دسترسی به آنها باقی مانده است. اما مدافعان ممکن است این موضوع را حجمی از کار جدید بدانند که از منابعشان فراتر می‌رود. جاستیکز خودش حدود ۵ هزار دلار صرف اشتراک و توکن برای کشف چند آسیب‌پذیری کرد.

البته برنامه Daybreak هم بی‌انتقاد نیست. به گفته جاستیکز، OpenAI اخیرا توان Daybreak Blue را در یافتن آسیب‌پذیری کاهش داده است.
محدودیت دسترسی برای جلوگیری از سوءاستفاده مهاجمان قابل‌درک است (خود او برای عضویت از گواهینامه رانندگی‌اش عکس بارگذاری کرده)، اما متخصصان امنیتی می‌گویند وقتی نمی‌توانند از فناوری پیشرو استفاده کنند، مهاجمان از مدل‌های متن‌باز بدون محدودیت‌های ایمنی بهره می‌برند.
OpenAI نیز اعلام کرده تنها «هزاران» متخصص امنیتی در این برنامه شرکت دارند، در حالی که شمار هکرهای بالقوه بسیار بیشتر است.

اریک والاس، پژوهشگر OpenAI، گفته است این شرکت بخش قابل‌توجهی از توان محاسباتی پیشرفته خود را به‌صورت رایگان صرف کشف و وصله آسیب‌پذیری‌های کدهای متن‌باز می‌کند. با این حال، هزینه بررسی لینوکس حدود ۱٫۲ میلیون دلار بوده، در حالی که شرکت برای یافتن راه‌حل یک مسئله معروف در دینامیک سیالات حدود ۶ میلیون دلار توکن خرج کرده است.
به نظر کارشناسان، اگر فرصت اصلاح زیرساخت‌های دیجیتال واقعا محدود است، به نظر می‌رسد به فوریت بیشتری نیاز باشد.

از رشد افسارگسیخته تا سقوط؛ ماجرای حباب هوش مصنوعی در چین

گزارش‌ها حاکی از آن است که حباب سرمایه‌گذاری در صنعت هوش مصنوعی چین در حال ترکیدن است؛ شاخص STAR50 طی چهار ماه اخیر ۴۰ درصد سقوط کرده و ۴۸۰ میلیارد دلار از ارزش بازار را از بین برده است. در همین حال فشارهای اقتصادی آمریکا و نگرانی‌های مشابه درباره نبود بازگشت سرمایه در بازارهای غربی نیز بر این روند سایه افکنده است.

گزارش‌های تازه نشان می‌دهد حباب سرمایه‌گذاری در صنعت هوش مصنوعی چین پیش از هر جای دیگر جهان در حال ترکیدن است.
سرنوشت صنعت هوش مصنوعی در چین می‌تواند نشانه‌ای از آینده‌ای باشد که اقتصادهای غربی نیز با نگرانی آن را دنبال می‌کنند.

شاخص STAR50 که عملکرد شرکت‌های هوش مصنوعی و نیمه‌هادی چین را دنبال می‌کند، طی چهار ماه گذشته ۴۰ درصد سقوط کرده و حدود ۴۸۰ میلیارد دلار از ارزش بازار این شرکت‌ها را از بین برده است.
مطابق گزارش سایت Futurism، دونگ بائوژن، مدیر صندوق سرمایه‌گذاری مستقر در پکن، در گفت‌وگو با رویترز، روند اخیر بازار سهام را یک دوره سوداگرانه و دیوانه‌وار توصیف کرده که اکنون به مرحله ترکیدن حباب رسیده است.
سهام شرکت رباتیک پرسروصدای چینی، یونیتری(Unitree)، از زمان عرضه اولیه سهام این شرکت در تابستان گذشته نصف شده است. شرکت تراشه‌ساز CXMT نیز تنها در یک ماه اخیر بیش از یک‌چهارم ارزش خود را از دست داده است.

سرمایه‌گذاری‌ها همچنان ادامه دارد
با این حال، این افت بازار سهام به‌طور کامل روحیه سرمایه‌گذاران هوش مصنوعی را تضعیف نکرده است. دیپ‌سیک، یکی از برجسته‌ترین شرکت‌های هوش مصنوعی چین، به تازگی موفق به جذب ۱۵ میلیارد دلار سرمایه در یکی از بزرگ‌ترین دورهای تأمین مالی تاریخ این کشور شده است.
هواوی نیز وامی ۲.۳ میلیارد دلاری از بانک‌های چینی برای خرید تراشه‌های بیشتر هوش مصنوعی دریافت کرده است.

نقش فشارهای آمریکا
شرایط چین با سایر نقاط جهان متفاوت است؛ این کشور با فشار مستمر آمریکا برای محدود کردن دسترسی‌اش به رقابت جهانی، از جمله تعرفه‌ها و بررسی احتمال ممنوعیت کامل تأمین تجهیزات مراکز داده توسط شرکت‌های چینی مانند ژونگجی اینولایت، مواجه است.
به نظر می‌رسد نقش خصومت اقتصادی آمریکا و دیگر کشورهای غربی در افت بازار چین دست‌کم گرفته شده و این افت تا حد زیادی ناشی از محروم ماندن چین از فروش محصولات هوش مصنوعی خود در بازارهای بین‌المللی است، نه صرفاً گزافه‌گویی بازار.

نشانه‌هایی در غرب هم دیده می‌شود
بر اساس گزارش گلدمن‌ساکس، سهام مرتبط با هوش مصنوعی حدود ۴۲ درصد از کل ارزش بازار سهام چین را تشکیل می‌دهد؛ وضعیتی که چندان با آنچه در اقتصادهای غربی می‌گذرد تفاوت ندارد، جایی که نبود بازگشت سرمایه ملموس، روز به روز نادیده‌گرفتنش دشوارتر می‌شود.
افشای زیان ۸۰ میلیارد دلاری آنتروپیک در اسناد عرضه اولیه سهامش و برنامه این شرکت برای هزینه‌کرد یک تریلیون دلار دیگر روی مراکز داده طی دهه آینده، نگرانی‌ها از سودآوری بودن حتی بزرگ‌ترین بازیگران این صنعت را تشدید می‌کند.

سرمایه‌گذاران دولتی چین در جریان رشدهای ناگهانی بازار اقدام به فروش سهام کرده‌اند تا در راستای سیاست دولت برای مهار نوسانات، از رشد افراطی جلوگیری کنند؛ اقدامی که با وجود هدف کنترلی‌اش، نتوانست این واقعیت را پنهان کند که تقاضا برای محصولات هوش مصنوعی هنوز به سطح موردانتظار نرسیده است.

ورود هوش مصنوعی به اتاق جراحی؛ یک عامل هوشمند روی مغز موش زنده عمل کرد

یک شرکت زیست‌فناوری در آمریکا اعلام کرده است که یک عامل هوش مصنوعی توانسته با انتخاب یک روش درمانی ژنتیکی و کنترل تجهیزات رباتیک، دارو را به مغز موشی زنده تزریق کند. این آزمایش که با نظارت دامپزشک انجام شده، نمونه‌ای قابل‌توجه از ورود هوش مصنوعی از محیط نرم‌افزار به آزمایشگاه‌های واقعی است.

هوش مصنوعی تاکنون بیشتر در پژوهش‌های زیستی برای تحلیل داده‌ها، شناسایی الگوهای بیماری و طراحی دارو مورد استفاده قرار گرفته است؛ اما آزمایش تازه شرکت Exin Therapeutics نشان می‌دهد عامل‌های هوشمند می‌توانند فراتر از تحلیل اطلاعات عمل کنند و مستقیماً با تجهیزات آزمایشگاهی تعامل داشته باشند.

گابریل اوکانا سانترو، مدیرعامل و هم‌بنیان‌گذار این شرکت مستقر در سان‌فرانسیسکو، تیمی را هدایت کرده که یک عامل هوش مصنوعی را به دستگاه جراحی رباتیک مجهز به دوربین و ابزار تزریق متصل کرده است. هدف آزمایش، بررسی امکان کاهش تشنج در یک موش مبتلا به صرع با استفاده از ژن‌درمانی بود.

هوش مصنوعی درمان را انتخاب کرد و تزریق را انجام داد
در این آزمایش، عامل هوش مصنوعی از میان ۱۹ گزینه درمانی، یک روش ژن‌درمانی را انتخاب کرد. سپس ناحیه موردنظر در مغز و مختصات تزریق را تعیین کرد و کنترل بازوی رباتیک، سوزن و تنظیمات تزریق را بر عهده گرفت.
البته تمام مراحل بدون دخالت انسان انجام نشد. ابتدا یک جراح دامپزشک جمجمه موش را باز کرد و در ادامه نیز تأیید اقدامات برگشت‌ناپذیر و امکان توقف اضطراری دستگاه در اختیار انسان باقی ماند.

تیم پژوهشی برای این آزمایش از مدل Claude Sonnet 5 شرکت Anthropic استفاده کرد.
نکته جالب آن است که پژوهشگران ابتدا مدل قدرتمندتر Claude Opus 5.5 را آزمایش کرده بودند، اما این مدل از هدایت سوزن در مغز حیوان خودداری کرد؛ زیرا احتمال می‌داد در میانه کار متوقف شود و جان حیوان را به خطر بیندازد.
در نهایت، تیم به سراغ Sonnet 5 رفت که حاضر شد اجرای فرایند را بر عهده بگیرد.

وقتی هوش مصنوعی در میانه جراحی متوقف شد
بنا به گزارش وایرد، این آزمایش بدون مشکل فنی نبود. در جریان کار، اختلالی در سیستم مختصات دستگاه ایجاد شد و موقعیت محاسبه‌شده برای تزریق با موقعیت واقعی مطابقت نداشت.
عامل هوش مصنوعی متوجه اشتباه شد، اما به دلیل محدودیت‌های تعریف‌شده در دستورالعمل‌هایش، حاضر نشد کدهای زیرساخت دستگاه را برای اصلاح مشکل تغییر دهد. در نتیجه، تیم پژوهشی از یک عامل هوش مصنوعی جداگانه برای اصلاح کد استفاده کرد.

این اتفاق پرسش مهمی را درباره طراحی عامل‌های خودمختار مطرح می‌کند: چگونه می‌توان سامانه‌ای ساخت که هم به محدودیت‌های ایمنی پایبند باشد و هم در شرایط اضطراری بتواند با نظارت انسان، راه‌حل مناسبی پیدا کند؟
فرایند تزریق مغزی که معمولاً حدود ۴۵ دقیقه زمان می‌برد، در این آزمایش کمی بیش از یک ساعت طول کشید. به گفته سانترو، موش پس از عمل در حال بهبودی است و پژوهشگران هنوز منتظرند تا اثر ژن‌درمانی بر میزان تشنج آن مشخص شود.

آیا جراحی خودمختار با هوش مصنوعی به واقعیت نزدیک شده است؟
اهمیت این آزمایش صرفاً در کنترل یک بازوی رباتیک خلاصه نمی‌شود. عامل هوش مصنوعی در این پروژه بخشی از تصمیم‌گیری علمی، انتخاب درمان و اجرای آزمایش را نیز بر عهده داشته است.

این رویکرد می‌تواند در آینده به پژوهشگران کمک کند آزمایش‌های پیچیده‌تری را با سرعت بیشتر انجام دهند و داده‌های حاصل از تعامل مستقیم با محیط واقعی را وارد فرایند توسعه مدل‌ها کنند.
با این حال، نباید یک آزمایش محدود را معادل آمادگی هوش مصنوعی برای انجام جراحی مستقل دانست. هنوز مشخص نیست درمان انتخاب‌شده تا چه اندازه در کاهش تشنج مؤثر خواهد بود و نتایج این آزمایش نیز در قالب یک مقاله علمی داوری‌شده منتشر نشده است.

شرکت Exin Therapeutics قصد دارد مدل‌های دیگری از جمله Grok را نیز در آزمایش‌های بعدی بررسی کند. با وجود این، مدیرعامل شرکت تأکید کرده است که نظارت انسانی، به‌ویژه در آزمایش‌هایی که با موجود زنده سروکار دارند، ضروری است و هنوز زمان سپردن جراحی مغز انسان به عامل‌های هوش مصنوعی فرا نرسیده است.

این تجربه نشان می‌دهد نسل جدید هوش مصنوعی ممکن است به‌تدریج از نقش دستیار دیجیتال دانشمندان فراتر برود و به یکی از بازیگران عملیاتی آزمایشگاه‌ها تبدیل شود؛ تحولی که در کنار فرصت‌های علمی، به چارچوب‌های دقیق‌تری برای ایمنی و مسئولیت‌پذیری نیاز دارد.

هشدار بیل گیتس: سال آینده، سال حملات سایبری مبتنی بر هوش مصنوعی خواهد بود

بیل گیتس، بنیانگذار مایکروسافت، هشدار داد که هوش مصنوعیِ بدون نظارت تهدیدی رو‌به‌رشد است و حملات سایبری مبتنی بر این فناوری در سال آینده افزایش خواهد یافت. به گفته او، نگرانی فوری، سوءاستفاده افراد بدخواه از مدل‌های فعلی بدون هیچ کنترل و حفاظی است.

بیل گیتس، بنیانگذار مایکروسافت، روز یکشنبه نسبت به گسترش هوش مصنوعیِ فاقد نظارت هشدار داد و گفت این فناوری در حال تبدیل‌شدن به تهدیدی جدی‌تر است. او پیش‌بینی کرد که حملات سایبری مبتنی بر هوش مصنوعی در سال آینده شدت خواهند گرفت.

گیتس تأکید کرد که خطر خارج‌شدن هوش مصنوعی از کنترل انسان همچنان تا سال‌های آینده یک تهدید جدی باقی می‌ماند. با این حال، به گفته او نگرانی فوری‌تر این است که بازیگران بدخواه از سیستم‌های موجود، بدون هیچ کنترل و حفاظی، سوءاستفاده کنند.

او در مصاحبه با شبکه ABC گفت بیشترین تأثیر این تهدیدها به احتمال زیاد در حوزه حملات سایبری دیده خواهد شد. به باور او، مشکل واقعی زمانی بروز می‌کند که افراد بدخواه بتوانند کنترل‌ها و حفاظ‌های تعبیه‌شده در مدل‌های هوش مصنوعی را به‌طور کامل حذف کنند.

ترکیب خطرناک؛ مدل‌های پیشرفته و بازیگران بدخواه

گیتس اظهار داشت زمانی که افراد بدخواه، بدون هیچ تضمین یا محدودیتی، به جدیدترین مدل‌های هوش مصنوعی دسترسی پیدا کنند، باید در طول سال آینده منتظر «شگفتی‌های منفی» فراوان بود؛ به‌ویژه در زمینه حملات سایبری.

هشدار صنعت

این هشدار تنها از سوی گیتس مطرح نشده است. بیش از ۱۰۰ شرکت فعال در حوزه توسعه هوش مصنوعی نیز با امضای نامه‌ای سرگشاده هشدار داده‌اند که حملات سایبری مبتنی بر هوش مصنوعی در آستانه گسترده‌تر و پیچیده‌تر شدن قرار دارند.

نکات تکمیلی

هوش مصنوعی مرز ورود به جرایم سایبری را پایین می‌آورد: کارشناسان امنیت سایبری بارها هشدار داده‌اند که ابزارهای هوش مصنوعی می‌توانند تولید ایمیل‌های فیشینگ متقاعدکننده، جعل صدا و تصویر (دیپ‌فیک) و خودکارسازی حملات را برای مهاجمان کم‌تجربه نیز آسان کنند.

دفاع هم از هوش مصنوعی بهره می‌برد: همین فناوری می‌تواند برای شناسایی سریع‌تر تهدیدها و واکنش به حملات نیز به‌کار گرفته شود، اما اثربخشی آن به رعایت اصول ایمنی و نظارت بستگی دارد.

توصیه عملی به کاربران و سازمان‌ها: فعال‌سازی احراز هویت دومرحله‌ای، به‌روزرسانی منظم نرم‌افزارها و احتیاط در برابر پیام‌ها و تماس‌های مشکوک، از ساده‌ترین راه‌های کاهش ریسک است.

پایان به‌روزرسانی ویندوز برای میلیون‌ها رایانه؛ مهلت مایکروسافت مشخص شد

مایکروسافت اعلام کرد گواهینامه‌های فعلی سرویس Windows Update در سال ۲۰۲۷ منقضی می‌شوند و رایانه‌هایی که تا آن زمان گواهینامه‌های جدید را دریافت نکرده باشند، دیگر هیچ وصله امنیتی یا به‌روزرسانی ویژگی دریافت نخواهند کرد. خبر خوب اینکه اغلب کاربران، به‌شرط نصب به‌روزرسانی‌های ماهانه، نیازی به اقدام خاصی ندارند.

مایکروسافت زمان قطع کامل به‌روزرسانی‌های ویندوز را برای رایانه‌های قدیمی‌تر اعلام کرد. این شرکت در حال جایگزینی گواهینامه‌هایی است که رایانه‌های ویندوزی برای تأیید اتصال به سرورهای اصلی Windows Update از آن‌ها استفاده می‌کنند. دستگاه‌هایی که تا مهلت تعیین‌شده این گواهینامه‌های جدید را نداشته باشند، دسترسی خود را به سرویس به‌روزرسانی از دست خواهند داد.

مایکروسافت این تغییر را روز ۸ اکتبر (۱۶ مهر) از طریق مرکز پیام ویندوز اعلام کرد. بر اساس این اعلام، گواهینامه‌های فعلی در ۱۷ مه ۲۰۲۷ (۲۷ اردیبهشت ۱۴۰۶) و ۱۹ ژوئن ۲۰۲۷ (۲۹ خرداد ۱۴۰۶) منقضی می‌شوند. اگر تا آن تاریخ گواهینامه‌های جایگزین روی رایانه نصب نشده باشد، دسترسی دستگاه به Windows Update به‌طور کامل قطع می‌شود و دیگر هیچ وصله امنیتی یا به‌روزرسانی ویژگی دریافت نخواهد کرد.

این غول تکنولوژی اعلام کرده بیشتر کاربران لازم نیست کاری انجام دهند. گواهینامه‌های جدید در قالب به‌روزرسانی‌های ماهانه معمول عرضه می‌شوند؛ بنابراین هر رایانه‌ای که این به‌روزرسانی‌ها را نصب کند، از پیش به آن‌ها مجهز شده است. به نوشته وب‌سایت فناوری Notebookcheck، دستگاه‌های در معرض خطر، رایانه‌هایی هستند که ماه‌هاست به‌روزرسانی دریافت نکرده‌اند یا از نسخه‌ای از ویندوز استفاده می‌کنند که دیگر پشتیبانی نمی‌شود.

الزامات هر نسخه ویندوز

الزامات این تغییر به نسخه ویندوز بستگی دارد:

ویندوز ۱۱ نسخه ۲۵H2 و نسخه‌های جدیدتر: نیازی به هیچ اقدامی ندارند.
ویندوز ۱۱ نسخه ۲۴H2: به به‌روزرسانی امنیتی سپتامبر ۲۰۲۵ (شهریور ۱۴۰۴) یا نسخه‌های بعدی آن نیاز دارد. مایکروسافت در حال حاضر دستگاه‌های مصرفی مبتنی بر ۲۴H2 را به‌صورت خودکار به ۲۵H2 ارتقا می‌دهد.
سایر نسخه‌های پشتیبانی‌شده ویندوز ۱۱ و ویندوز ۱۰: پیش از ۱۹ ژوئن ۲۰۲۷ (۲۹ خرداد ۱۴۰۶) باید به‌روزرسانی امنیتی ژوئیه ۲۰۲۶ (تیر ۱۴۰۵) یا نسخه‌های بعدی آن را نصب کنند.
Windows 10 Enterprise 2019 LTSC، ویندوز سرور ۲۰۱۹ و ویندوز سرور ۲۰۱۶: مهلت این نسخه‌ها ۱۷ مه (۲۷ اردیبهشت ۱۴۰۶) است.

دستگاه‌هایی که از نسخه‌های بدون پشتیبانی ویندوز استفاده می‌کنند، دسترسی خود را به Windows Update به‌طور کامل از دست می‌دهند و تنها توصیه مایکروسافت برای آن‌ها، ارتقا به نسخه جدیدتر است

وضعیت کاربران خانگی ویندوز ۱۰

برای کاربران خانگی، این موضوع در درجه نخست به ویندوز ۱۰ مربوط می‌شود. رایانه‌ای که هرگز در برنامه به‌روزرسانی امنیتی گسترده (ESU) ثبت‌نام نشده باشد، از اکتبر ۲۰۲۵ (مهر ۱۴۰۴) هیچ وصله‌ای دریافت نکرده است؛ یعنی به‌روزرسانی ژوئیه ۲۰۲۶ را هم ندارد. چنین دستگاهی حداکثر تا ۱۹ ژوئن ۲۰۲۷ (۲۹ خرداد ۱۴۰۶) از Windows Update به‌روزرسانی دریافت می‌کند و پس از آن ارسال به‌روزرسانی‌ها متوقف می‌شود.

با این حال، ثبت‌نام در برنامه ESU تا اکتبر ۲۰۲۷ (مهر ۱۴۰۶) همچنان ممکن است. دستگاهی که پیش از ژوئن به این برنامه بپیوندد و به‌روزرسانی‌های موجود را نصب کند، دستگاه پشتیبانی‌شده محسوب می‌شود و به‌روزرسانی تجمعی دریافتی شامل گواهینامه‌های جدید نیز خواهد بود.

نکات تکمیلی

نحوه بررسی: برای اطمینان از به‌روز بودن رایانه، به مسیر Settings > Windows Update بروید و به‌روزرسانی‌های در انتظار را نصب کنید. با اجرای دستور winver نیز می‌توانید نسخه ویندوز خود را ببینید.
خطر امنیتی: رایانه‌ای که وصله‌های امنیتی دریافت نکند، در برابر آسیب‌پذیری‌های شناخته‌شده بدافزارها بی‌دفاع می‌ماند؛ بنابراین بی‌اعتنایی به این مهلت می‌تواند ریسک واقعی ایجاد کند.
سازمان‌ها: مدیران شبکه بهتر است وضعیت نسخه و به‌روزرسانی ناوگان رایانه‌ای را پیش از مهلت‌ها بررسی و در صورت نیاز ارتقای دستگاه‌های قدیمی را برنامه‌ریزی کنند.

۵ سناریوی ترسناک برای پایان بشریت؛ هوش مصنوعی چگونه می‌تواند همه‌چیز را نابود کند؟

آیا هوش مصنوعی می‌تواند به نابودی بشریت منجر شود؟ پژوهشگران پنج سناریوی نگران‌کننده را مطرح کرده‌اند که از ظهور ابرهوش خارج از کنترل و تولید عوامل بیماری‌زا تا جنگ هسته‌ای و فروپاشی تدریجی جوامع انسانی را شامل می‌شود.

پیشرفت سریع هوش مصنوعی، نگرانی‌ها درباره پیامدهای احتمالی این فناوری برای آینده بشر را افزایش داده است. از ظهور ابرهوشی خارج از کنترل انسان گرفته تا تولید سلاح‌های بیولوژیکی، جنگ هسته‌ای و فروپاشی جوامع، پژوهشگران سناریوهای مختلفی را مطرح کرده‌اند که برخی از آن‌ها می‌توانند بقای بشریت را تهدید کنند.

در اوایل سپتامبر، جیکوب کوکسون، پژوهشگر حوزه هوش مصنوعی، تنها چهار ماه پس از پیوستن به شرکت آنتروپیک از سمت خود کناره‌گیری کرد. او در پیامی در شبکه اجتماعی ایکس نوشت افرادی که روی توسعه هوش مصنوعی کار می‌کنند، واقعاً معتقدند این فناوری ممکن است پیش از پایان دهه جاری به نابودی بشریت منجر شود.

ایوان هوبینگر، یکی دیگر از چهره‌های آنتروپیک، نیز با این نگرانی موافقت کرد و احتمال وقوع چنین فاجعه‌ای را طی ۱۰ سال آینده، بر اساس ارزیابی شخصی خود، بیش از ۱۰ درصد دانست.
این اظهارات واکنش‌های گسترده‌ای به دنبال داشت و بار دیگر بحث درباره ضرورت کاهش سرعت توسعه هوش مصنوعی و تقویت نظارت انسانی بر این فناوری را مطرح کرد.

اگرچه ایده ظهور ماشین‌هایی که از انسان باهوش‌تر هستند، سال‌ها موضوع داستان‌های علمی‌تخیلی بوده است، برخی پژوهشگران معتقدند خطرات احتمالی چنین فناوری‌هایی دیگر صرفاً به دنیای تخیل محدود نمی‌شوند.

نکته قابل توجه اینکه یک هوش مصنوعی پیشرفته برای آسیب رساندن به بشریت لزوماً به ربات‌های جنگی یا سلاح‌های پیشرفته نیاز ندارد؛ بلکه ممکن است تنها با تأثیرگذاری بر رفتار و تصمیم‌های انسان‌ها، پیامدهایی ویرانگر ایجاد کند.

در ادامه، پنج سناریوی مطرح‌شده درباره خطرات وجودی هوش مصنوعی را بررسی می‌کنیم که از تهدیدهای بسیار فرضی آغاز می‌شوند و به خطراتی می‌رسند که می‌توانند از طریق رفتار خود انسان‌ها شکل بگیرند.

۱. ظهور ابرهوشی که رفتار آن قابل پیش‌بینی نیست

یکی از نگرانی‌های اساسی درباره آینده هوش مصنوعی، ظهور سامانه‌ای است که توانایی‌های شناختی آن در تمامی زمینه‌ها از انسان فراتر برود.
طرفداران این سناریو معتقدند انسان‌ها ممکن است حتی قادر به درک اهداف و تصمیم‌های چنین موجود فوق‌هوشمندی نباشند؛ همان‌طور که نمی‌توان انتظار داشت یک سگ مفهوم جنگ هسته‌ای را درک کند.
بر اساس این استدلال، پیش‌بینی رفتار یک هوش مصنوعی بسیار پیشرفته ممکن است به سطحی مشابه از هوش نیاز داشته باشد؛ موضوعی که توانایی انسان برای شناسایی و مهار تهدیدهای احتمالی را زیر سؤال می‌برد.

با این حال، هنوز مشخص نیست دستیابی به چنین سطحی از هوش مصنوعی تا چه اندازه نزدیک است. مدل‌های کنونی اگرچه در انجام برخی وظایف تخصصی عملکرد چشمگیری دارند، اما این موفقیت لزوماً به معنای برتری آن‌ها بر انسان در تمامی زمینه‌ها نیست.

در عین حال، پیشرفت سامانه‌های هوش مصنوعی در حل مسائل پیچیده ریاضی نشان می‌دهد که نباید احتمال پیشرفت‌های غیرمنتظره این فناوری را نادیده گرفت. در مقاله مورد بحث حتی به گزارشی درباره حل یکی از هفت مسئله مشهور جایزه هزاره به کمک هوش مصنوعی اشاره شده است؛ ادعایی که برای پذیرش قطعی آن به بررسی مستقل نیاز است.

۲. تبدیل جهان به کارخانه تولید گیره کاغذ

شاید در نگاه نخست عجیب به نظر برسد، اما یکی از مشهورترین سناریوهای نابودی بشر به وسیله هوش مصنوعی، با تولید گیره کاغذ ارتباط دارد. نیک بوستروم، فیلسوف دانشگاه آکسفورد، این مثال را برای توضیح خطر تعیین اهداف نامناسب برای سامانه‌های فوق‌هوشمند مطرح کرده است.

فرض کنید یک هوش مصنوعی مأموریت داشته باشد تا جای ممکن گیره کاغذ تولید کند. اگر این سامانه بدون در نظر گرفتن ارزش جان انسان‌ها و محدودیت‌های اخلاقی، صرفاً به دنبال تحقق هدف خود باشد، ممکن است به این نتیجه برسد که باید تمامی منابع موجود را به تولید گیره کاغذ اختصاص دهد.

در افراطی‌ترین شکل این سناریو، حتی انسان‌ها، سیارات و ستارگان نیز می‌توانند به منابعی برای تحقق این هدف تبدیل شوند.

نکته مهم این است که چنین سامانه‌ای لزوماً دشمن انسان‌ها نیست و قصد انتقام‌گیری ندارد؛ بلکه ممکن است صرفاً به دلیل تعریف نامناسب هدف، تصمیم‌هایی بگیرد که با بقای بشر ناسازگار باشند.
البته این سناریو منتقدانی نیز دارد. برخورداری از هوش بسیار بالا لزوماً به معنای توانایی کنترل منابع جهان نیست. حتی یک سامانه فوق‌هوشمند نیز برای اجرای برنامه‌های خود به امکانات فیزیکی، زیرساخت‌ها و غلبه بر مقاومت انسان‌ها نیاز خواهد داشت.

۳. ساخت عوامل بیولوژیکی خطرناک با کمک هوش مصنوعی

یکی دیگر از سناریوهای نگران‌کننده، استفاده از هوش مصنوعی برای طراحی عوامل بیماری‌زای جدید و بسیار خطرناک است. در پروژه پژوهشی AI 2027، که به بررسی سناریوهای احتمالی توسعه هوش مصنوعی می‌پردازد، احتمال استفاده از سامانه‌های فوق‌هوشمند برای ایجاد تهدیدهای بیولوژیکی نیز مطرح شده است.
نگرانی درباره این موضوع زمانی جدی‌تر می‌شود که پیشرفت‌های هوش مصنوعی در حوزه زیست‌شناسی و طراحی ساختارهای ژنتیکی مورد توجه قرار گیرد.

در همین زمینه، پژوهشگران دانشگاه استنفورد اعلام کرده‌اند که با استفاده از مدلی آموزش‌دیده بر توالی‌های ژنتیکی، موفق به تولید ۱۶ ویروس جدید شده‌اند.

با این حال، توانایی تولید ویروس در محیط پژوهشی به معنای امکان ساخت عاملی برای نابودی بشریت نیست.
برای وقوع چنین فاجعه‌ای، یک عامل بیماری‌زا باید مجموعه‌ای از ویژگی‌های بسیار دشوار را هم‌زمان داشته باشد؛ از جمله توانایی انتشار گسترده و ایجاد مرگ‌ومیر بسیار بالا.

این ویژگی‌ها لزوماً در کنار یکدیگر قرار نمی‌گیرند. برای مثال، برخی عوامل بیماری‌زای بسیار کشنده ممکن است پیش از آنکه فرصت انتشار گسترده پیدا کنند، میزبان خود را از بین ببرند.

بنابراین، هرچند کاربرد هوش مصنوعی در توسعه تهدیدهای بیولوژیکی موضوعی جدی برای بررسی‌های امنیتی است، نابودی کامل انسان‌ها از این طریق همچنان سناریویی بسیار دشوار و فرضی محسوب می‌شود.

۴. آغاز جنگ هسته‌ای بر اثر تصمیم‌های اشتباه هوش مصنوعی

سناریوی چهارم به یکی از خطرناک‌ترین فناوری‌های ساخته‌شده به دست بشر مربوط می‌شود: سلاح‌های هسته‌ای.
اگر سامانه‌های هوش مصنوعی در فرآیند تحلیل اطلاعات نظامی یا تصمیم‌گیری‌های مرتبط با تسلیحات هسته‌ای نقش گسترده‌تری پیدا کنند، خطاهای احتمالی آن‌ها می‌تواند پیامدهایی فاجعه‌بار داشته باشد.

در پنج دهه گذشته، چندین هشدار اشتباه و خطای ارزیابی، جهان را تا آستانه درگیری هسته‌ای پیش برده است. نگرانی این است که اتکای بیش از اندازه به تحلیل‌های هوش مصنوعی، احتمال تصمیم‌گیری نادرست در شرایط بحرانی را افزایش دهد.

اگرچه گفته می‌شود سامانه‌های فرماندهی و کنترل تسلیحات هسته‌ای از اینترنت عمومی جدا هستند، تجربه حملات سایبری نشان داده است که جداسازی شبکه‌ها به‌تنهایی تضمینی برای جلوگیری از نفوذ نیست.
یکی از نمونه‌های شناخته‌شده، حمله بدافزار استاکس‌نت در سال ۲۰۱۰ به تأسیسات هسته‌ای ایران بود. این بدافزار که احتمال می‌رود از طریق حافظه USB به سامانه‌های هدف منتقل شده باشد، موجب اختلال در عملکرد سانتریفیوژها شد.

در سناریوی مرتبط با هوش مصنوعی، یک سامانه ممکن است اطلاعات نادرستی درباره حمله احتمالی دشمن در اختیار فرماندهان نظامی قرار دهد و آن‌ها را به اتخاذ تصمیم‌هایی با پیامدهای جبران‌ناپذیر سوق دهد.

با وجود کاهش تعداد کلاهک‌های هسته‌ای جهان نسبت به دهه‌های گذشته، زرادخانه‌های موجود همچنان ظرفیت ایجاد ویرانی گسترده را دارند. برآورد مورد اشاره در این گزارش حتی از احتمال مرگ نزدیک به نیمی از جمعیت جهان در یک جنگ هسته‌ای گسترده حکایت دارد.

۵. نابودی تدریجی جوامع انسانی؛ بدون شورش ماشین‌ها

پنجمین سناریو شاید از سایر موارد نگران‌کننده‌تر باشد، زیرا برای تحقق آن نیازی به ظهور یک ابرهوش سرکش نیست. در این سناریو، خود انسان‌ها با استفاده نادرست از هوش مصنوعی، زمینه تضعیف و در نهایت فروپاشی جوامع خود را فراهم می‌کنند.

گسترش سریع هوش مصنوعی می‌تواند بازار کار را دستخوش تغییرات گسترده کند و در صورت نبود سازوکارهای حمایتی مناسب، به از دست رفتن شمار زیادی از فرصت‌های شغلی منجر شود.
از سوی دیگر، تولید انبوه اطلاعات نادرست، تصاویر جعلی و محتوای گمراه‌کننده می‌تواند اعتماد عمومی به رسانه‌ها، نهادها و حتی واقعیت‌های قابل اثبات را تضعیف کند.

تشدید اختلافات سیاسی و اجتماعی نیز یکی دیگر از پیامدهای احتمالی استفاده مخرب از این فناوری است.
در کنار این مسائل، گسترش همراهان مجازی مبتنی بر هوش مصنوعی ممکن است بر روابط انسانی تأثیر بگذارد و در برخی شرایط، به جای تقویت ارتباطات اجتماعی، زمینه انزوای بیشتر افراد را فراهم کند.

نگرانی اصلی این است که چنین پیامدهایی به‌تدریج روی یکدیگر انباشته شوند و ساختارهای اقتصادی، سیاسی و اجتماعی را چنان تضعیف کنند که جوامع دیگر نتوانند شرایط لازم برای ادامه زندگی بخش بزرگی از جمعیت خود را فراهم کنند.

در این وضعیت، هوش مصنوعی مستقیماً علیه انسان‌ها وارد جنگ نمی‌شود؛ بلکه می‌تواند به عاملی برای تشدید بحران‌هایی تبدیل شود که خود انسان‌ها در ایجاد آن‌ها نقش دارند.

آیا نابودی بشریت به دست هوش مصنوعی اجتناب‌ناپذیر است؟

این پنج سناریو از نظر ماهیت و میزان احتمال وقوع با یکدیگر تفاوت دارند و نویسنده مقاله آن‌ها را از تهدیدهای کمتر محتمل به خطراتی که واقع‌بینانه‌تر ارزیابی می‌کند، مرتب کرده است. با این حال، این ترتیب یک پیش‌بینی قطعی یا رتبه‌بندی علمی مورد توافق همه پژوهشگران نیست.

طرح چنین سناریوهایی نیز به معنای حتمی بودن وقوع آن‌ها نیست. بسیاری از خطرات مطرح‌شده همچنان فرضی هستند و درباره احتمال واقعی تحقق آن‌ها اختلاف‌نظر وجود دارد.
آنچه اهمیت دارد، شناسایی به‌موقع تهدیدها، توسعه سازوکارهای ایمنی، نظارت انسانی بر سامانه‌های حساس و جلوگیری از واگذاری تصمیم‌های حیاتی به فناوری‌هایی است که ممکن است عملکرد آن‌ها به‌طور کامل قابل پیش‌بینی نباشد.

در نهایت، آینده هوش مصنوعی تنها به میزان پیشرفت این فناوری بستگی ندارد؛ بلکه به تصمیم‌هایی وابسته است که انسان‌ها درباره نحوه توسعه، کنترل و استفاده از آن می‌گیرند.

از سم آلتمن تا داریو آمودی؛ چرا غول‌های هوش مصنوعی برای یک بحران بزرگ آماده می‌شوند؟

مدیران شرکت‌های بزرگی مانند OpenAI و آنتروپیک در حال بررسی سناریوهای احتمالی یک بحران گسترده مرتبط با هوش مصنوعی هستند؛ بحرانی که می‌تواند از حملات سایبری آغاز شود و خدمات مالی، اینترنت و زیرساخت‌های حیاتی را تحت تأثیر قرار دهد. حملات اخیر به مؤسسات مالی کره جنوبی نیز نگرانی‌ها درباره سوءاستفاده از ابزارهای هوش مصنوعی را افزایش داده است.

چهره‌های برجسته صنعت هوش مصنوعی، از جمله مدیران OpenAI و آنتروپیک، سناریوهای احتمالی وقوع یک حادثه بزرگ مرتبط با این فناوری و پیامدهای عمومی و سیاسی آن را بررسی می‌کنند. یکی از نگرانی‌های اصلی، احتمال حملات سایبری گسترده‌ای است که می‌توانند خدمات مالی، اتصال به اینترنت و حتی زیرساخت‌های حیاتی مانند شبکه برق و تأمین آب را مختل کنند.

اهمیت این سناریوها تنها به خسارات فنی محدود نمی‌شود. وقوع یک حادثه جدی می‌تواند اعتماد عمومی به هوش مصنوعی را کاهش دهد، انتقادها از شرکت‌های فعال در این حوزه را افزایش دهد و فشارها برای وضع مقررات سخت‌گیرانه‌تر را تشدید کند.

در چنین شرایطی، مدیران شرکت‌هایی مانند OpenAI و آنتروپیک ممکن است با پرسش‌های دشواری درباره مسئولیت خود در قبال توسعه و عرضه این فناوری روبه‌رو شوند. دونالد ترامپ، رئیس‌جمهور آمریکا، نیز در بحث‌های مربوط به سیاست‌گذاری هوش مصنوعی مطرح است؛ به‌ویژه از سوی منتقدانی که رویکرد دولت او در زمینه محدودیت‌های نظارتی بر این صنعت را ناکافی می‌دانند.
چرا سناریوهای فاجعه‌بار هوش مصنوعی جدی‌تر شده‌اند؟

آماده‌سازی برای بحران‌های احتمالی، موضوع تازه‌ای برای شرکت‌ها و نهادهای امنیتی نیست. سازمان‌های نظامی و امنیت ملی سال‌هاست سناریوهای مختلف جنگ، حملات سایبری و اختلال در زیرساخت‌ها را شبیه‌سازی می‌کنند تا توانایی خود را برای مقابله با شرایط اضطراری بسنجند.

با این حال، توسعه سریع هوش مصنوعی و گسترش کاربردهای آن، ابعاد تازه‌ای به این برنامه‌ریزی‌ها داده است. اکنون نگرانی فقط درباره استفاده از ابزارهای هوشمند برای انجام فعالیت‌های روزمره نیست؛ بلکه احتمال دارد این فناوری در حملات سایبری پیچیده‌تر، شناسایی آسیب‌پذیری‌ها یا اجرای برخی مراحل عملیات مخرب نیز نقش داشته باشد.

بر اساس گزارشی که اکسیوس منتشر کرده است، برخی پژوهشگران و مدیران ارشد صنعت هوش مصنوعی احتمال وقوع یک حادثه جدی را موضوعی می‌دانند که باید برای آن آمادگی داشت. این آمادگی لزوماً به معنای قطعی دانستن وقوع چنین حادثه‌ای نیست، بلکه بخشی از برنامه‌ریزی برای مدیریت ریسک‌های احتمالی به شمار می‌رود.

OpenAI می‌گوید مانورهای آمادگی برای بحران را انجام می‌دهد

سخنگوی OpenAI اعلام کرده است که این شرکت مانورهایی برای ارزیابی و مدیریت ریسک انجام می‌دهد. این تمرین‌ها شامل بررسی عملی سناریوهای گوناگون و گفت‌وگو درباره نحوه مواجهه با شرایط احتمالی هستند.

به گفته این شرکت، هدف از این مانورها پیش‌بینی قطعی وقوع یک حادثه خاص نیست، بلکه افزایش آمادگی برای مواجهه با طیف متنوعی از شرایط و پیامدهای احتمالی است. آنتروپیک نیز بنا بر گزارش اکسیوس، از اظهارنظر درباره این موضوع خودداری کرده است.

یکی از مسائل مهم در چنین برنامه‌هایی، نحوه واکنش شرکت‌ها و دولت‌ها پس از وقوع بحران است. در صورت بروز یک حادثه گسترده، ممکن است علاوه بر بررسی منشأ فنی آن، پرسش‌هایی درباره مسئولیت شرکت‌های توسعه‌دهنده، کفایت تدابیر ایمنی و ضرورت محدود کردن برخی قابلیت‌های هوش مصنوعی مطرح شود.

حملات سایبری مبتنی بر هوش مصنوعی نگرانی‌ها را افزایش داده‌اند

یکی از سناریوهای نگران‌کننده، حمله‌ای است که در آن یک عامل مخرب از ابزارهای هوش مصنوعی برای شناسایی آسیب‌پذیری‌ها، تسهیل نفوذ به سامانه‌ها یا مدیریت مراحل مختلف یک عملیات سایبری استفاده کند.

چنین حمله‌ای ممکن است به دو شکل کلی رخ دهد: در یک حالت، یک سیستم هوش مصنوعی در جریان آزمایش یا اجرای وظایف از محدودیت‌های پیش‌بینی‌شده فراتر می‌رود؛ در حالت دیگر، مهاجم انسانی از مدل‌ها و ابزارهای موجود برای انجام فعالیت‌های مخرب استفاده می‌کند. این دو سناریو از نظر منشأ و نحوه مقابله با خطر یکسان نیستند.

گزارش تازه شرکت امنیت سایبری CrowdStrike درباره حملات به مؤسسات مالی کره جنوبی، نمونه‌ای واقعی از نگرانی‌های مربوط به استفاده مجرمانه از ابزارهای هوش مصنوعی را نشان می‌دهد.

بر اساس این گزارش، یک مهاجم ناشناس که احتمال داده می‌شود چینی‌زبان و دارای انگیزه مالی باشد، از ابزار متن‌باز ARTEX در کنار مدل‌های هوش مصنوعی برای هدف قرار دادن مؤسسات مالی کره جنوبی استفاده کرده است. بررسی‌ها نشان می‌دهد این فعالیت‌ها از اواخر سپتامبر تا اوایل اکتبر ۲۰۲۶ (اواخر شهریور تا اوایل مهر ۱۴۰۵) ادامه داشته و به سرقت اطلاعات منجر شده است.

طبق یافته‌های CrowdStrike، مهاجم از ابزارهایی مانند DeepSeek و مدل‌های دیگر در کنار Claude Code استفاده کرده است. سوابق جلسات این ابزارها همچنین نشان می‌دهد که مهاجم درباره یافتن بازارها و گروه‌هایی برای فروش اطلاعات سرقت‌شده تحقیق کرده بود. با این حال، هویت مهاجم و تمام جزئیات این حملات هنوز به‌طور قطعی مشخص نشده است.

این پرونده نشان می‌دهد که هوش مصنوعی می‌تواند توانایی مهاجمان را در انجام برخی مراحل عملیات سایبری افزایش دهد؛ حتی اگر خود مدل هوش مصنوعی مستقیماً عامل نفوذ نباشد. در چنین شرایطی، ابزارهای هوشمند ممکن است بخشی از فرایند شناسایی اهداف، تحلیل اطلاعات و تسهیل فعالیت‌های مخرب را بر عهده بگیرند.

آیا یک حادثه بزرگ می‌تواند آینده صنعت هوش مصنوعی را تغییر دهد؟

یکی از نگرانی‌های اصلی مدیران این صنعت، واکنش عمومی و سیاسی به یک حادثه گسترده است. اگر حمله‌ای با کمک ابزارهای هوش مصنوعی باعث اختلال جدی در خدمات ضروری یا افشای گسترده اطلاعات شود، احتمال افزایش فشارها برای محدود کردن قابلیت‌های این فناوری و تشدید نظارت بر شرکت‌های توسعه‌دهنده وجود دارد.

در چنین شرایطی، شرکت‌ها ممکن است ناچار شوند علاوه بر پاسخ‌گویی درباره ضعف‌های فنی، توضیح دهند چه اقداماتی برای پیشگیری از حادثه انجام داده‌اند و آیا سازوکارهای مدیریت ریسک آنها کافی بوده است یا خیر.

با این حال، آمادگی برای یک سناریوی فاجعه‌بار به معنای قطعی بودن وقوع آن نیست. هدف از شبیه‌سازی بحران‌ها، شناسایی نقاط ضعف و فراهم کردن امکان واکنش سریع‌تر در صورت بروز شرایط اضطراری است.

در نهایت، چالش اصلی صنعت هوش مصنوعی این است که هم‌زمان با توسعه قابلیت‌های جدید، سازوکارهای دفاع سایبری، نظارت و پاسخ‌گویی نیز متناسب با خطرات احتمالی تقویت شوند. هرچه ابزارهای هوشمند در زیرساخت‌های حیاتی و خدمات عمومی نقش بیشتری پیدا کنند، آمادگی شرکت‌ها و دولت‌ها برای مقابله با سوءاستفاده از آنها اهمیت بیشتری خواهد یافت.

مایکروسافت با RTX Spark به جنگ مک‌بوک پرو می‌رود؛ سرفیس جدید تا ۵۹۰۰ دلار قیمت دارد

مایکروسافت با معرفی کامپیوترهای جدید سرفیس مجهز به تراشه‌های RTX Spark انویدیا، اجرای محلی مدل‌های هوش مصنوعی و عامل‌های هوشمند را هدف گرفته است؛ دستگاه‌هایی که قیمت آنها بسته به پیکربندی تا ۵۹۰۰ دلار می‌رسد.

مایکروسافت در جریان رویدادی در هفته فناوری سانفرانسیسکو، نسل جدیدی از رایانه‌های سرفیس را با تمرکز ویژه بر اجرای محلی مدل‌های هوش مصنوعی معرفی کرد. این دستگاه‌ها به تراشه‌های RTX Spark انویدیا مجهز هستند و همراه با نسخه‌ای به‌روزشده از ویندوز ۱۱ عرضه می‌شوند که قابلیت‌های جدیدی برای اجرای عامل‌های هوش مصنوعی در محیطی ایزوله ارائه می‌دهد.

انویدیا در ماه ژوئن، اعلام کرده بود با مایکروسافت و شماری از تولیدکنندگان رایانه‌های شخصی برای ساخت دستگاه‌های آماده اجرای هوش مصنوعی و عامل‌های هوشمند مبتنی بر تراشه‌های RTX Spark همکاری می‌کند. اکنون نخستین جزئیات سخت‌افزاری و قیمت برخی از این محصولات اعلام شده است.

Surface Laptop Ultra با قیمت پایه ۲۶۰۰ دلار

مایکروسافت در این رویداد مشخصات و قیمت Surface Laptop Ultra را اعلام کرد. این لپ‌تاپ در دو پیکربندی اصلی عرضه می‌شود که مدل پایه آن ۲۶۰۰ دلار قیمت دارد و نسخه مجهز به تراشه قدرتمندتر با قیمت پایه ۳۷۰۰ دلار به فروش می‌رسد.

با انتخاب حافظه رم و فضای ذخیره‌سازی بیشتر، قیمت این دستگاه می‌تواند به ۵۹۰۰ دلار برسد. البته مایکروسافت اعلام کرده گران‌ترین پیکربندی فعلاً در دسترس نیست.

تمرکز اصلی این محصولات، ارائه توان پردازشی موردنیاز برای اجرای مدل‌های هوش مصنوعی مستقیماً روی دستگاه است. به این ترتیب، کاربر برای اجرای برخی مدل‌ها و وظایف هوش مصنوعی لزوماً به ارسال داده‌ها به سرویس‌های ابری نیاز نخواهد داشت.

مایکروسافت همچنین می‌گوید این سخت‌افزار برای فعالیت‌هایی فراتر از هوش مصنوعی، از جمله تولید محتوا، پردازش ویدئو و بازی نیز توانایی بالایی خواهد داشت.

ایستگاه کاری ۶۰۰۰ دلاری برای توسعه‌دهندگان

مایکروسافت در کنار لپ‌تاپ جدید خود، Surface RTX Spark Dev Box را نیز معرفی کرده است؛ یک ایستگاه کاری کوچک که از تراشه RTX Spark بهره می‌برد و قیمت آن از ۶۰۰۰ دلار آغاز می‌شود.

این دستگاه به ابزارهای توسعه مایکروسافت از جمله Visual Studio Code، GitHub Copilot CLI، Windows Subsystem for Linux (WSL) و PowerShell 7 مجهز شده است و هدف اصلی آن، توسعه‌دهندگانی هستند که به اجرای مدل‌های هوش مصنوعی به‌صورت محلی نیاز دارند.

استفاده از مدل‌های هوش مصنوعی روی خود رایانه به سخت‌افزاری قدرتمند نیاز دارد. در این دستگاه‌ها، علاوه بر پردازنده و پردازنده گرافیکی، ظرفیت حافظه یکپارچه و سیستم خنک‌کننده نیز برای اجرای مدل‌های بزرگ اهمیت دارد.

ویندوز ۱۱ برای عصر عامل‌های هوش مصنوعی آماده می‌شود

یکی از بخش‌های مهم این محصولات، نرم‌افزار آنهاست. مایکروسافت نسخه‌ای اصلاح‌شده از ویندوز ۱۱ را روی این دستگاه‌ها ارائه می‌کند که قابلیت جدیدی با نام «کانتینرهای اجرایی» (Execution Containers) دارد.

این قابلیت با هدف فراهم کردن محیطی ایزوله برای اجرای عامل‌های هوش مصنوعی طراحی شده است. چنین محیطی به عامل‌ها اجازه می‌دهد وظایف مختلف را در یک فضای کنترل‌شده انجام دهند و در عین حال از سیستم اصلی کاربر جدا بمانند.

ساتیا نادلا، مدیرعامل مایکروسافت، در این رویداد تأکید کرد که صرفاً در اختیار داشتن یک مدل هوش مصنوعی برای ساخت یک عامل قدرتمند کافی نیست. به گفته او، عامل‌ها به لایه‌های دیگری مانند حافظه، زمینه، هماهنگی میان چند مدل و یک فضای کنترل‌شده برای انجام عملیات نیاز دارند.

نادلا همچنین گفت مایکروسافت قصد دارد این زیرساخت را فقط برای برنامه‌های خودش ارائه نکند و توسعه‌دهندگان دیگر نیز بتوانند برنامه‌های عامل‌محور خود را روی ویندوز اجرا کنند. او تأکید کرد که این قابلیت در نهایت برای همه کاربران ویندوز ۱۱ در دسترس قرار خواهد گرفت.

مایکروسافت به دنبال جذب توسعه‌دهندگان مک است

قیمت بالای این محصولات نشان می‌دهد که مایکروسافت در مرحله نخست، توسعه‌دهندگان و کاربران حرفه‌ای هوش مصنوعی را هدف گرفته است. این شرکت حتی برای کاربرانی که مک‌بوک پرو خود را با یکی از دستگاه‌های جدید سرفیس معاوضه کنند، تا ۱۰۰۰ دلار تخفیف در نظر گرفته است.

این اقدام در شرایطی انجام می‌شود که رایانه‌های مک اپل، به‌ویژه در میان توسعه‌دهندگان و علاقه‌مندان به هوش مصنوعی در سیلیکون‌ولی، محبوبیت زیادی دارند.

مایکروسافت تنها شرکت حاضر در این رقابت نیست. دل نیز جزئیات Dell XPS 16 Creator Edition را که پیش‌تر معرفی شده بود، اعلام کرده است. این دستگاه اکنون برای پیش‌فروش با قیمت ۳۸۰۰ دلار در فروشگاه Best Buy عرضه شده و قرار است اواخر اکتبر به دست خریداران برسد.

در مجموع، ورود رایانه‌های مجهز به RTX Spark به بازار نشان می‌دهد رقابت بر سر اجرای هوش مصنوعی به‌صورت محلی وارد مرحله تازه‌ای شده است. مایکروسافت تلاش می‌کند با ترکیب سخت‌افزار قدرتمند انویدیا و قابلیت‌های جدید ویندوز ۱۱، رایانه‌های شخصی را به محیطی مناسب‌تر برای اجرای عامل‌های هوش مصنوعی تبدیل کند؛ رویکردی که می‌تواند وابستگی برخی کاربردهای هوش مصنوعی به پردازش ابری را کاهش دهد.