«متا» توسعه هوش مصنوعی را متوقف می‌کند
1 دقیقه خوانده شدهشرکت متا اعلام کرده است که ممکن است توسعه سیستم‌های هوش مصنوعی خود را متوقف کند، زیرا این سیستم‌ها را بسیار خطرناک می‌داند. مارک زاکربرگ، مدیرعامل متا، پیش از این متعهد شده بود که هوش مصنوعی جامع، که تقریباً به عنوان هوش مصنوعی با توانایی‌های یک انسان در انجام کارها تعریف می‌شود، را به طور علنی در دسترس قرار دهد. با این حال، این شرکت در سند جدید خود موسوم به “Frontier AI Framework” اعلام کرده است که شرایط خاصی وجود دارد که ممکن است مانع از انتشار سیستم هوش مصنوعی بسیار توانمند متا شود.
این سند دو نوع سیستم هوش مصنوعی را شناسایی می‌کند که متا انتشار آنها را بسیار خطرناک می‌داند: سیستم‌های پرخطر و سیستم‌های بحرانی. به گفته متا، این سیستم‌ها می‌توانند در امنیت سایبری، حملات شیمیایی و بیولوژیکی مورد استفاده قرار گیرند. تفاوت آنها در این است که سیستم‌های بحرانی می‌توانند منجر به نتایج فاجعه‌باری شوند که قابل جبران نیستند، در حالی که سیستم‌های پرخطر، اگرچه می‌توانند انجام یک حمله را تسهیل کنند، اما نه به اندازه یک سیستم بحرانی.
متا اذعان می‌کند که فهرست فاجعه‌های احتمالی در این سند کامل نیست، اما شامل مواردی است که به باور این شرکت، فوری‌ترین و محتمل‌ترین آنها هستند و در نتیجه انتشار مستقیم یک سیستم هوش مصنوعی قدرتمند به وجود می‌آیند. نکته قابل توجه این است که متا، خطر یک سیستم را بر اساس هیچ آزمایشی تجربی طبقه‌بندی نمی‌کند، بلکه این طبقه‌بندی بر اساس داده‌های ارائه شده توسط محققان داخلی و خارجی انجام می‌شود که توسط تصمیم‌گیرندگان ارشد بررسی می‌شوند. متا معتقد است که علم ارزیابی هنوز به اندازه کافی قوی نیست که بتواند معیارهای کمی قطعی برای تصمیم‌گیری در مورد خطرپذیری یک سیستم ارائه دهد.
طبق سند منتشر شده، اگر متا تشخیص دهد که یک سیستم پرخطر است، دسترسی به آن را به صورت داخلی محدود می‌کند و تا زمانی که اقدامات کاهشی برای کاهش خطر به سطوح متوسط انجام ندهد، آن را منتشر نخواهد کرد. از سوی دیگر، اگر یک سیستم خطرناک تلقی شود، متا حفاظت‌های امنیتی نامشخصی را برای جلوگیری از نفوذ به سیستم اجرا خواهد کرد و توسعه آن را تا زمان کاهش خطر متوقف خواهد کرد.
سند Frontier AI Framework متا، که به گفته این شرکت با تغییر چشم‌انداز هوش مصنوعی تکامل خواهد یافت، پاسخی به انتقادها از رویکرد باز این شرکت برای توسعه سیستم‌های هوش مصنوعی است. متا، برخلاف شرکت‌هایی مانند OpenAI که سیستم‌های خود را پشت یک API قرار می‌دهند، پذیرفته است که فناوری هوش مصنوعی خود را به صورت آزاد، اما نه به صورت متن باز، در دسترس قرار دهد.
متا با انتشار Frontier AI Framework خود، احتمالاً قصد دارد استراتژی هوش مصنوعی باز خود را با استراتژی شرکت چینی DeepSeek مقایسه کند. دیپ‌سیک سیستم‌های خود را به صورت آزاد در دسترس قرار می‌دهد، اما هوش مصنوعی این شرکت محافظت‌های کمی دارد و به راحتی می‌توان آن را برای تولید خروجی‌های مضر هدایت کرد.
متا در این سند نوشته است: “ما معتقدیم که با در نظر گرفتن مزایا و خطرات برای تصمیم‌گیری در مورد چگونگی توسعه و استقرار هوش مصنوعی پیشرفته، می‌توان آن را به گونه‌ای به جامعه تحویل داد که مزایای آن برای جامعه حفظ شود و در عین حال، سطح مناسبی از خطر را داشته باشد.”
با احترام ، مجله خبری جوان آنلاین
