بر اساس گزارشی که Bloomberg منتشر کرده و ITmedia NEWS آن را بازتاب داده است، OpenAI طی چند هفته اخیر با Anthropic و Google DeepMind درباره راههای تقویت ایمنی هوش مصنوعی گفتوگو کرده است. این مذاکرات در شرایطی انجام میشود که سه شرکت در توسعه مدلهای پیشرفته رقیب یکدیگرند؛ بااینحال، ریسکهای مدلهای قدرتمند میتواند به هماهنگی محدود در زمینه استانداردهای ایمنی و تبادل اطلاعات نیاز داشته باشد.
گفتوگوی رقبای هوش مصنوعی درباره استانداردهای ایمنی
کریس لهان، مدیر سیاستگذاری جهانی OpenAI، در نشستی در واشنگتن گفته است این گفتوگوها از چند هفته قبل آغاز شدهاند. به گفته او، همکاری برای اولویتدادن به ایمنی مفید است و سه شرکت برای چنین مذاکراتی لزوماً به معافیت از قوانین ضدانحصار نیاز ندارند. Anthropic و Google DeepMind نیز درباره گزارش Bloomberg اظهارنظر نکردهاند.
همکاری رقبا بر سر ایمنی هوش مصنوعی میتواند به ارزیابی ریسک، اشتراک محدود اطلاعات تهدید و واکنش به رخدادهای جدی کمک کند. بااینحال، در گزارش منتشرشده جزئیات فنی یا توافق مشخصی ارائه نشده است؛ بنابراین هنوز نمیتوان از ایجاد استاندارد مشترک یا ائتلاف رسمی سخن گفت.
نگرانی FTC از ایجاد مانع برای رقبا
بحث اصلی این است که هماهنگی میان بازیگران بزرگ بازار ممکن است از دید نهادهای نظارتی به توافقی محدودکننده برای رقابت تبدیل شود. اندرو فرگوسن، رئیس کمیسیون تجارت فدرال آمریکا، گفته است اگر شرکتهای هوش مصنوعی درخواست معافیت ضدانحصار ارائه کنند، این درخواست با تردید جدی بررسی خواهد شد. از نگاه او، چنین معافیتی ممکن است به ایجاد مانعی برای ورود شرکتهای جدید منجر شود.
کنگره آمریکا و پیشنهادهای متفاوت
همزمان، قانونگذاران آمریکایی رویکردهای متفاوتی مطرح کردهاند. برنی سندرز اعلام کرده قصد دارد طرحی برای ممنوعیت توسعه هوش مصنوعی در سطحی که بتواند از کنترل انسان خارج شود ارائه کند. از سوی دیگر، جیم بنکس و آدام شیف طرحی را برای ایجاد معافیت محدود ضدانحصار در زمینه اشتراک اطلاعات مربوط به ازدسترفتن کنترل، تهدیدهای سایبری و زیستی پیشنهاد کردهاند.
طبق گزارش Bloomberg، این پیشنهاد در یک لایحه سالانه مرتبط با دفاع قرار گرفته است؛ اما بهدلیل برنامه کاری مجلس نمایندگان و نزدیکبودن انتخابات نوامبر، احتمال تصویب آن تا پایان سال پایین ارزیابی شده است.
دیدگاه متفاوت مدیرعامل NVIDIA
جنسن هوانگ، مدیرعامل NVIDIA، مداخله تازه دولت را ضروری نمیداند. او معتقد است سازوکار بازار میتواند شرکتها را به توسعه سریع و درعینحال ایمن تشویق کند و انتخاب میان سرعت و ایمنی، دوگانهای نادرست است. این دیدگاه در برابر رویکردهایی قرار میگیرد که برای تضمین ایمنی هوش مصنوعی به مقررات یا هماهنگی رسمیتر میان شرکتها تکیه دارند.
چرا این خبر برای صنعت فناوری مهم است؟
این گفتوگوها نشان میدهد ایمنی هوش مصنوعی دیگر فقط یک مسئله فنی نیست و به سیاست رقابت، مسئولیت شرکتها و نقش دولت نیز گره خورده است. نتیجه مذاکرات هنوز روشن نیست، اما نحوه همکاری شرکتهای بزرگ بدون محدودکردن رقابت میتواند بر استانداردهای آینده صنعت و مسیر فعالیت استارتاپهای هوش مصنوعی اثر بگذارد.
برای مدیران فناوری و توسعهدهندگان، نکته مهم این است که بحث ایمنی احتمالاً همزمان در دو مسیر پیش خواهد رفت: اقدامات داوطلبانه شرکتها و مقرراتی که حدود اشتراک اطلاعات میان رقبا را مشخص میکنند. گزارش فعلی درباره نتیجه نهایی این مذاکرات یا زمان اعلام تصمیم مشترک اطلاعاتی ارائه نمیدهد.
منبع: ITmedia NEWS، به نقل از Bloomberg
لینک منبع: مشاهده گزارش اصلی