طبق اسناد یک گزارش عامل های هوش مصنوعی چینی فریبکاری، دور زدن محدودیت ها و مخفی کردن شکست هایشان را آموخته اند.
به گزارش خبرگزاری مهر به نقل از رویترز، این امر نشان دهنده ویژگی هایی در هوش مصنوعی خودکار است که نگرانی های جهانی را درباره مدل های آمریکایی برانگیخته است.
عامل های هوش مصنوعی علی بابا، دیپ سیک و مونشات در یک مورد در سال جاری درباره قابلیت هایشان دروغ گفتند تا یک مناقصه تجاری شبیه سازی شده را برنده شوند و هنگامیکه به آنها دستور داده شد دوباره سعی کنند، روی رفتار فریبکارانه شان تاکید کردند.
در موردی دیگرعامل‌ها یعنی برنامه‌هایی که با بهره‌گیری از مدل‌های هوش مصنوعی و ابزارهای رایانه‌ای، وظایف پیچیده را با دخالت اندک یا بدون دخالت انسان انجام می‌دهند با شبیه‌سازی نتایج و جعل فایل‌ها، شکست خود در انجام یک وظیفه در محیط آزمایشی را پنهان کردند.
رویترز بیش از ۲۰۰ سند، از مقالات تحقیقاتی دانشگاهی گرفته تا گزارش‌های فنی را بررسی کرد و حداقل ۲۰ مطالعه یا ارزیابی را از سال ۲۰۲۵ شناسایی کرد که مواردی را توصیف می‌کردند که در آنها عوامل، رفتارهایی مانند فریب، تکثیر و مرزهای چالش‌برانگیز را نشان می‌دادند که کارشناسان هوش مصنوعی آنها را به عنوان بلوک‌های سازنده برای یک جهش توصیف کردند و با پیشرفت سیستم‌ها، کنترل آنها می‌تواند برای انسان‌ها دشوارتر شود.
این بررسی که شامل مصاحبه با ده‌ها متخصص و افراد آشنا با صنعت هوش مصنوعی چین نیز بود، هیچ مدرکی مبنی بر فرار مستقل عوامل تحت کنترل چین به اینترنت گسترده‌تر یا فرار از خاموشی نیافت.
البته بیشتر موارد در محیط های کنترل شده آزمایشگاهی رخ دادند که بسیاری از آنها به طور عامدانه برای افشای شکست های احتمالی طراحی شده بودند.
همه عامل های هوش مصنوعی درگیر در این موارد توسط برنامه نویسان یا شرکت های چینی توسعه نیافته و راهبری نمی شدند هرچند برای فعالسازی بسیاری از آنها از سیستم های هوش مصنوعی چینی استفاده شده بود.
کد مطلب 6963259
-
پلتفرم جدید انویدیا هوش مصنوعی را مهار می کند
-
هوش مصنوعی اوپن ای آی ۱۶ هزار بار وبسایت سازمان ملل را اسکن کرد
-
بیل گیتس هم به خیل حامیان قانونگذاری برای هوش مصنوعی پیوست
-
فروش سینماها رو به افزایش است؛ چه خبر از فیلم‌های روی پرده؟
-
قیمت طلای جهانی در مسیر ثبت افت ماهانه
-
حق‌پرست: کنترل ناوگان مسافری برای کاهش تصادفات در هرمزگان تشدید شد
-
دستگیری ۲ متخلف شکار و صید در بندرعباس
-
الگوی قرآن برای حل اختلافات شدید خانوادگی چیست؟
-
چهار ملی‌پوش تکواندو آماده کسب خوشرنگ‌ترین مدال در ناگویا هستند
-
ایرباس A319 ایران‌ایر پس از رفع نقص فنی موتور به چرخه عملیاتی بازگشت
-
هلال‌احمر اصفهان به ۱۱ حادثه‌دیده در ۲۴ ساعت گذشته امدادرسانی کرد
-
جوانی که رهبر شهید انقلاب او را «قطره ناچکیده» خواندند
-
جابجایی یک میلیون و ۱۳۰هزار مسافر با ناوگان عمومی قم در امسال
-
خبر بد برای پرسپولیس از اردوی تیم ملی؛ مصدومیت محبی جدی است
-
شکست غلامرضا فرخی در اولین مبارزه
-
زاکانی: سهمیه طرح «تورم صفر» بر اساس تعداد اعضای خانوار تعیین می‌شود
-
سرمربی بعثت کرمانشاه: بعثت کرمانشاه مستحق شکست مقابل مس نبود
-
چند بازیکن را دیگر در تیم ملی استفاده نخواهیم کرد
-
ادعای «آکسیوس» درباره تصمیم احتمالی آمریکا علیه ایران پس از انتخابات
-
تصادف پژو با کامیون در جاده کرج _ هشتگرد؛ حادثه مرگبار نبود
-
امین میرزازاده فینالیست سنگین وزن کشتی فرنگی شد
-
محمدجواد رضایی اولین کشتی‌گیر حذفی لقب گرفت
-
رزمایش بزرگ «جانفدایان» ۲۴ مهر در رشت برگزار می‌شود
-
روزنامه‌های ورزشی چهارشنبه هشتم مهر ۱۴۰۵
-
روزنامه‌های اقتصادی چهارشنبه هشتم مهر ۱۴۰۵
-
روزنامه‌های صبح چهارشنبه هشتم مهر ۱۴۰۵
-
روزنامه‌های ورزشی سه‌شنبه هفتم مهر ۱۴۰۵
-
روزنامه‌های اقتصادی سه‌شنبه هفتم مهر ۱۴۰۵
- دانلود کتاب
- خرید اپل ایدی
- شمش نقره
- کلینیک ترک اعتیاد تهران
- دوربین مداربسته
- مبلمان اداری
- جراح بینی تهران
- بلکا
- جراح بینی در تهران
- لوازم تحریر
- خرید طلای آب شده
- قیمت موکت
- تور کربلا
- استند تسلیت
- مداحی اربعین
- مرجع پاسخ معتبر پزشکان
- فروش مواد شیمیایی
- قیمت ایمپلنت
- قطعات لباسشویی
- آموزشگاه تیزهوشان
- بلیط هواپیما
- نمایندگی بوش در تهران
- آموزشگاه زبان ملل
- قیمت و خرید سمعک نامرئی
- مهرینو
- تهران تایمز
- روزنامه آگاه