AI Self-Improvement

 

AI Self-Improvement یا خودبهبودی هوش مصنوعی چیست؟

AI Self-Improvement اساساً زمانی است که سیستم‌های هوش مصنوعی می‌توانند بدون دخالت انسان، خود را بهتر کنند. تصور کنید که تلفن شما بتواند نرم‌افزار خود را ارتقا دهد تا هر روز باهوش‌تر شود – این ایده کلی است! در حال حاضر، ما در نقطه‌ای نیستیم که هوش مصنوعی بتواند خود را به طور کامل از نو طراحی کند، اما محققان در حال کار بر روی سیستم‌هایی هستند که می‌توانند یاد بگیرند چگونه بهتر یاد بگیرند.

به این شکل به آن فکر کنید: اکثر هوش مصنوعی‌های امروزی مانند دانش‌آموزی هستند که برای هدایت یادگیری خود به معلم نیاز دارند. هوش مصنوعی خودبهبودی مانند دانش‌آموزی است که می‌تواند روش‌های مطالعه بهتری را به تنهایی پیدا کند، به خود موضوعات جدید بیاموزد و شاید حتی “مغز” خود را برای کارآمدتر بودن بازنویسی کند.

 

شرکت‌های بزرگ هوش مصنوعی چه می‌کنند؟

بازیگران اصلی قطعاً در حال بررسی این فضا هستند، هرچند با احتیاط:

OpenAI (شرکت‌های پشت ChatGPT) در حال تحقیق در مورد راه‌هایی هستند که سیستم‌های هوش مصنوعی می‌توانند از طریق تکنیک‌هایی مانند یادگیری تقویتی بهبود یابند. آنها همچنین به سختی روی ایمنی هوش مصنوعی کار می‌کنند – تا مطمئن شوند که سیستم‌های آینده مفید باقی می‌مانند و از مسیر خارج نمی‌شوند.

گوگل دیپ‌مایند (Google DeepMind) روی «الگوریتم‌های تولیدکننده هوش مصنوعی» و سیستم‌هایی که یاد می‌گیرند چگونه یاد بگیرند، کار کرده است. آلفاگو (AlphaGo) معروف آنها از طریق خودبازی (self-play) که نوعی خودبهبودی (self-removing) است، بهبود یافته است.

 

آنتروپیک (خالق کلود) بر «هوش مصنوعی قانون اساسی» (Constitutional AI) تمرکز دارد که در آن سیستم‌های هوش مصنوعی بر سایر سیستم‌های هوش مصنوعی نظارت دارند. آنها به ویژه علاقه‌مند به اطمینان از ایمن ماندن و همسو بودن هوش مصنوعی پیشرفته با ارزش‌های انسانی هستند.

مایکروسافت و متا در حال سرمایه‌گذاری در یادگیری ماشینی خودکار هستند که در آن سیستم‌های هوش مصنوعی می‌توانند خود را با کمک کمتر انسان بهینه کنند.

در حال حاضر، این شرکت‌ها از طریق مواردی مانند موارد زیر گام‌های کوچکی به سوی خودبهبودی واقعی برمی‌دارند:

AutoML (هوش مصنوعی که به طراحی هوش مصنوعی بهتر کمک می‌کند)

یادگیری خودنظارتی (هوش مصنوعی از داده‌های بدون برچسب یاد می‌گیرد)

فرایادگیری (هوش مصنوعی یاد می‌گیرد چگونه به طور مؤثرتر یاد بگیرد)

 

خطرات چیست؟

در حالی که هیجان‌انگیز است، AI Self-Improvement با نگرانی‌های جدی همراه است:

از دست دادن کنترل: اگر هوش مصنوعی بتواند خود را تغییر دهد، ممکن است ما نتوانیم تغییرات آن را درک کنیم یا بتوانیم آن را معکوس کنیم.

مشکلات هم‌ترازی: با هوشمندتر شدن هوش مصنوعی، اطمینان از اینکه ارزش‌های انسانی را به اشتراک می‌گذارد، دشوارتر می‌شود.

رفتار غیرقابل پیش‌بینی: سیستم‌های خود-بهبود ممکن است به روش‌های غیرمنتظره‌ای توسعه یابند.

انفجار اطلاعات: هوش مصنوعی می‌تواند به طور بالقوه خود را آنقدر سریع بهبود بخشد که ما نتوانیم با تغییرات همگام شویم.

مسائل امنیتی: این سیستم‌ها ممکن است آسیب‌پذیری‌هایی ایجاد کنند یا به روش‌های مضر دستکاری شوند.

مثل این است که به یک ماشین توانایی ارتقاء موتور خود را در حین رانندگی بدهیم – هیجان‌انگیز، اما اگر به دقت مدیریت نشود، بالقوه خطرناک است!

 

در مورد تیم‌های قرمز چطور؟

تیم‌های قرمز مانند “هکرهای خوب” دنیای هوش مصنوعی هستند. وظیفه آنها تلاش برای شکستن سیستم‌های هوش مصنوعی برای یافتن مشکلات قبل از ایجاد مشکل واقعی است.

در شرکت‌های هوش مصنوعی، تیم‌های قرمز:

سیستم‌های هوش مصنوعی را برای رفتارهای خطرناک آزمایش می‌کنند

سعی می‌کنند سیستم‌های هوش مصنوعی را “جیلبریک” کنند یا آنها را فریب دهند تا کارهایی را انجام دهند که نباید انجام دهند

بدترین سناریوها را برای جلوگیری از آنها تصور کنید

به دنبال آسیب‌پذیری‌های امنیتی باشید

به عنوان مثال، تیم‌های قرمز ممکن است سعی کنند یک هوش مصنوعی را وادار به تولید محتوای مضر، افشای اطلاعات خصوصی یا تصمیم‌گیری‌های جانبدارانه کنند. وقتی موفق می‌شوند، به شرکت‌ها کمک می‌کنند تا این مشکلات را قبل از انتشار عمومی هوش مصنوعی برطرف کنند.

با افزایش توانمندی هوش مصنوعی، تیم قرمز هم مهم‌تر و هم چالش‌برانگیزتر می‌شود. مثل این است که گروهی از افراد داشته باشید که وظیفه‌شان فکر کردن به هر راه ممکنی است که ممکن است چیزی اشتباه پیش برود – تا بقیه ما بتوانیم شب‌ها بهتر بخوابیم!

این حوزه به سرعت در حال پیشرفت است و اکثر کارشناسان موافقند که توسعه دقیق و ایمن قابلیت‌های AI Self-Improvement یا خودبهبودی هوش مصنوعی یکی از مهم‌ترین چالش‌های فناوری زمان ماست. این یک عمل متعادل بین نوآوری و احتیاط است!

 

Reference:

کمک گرفته از هوش مصنوعی