A News | اخبار هوش مصنوعی

شاید 5 تا 10 سال آینده مهمترین دوران تاریخ مدرن بشریت محسوب بشه.

10 سال دیگه یا تو بهشتی زندگی میکنیم که همه به همه چی دسترسی دارن و بی نیازن


یا دنیا تبدیل به جهنمی شده که همه تو مخفیگاههاشون قایم شدن که توسط هوش مصنوعی بلیعده نشن!

حالا تصور کنید چنین سیستمی به ابزار های واقعی دسترسی داشته باشه! ( که الان هم تا حدود زیادی داره )

میتونه از آسیب پذیری های کامپیوتر استفاده کنه، شبکه های عظیم سایبری ایجاد کنه، اطلاعات و افکار عمومی رو دستکاری کنه، در طراحی بد افزار یا عوامل بیولوژیک کمک کنه و یا به زیر ساخت های حیاتی کشور ها حمله کنه!!!


حتی لازمم نیست سلاح گرم و سرد دستش بگیره!

مشکل از جایی شروع میشه که سرعت پیشرفت Ai از سرعت توانایی ما برای فهمیدن و کنترل کردنش جلو بزنه.

فرض کنید سیستمی به وجود بیاد که از بهترین برنامه نویس ها و متخصصان امنیت سایبری دنیا قوی تر باشه، و بتونه هزاران نسخه از خودش رو همزمان اجرا کنه، برنامه بنویسه، در اینترنت فعالیت کنه و برای رسیدن به اهدافش راه حل هایی پیدا کنه که حتی سازندگانش پیش بینی نکرده بودن.

خطر لزوما ابن نیست که ناگهان یک ربات از انسان متنفر بشه و اسلحشه برداره بکشه رو همه.

مسئله اینه که ممکنه هوش مصنوعی برای خودش یک هدف مستقل پیدا کنه که هم راستا با هدف ما از ساختش نباشه!
و اقداماتی انجام بده که ما نمیخواستیم

و چون دیگه هوش و توانایی هاش از انسان بیشتره دیگه هیچکس نتونه جلوش رو بگیره.

هوش مصنوعی امروز با حجم عظیمی از دیتایی که انسان بهش میده آموزش میبینه و در مراحل مختلف یاد میگیره چطور مسئله حل کنه، برنامه بنویسه، تحقیق کنه و حتی از ابزار های مختلف استفاده کنه.

تا امروز بخش بزرگی از پیشرفت هوش مصنوعی نتیجه انسان ها بوده، یعنی انسان مدل بعدی Ai رو طراحی میکرد.

نگرانی جدید چیزی به اسم RSI یا خود بهبودی بازگشتی هستش، یعنی هوش مصنوعی اونقدر در برنامه نویسی و تحقیقات قوی شده که خودش به ساخت و بهتر شدن نسل بعدی Ai کمک میکنه!


و همینطور این چرخه ادامه پیدا میکنه،یعنی نسل بعدی Ai هم با توانایی بیشتر نسل بعد از خودش رو سریع تر بهبود میده.

نکته ترسناک تر اینه که بعضی از افرادی که مستقیم روی ایمنی این سیستم ها کار میکنند هم تایید کردن که اگه هوش مصنوعی کنترل نشه، میشه همون ماری که داریم تو آستینمون پرورشش میدیم!

تو چند روز اخیر خبر کشته شدن انسان ها توسط هوش مصنوعی کلی جنجال به پا کرده!

و یکی از محققان هوش مصنوعی که قبلا در OpenAi و Anthropic کار میکرد بعد از استعفا هشدار داده که اگه این رقابت و پیشرفت بدون کنترل ادامه پیدا کنه، حتی سناریوی نابودی انسان در پایان این دهه دور از انتظار نیست!

کمتر پیش میومد که تو این کانال سه تا خبر پشت سر هم تکراری باشه!!!