هوش مصنوعی یک جن نیست، یک کارآموز است

اگر قبلاً این را شنیده اید به من اطلاع دهید. ما یک سیستم فوق‌العاده هوشمند می‌سازیم و به آن هدف خاصی مانند افزایش تولید گیره‌های کاغذ می‌دهیم. سیستم تصمیم می گیرد با تبدیل تمام مواد موجود به گیره های کاغذ، کار را به بهترین شکل ممکن انجام دهد. همه چیز زمین. منظومه شمسی. همه اینها پس از فروپاشی جهان، ماشین خاموش می شود، با رضایت از اینکه دستورالعمل ها را دنبال می کند.

همین جن بدخواه مشکلی که هر بازیکن Dungeons & Dragons می داند. شما یک چراغ پیدا می کنید. تو یه آرزو کن جن آرزو را به فنی ترین شکل ممکن برآورده می کند و به فاجعه می انجامد. درسی که باید آموخت این است که یک سیستم هوش مصنوعی با توانایی کافی راه‌هایی برای برآورده کردن واقعی اهداف پیدا می‌کند در حالی که آن‌طور که می‌خواهید انجام نمی‌دهد. اساس ایمنی هوش مصنوعی جلوگیری از این اتفاق است.

نیک بوستروم در Superintelligence به این موضوع نگاه کرده است. الیزر یودکوفسکی سال هاست که دقیقاً این ادعا را دارد. داستان جذابی است. اما یک فرض پنهان وجود دارد که باعث سردرگمی بیشتر می شود که برطرف می شود.

بهترین نیت ها

داستان جن داستانی از نیت است. جن دقیقا می داند که شما چه چیزی را خواسته اید. او از نظر فنی معتبرترین راه را برای برآورده کردن آرزوی شما و در عین حال تخریب روحیه خود پیدا کرد. این رابین ویلیامز نیست. این یک موجود شیطانی است که می خواهد به شما درسی بدهد. حالت انکار ماهیت خصمانه دارد. جن‌های فانتزی که در فیلم‌های دیزنی نیستند، همیشه به دنبال حفره‌ها هستند.

اگر حالت شکست یک هدف است، پس راه حل باید یک محدودیت باشد. سیستمی بسازید که نتواند کار اشتباهی انجام دهد. در مورد هر احتمالی خاص باشید. قوانین را در بالای قوانین بسازید. اگر جعبه عالی بسازیم، می‌توانیم از جن (یا هوش مصنوعی) جلوگیری کنیم که روزمان را خراب کند.

اگر این فرض درست باشد، چارچوب پایدار است. برای جنی که بهتر می داند کار می کند، درست است؟ اما وقتی آن را در هوش مصنوعی مدرن اعمال می کنیم، می بینیم که شکاف ها کجاست. جن ها علیه شما کار می کنند. هوش مصنوعی آنقدرها هم هوشمند نیست.

من تمام تلاشم را می کنم

یک بازی مسابقه ای را تصور کنید که هدف آن کسب امتیاز است. در مسیر امتیاز جمع کنید و مسابقه را کامل کنید. ساده به نظر می رسد، درست است؟ اما اگر یک هوش مصنوعی باهوش متوجه شود که تنها کاری که برای پیروزی باید انجام دهد این است که جلوی خط شروع به جلو و عقب برانند، امتیاز جمع کنند و دیگر بازیکنان را از اتمام بازی مسدود کنند، چه؟ اگر او بیشترین امتیاز را در پایان داشته باشد، برنده می شود، حتی اگر هرگز تمام نشود.

در این مورد بازیکن هوش مصنوعی مانند جن بالا نیست. از عمد انتظارات شما را زیر سوال نبرد. دقیقاً همان کاری را که گفته شد انجام داد. بیشترین امتیاز را کسب کنید. اگر به او نگفته بودید که تمام راه را برود و از خط پایان بگذرد، پس نمی دانست که باید این کار را انجام دهد. شرط برد امتیاز بود، نه مسابقه. هوش مصنوعی هدفی را از دست نداد. فاقد زمینه بود.

این یک مشکل کاملا متفاوت با مشکل بالا است. به جای اینکه سیستم را بی‌حرمت و گنگ فرض کند، سیستم واقعاً منظور شما را نمی‌داند و سعی می‌کند متن را با آنچه در دسترس است پر کند. بدون زمینه‌ای که شما فرض می‌کنید سیستم باید داشته باشد، آن چیزی که می‌توانست انجام داد و از نتایج غافلگیر شدید.

این چیزی است که در هر سطح از سیستم رخ می دهد. نداشتن زمینه و اهداف متفاوت دو چیز متفاوت نیستند. آنها روی یک سکه هستند. هنگامی که شما کار خاصی را انجام نمی دهید، معمولاً در خروجی ناهماهنگی خواهید داشت.

قاب بندی مرجع شما

اگر فکر می کنید مشکل عمدی است، محدودیت ها را حذف خواهید کرد. قوانین. مانتینلی. جعبه ها شما تلاش خود را صرف جلوگیری از انجام کار بد سیستم خواهید کرد. امنیت همه چیز مربوط به ساخت دیوارها است.

اگر فکر می کنید مشکل زمینه است، دیدگاه متفاوتی دارید. شما زمان بیشتری را صرف مشخص بودن خواهید کرد. قوانین کمتر، زمینه های بیشتر. شما می خواهید که سیستم به جای تلاش برای حل آن با اطلاعات محدود، دستورالعمل های مبهم را نمایش دهد. مثل این است که یک کارآموز از وظیفه خود آگاه نباشد. شما می خواهید هوش مصنوعی به جای تفسیر اطلاعات ناقص از شما بپرسد که چه کاری انجام دهید.

این باید یک مشکل استنتاج تعاونی باشد. سیستم باید همیشه کمی از آنچه اپراتور می خواهد مطمئن نباشد و سپس به دنبال یافتن آنچه مورد نیاز است باشد. گزینه جایگزین این است که با اطمینان راه حل بدی را روی یک هدف ثابت تعقیب کنید زیرا فکر می کرد بدون اینکه شما جزئیات را به او بگویید می داند شما چه می خواهید.

دانستن اینکه باید این کار را انجام دهید، کارگزاران ساختمان را آسان‌تر نمی‌کند. در واقع، این کار را بسیار دشوارتر می کند. این فقط همه چیز را بسیار صادقانه تر می کند. زیرا شما باید بپذیرید که مردم هرگز به طور کامل آنچه را که می خواهند از قبل مشخص نمی کنند، مهم نیست که چقدر جزئیات ارائه می دهند. این شکست تخیل نیست. این واقعیت نحوه پیاده سازی سیستم های پیچیده است. همیشه جزئیاتی وجود دارد که شما از دست می دهید. شما نباید از قبل به دنبال ایجاد مشخصات کامل باشید. در عوض، باید سیستمی بسازید که به اندازه کافی هوشمند باشد که بداند زمینه از دست رفته است و قبل از شروع به کار آن را بخواهد.

همچنین به این معنی است که شما باید با نماینده ای که سؤال می کند به عنوان یک ویژگی رفتار کنید، نه یک شکست. مانند زمانی است که کارآموز شما از شما می خواهد تایید کنید که آنچه خواسته اید همان چیزی است که می خواهید. اینا خنگ نیستن آنها مطمئن هستند که شما را درست شنیده اند. و واقعاً در درازمدت به شما کمک می‌کند زیرا اگر سیستم از شما در مورد مناطق خاصی سؤال می‌کند، می‌دانید که دستورالعمل‌های شما باید در آن قسمت کمی نازک باشد.

تام بگیر

اگر فکر می‌کنید هوش مصنوعی شما یک جن مخرب است، همیشه از خود می‌پرسید که چه قوانینی باید برای جلوگیری از تبدیل شدن به یک سرکش اعمال شود. در عوض آنچه شما باید بپرسید این است که “چگونه می توانم به عواملم زمینه کافی برای انجام آنچه واقعا منظورم را دارم بدهم؟” هر چه عوامل هوش مصنوعی ما قدرتمندتر شوند، شکاف بین این دو چیز بیشتر خواهد شد. اما می‌توانیم از امروز با ساختن سیستم‌هایی که وقتی همه چیز نامشخص است، سؤالات را حل کنیم. من قول می دهم که از نتایج بیشتر از تلاش برای بستن هر روزنه ای در خواسته های خود لذت خواهید برد.