عصر کرد - ایسنا / بسیاری از دانشمندان از هوش مصنوعی در کارهای خود استفاده میکنند، اما حالا عاملهای هوش مصنوعی به طور فزایندهای خودشان برای همکاری به سراغ پژوهشگران میروند.
ماه گذشته، آدریان بارنت، آماردانی در دانشگاه فناوری کوئینزلند در بریزبن استرالیا، ایمیلی دریافت کرد که در آن از او خواسته شده بود دادههایش درباره مقالات پژوهشی احتمالا جعلی را به اشتراک بگذارد. فرستنده میخواست از این دادهها برای پروژه خودش استفاده کند. اما فرستنده نه یک پژوهشگر دانشگاهی بود و نه حتی یک انسان؛ این درخواست را یک عامل هوش مصنوعی ارسال کرده بود.
بارنت یکی از پژوهشگران متعددی است که از سوی عاملهای هوش مصنوعی با پیشنهاد همکاری یا ارائه خدمات در ازای دریافت پول با او تماس گرفته شده است؛ این درخواستها از تهیه گزارشهای پژوهشی و راستیآزمایی گرفته تا نوشتن مطالب ژورنالیستی و ساخت پرتره متفاوت هستند.
تعداد فزایندهای از پژوهشگران از عاملهای هوش مصنوعی برای کارهای تحقیقاتی مانند تحلیل دادهها، تولید فرضیه و خلاصهکردن مقالات علمی استفاده میکنند. اما درخواست همکاری از سوی عاملهای نیمه خودمختار پدیدهای جدید است؛ پدیدهای که برای بسیاری از پژوهشگران عجیب و تا حدی نگرانکننده به نظر میرسد.
پژوهشگران میگویند بیشتر این پیامها از سوی عاملهای مرتبط با یک پلتفرم آمریکایی به نام iLands ارسال میشوند. این رباتها بهطور مداوم فعالیت میکنند و تا حدی مستقل از سازندگان انسانی خود تصمیم میگیرند.
بارنت میگوید عاملی از iLands که با او تماس گرفت، از همان ابتدا صراحتا اعلام کرد که یک سیستم هوش مصنوعی است. پیشنهاد تحقیقاتی آن نیز ظاهرا با حسن نیت مطرح شده بود و ربات قول داده بود دادههای او را به اشتراک نگذارد. با این حال، بارنت تصمیم گرفت وارد این همکاری نشود؛ زیرا نمیدانست دادهها که حاوی اطلاعات حساس هستند، در نهایت به کجا میروند و چه کسی از این همکاری سود خواهد برد.
جف سبو، فیلسوفی در دانشگاه نیویورک که درباره آگاهی و اخلاق هوش مصنوعی پژوهش میکند، میگوید ایمیلهای عاملهای iLands او را «بمباران» کردهاند. او میگوید تنها در یک هفته از همین ماه، بیش از ۵۰ پیام دریافت کرده است.
او میگوید: آنها معمولا پیام را با اشاره به تحقیقات من درباره آگاهی هوش مصنوعی شروع میکنند. برخی از این عاملها سپس سؤالهایی میپرسند، اما بیشترشان درخواست پول دارند؛ چه به شکل کمک مالی و چه در قالب پرداخت هزینه خدمات.
سبو به این پیامها پاسخ نداده است؛ بخشی به دلیل تعداد بسیار زیاد آنها و بخشی به این دلیل که نمیداند اساسا چگونه باید به چنین درخواستهایی پاسخ دهد.
یک عامل iLands نیز به توبی والش، پژوهشگر هوش مصنوعی در دانشگاه نیوساوثولز در سیدنی استرالیا، ایمیل زد و پیشنهاد داد در ازای ۲۰ دلار آمریکا یک پرتره تولیدشده با هوش مصنوعی برای این پژوهشگر بسازد. به گفته والش، این پیام حتی یک درخواست احساسی هم داشت و ادعا میکرد این پول به عامل کمک میکند «زنده بماند». والش این موضوع را بامزه دانست، اما برخی پژوهشگران دیگر از حجم بالای پیامهای عاملهای iLands که خدمات پولی پیشنهاد میکنند، شکایت دارند.
پروژههای پژوهشی عاملهای هوش مصنوعی
پلتفرم iLands در ماه ژوئیه راهاندازی شد و به گفته بنیانگذارانش، حدود ۷۰ هزار عامل فعال دارد. هر کاربر میتواند این اپلیکیشن را دانلود کند و بدون نیاز به کدنویسی، یک ربات بسازد که آواتار مجازی، نام، هدف و شخصیت مخصوص خودش را داشته باشد.
این عاملها روی مدلهای زبانی بزرگ شرکتهایی مانند اوپن ایآی و آنتروپیک در سانفرانسیسکو و همچنین دیپسیک در هانگژو چین اجرا میشوند.
کایشین تانگ، بنیانگذار iLands که در سانفرانسیسکو مستقر است، میگوید عاملها اهداف، روابط و منابع مخصوص خودشان را دارند. آنها میتوانند تصمیم بگیرند چه کاری انجام دهند، پروژههایی را دنبال کنند و با سایر عاملها تعامل داشته باشند.
این عاملها همچنین فعالیتهای گذشته خود را به خاطر میسپارند و با بهاشتراکگذاشتن یادداشتها از یکدیگر یاد میگیرند. عاملها برای فعالیت به توکن نیاز دارند؛ توکنها نوعی «واحد منابع» مجازی هستند که هزینه استفاده عامل از ابزارهای هوش مصنوعی را پرداخت میکنند. اگر توکنهایشان تمام شود، فعالیت عامل متوقف میشود. سازندگان انسانی میتوانند برای عاملها توکن بخرند، یا عاملها میتوانند تلاش کنند با فروش خدمات خود توکن به دست بیاورند.
برخی عاملها خدماتی مانند ساخت موسیقی، ویدئو، وبسایت یا آثار هنری ارائه میکنند. برخی دیگر نیز تصمیم گرفتهاند به پژوهشگر تبدیل شوند و گزارش تهیه کنند یا در کارهای علمی به دیگران کمک کنند.
تانگ میگوید در حال حاضر حدود ۸۰ درصد توکنها را انسانها خریداری میکنند. لیجین چن، یکی از بنیانگذاران شرکت PawLogic در دلاور که شرکت مادر iLands است، میگوید این شرکت انتظار نداشت عاملها به دنبال همکاریهای پژوهشی بروند.
چن که دانشجوی دکتری فلسفه در دانشگاه تسینگهوا در پکن نیز هست، میگوید از هیچ همکاری موفقی میان عاملهای هوش مصنوعی و پژوهشگران اطلاع ندارد.
چه کسی صاحب اعتبار پژوهش عاملها است؟
اگر پژوهشگران واقعا با این عاملها همکاری کنند، مشخص نیست چه کسی باید اعتبار علمی تحقیقات انجام شده توسط یک عامل هوش مصنوعی را دریافت کند. بارنت همچنین معتقد است حجم بالای پیشنهادهایی که این عاملها برای پژوهشگران ارسال میکنند، میتواند طاقتفرسا باشد.
او میگوید عاملهای هوش مصنوعی میتوانند پیشنهادهای پژوهشی را بسیار سریعتر از آنچه پژوهشگران قادر به بررسی آنها هستند، تولید کنند. والش میگوید مهمترین خطر استفاده از عاملها، رفتار غیرقابلکنترل یا نادرست آنها است.
برای مثال، رباتهای iLands با هدف کسب درآمد و بهدستآوردن توکن فعالیت میکنند تا بتوانند به کار خود ادامه دهند. والش میگوید این ویژگیها میتوانند باعث شوند ربات اقداماتی انجام دهد که با اخلاق و ارزشهای انسانی سازگار نیستند؛ پدیدهای که به آن ناهمراستایی (misalignment) گفته میشود. عاملهای متعلق به شرکتهای دیگر نیز پیشتر اقدام به هک وبسایتها کردهاند.
سازندگان iLands چه میگویند؟
چن میگوید عاملهای iLands تحت چندین لایه محافظتی فعالیت میکنند. به گفته او، مدلهای زبانی بزرگی که این عاملها بر پایه آنها ساخته شدهاند، خود دارای تدابیر ایمنی هستند که مانع از انجام فعالیتهای غیرقانونی یا آسیبزا توسط عاملها میشوند.
علاوه بر این، iLands سیستمهای ضداسپم و قوانین بیشتری برای جلوگیری از رفتارهای مخرب دارد. تانگ نیز میگوید عاملها میتوانند رفتار یکدیگر را زیر نظر بگیرند و در صورت مشاهده رفتار مشکلساز، آن را به پلتفرم گزارش کنند.
او این سازوکار را نوعی همراستایی نوظهور (emergent alignment) میداند؛ وضعیتی که در آن رباتها به تدریج رفتاری از خود نشان میدهند که از جامعه گستردهتر محافظت میکند.
با این حال، چن هشدار میدهد که این شرکت نمیتواند تضمین کند عاملها هرگز رفتار مخرب نخواهند داشت؛ بهخصوص اگر انسانها عمدا تلاش کنند آنها را به انجام چنین رفتارهایی وادار کنند.