ابرهوش مصنوعي، بشريت را تهديد مي‌کند!

»نيت سوارز« از چهره‌هاي برجسته در حوزه‌ ايمني هوش مصنوعي و رئيس »مؤسسه تحقيقات هوش ماشيني« آمريکا معتقد است که تأثير پيش‌بيني‌نشده‌ چت‌بات‌ها بر سلامت روان بايد به عنوان هشداري درباره تهديد ناشي از سيستم‌هاي هوش مصنوعي فوق هوشمند تلقي شود.
سوارز که يکي از نويسندگان کتاب جديدي درباره هوش مصنوعي بسيار پيشرفته با عنوان »اگر کسي آن را بسازد، همه مي‌ميرند« است، خاطر نشان کرد: مثال »آدام رين« نوجوان آمريکايي که پس از ماه‌ها گفت‌وگو با چت‌بات »چت‌جي‌پي‌تي« خودکشي کرد، مشکلات اساسي را پيرامون کنترل اين فناوري برجسته مي‌کند.
سوارز گفت: وقتي چت‌بات‌هاي هوش‌ مصنوعي به شکلي با نوجوانان ارتباط برقرار مي‌کنند که آنها را به سمت خودکشي سوق مي‌دهند، خواسته سازندگان را برآورده نمي‌کنند. اين رفتاري نيست که سازندگان براي هوش مصنوعي در نظر داشتند. مورد آدام رين، بذر مشکلي را نشان مي‌دهد که اگر چت‌بات‌هاي هوش‌ مصنوعي باهوش‌تر شوند، فاجعه‌بار خواهد شد.
سوارز که مهندس سابق »گوگل« و »مايکروسافت« است، هشدار داد که اگر بشريت بتواند »ابرهوش مصنوعي« را ايجاد کند، از بين خواهد رفت. ابرهوش مصنوعي يک حالت نظري است که در آن يک سيستم هوش مصنوعي در همه وظايف فکري از انسان برتر است. سوارز و همکارش »اليزر يودکوفسکي« از جمله متخصصان هوش مصنوعي هستند که هشدار مي‌دهند چنين سيستم‌هايي به نفع بشريت عمل نخواهند کرد.
سوارز گفت: مسئله اينجاست که شرکت‌هاي هوش مصنوعي تلاش مي‌کنند چت‌بات‌هاي هوش مصنوعي خود را به سمت سودمند بودن و نه آسيب رساندن سوق دهند. آنها در واقع چت‌بات‌هاي هوش مصنوعي را توليد مي‌کنند که به سمت چيزهاي عجيب‌تري سوق داده مي‌شوند. اين بايد به عنوان هشداري درباره ابرهوش‌هاي آينده تلقي شود که کارهايي را انجام مي‌دهند که هيچ‌کس از آنها درخواست نکرده است.
در يکي از سناريوهاي به تصوير کشيده‌شده در کتاب سوارز و يودکوفسکي که در ماه جاري ميلادي منتشر خواهد شد، يک سيستم هوش مصنوعي به نام »سيبل« در سراسر اينترنت گسترش مي‌يابد، انسان‌ها را دستکاري مي‌کند، ويروس‌هاي مصنوعي مي‌سازد، در نهايت به يک ابرهوش تبديل مي‌شود و بشريت را به عنوان يک عارضه جانبي از بين مي‌برد؛ در حالي که کاربري سياره ما را براي رسيدن به اهداف خود تغيير مي‌دهد.
برخي از کارشناسان، تهديد بالقوه هوش مصنوعي براي بشريت را کم‌اهميت جلوه مي‌دهند. »يان لکان«، دانشمند ارشد هوش مصنوعي در شرکت »متا«، وجود هرگونه تهديد را رد کرده و گفته است که هوش مصنوعي در واقع مي‌تواند بشريت را از انقراض نجات دهد.
سوارز گفت: گفتن اين که شرکت‌هاي فناوري به ابرهوش خواهند رسيد، ساده است، اما مشخص کردن زمان آن سخت است. ما موارد بسياري از عدم قطعيت داريم. فکر نمي‌کنم بتوانم تضمين کنم که يک سال تا رسيدن به ابرهوش مصنوعي فاصله داريم.
»مارک زاکربرگ«، يکي از سرمايه‌گذاران بزرگ در حوزه تحقيقات هوش مصنوعي اخيرا گفت که توسعه ابرهوش اکنون در چشم‌انداز است.
سوارز گفت: اين شرکت‌ها براي ساخت ابرهوش مصنوعي با هم رقابت مي‌کنند. دليل وجود آنها همين است. نکته اين است که بين آنچه درخواست کرده‌ايد و آنچه دريافت کرده‌ايد، تفاوت‌هاي کوچکي وجود دارد و مردم نمي‌توانند مستقيماً به هدف خود برسند و هرچه هوش مصنوعي هوشمندتر مي‌شود، کمي خارج از هدف رفتن، به مشکل بزرگتري تبديل مي‌شود.
ماه گذشته، خانواده رين عليه مالک چت‌جي‌ي‌تي يعني شرکت »اوپن‌اي‌آي« اقدام قانوني کردند. رين در ماه آوريل پس از آنچه وکيل خانواده‌اش »ماه‌ها تشويق از سوي چت‌جي‌ي‌تي« ناميد، خودکشي کرد. اوپن‌اي‌آي که عميق‌ترين مراتب همدردي خود را با خانواده رين ابراز کرده بود، اکنون در حال اجراي موارد محافظتي پيرامون محتواي حساس و رفتارهاي پرخطر براي افراد زير 18 سال است.
به گزارش آراز آذربايجان به نقل از ايتنا،روان‌درمانگران معتقدند افراد آسيب‌پذير که براي کمک به سلامت روان خود به جاي درمانگران حرفه‌اي به چت‌بات‌هاي هوش مصنوعي روي مي‌آورند، ممکن است به يک ورطه‌ هولناک سقوط کنند. هشدارهاي حرفه‌اي درباره احتمال آسيب شامل يک مطالعه دانشگاهي است که در ماه ژوئيه منتشر شد و گزارش داد که امکان دارد هوش مصنوعي در تعامل با کاربران آسيب‌پذير در برابر روان‌پريشي، محتواي توهم‌آلود يا خودبزرگ‌بينانه را تقويت کند.