ممکن است از یک سامانه هوش مصنوعی پرسشی بپرسیم و چند ثانیه بعد پاسخی منظم، دقیق و کاملاً مطمئن دریافت کنیم. جملهها رواناند، استدلال ظاهراً منطقی است و حتی شاید نام کتاب، مقاله یا قانون هم در پاسخ دیده شود. همین ظاهر حرفهای میتواند ما را به یک نتیجه نادرست برساند.
همشهری آنلاین -یکتا فراهانی: مدلهای زبانی پاسخ خود را مانند پژوهشگری که همه ادعاها را پیش از بیان بررسی میکند، تولید نمیکنند. آنها بر اساس الگوهایی که از حجم بزرگی از متن آموختهاند، محتملترین ادامه را میسازند.
همین توانایی باعث میشود مدلهای هوش مصنوعی متنهایی طبیعی و سودمند تولید کنند، اما تضمین نمیکند که هر نام، تاریخ، عدد، نقلقول یا منبعی که در پاسخ میآید، درست باشد.
گاهی مدل اطلاعات ناقص را با جزئیاتی ساختگی تکمیل میکند؛ پدیدهای که در ادبیات هوش مصنوعی از آن با عنوان «توهم» یا Hallucination یاد میشود.
خطر اصلی، فقط خطا نیست
دکتر اباذر کریمی پنابندانی، متخصص هوش مصنوعی و عضو آکادمی علوم اروپا میگوید: انسانها هم اشتباه میکنند و خطای هوش مصنوعی موضوع تازهای نیست. اما به اعتقاد کریمی، مشکل مهمتر این است که هوش مصنوعی ممکن است هنگام ارائه یک پاسخ اشتباه، همان نشانههای اطمینانی را داشته باشد که هنگام ارائه یک پاسخ صحیح دارد.
کاربر معمولاً پشتصحنه تولید پاسخ را نمیبیند و نمیداند کدام بخش بر یک منبع معتبر تکیه دارد، کدام قسمت استنباط مدل است و کدام بخش صرفاً محتمل به نظر رسیده است؛ بنابراین، روانی متن نباید جای اعتبار شواهد را بگیرد.
وقتی یک اشتباه میتواند جدی باشد
این خطاها در پرسشهای روزمره شاید فقط باعث اتلاف زمان شوند، اما در حوزههایی مانند پزشکی، حقوقی، مالی و علمی، پیامدهای جدیتری دارند.
تصور کنید فردی درباره تداخل دو دارو سؤال میکند، مدیری بر اساس یک عدد تأییدنشده تصمیم مالی میگیرد، دانشجویی منبعی ساختگی را در مقاله خود میآورد یا شهروندی یک توضیح حقوقی ناقص را مبنای اقدام قرار میدهد. در چنین شرایطی، هوش مصنوعی میتواند نقطه شروع بررسی باشد، اما نباید بهتنهایی نقش مرجع نهایی را ایفا کند.
بیشتر بخوانید :
- دانشمندان با الهام از ژنوم باکتری، هوش مصنوعی کوچکتر میسازند
- تحقیقات جدید یک پژوهشگر و متخصص هوش مصنوعی ایرانی در مورد کشف تناقضهای پنهان در هوش مصنوعی
سواد هوش مصنوعی فقط کار با ابزار نیست
دکتر کریمی تأکید میکند سواد هوش مصنوعی فقط به شناخت ابزارها یا توانایی تولید سریعتر متن و تصویر محدود نمیشود. فرد باسواد در این حوزه باید محدودیتهای ابزار را بشناسد، میان «پاسخ» و «سند» تفاوت بگذارد و بداند میزان اعتماد باید با میزان حساسیت تصمیم متناسب باشد.
پیشنهاد یک عنوان برای یک نوشته با توصیه درباره مصرف دارو یکسان نیست. هرچه هزینه یک خطا بیشتر باشد، راستیآزمایی نیز باید جدیتر شود. 
ذکر منبع کافی نیست
یکی از راههای استفاده مسئولانه از هوش مصنوعی این است که از آن بخواهیم منبع ادعاهای مهم را مشخص کند. اما ارائه منبع نیز پایان بررسی نیست؛ زیرا ممکن است نشانی یا عنوان یک منبع هم نادرست یا حتی ساختگی باشد.
به گفته این متخصص هوش مصنوعی، منبع باید مستقلاً بررسی شود و محتوای آن با ادعای مطرحشده تطبیق داده شود.
از هوش مصنوعی بخواهید خودش را به چالش بکشد
در گام بعد میتوان از مدل خواست میزان اطمینان، فرضهای پنهان و مواردی را که درباره آنها اطلاعات کافی ندارد، روشن کند.
پرسیدن این سؤال که «چه شواهدی ممکن است این پاسخ را رد کند؟» همچنین میتواند راهی برای آشکار کردن ضعف استدلال باشد.
در موضوعات حساس، متخصص وارد شود
کریمی معتقد است در موضوعات حساس، مراجعه به منبع اصلی و متخصص مربوط ضروری است. برای اطلاعات پزشکی باید به منابع معتبر سلامت و پزشک مراجعه کرد؛ در مسائل حقوقی، متن قانون و حقوقدان اهمیت دارد و برای آمار نیز باید به گزارش رسمی نهاد تولیدکننده داده رجوع کرد.
مقایسه پاسخ با چند منبع مستقل نیز احتمال پذیرش یک خطای واحد را کاهش میدهد.
مسئولیت تصمیم همچنان با انسان است
مسئولیت فقط بر عهده کاربران نیست. رسانهها، مدارس، دانشگاهها، سازمانها و کسبوکارها نیز باید شیوه استفاده از هوش مصنوعی را آموزش دهند و برای کاربردهای حساس، قواعد مشخصی داشته باشند.
کاربران باید بدانند چه نوع دادهای را میتوان وارد سامانه کرد، چه خروجیهایی نیازمند تأیید انسانی است و مسئولیت تصمیم نهایی با چه کسی خواهد بود. 
پاسخ خوب، الزاماً پاسخ درست نیست
هوش مصنوعی میتواند سرعت، دسترسی به اطلاعات و کیفیت ایدهپردازی را افزایش دهد، اما ارزش واقعی آن زمانی آشکار میشود که کاربر توان داوری خود را حفظ کند؛ بنابراین پیش از پذیرش هر پاسخ، منبع، شواهد و پیامد احتمالی خطا را بررسی کنیم.
پاسخ خوب الزاماً پاسخ درست نیست و لحن مطمئن نیز گواه حقیقت محسوب نمیشود. نقطه آغاز سواد هوش مصنوعی همین عادت ساده است.
کد خبر 1070889
-
دانشمندان با الهام از ژنوم باکتری، هوش مصنوعی کوچکتر میسازند
-
این دستگاه ۱۰۰ دلاری باران نامرئی ذرات کیهانی را میبیند
-
وقتی هوش مصنوعی با اطمینان اشتباه میکند | ماشین جواب میدهد؛ خودتان باید قضاوت کند
-
نشست معاون علمی رئیسجمهور با نخبگان هرمزگان | ظرفیتسازی برای تبدیل هرمزگان به هاب شیلات کشور
-
افتتاح نخستین اتاق دخانیات در مترو صادقیه
-
این «کشش» فلج میکند، نه درمان + ویدئو
-
آیا مارشمالو را کباب میکنند؟ ؛ روش کباب کردن مارشمالو روی آتش، اجاق گاز و فر
-
گیزاتما؛ خوراک محبوب و نوستالژیک ارومیه ای ها
-
شتاب گرفتن پسروی آب دریای خزر | کاهش سالانه به ۲۳ سانتیمتر رسید
-
ادعای عجیب امیرحسین قیاسی در مورد دستمزد دقیق مهران مدیری | نظر جالب قیاسی درباره نرگس محمدی | ببینید
-
خبر مهم وزیر اقتصاد درباره واگذاری سهام عدالت جدید
-
یک کشور دیگر وارد جنگ عربستان شد
-
ستاره استقلالی: خداحافظ تیم ملی؛ تا قلعهنویی هست من نیستم | سطح فنی بالایی ندارد
-
ادعای عجیب ونس؛ با یک حمله تاکتیکی شگفتانگیز تأسیسات هستهای ایران را نابود کردیم
-
کمک جدید ترامپ رسید | نورهای مرموز در آسمان ایران | لیست پرماجرای ژنرال
-
خبر خوش سپاه؛ سلاح جدید برای هدف قرار دادن ناو هواپیمابر آمریکا
-
ایران پیشنهاد کرده تنگه هرمز را در این صورت ۷روزه بازگشایی کند | ادعای کیودو
-
اولین خودروی ساخت عربستان سعودی | تصاویر
-
پرسپولیس وارد رقابت با استقلال شد؛ این ۲ بازیکن را ما هم می خواهیم
-
کندن موی این قسمت از بدن باعث عفونت میشود
-
امضای سیاه؛ بعد از پرسپولیس تیم ملی را هم از دست داد
-
به اطلاعات CHATGPT اعتماد نکنید! | ممکن است اشتباه کند
-
کودکان عصر هوش مصنوعی | نسلی که باید فکرکردن را یاد بگیرد نه فقط پاسخ گرفتن را
-
پایان خطاهای انسانی در درمان؟ | هوش مصنوعی میتواند به تصمیمهای پزشکی کمک کند
-
جنگ، جنگ دادههاست | برنده کیست؟
-
چرا ساخت مدل زبانی ایرانی بدون وابستگی به اینترنت بین الملل یک ضرورت برای آینده کشور است؟
-
اصطلاحاتی از هوش مصنوعی که لازم است بدانیم