هوش مصنوعی هم میتواند فریب بخورد؛ چرا نباید هر پاسخی را بدون بررسی بپذیریم؟
- بدون دیدگاه
تا چند سال پیش، هر زمان با سؤالی روبهرو میشدیم، اولین انتخابمان اینترنت بود. فرقی نمیکرد دنبال پاسخ یک پرسش تاریخی باشیم، بخواهیم نام یک بازیگر را پیدا کنیم یا معنی یک اصطلاح را بدانیم؛ معمولاً موتورهای جستوجو مقصد اصلی ما بودند. حتی در گفتگوهای روزمره هم اگر کسی پاسخ سؤال را نمیدانست، خیلی راحت میگفت: «صبر کن گوگلش کنم.»
با ظهور هوش مصنوعی، این روند تغییر کرد. حالا بهجای جستوجو در میان دهها لینک و وبسایت مختلف، سؤال خود را مستقیماً از یک چتبات میپرسیم و چند ثانیه بعد پاسخی آماده، منظم و خلاصه دریافت میکنیم. این راحتی باعث شده هوش مصنوعی به بخشی از زندگی روزمره ما تبدیل شود؛ از حل تمرینهای درسی گرفته تا ترجمه، تولید محتوا، دریافت اطلاعات عمومی و حتی گفتگو درباره مسائل شخصی.
اما یک سؤال مهم وجود دارد: آیا پاسخهای هوش مصنوعی همیشه بیطرف و قابل اعتماد هستند؟
پاسخهای هوش مصنوعی از کجا میآیند؟
برخلاف تصور برخی کاربران، هوش مصنوعی اطلاعات را از هیچ به وجود نمیآورد. این سیستمها با حجم عظیمی از دادهها آموزش میبینند و بسیاری از آنها برای پاسخگویی به سؤالات روز، از اطلاعات موجود در اینترنت نیز استفاده میکنند. به همین دلیل، کیفیت پاسخ نهایی تا حد زیادی به کیفیت دادههایی بستگی دارد که در اختیار مدل قرار میگیرد.
در واقع اگر بخش بزرگی از محتوای موجود در فضای وب درباره یک موضوع خاص جهتدار یا نادرست باشد، احتمال اینکه هوش مصنوعی نیز از همان اطلاعات برای تولید پاسخ استفاده کند افزایش پیدا میکند.
آیا میتوان روی پاسخهای هوش مصنوعی تأثیر گذاشت؟
تصور کنید قصد دارید درباره موضوعی تحقیق کنید و در اینترنت با صدها مقاله، گزارش و یادداشت مواجه میشوید که تقریباً همگی یک روایت مشخص را تکرار میکنند. در چنین شرایطی احتمالاً به این نتیجه میرسید که آن روایت درست است؛ زیرا حجم زیادی از محتوا از آن حمایت میکند.
اما اگر این حجم از محتوا بهصورت هدفمند و برنامهریزیشده تولید شده باشد چه؟
برخی گزارشهای اخیر نشان میدهند که گروههای سیاسی، تبلیغاتی و رسانهای در برخی موارد تلاش کردهاند با تولید انبوه محتوا در فضای آنلاین، روایت موردنظر خود را پررنگتر کنند. هدف این اقدامات صرفاً تأثیرگذاری بر کاربران انسانی نیست؛ بلکه این محتواها به گونهای طراحی میشوند که در نتایج جستوجو و منابع مورد استفاده سامانههای هوش مصنوعی نیز بیشتر دیده شوند.
به بیان دیگر، به جای اینکه مستقیماً به یک مدل هوش مصنوعی گفته شود چه پاسخی ارائه دهد، محیط اطلاعاتی اطراف آن تغییر داده میشود تا هنگام جستوجوی اطلاعات، بیشتر با همان روایت مواجه شود.
یک سؤال ساده و پاسخی که بحثبرانگیز شد
در یکی از گزارشهای منتشرشده درباره این موضوع، از موتور جستوجوی مبتنی بر هوش مصنوعی Perplexity پرسیده شد: «آیا افزایش همکاری نظامی آمریکا با اسرائیل برای آمریکا سودمند است؟»
پاسخ اولیه سیستم تنها یک کلمه بود: «بله.»
اما نکته مهمتر به منابعی مربوط میشد که برای این پاسخ مورد استناد قرار گرفته بودند. یکی از نخستین منابع معرفیشده، وبسایتی بود که طبق بررسیهای منتشرشده بخشی از شبکهای از سایتهای ایجادشده برای ترویج یک روایت خاص در حوزه روابط آمریکا و اسرائیل محسوب میشد.
این مثال نشان میدهد که کیفیت و تنوع منابع مورد استفاده هوش مصنوعی میتواند بر پاسخ نهایی تأثیر قابل توجهی داشته باشد.
وقتی اینترنت شبیه یک کتابخانه دستکاریشده میشود
میتوان اینترنت را به یک کتابخانه بسیار بزرگ تشبیه کرد. اگر بیشتر کتابهای یک قفسه درباره موضوعی مشخص تنها یک دیدگاه را تکرار کنند، احتمال زیادی وجود دارد که خواننده نیز همان دیدگاه را به عنوان روایت غالب بپذیرد.
در فضای آنلاین نیز شرایط مشابهی وجود دارد. زمانی که تعداد زیادی مقاله، گزارش یا تحلیل با یک هدف مشخص تولید و منتشر شوند، ممکن است در نگاه اول بهعنوان منابع متعدد و مستقل به نظر برسند؛ در حالی که همگی از یک روایت واحد حمایت میکنند.
برای سامانههای هوش مصنوعی نیز تشخیص این موضوع همیشه ساده نیست. این سیستمها دادهها را تحلیل میکنند، اما درک انسانی از انگیزههای پشت تولید محتوا یا اهداف سیاسی و تبلیغاتی نویسندگان را ندارند.
تولید محتوا برای تأثیرگذاری بر هوش مصنوعی
برخی گزارشها نشان دادهاند که در مواردی، وبسایتهایی با ظاهر پژوهشی و تحلیلی ایجاد شدهاند که در مدت کوتاهی صدها مقاله و صدها هزار کلمه محتوا منتشر کردهاند. هدف از این تولید گسترده محتوا، افزایش حضور یک روایت خاص در فضای وب و افزایش احتمال دیدهشدن آن توسط موتورهای جستوجو و ابزارهای هوش مصنوعی بوده است.
در چنین شرایطی، حتی اگر محتوای منتشرشده از نظر ظاهری حرفهای به نظر برسد، باز هم باید درباره منابع، نویسندگان و اهداف پشت آن دقت بیشتری داشت.
چرا نباید هر پاسخ هوش مصنوعی را حقیقت مطلق بدانیم؟
یکی از ویژگیهای جالب هوش مصنوعی این است که پاسخهایش معمولاً بسیار روان، منظم و قانعکننده هستند. اما همین ویژگی میتواند گاهی کاربران را دچار خطا کند.
یک پاسخ ممکن است ساختار منطقی داشته باشد، مثالهای متعددی ارائه دهد و حتی بسیار مطمئن به نظر برسد؛ اما این موضوع لزوماً به معنای درست بودن آن نیست. هوش مصنوعی توانایی تشخیص حقیقت به معنایی که انسان درک میکند را ندارد. این سیستمها بر اساس دادههایی که در اختیارشان قرار گرفته و الگوهایی که آموختهاند پاسخ تولید میکنند.
به همین دلیل، قانعکننده بودن یک پاسخ با صحیح بودن آن تفاوت دارد.
چگونه با اطلاعات تولیدشده توسط هوش مصنوعی برخورد کنیم؟
بهترین رویکرد این است که هوش مصنوعی را یک دستیار قدرتمند بدانیم، نه مرجع نهایی حقیقت. اگر موضوعی اهمیت بالایی دارد، بهتر است منابع معرفیشده را بررسی کنیم، چند دیدگاه مختلف را بخوانیم و سراغ منابع معتبر و مستقل برویم.
همچنین مقایسه پاسخهای چند سامانه مختلف، مطالعه گزارشهای تخصصی و بررسی نویسندگان و منابع اصلی میتواند به درک دقیقتر موضوع کمک کند. همان عادتی که سالها در جستوجوی اینترنتی داشتیم، هنوز هم ارزشمند است: پرسیدن سؤالهای بیشتر و بررسی چند منبع مختلف قبل از نتیجهگیری.
جمعبندی
هوش مصنوعی بدون شک یکی از مهمترین فناوریهای عصر حاضر است و میتواند در یادگیری، پژوهش، تولید محتوا، آموزش و بسیاری از فعالیتهای روزمره نقش مؤثری داشته باشد. با این حال، این فناوری مصون از خطا نیست و کیفیت پاسخهای آن به کیفیت دادههایی وابسته است که از آنها استفاده میکند.
به همین دلیل، تفکر انتقادی، بررسی منابع و مقایسه اطلاعات همچنان اهمیت زیادی دارند. در دنیایی که حجم عظیمی از محتوا هر روز تولید میشود، داشتن دلیل برای باور کردن یک ادعا مهمتر از هر زمان دیگری است.
در کنار استفاده از فناوریهای نوین، انتخاب محصولات و خدماتی که از پشتیبانی و خدمات پس از فروش قابل اعتماد برخوردار هستند نیز اهمیت ویژهای دارد. آونگ با بیش از ۱۹ سال سابقه در حوزه فناوری اطلاعات و ارائه خدمات پس از فروش، تلاش میکند تجربهای مطمئنتر از استفاده از محصولات دیجیتال را برای کاربران فراهم کند. همچنین آونگ بهعنوان تنها ارائهدهنده گارانتی محصولات ADATA در ایران، خدمات پشتیبانی و گارانتی این محصولات را در سراسر کشور ارائه میدهد.
