هرچه مدل‌های هوش مصنوعی در تولید متن پیشرفته‌تر می‌شوند، تشخیص نوشته‌های آن‌ها از متن‌های انسانی دشوارتر می‌شود. یک دستور ساده می‌تواند سبک نوشتاری مدل را تغییر دهد و خروجی‌ای ایجاد کند که در نگاه اول کاملاً شبیه نوشته یک انسان به نظر برسد. بااین‌حال، پژوهش جدیدی نشان می‌دهد که شبیه انسان نوشتن لزوماً به معنای شبیه انسان احساس کردن نیست.
محققان دانشگاه تیلبورگ در پژوهشی که در نشریه Nature Communications منتشر شده، تلاش کرده‌اند رابطه میان دو ویژگی را بررسی کنند: میزان شبیه‌بودن متن‌های تولیدشده به نوشته‌های انسانی و میزان همدلی موجود در آن‌ها. نتایج این مطالعه نشان می‌دهد این دو ویژگی الزاماً هم‌زمان افزایش پیدا نمی‌کنند و هوش مصنوعی می‌تواند متنی بسیار شبیه به نوشته انسان تولید کند، بدون اینکه الزاماً از نظر همدلی نیز به همان سطح برسد.
هوش مصنوعی چقدر می‌تواند شبیه انسان بنویسد؟
متن‌های تولیدشده توسط مدل‌های هوش مصنوعی در سال‌های اخیر طبیعی‌تر شده‌اند. مدل‌های جدید می‌توانند لحن رسمی یا دوستانه داشته باشند، از واژه‌های روزمره استفاده کنند و حتی سبک نوشتاری مشخصی را تا حد زیادی تقلید کنند.
بااین‌حال، انسان‌ها هنوز در بسیاری از موارد می‌توانند تفاوت میان متن تولیدشده توسط ماشین و نوشته انسانی را تشخیص دهند. نکته جالب پژوهش جدید اینجاست که این توانایی زمانی ضعیف‌تر می‌شود که از هوش مصنوعی صراحتاً خواسته شود شبیه انسان بنویسد.
محققان در این مطالعه بررسی کردند که افراد مختلف، متن‌های مربوط به مشاوره عاطفی را تا چه اندازه انسانی و همدلانه ارزیابی می‌کنند. برای این کار، بیش از ۳ هزار نفر در آزمایش شرکت کردند و نوشته‌های تولیدشده توسط انسان و هوش مصنوعی را مورد ارزیابی قرار دادند.
نتایج نشان داد وقتی مدل هوش مصنوعی بدون دستور خاصی متن تولید می‌کرد، شرکت‌کنندگان راحت‌تر می‌توانستند نوشته انسانی را از متن تولیدشده توسط AI تشخیص دهند. اما شرایط زمانی تغییر کرد که از هوش مصنوعی خواسته شد طوری بنویسد که خواننده تصور کند متن را یک انسان نوشته است.
یک دستور ساده می‌تواند تشخیص هوش مصنوعی را سخت کند
بر اساس نتایج این پژوهش، دادن چنین دستوری به هوش مصنوعی باعث شد امتیاز «انسانی بودن» متن‌های تولیدشده بین ۱۷ تا ۴۱ درصد افزایش پیدا کند. به بیان ساده‌تر، نوشته‌هایی که در حالت عادی راحت‌تر قابل تشخیص بودند، بعد از تغییر دستورالعمل مدل، بسیار بیشتر شبیه متن‌های انسانی به نظر رسیدند.
این موضوع تا حد زیادی به انعطاف‌پذیری مدل‌های زبانی مربوط می‌شود. هوش مصنوعی می‌تواند براساس دستور کاربر، سبک نوشتاری خود را تغییر دهد؛ برای مثال از جمله‌های کوتاه‌تر، واژه‌های ساده‌تر و زبان روزمره استفاده کند تا متن طبیعی‌تر به نظر برسد.
بنت کلاینبرگ، پژوهشگر اصلی این مطالعه از دانشگاه تیلبورگ، توضیح می‌دهد که انسان‌ها در شرایط مشابه تغییر چندانی در سبک نوشتاری خود ایجاد نکردند. یعنی وقتی از افراد خواسته شد مانند هوش مصنوعی یا برعکس، کاملاً انسانی بنویسند، سبک نوشتاری آن‌ها به اندازه مدل‌های هوش مصنوعی تغییر نکرد.
این تفاوت یک نکته مهم را نشان می‌دهد: هوش مصنوعی می‌تواند سبک نوشتاری خود را به‌سرعت با هدف موردنظر کاربر هماهنگ کند، درحالی‌که سبک نوشتن انسان انعطاف‌پذیری بسیار کمتری دارد.
آیا هوش مصنوعی واقعاً می‌تواند همدل باشد؟
شاید در نگاه اول تصور کنیم اگر یک متن بتواند احساسات انسان را به‌خوبی منتقل کند، پس حتماً انسانی‌تر نیز به نظر می‌رسد. اما نتایج این پژوهش چنین رابطه مستقیمی را تأیید نمی‌کند.
محققان برای بررسی این موضوع، بیش از ۴۸۹ هزار کلمه را در متن‌های مورد مطالعه تحلیل کردند. آن‌ها دریافتند که نوشته‌های انسانی همچنان از نظر میزان همدلی، امتیاز بالاتری نسبت به متن‌های تولیدشده توسط هوش مصنوعی دریافت می‌کنند.
این در حالی است که مدل‌های هوش مصنوعی می‌توانند با دریافت یک دستور مشخص، لحن همدلانه‌تری به خود بگیرند. برای مثال، می‌توان از یک مدل خواست در پاسخ به فردی که شرایط سختی را تجربه کرده، با لحنی آرام، حمایتگر و همدلانه صحبت کند. چنین دستوری معمولاً باعث می‌شود متن از نظر خواننده همدلانه‌تر به نظر برسد.
اما نکته جالب این است که همدلانه‌تر شدن متن الزاماً باعث نمی‌شود متن انسانی‌تر به نظر برسد.
در واقع، شرکت‌کنندگان در برخی آزمایش‌ها متن‌هایی را که هوش مصنوعی با دستور همدلانه تولید کرده بود، از نظر همدلی بالاتر ارزیابی کردند، اما همچنان آن‌ها را کمتر شبیه نوشته انسان دانستند.
«همدلی تصادفی» در هوش مصنوعی یعنی چه؟
پژوهشگران برای توصیف این پدیده از اصطلاح Stochastic Empathy یا «همدلی تصادفی» استفاده کرده‌اند.
منظور از این مفهوم آن است که هوش مصنوعی می‌تواند الگوهای زبانی مرتبط با همدلی را شناسایی و بازتولید کند. وقتی مدل در حجم بسیار زیادی از متن‌های انسانی آموزش دیده است، می‌تواند یاد بگیرد که در موقعیت‌های مختلف چه نوع واژه‌ها و جمله‌هایی معمولاً همدلانه تلقی می‌شوند.
برای مثال، وقتی فردی از یک تجربه ناخوشایند صحبت می‌کند، مدل می‌تواند از عباراتی استفاده کند که در متون مشابه معمولاً برای ابراز همدردی به کار رفته‌اند. نتیجه ممکن است از نظر زبانی کاملاً طبیعی و حتی تأثیرگذار باشد.
اما این موضوع با تجربه واقعی احساسات تفاوت دارد.
هوش مصنوعی برای تولید چنین پاسخی نیازی به تجربه غم، نگرانی یا همدردی ندارد؛ بلکه می‌تواند براساس الگوهایی که از داده‌های آموزشی خود آموخته است، پاسخی متناسب با موقعیت تولید کند. به همین دلیل، تقلید موفقیت‌آمیز از زبان همدلانه را نباید با تجربه واقعی همدلی یکی دانست.
چرا شبیه انسان بودن و همدل بودن دو موضوع متفاوت هستند؟
نتایج این تحقیق نشان می‌دهد میان «انسانی به نظر رسیدن» و «همدلانه به نظر رسیدن» تفاوت وجود دارد.
هوش مصنوعی می‌تواند با تغییر سبک نوشتار، استفاده از واژه‌های روزمره و کوتاه‌تر کردن جمله‌ها، فاصله خود را با زبان انسانی کمتر کند. از طرف دیگر، می‌تواند با استفاده از الگوهای مشخص زبانی، پاسخی تولید کند که از نظر خواننده همدلانه باشد.
اما این دو قابلیت الزاماً به یک نتیجه مشترک منجر نمی‌شوند.
به همین دلیل، ممکن است یک متن کاملاً طبیعی و شبیه نوشته انسان باشد، اما همچنان حس کنیم چیزی در آن با شیوه بیان یک انسان واقعی متفاوت است. از طرف دیگر، ممکن است متنی به‌اندازه کافی انسانی به نظر نرسد، اما از نظر استفاده از زبان همدلانه عملکرد خوبی داشته باشد.
همین تفاوت، یکی از نکات مهم پژوهش دانشگاه تیلبورگ است. به گفته پژوهشگران، هوش مصنوعی در تقلید از سبک ارتباطی انسان پیشرفت قابل‌توجهی کرده است، اما توانایی شبیه‌سازی یک رفتار زبانی با تجربه واقعی آن رفتار یکسان نیست.
وقتی تشخیص انسان و ماشین سخت‌تر می‌شود
پیشرفت مدل‌های زبانی فقط یک مسئله فنی نیست و می‌تواند نحوه ارتباط ما در فضای دیجیتال را نیز تغییر دهد.
امروزه پیام‌های متنی بخش بزرگی از ارتباطات روزمره ما را تشکیل می‌دهند؛ از ایمیل و پیام‌های کاری گرفته تا چت‌های پشتیبانی، شبکه‌های اجتماعی و خدمات آنلاین. هرچه هوش مصنوعی در تولید متن‌های طبیعی‌تر موفق‌تر شود، تشخیص اینکه یک پیام را انسان نوشته یا ماشین، دشوارتر خواهد شد.
این مسئله می‌تواند کاربردهای مثبتی داشته باشد. برای مثال، هوش مصنوعی می‌تواند در ارائه خدمات پشتیبانی، پاسخگویی اولیه به کاربران یا تولید محتوای متناسب با نیاز افراد مورد استفاده قرار گیرد.
در عین حال، همین توانایی پرسش‌هایی درباره اعتماد و اصالت ارتباطات دیجیتال ایجاد می‌کند. اگر ندانیم یک پیام توسط انسان نوشته شده یا یک سیستم هوش مصنوعی آن را تولید کرده است، ارزیابی اعتبار و نیت پشت آن پیام می‌تواند دشوارتر شود.
موضوع زمانی حساس‌تر می‌شود که پای ارتباطات شخصی و عاطفی در میان باشد. ممکن است یک پاسخ از نظر زبانی کاملاً حمایتگر و همدلانه به نظر برسد، اما در واقع حاصل پردازش یک مدل هوش مصنوعی باشد.
آیا هنوز می‌توان نوشته انسان را از هوش مصنوعی تشخیص داد؟
پاسخ این سؤال ساده نیست. پژوهش جدید دانشگاه تیلبورگ نشان می‌دهد که اگر هوش مصنوعی بدون دستور خاصی متن تولید کند، تشخیص نوشته انسانی همچنان برای بسیاری از افراد امکان‌پذیر است. اما زمانی که مدل به‌طور مشخص برای شبیه‌شدن به انسان هدایت شود، این تشخیص به‌مراتب دشوارتر خواهد شد.
در عین حال، این مطالعه نشان می‌دهد که شبیه انسان نوشتن با همدل بودن یکسان نیست. هوش مصنوعی می‌تواند لحن، واژه‌ها و ساختار جملات خود را براساس هدفی که کاربر تعیین می‌کند تغییر دهد و حتی متنی تولید کند که از نظر خواننده بسیار همدلانه باشد؛ اما این موضوع لزوماً به معنای داشتن تجربه یا احساس واقعی نیست.
شاید مهم‌ترین نتیجه این پژوهش همین مرز باریک باشد: فناوری می‌تواند ظاهر بسیاری از رفتارهای انسانی را با دقت بالایی بازسازی کند، اما ظاهر یک رفتار الزاماً تمام ماهیت آن را توضیح نمی‌دهد.
در نهایت، هرچه فناوری بیشتر وارد زندگی روزمره ما می‌شود، اعتماد به فناوری فقط به قابلیت‌های آن وابسته نیست؛ شفافیت، کیفیت خدمات و اطمینان از پشتیبانی نیز اهمیت پیدا می‌کند. در محصولاتی که با اطلاعات و داده‌های شخصی سروکار دارند، داشتن یک پشتوانه مشخص برای خدمات پس از فروش می‌تواند بخشی از همین اطمینان باشد. محصولات تحت گارانتی آونگ نیز از خدمات و پشتیبانی این مجموعه بهره می‌برند تا در کنار استفاده از فناوری، خیال کاربر از بابت خدمات پس از فروش و پیگیری مشکلات احتمالی راحت‌تر باشد.
