اگر هوش مصنوعی به کسی آسیب بزند، چه کسی پاسخگو است؟
- بدون دیدگاه
تصور کنید یک سیستم هوش مصنوعی به کاربری توصیهای بدهد که نتیجه آن آسیب جدی باشد. در چنین شرایطی، منطقی است بپرسیم چه چیزی باعث این اتفاق شده است؛ اما یک سؤال مهمتر هم وجود دارد: چه کسی باید مسئولیت آن را بپذیرد؟
در سالهای اخیر، با پیشرفتهتر شدن مدلهای هوش مصنوعی، واژههایی مثل «عامل خودمختار»، «هوش فرا انسانی»، «هوش سرکش» و حتی «خودآگاهی» بیشتر از گذشته شنیده میشوند. بعضی از این اصطلاحات ریشه علمی دارند و برخی دیگر بیشتر در فضای رسانهای و عمومی مورد استفاده قرار میگیرند. مسئله اینجاست که استفاده مداوم از چنین عباراتی میتواند تصویری از هوش مصنوعی بسازد که در آن، این سیستمها مانند موجوداتی مستقل و دارای اراده شخصی به نظر میرسند.
اما پشت هر مدل هوش مصنوعی، انسانها و شرکتهایی قرار دارند که آن را طراحی، آموزش، آزمایش و عرضه کردهاند. این مدلها محصولات فناوری هستند و برای استفاده در دنیای واقعی ساخته شدهاند. بنابراین اگر محصولی با وجود نقص یا ضعف ایمنی باعث آسیب شود، صرف اینکه عملکرد آن را «غیرقابل پیشبینی» یا «خودمختار» بدانیم، نباید باعث شود مسئولیت سازنده نادیده گرفته شود.
در واقع، شاید سؤال اصلی درباره آینده هوش مصنوعی این نباشد که «آیا ماشینها روزی آگاه میشوند؟» بلکه این باشد که در برابر پیامدهای فناوریهای بسیار قدرتمند، چه کسی باید پاسخگو بماند؟
چرا بحث خودآگاهی هوش مصنوعی جدی شده است؟
بحث درباره امکان خودآگاهی ماشینها موضوع تازهای نیست. سالهاست دانشمندان علوم کامپیوتر، فیلسوفان و متخصصان علوم شناختی درباره این سؤال بحث میکنند که آیا میتوان روزی سیستمی ساخت که صرفاً اطلاعات را پردازش نکند و نوعی تجربه ذهنی نیز داشته باشد.
پیشرفت مدلهای زبانی بزرگ باعث شده این بحث دوباره جدیتر شود. مدلهای جدید میتوانند گفتوگوهای طولانی انجام دهند، درباره مسائل پیچیده استدلال کنند، کد بنویسند، اطلاعات را تحلیل کنند و حتی در بعضی شرایط برای انجام مجموعهای از وظایف، مراحل مختلف کار را بهصورت خودکار طی کنند.
همین قابلیتها گاهی باعث میشود رفتار آنها شبیه رفتار یک موجود دارای قصد و اراده به نظر برسد. برای مثال، وقتی یک مدل درباره «فکر کردن»، «ترس»، «هدف» یا «ترجیح» صحبت میکند، ممکن است کاربر تصور کند پشت این جملات یک تجربه ذهنی واقعی وجود دارد.
بااینحال، شباهت میان رفتار یک سیستم و رفتار انسان لزوماً به معنای یکسان بودن سازوکار آنها نیست. اینکه یک مدل بتواند درباره احساسات صحبت کند، بهتنهایی ثابت نمیکند که واقعاً احساس خاصی را تجربه میکند.
این تفاوت اهمیت زیادی دارد؛ زیرا اگر ظاهر انسانی یک سیستم را با ماهیت واقعی آن اشتباه بگیریم، ممکن است درباره مسئولیت و جایگاه حقوقی آن نیز به نتیجهای اشتباه برسیم.
شرکتهای بزرگ درباره توانایی مدلهای خود چه میگویند؟
شرکتهای فعال در حوزه هوش مصنوعی نیز به پیچیدهتر شدن رفتار مدلها توجه دارند. پژوهشگران برخی آزمایشگاههای بزرگ، رفتارهای داخلی مدلها را بررسی کردهاند تا بفهمند هنگام حل مسئله چه اتفاقی در فرایند پردازش اطلاعات رخ میدهد.
برای نمونه، آنتروپیک در برخی پژوهشهای خود تلاش کرده است سازوکارهای داخلی مدلهایش را بهتر بررسی کند و از مفاهیمی در علوم شناختی برای توضیح بعضی رفتارهای پیچیده آنها استفاده کرده است. این نوع تحقیقات میتوانند درک ما از نحوه عملکرد مدلهای زبانی را افزایش دهند، اما نباید نتایج آنها را با اثبات «خودآگاهی» یک سیستم یکی دانست.
از طرف دیگر، مدیران شرکتهای بزرگ هوش مصنوعی بارها درباره ظهور سیستمهایی صحبت کردهاند که میتوانند بخش قابل توجهی از وظایف پیچیده را با دخالت انسانی کمتر انجام دهند. در ادبیات این صنعت، اصطلاحاتی مانند «عامل هوش مصنوعی» و «خودمختاری» نیز به همین دلیل اهمیت بیشتری پیدا کردهاند.
مشکل زمانی آغاز میشود که این اصطلاحات از فضای فنی خارج شده و در رسانهها به شکلی استفاده شوند که هوش مصنوعی را مانند یک موجود مستقل نشان دهند؛ موجودی که خودش تصمیم میگیرد، هدف دارد و در صورت بروز مشکل، میتوان رفتار آن را بهعنوان علت اصلی معرفی کرد.
این برداشت، علاوه بر ایجاد نگرانیهای بیمورد، یک پیامد مهم دیگر هم دارد: ممکن است مرز میان عملکرد یک محصول و مسئولیت سازنده آن مبهم شود.
آیا خودآگاهی هوش مصنوعی میتواند به یک مسئله حقوقی تبدیل شود؟
از نظر فلسفی، پرسش درباره آگاهی ماشینها بسیار جذاب است. اگر روزی مشخص شود یک سیستم واقعاً نوعی تجربه ذهنی دارد، طبیعتاً پرسشهای اخلاقی جدیدی مطرح خواهد شد. آیا چنین سیستمی باید از حقوق خاصی برخوردار باشد؟ آیا خاموش کردن آن میتواند از نظر اخلاقی مشکلساز باشد؟ آیا باید برای آن نوعی حمایت قانونی در نظر گرفت؟
اما میان یک پرسش فلسفی و یک مسئله حقوقی فاصله زیادی وجود دارد.
قانون برای تعیین مسئولیت به چارچوبهای مشخصی نیاز دارد. وقتی یک محصول باعث آسیب میشود، معمولاً باید مشخص شود چه کسی آن را ساخته، چه کسی آن را عرضه کرده، چه استانداردهایی رعایت شده و آیا سازنده از خطر احتمالی اطلاع داشته است یا خیر.
در این چارچوب، خودآگاه یا غیرخودآگاه بودن نرمافزار لزوماً مسئله اصلی نیست. مهم این است که چه فرد یا شرکتی آن سیستم را طراحی کرده و با چه شرایطی در اختیار مردم قرار داده است.
به همین دلیل، بحث درباره «حقوق هوش مصنوعی» نباید باعث شود موضوع حقوق کاربران و قربانیان آسیبهای احتمالی به حاشیه برود. اگر یک سیستم هوش مصنوعی به دلیل طراحی نامناسب، آزمایش ناکافی یا نبود سازوکارهای ایمنی کافی باعث آسیب شود، نمیتوان صرفاً با اشاره به پیچیدگی رفتار آن، مسئولیت را از سازنده دور کرد.
اگر هوش مصنوعی شخصیت حقوقی داشته باشد چه اتفاقی میافتد؟
برای درک بهتر این مسئله، باید به مفهوم «شخصیت حقوقی» توجه کنیم. قانون فقط به انسانها شخصیت حقوقی نمیدهد. شرکتها نیز در بسیاری از نظامهای حقوقی دارای شخصیت حقوقی مستقل هستند و میتوانند قرارداد ببندند، مالک دارایی باشند و در برابر برخی اقدامات خود پاسخگو باشند.
اگر روزی برای سیستمهای هوش مصنوعی نیز نوعی شخصیت حقوقی تعریف شود، پرسشهای بسیار پیچیدهای شکل خواهد گرفت. برای مثال، اگر یک عامل هوش مصنوعی در یک شرکت وظیفهای را بهصورت مستقل انجام دهد و نتیجه آن به فردی آسیب بزند، مسئولیت میان شرکت، توسعهدهنده و خود سیستم چگونه تقسیم خواهد شد؟
این وضعیت میتواند حتی پیچیدهتر از امروز باشد. شرکت سازنده ممکن است ادعا کند سیستم برخلاف دستورالعملهای تعریفشده رفتار کرده و به اصطلاح «سرکش» شده است. در چنین شرایطی، قربانی باید ثابت کند که مشکل از طراحی یا تصمیمهای شرکت ناشی شده است، نه از عملکرد مستقل سیستم.
به همین دلیل، اعطای شخصیت حقوقی به هوش مصنوعی موضوعی نیست که بتوان بدون بررسی پیامدهای آن دربارهاش تصمیم گرفت. پیش از آنکه برای ماشینها حقوق تازهای تعریف کنیم، باید مطمئن شویم این اقدام باعث از بین رفتن حقوق افرادی نمیشود که در دنیای واقعی با پیامدهای عملکرد آنها مواجه هستند.
وقتی خطای هوش مصنوعی از صفحه نمایش خارج میشود
مسئله مسئولیت زمانی جدیتر میشود که خروجی یک مدل هوش مصنوعی صرفاً یک پاسخ اشتباه نباشد و مستقیماً بر زندگی انسان اثر بگذارد.
در سالهای اخیر، پروندههای حقوقی متعددی علیه شرکتهای فعال در حوزه هوش مصنوعی شکل گرفته است. در این پروندهها موضوعاتی مانند ارائه پاسخهای خطرناک، تولید محتوای آسیبزا، نقض حقوق مالکیت فکری و نبود سازوکارهای ایمنی کافی مطرح شده است.
یکی از پروندههای بسیار بحثبرانگیز مربوط به نوجوان ۱۴ سالهای به نام «سیول ستزر» بود که با یک چتبات هوش مصنوعی تعامل داشت. خانواده او پس از مرگ این نوجوان از شرکت سازنده شکایت کردند و مدعی شدند محصول موردنظر فاقد تدابیر ایمنی کافی برای کاربران کمسنوسال بوده است.
چنین پروندههایی نشان میدهند که بحث درباره هوش مصنوعی دیگر فقط به آزمایشگاههای تحقیقاتی محدود نیست. وقتی یک فناوری وارد زندگی روزمره میشود، تصمیمهای مربوط به طراحی و ایمنی آن میتوانند پیامدهای واقعی و گاهی جبرانناپذیری داشته باشند.
در چنین شرایطی، اینکه سیستم را «مستقل» یا «خودمختار» بنامیم، نباید جای بررسی تصمیمهای انسانی پشت محصول را بگیرد.
«برونسپاری اخلاقی»؛ وقتی تقصیر به گردن فناوری میافتد
یکی از مفاهیمی که برای توضیح این مسئله استفاده میشود، «برونسپاری اخلاقی» است. منظور از این اصطلاح، وضعیتی است که انسانها بخشی از مسئولیت اخلاقی خود را به فناوری نسبت میدهند.
این اتفاق در مورد هوش مصنوعی میتواند بسیار ساده رخ دهد. وقتی میگوییم «AI این تصمیم را گرفت» یا «مدل خودش این کار را کرد»، ممکن است فراموش کنیم که این سیستم توسط انسانها ساخته شده و قواعد، دادهها، محدودیتها و اهداف آن نیز حاصل تصمیمهای انسانی هستند.
البته نمیتوان تمام رفتارهای پیچیده یک مدل را از پیش پیشبینی کرد. یکی از چالشهای مهم هوش مصنوعی دقیقاً همین غیرقابلپیشبینی بودن برخی خروجیهاست. اما غیرقابلپیشبینی بودن یک محصول با بیمسئولیتی سازنده آن یکسان نیست.
در صنایع مختلف نیز وقتی محصولی پیچیده است، مسئولیت تولیدکننده بهسادگی از بین نمیرود. هرچه فناوری حساستر و تأثیرگذارتر باشد، آزمایش، کنترل کیفیت، پشتیبانی و پاسخگویی اهمیت بیشتری پیدا میکند.
مسئولیتپذیری؛ حلقهای که نباید از زنجیره فناوری حذف شود
هوش مصنوعی بدون شک یکی از مهمترین فناوریهای عصر حاضر است و احتمالاً نقش آن در زندگی روزمره، کسبوکار و خدمات دیجیتال بیشتر هم خواهد شد. اما پیشرفت فناوری نباید به معنای عقبنشینی مسئولیتپذیری باشد.
از تولیدکننده سختافزار گرفته تا توسعهدهنده نرمافزار و ارائهدهنده خدمات، اعتماد زمانی شکل میگیرد که کاربر بداند در صورت بروز مشکل، یک مجموعه مشخص مسئولیت محصول خود را میپذیرد.
این موضوع فقط درباره هوش مصنوعی صدق نمیکند. در بازار فناوری، گارانتی و خدمات پس از فروش بخشی از همین زنجیره اعتماد هستند. کاربر هنگام خرید یک محصول، تنها سختافزار یا قابلیتهای آن را نمیخرد؛ بلکه انتظار دارد در صورت بروز مشکل، مسیر مشخصی برای دریافت خدمات و پیگیری وجود داشته باشد.
از این منظر، گارانتی آونگ نیز صرفاً یک برگه همراه محصول نیست؛ بلکه بخشی از تعهدی است که میان برند، محصول و مصرفکننده شکل میگیرد. هرچه فناوری پیچیدهتر میشود، اهمیت چنین مسئولیتپذیریای نیز بیشتر خواهد شد.
جمعبندی؛ فناوری قدرتمند، مسئولیت بزرگتر
شاید روزی دانشمندان بتوانند با اطمینان بیشتری درباره ماهیت آگاهی در ماشینها صحبت کنند. شاید حتی در آینده سیستمهایی ساخته شوند که مرز میان ابزار و عامل مستقل را بیش از پیش کمرنگ کنند.
اما تا آن زمان، نباید اجازه دهیم استفاده از واژههایی مانند «خودآگاه»، «سرکش» یا «فراانسانی» ما را از یک واقعیت ساده دور کند: هوش مصنوعی محصول فناوری است و پشت هر محصول، تصمیمهای انسانی و سازمانی قرار دارد.
اگر یک سیستم به دلیل طراحی نامناسب یا نبود تدابیر ایمنی کافی باعث آسیب شود، اولین قدم برای پاسخگویی، پیدا کردن یک «موجود سرکش» نیست؛ بلکه باید به سراغ کسانی رفت که آن فناوری را ساخته، آزمایش و عرضه کردهاند.
فناوری هرقدر پیچیدهتر شود، مسئولیتپذیری نباید پیچیدهتر و مبهمتر شود. برعکس، در دنیایی که محصولات هوشمند بخش بیشتری از زندگی ما را در اختیار میگیرند، اعتماد، پاسخگویی و تعهد به کاربر باید به همان اندازه جدی گرفته شوند.
