دموکراسی الگوریتمی؛ حفظ عاملیت انسانی و پاسخگویی در عصر هوش مصنوعی
سخنران: روزر آلمنار، پژوهشگر دوره دکتری و مدرس حقوق مدنی در دانشگاه والنسیا (اسپانیا)
دبیر علمی: دکتر سیما مرادینسب، عضو هیئت علمی دانشکده حقوق و مدیر کارگروه دموکراسی مرکز تحقیقات و کرسی حقوق بشر، صلح و دموکراسی دانشگاه شهید بهشتی
تاریخ: ۲۴ شهریور ۱۴۰۵ برابر با ۱۵ سپتامبر ۲۰۲۶
مناسبت: روز جهانی دموکراسی ۲۰۲۶
دکتر سیما مرادینسب نشست را به مناسبت روز جهانی دموکراسی ۲۰۲۶ آغاز کرد. او بیان نمود که روز جهانی دموکراسی فرصتی را فراهم میکند که وضعیت دموکراسی در سراسر جهان مورد بازنگری قرار گیرد. آنگاه بر تلقی سازمان ملل متحد از دموکراسی بهعنوان فرایندی مستمر و در عین حال یک هدف تأکید داشت؛ فرایندی که به مشارکت جامعه و همکاری بینالمللی وابسته است. دکتر مرادی نسب بیان داشت که با ظهور فناوریهای جدید، به ویژه هوش مصنوعی، چگونگی تصمیمگیری، تولید و به اشتراکگذاری اطلاعات و همچنین شیوههای مشارکت مردم در حیات عمومی تحتتأثیر قرار گرفته است. این امر ما را با یک پرسش بنیادین مواجه میسازد:
«در وضعیتی که اتخاذ تصمیمات به الگوریتمها واگذار شده یا حداقل تحتتأثیر آنها قرار دارد، عاملیت انسانی و پاسخگویی چه جایگاهی دارند؟»
به دیگر سخن، چگونه میتوان تضمین نمود که پیشرفتهای فناورانه به تقویت ارزشهای دموکراتیک میانجامند؟ و چگونه میتوان عاملیت انسانی را در محور تصمیمگیری قرار دارد؟ و، در نهایت در تصمیماتی که با استفاده از الگوریتمها اتخاذ میشوند، چه کسی باید پاسخگو باشد؟
با طرح این پرسشها، از سخنران جلسه، خانم روز آلمنار دعوت شد تا پیرامون موضوع «دموکراسی الگوریتمی: حفظ عاملیت انسانی و پاسخگویی در عصر هوش مصنوعی» به بحث بپردازند. در ابتدا، خانم آلمنار مفهوم میانجیگری الگوریتمی را چنین توضیح داد: سامانهها در حالی دستهبندی، پیشنهاد، اولویتبندی، پالایش و امتیازدهی میکنند که انسانها در ظاهر همچنان در فرایند حضور دارند. با این صورتبندی، توجه از پرسش ساده «آیا انسانی در فرایند حضور دارد؟» به این پرسش منتقل شد که آن فرد یا نهاد در عمل چه میزان قدرت و اختیار در دست دارد. او میان «عاملیت معنادار انسانی» و «کنترل معنادار انسانی» تفکیک کرد. به عقیده خانم آلمنار، عاملیت اقتضا میکند اشخاصی که یک تصمیم بر آنان اثر میگذارد بتوانند آن را بفهمند، دربارهاش پرسش کنند و در برابر آن دست به اقدام بزنند. کنترل نیز مستلزم آن است که نهاد بهرهبردار واقعاً بتواند بر سامانه نظارت کند، خروجی آن را به چالش بکشد یا کنار بگذارد، استفاده از آن را متوقف کند و مسئولیت نتیجه را بپذیرد.
بر همین مبنا، الگوی رایج «انسان در مرکزیت» ممکن است کافی نباشد. کسی که فقط توصیه ماشین را تأیید میکند، برای بازبینی آن زمان یا اطلاعات کافی ندارد یا عملاً مجاز نیست تصمیم متفاوتی بگیرد، صرفاً حضوری صوری دارد. در چنین وضعی، ظاهر نظارت انسانی میتواند انتقال قدرت واقعی تصمیمگیری به سامانه را پنهان کند.
آنگاه سخنران نشست به یک مثال واقعی میپردازد؛ او بیان داشت که پرونده بوسکو در اسپانیا نشان داد که تبدیل شرایط قانونی به نرمافزار چه پیامدهایی دارد. سامانه بوسکو برای سنجش احراز شرایط دریافت تخفیف اجتماعی برق از سوی خانوارهای کمدرآمد و آسیبپذیر به کار میرفت. سازمان غیرانتفاعی «سیویو» این سامانه را بررسی کرد و پس از طرح نگرانیهایی درباره رد شدن متقاضیان واجد شرایط، نبود شفافیت آن را به چالش کشید. این پرونده نشان داد وقتی شرایط قانونی به قواعد نرمافزاری تبدیل میشوند، نرمافزار بخشی از سازکاری است که حقی را اعطا یا از شخصی دریغ میکند. خطاها، پیشفرضهای پنهان و منطق غیرقابلدسترسی میتوانند عاملیت معنادار انسانی را مختل کنند؛ بهویژه وقتی متقاضی نمیداند چرا درخواستش رد شده یا چگونه باید به آن اعتراض کند.
با طرح این پرونده، خانم آلمنار درباره «بیمسئولیتی توزیعشده» هشدار داد؛ وضعیتی که هر بازیگر مسئولیت را به دیگری حواله میدهد و توجیه نهایی این است که «سامانه تصمیم گرفته است». الگوریتم نمیتواند مستقلاً صاحب اقتدار عمومی باشد یا مسئولیت حقوقی بپذیرد. بنابراین مسئولیت باید متوجه شخص حقیقی یا حقوقی قابلشناسایی باشد که دانش و اختیار لازم برای فهم، پرسش، اصلاح یا توقف استفاده از سامانه را دارد.
آنگاه، سخنران نشست به تأثیر هوش مصنوعی بر قضاوت دموکراتیک پرداخت. او بیان داشت که ابزارهای هوش مصنوعی مولد، از جمله GPT و Gemini، در کنار سامانههای توصیهگر گسترده، محیطی را شکل میدهند که قضاوت دموکراتیک در آن صورت میگیرد. این سامانهها بر اطلاعاتی که دیده میشوند اثر میگذارند و تولید محتوای مصنوعی و جعلهای عمیق را در مقیاس بالا آسانتر میکنند. گسترش اطلاعات نادرست میتواند اعتماد به یک مبنای واقعی مشترک را تضعیف کند. حفظ عاملیت انسانی در چنین محیطی یعنی مردم بتوانند آگاهانه قضاوت کنند.
پس از بحث اوّلیه، دکتر مرادی نسب از شرکتکنندگان دعوت نمود تا به طرح پرسشهای خود بپردازند. ایدۀ اصلی خانم آلمنار آن بود که نمیتوان خلاءهای حقوقی ناشی از استفاده از الگوریتمها در فرایندهای دموکرایتک را نادیده گرفت. در همین راستا، دکتر مرادی نسب بیان نمود که در حال حاضر، پرسش اصلی آن نیست که آیا هوش مصنوعی باید در فرایندهای دموکراتیک وجود داشته باشد یا نه، بلکه سؤال بنیادین آن است که در عصر هوش مصنوعی، چگونه میتوان همچنان از ارزشهای دموکراتیک حفاظت به عمل آورد.
برای مشاهده فایل ضبطشده نشست رجوع کنید به:
https://drive.google.com/file/d/14m5wWX1DvcS7oUCyv22GA8xdKVQle842/view?usp=drivesdk
خلاصه صوتی نشست نیز در فایل زیر قابل دسترسی است: