فرصت و تهدید هوش مصنوعی در رسانه، الگوریتم‌ها هم سوگیری دارند؟

امروزه کاربرد هوش مصنوعی در حوزه‌های مختلف تغییرات و تحولات چشمگری به دنبال داشته است. از جمله این حوزه‌ها، رسانه است. برای مثال بکارگیری فناوری‌های نوین هوش مصنوعی سبب شده، تولید و پخش اطلاعات و اخبار در رسانه های مختلف به سمت دگرگونی‌های بسیاری نظیر خودکارسازی، جمع آوری، تنظیم و پخش اخبار بدون کمک انسان پیش برود. اما با وجود این مزیت‌ها، باید توجه داشت که این فناوری نیز خالی از عیب نیست و اگر جوانب احتیاط رعایت نشود، ممکن است به کژکاردهایی از قبیل «خطر سوگیری الگوریتمی»، «وابستگی به هوش مصنوعی» و « خطر عدم رعایت حریم خصوصی و مسائل اخلاقی» منجر شود.

آنتونیو گوترش، دبیرکل سازمان ملل در نشست شورای امنیت درباره هوش مصنوعی گفت: در مدت کوتاهی، هوش مصنوعی با سرعت سرسام آوری پیشرفت کرده است. هوش مصنوعی فقط دنیای ما را تغییر شکل نمی دهد، بلکه آن را متحول می کند. وظایفی که به سال ها تخصص انسانی نیاز داشت، اکنون با یک چشم به هم زدن انجام می شوند. اما خطرات به همان اندازه بزرگ هستند. هوش مصنوعی بدون نظارت انسان، جهان را کور می کند و شاید هیچ کجا خطرناکتر و بی پرواتر از صلح و امنیت جهانی نباشد.

بنابراین با توجه به اهمیت کاربست هوش مصنوعی و کارکردها و کژکارکردهایی که ممکن است این فناوری در دنیای رسانه داشته باشد، پژوهشگر دیدگاه نیوز با «علی شاکر»، روزنامه‌نگار و پژوهشگر حوزه هوش مصنوعی، به گفت و گو نشست که مشروح آن را در ذیل می‌خوانید:

«ظهور فرایندهای خودکار یا نیمه‌خودکار»و «امکان داده‌محور شدن فرایندهای روزنامه‌نگاری»، تغییرات ناشی از هوش مصنوعی در رسانه

هوش مصنوعی در سال‌های اخیر توانسته است چند تغییر مهم در رسانه‌ها ایجاد کند یا دست‌کم نوید آن‌ را بدهد. نخستین تحول، «افزایش سرعت و دقت در گردآوری و پردازش اخبار» است. پیش‌تر روزنامه‌نگاران می‌بایست حجم عظیمی از داده‌ها را به شکل دستی بررسی و تحلیل می‌کردند، اما اکنون با این ابزار می‌توانند در کوتاه‌ترین زمان، داده‌های متنوعی را پالایش کرده و اطلاعات ارزشمندی در اختیار تحریریه‌ها قرار دهندشاکر در خصوص تغییر و تحولاتی که هوش مصنوعی در دنیای رسانه می‌تواند ایجاد کند، می‌گوید: هوش مصنوعی در سال‌های اخیر توانسته است چند تغییر مهم در رسانه‌ها ایجاد کند یا دست‌کم نوید آن‌ را بدهد. نخستین تحول، «افزایش سرعت و دقت در گردآوری و پردازش اخبار» است. پیش‌تر روزنامه‌نگاران می‌بایست حجم عظیمی از داده‌ها را به شکل دستی بررسی و تحلیل می‌کردند، ولی امروزه ابزارهای هوش مصنوعی می‌توانند در کوتاه‌ترین زمان، داده‌های متنوعی (از پلتفرم‌های خبری گرفته تا شبکه‌های اجتماعی) را پالایش کنند و اطلاعات ارزشمندی در اختیار تحریریه‌ها قرار دهند.

وی می‌افزاید: دومین تغییر، «ظهور فرایندهای خودکار یا نیمه‌خودکار» در تولید محتواست. اینکه بتوان یک فایل دوساعته‌ی مصاحبه را در عرض کمتر از چند دقیقه به متن تبدیل کرد، وقت زیادی برای کارهای عمیق‌تر روزنامه‌نگاران باز می‌کند. همچنین قابلیت‌هایی مانند «خلاصه‌سازی خودکار» یا «تولید متن اولیه» می‌توانند بخش قابل توجهی از وظایف تکراری خبرنگاران را کاهش دهند. این ابزارها به روزنامه‌نگاران فرصت می‌دهند تا بیشتر بر بررسی‌های میدانی، مصاحبه‌های عمیق و تحلیل‌های جدی متمرکز شوند.

شاکر ادامه می‌دهد: سومین تغییر عمده، «امکان داده‌محور شدن فرایندهای روزنامه‌نگاری» است. با استفاده از هوش مصنوعی، رسانه‌ها می‌توانند الگوها، روندها و پیش‌بینی‌ها را به‌صورت علمی‌تر و مبتنی بر کلان‌داده انجام دهند. همان‌طور که یک روزنامه‌نگار طی سال‌ها کار حرفه‌ای و کسب اطلاعات راجع به حوزه‌ای خاص می‌تواند اتفاق‌ها را در قالب‌هایی تحلیلی ارائه دهد، اکنون می‌تواند به جای اینکه سال‌ها وقت بگذارد و در حوزه‌ای کاملا مسلط اظهارنظر کند، می‌تواند از کلان‌داده‌های موجود برای کسب چشم‌اندازی نسبت به آینده استفاده کند.
به این ترتیب رسانه‌ها علاوه بر اینکه از امکانات اینترنت‌ اشیاء برای کسب خبر استفاده می‌کنند، می‌توانند این کلان‌داده‌ها را در مرکز تحلیل کنند و از دل این تحلیل‌ها پیش‌بینی اتفاق‌ها بیرون بیاید. رسانه‌های آینده جهان، وظیفه‌ی پیش‌بینی را برعهده دارند. این پیش‌بینی‌ها بر مبنای داده‌های گذشته‌نگر (یعنی آرشیو رسانه‌ها) امکانپذیر است. داده‌محور شدن روزنامه‌نگاری نه‌تنها به کشف موضوعات مهم پنهان کمک می‌کند، بلکه در تعیین سوژه‌های جذاب یا رویکردهای جدید خبری نیز راهگشاست.

ابعاد منفی و مثبت کاربست هوش مصنوعی در دنیای رسانه

شاکر درباره ابعاد منفی و مثبت کاربست هوش مصنوعی در رسانه‌ها می‌گوید: به طبع هیچ پدیده‌ای در جهان نیست که یکسر بد یا سراسر خوب باشد. به ویژه‌ اینکه این روزها دستیار هوشمندی در جیب خود داریم که روز به روز بیشتر رشد می‌کند و گسترش می‌یابد. برای نمونه، تنها چت‌جی‌پی‌تی طی پنج روز پس از راه‌اندازی کاربران این سکو به یک میلیون نفر رسید. در ژانویه ۲۰۲۳، تعداد کاربران فعال ماهانه به ۱۰۰ میلیون نفر رسید و تا دسامبر ۲۰۲۴، تعداد کاربران فعال هفتگی به ۳۰۰ میلیون نفر افزایش خواهد یافت.
پدیده‌ای که با این سرعت گسترش می‌یابد، بدی‌ها و خوبی‌هایش نیز به شکل فشرده‌ای کنار هم قرار داد. این ماشین ویژگی‌های مثبتی دارد که از جمله‌ی آن می‌توانیم به «کاهش هزینه و زمان» اشاره کنیم. همچنین «دقت» ما برای انتشار و راستی‌آزمایی اخبار بیشتر می‌شود. الگوریتم‌های هوشمند می‌توانند خطاها یا تناقض‌های محتوایی را سریع‌تر تشخیص دهند.

چت‌جی‌پی‌تی در مدت پنج روز پس از راه‌اندازی کاربران این سکو به یک میلیون نفر رسید. در ژانویه ۲۰۲۳، تعداد کاربران فعال ماهانه به ۱۰۰ میلیون نفر رسید و تا دسامبر ۲۰۲۴، تعداد کاربران فعال هفتگی به ۳۰۰ میلیون نفر افزایش خواهد یافت.وی می‌افزاید: ما روزنامه‌نگارها می‌توانیم از این ابزارها برای «خلق اَشکال نوین» محتوایی استفاده کنیم. محتواهایی مثل تولید اینفوگرافیک هوشمند، پایش زنده در رویدادهای ورزشی یا سیاسی و به‌روزرسانی لحظه‌ای داده‌ها. به این نکات این را هم اضافه کنید که می‌توانیم محتوا را برای مخاطبان براساس پیشینه‌ی مطالعه یا علاقه‌مندی‌های آنان «شخصی‌سازی» کنیم و امروزه بررسی‌ها نشان می‌دهد که در کسب‌وکارها استفاده از ربات‌های هوشمند تا ۵۰ درصد میزان فروش را افزایش داده است.
چنین کاری می‌تواند نوع مواجهه‌ی کاربران و مخاطبان را با رسانه‌ها عوض کند. یعنی هوش مصنوعی با توجه به علائق ما محتوای مصرفی را مشخص می‌کند و به زودی همه‌ی ما از اتفاق‌ها با خبریم ولی به سبکی که خودمان دوست داریم با خبر باشیم. این دیگر فقط اولویت‌های درون و برون‌سازمانی نیست که تعیین می‌کند چه داده‌ای تبدیل به اطلاعات و چه اطلاعاتی به خبر تبدیل و کدام خبر چگونه در شبکه برجسته شود.

شاکر ادامه می‌دهد: در کنار این مزایا، ابعاد منفی و چالش‌های این ابزارهای نوین را هم نباید از نظر دور بداریم؛ برای نمونه «خطر سوگیری الگوریتمی». مدل‌های هوش مصنوعی بر اساس داده‌های گذشته آموزش می‌بینند؛ اگر این داده‌ها از ابتدا سوگیرانه باشند، الگوریتم‌ها همان سوگیری را در خروجی نیز تکرار می‌کنند.

وی می‌افزاید: ما از این ماشین‌ها استفاده نمی‌کنیم که کار را کنار بگذاریم. از این ماشین‌ها بهره می‌بریم که بتوانیم برای افزایش مهارت یادگیری و همچنین ارتقای خلاقیت وقت داشته باشیم. پس قرار نیست تمام کارها را به این ماشین بسپاریم و به آن «وابستگی» پیدا کنیم. نکته‌ی دیگر این است که ما هنوز در «مالکیت فکری» مطلبی که با هوش مصنوعی می‌نویسیم، ابهام داریم. هنگامی که یک الگوریتم محتوا تولید می‌کند، این پرسش شکل می‌گیرد که مسئولیت و مالکیت نهایی آن اثر متعلق به چه کسی است؟

این روزنامه‌نگار می‌گوید: چالش‌های مرتبط با حریم خصوصی و مسائل اخلاق و دسترسی گسترده‌تر این ماشین‌ها به داده‌های شخصی کاربران می‌تواند چالش‌های خطرناکی را در آینده رقم بزند. چون این ماشین با همه‌ی منافعی که دارد، اگر در کنترل افراد و شرکت‌های ناشایست قرار بگیرد، می‌تواند چالش‌های فردی و گروهی زیادی را برای تمامی انسان‌های جهان پدید آورد.

تجارب بین‌المللی از کاربست هوش مصنوعی در رسانه

شاکر پیرامون تجارب بین‌المللی در کاربست هوش مصنوعی در رسانه می‌گوید: در بسیاری از نقاط جهان رسانه‌های بزرگ و کوچک از هوش مصنوعی بهره می‌برند. برای مثال، خبرگزاری‌های بین‌المللی نظیر آسوشیتدپرس (AP) و رویترز از هوش مصنوعی برای تولید گزارش‌های مالی و ورزشی استفاده می‌کنند. بیشتر این گزارش‌ها شامل اعداد و ارقام تکراری‌اند و الگوریتم‌های زبانی می‌توانند به‌سرعت خلاصه و ساختار اولیه متن را آماده کنند.
سطح پیاده‌سازی هوش مصنوعی در رسانه‌ها بسته به بودجه، زیرساخت و استراتژی سازمانی آنها بسیار متفاوت است. به‌طور کلی، هرچه منابع مالی و نیروی متخصص بیشتر باشد، پروژه‌های هوش مصنوعی در مقیاس وسیع‌تر و پیچیده‌تری انجام می‌شوندوی می‌افزاید: علاوه بر این دو خبرگزاری می‌توان به «رسانه‌های اروپایی» اشاره کرد. این رسانه‌ها به ابزارهای تشخیص اخبار جعلی و تحلیل احساسات در شبکه‌های اجتماعی روی آورده‌اند. این رسانه‌ها در تلاش‌اند صحت اخبار را پیش از انتشار بررسی و از شیوع شایعات یا اطلاعات نادرست جلوگیری کنند. در رسانه‌های کشورهایی مثل ژاپن و کره جنوبی هم از سامانه‌های رباتیک و الگوریتم‌های پردازش زبان طبیعی(NLP) برای ارائه زیرنویس همزمان در پخش زنده رویدادهای سیاسی یا ورزشی بهره می‌گیرند.
جالب‌تر اینکه رسانه‌های محلی در کشورهای پیشرفته نیز با کمک ابزارهای جمع‌سپاری (Crowdsourcing) و تحلیل کلان‌داده، نقشه‌های حرارتی (Heatmaps) از بحران‌های شهری یا تغییرات اقلیمی تهیه می‌کنند تا مستقیم به مخاطبان و سازمان‌های دولتی در مدیریت حوادث کمک کنند. البته سطح پیاده‌سازی هوش مصنوعی در این رسانه‌ها بسته به بودجه، زیرساخت و استراتژی سازمانی آنها بسیار متفاوت است. به‌طور کلی، هرچه منابع مالی و نیروی متخصص بیشتر باشد، پروژه‌های هوش مصنوعی در مقیاس وسیع‌تر و پیچیده‌تری انجام می‌شوند.

نکاتی که در استفاده از هوش مصنوعی باید رعایت کرد

شاکر به راهکارهایی در خصوص استفاده از هوش مصنوعی در رسانه اشاره کرده و می‌گوید: در استفاده از هوش مصنوعی در رسانه‌ها، ملاحظات مختلفی را می‌توان پیگیری کرد. نکته اینجاست که ما تا به امروز می‌دانیم که باید این ملاحظات را رعایت کنیم و فردا حتما شکل دغدغه‌ها تغییر می‌کند و باید برای دغدغه‌های آینده نیز فکری کرد. با این حال، امروز به‌درستی می‌دانیم که هیچ‌گاه نباید تمام مراحل کار را به الگوریتم سپرد. سردبیران و خبرنگاران باید محتوای تولیدشده با هوش مصنوعی را ارزیابی و در صورت نیاز اصلاح کنند. این رویکرد مانع از انتشار اشتباه‌های فاحش یا سوگیری‌های ناخواسته می‌شود.

وی می‌افزاید: چالش دیگر این است که مدل‌های زبانی آموزش دیده بسیار محدودند و به شرکت‌های معدودی مثل مایکروسافت، گوگل، آمازون، متا و… محدود می‌شود و در عمل پیوند خوردن منافع رسانه‌ها با این ابزارهای انحصاری سبب می‌شود تا قدرت این شرکت‌ها، باز هم بیشتر شود. موضوع این نیست که این شرکت‌ها در حال حاضر دارند چه بلایی سر داده‌های ما می‌آورند، موضوع این است که در شرایط بغرنج و حساس، این ارائه‌دهندگان منابع سازمان خود را ممکن است به منافع جمع بزرگی از انسان‌ها (مصرف‌کنندگان هوش مصنوعی) ترجیح دهند.
مدل‌های هوش مصنوعی اغلب بر پایه داده‌های غیربومی یا زبان‌های دیگر آموزش دیده‌اند. برای جلوگیری از خطا یا ضعف در سبک نگارش و درک مفاهیم محلی، باید فرایند بومی‌سازی به‌دقت انجام شود و داده‌های آموزشی متناسب با زبان و فرهنگ مورد استفاده قرار گیرد.

مدل‌های هوش مصنوعی اغلب بر پایه داده‌های غیربومی یا زبان‌های دیگر آموزش دیده‌اند. برای جلوگیری از خطا یا ضعف در سبک نگارش و درک مفاهیم محلی، باید فرایند بومی‌سازی به‌دقت انجام شود و داده‌های آموزشی متناسب با زبان و فرهنگ مورد استفاده قرار گیردوی می‌افزاید: با این حساب در می‌یابیم چرا حفاظت از حریم خصوصی و داده‌های کاربران مهم است. باید سازوکاری فراهم کرد که رسانه‌های دنیا، داده‌های حساس مخاطبان را بدون اجازه‌ی آنان جمع‌آوری و تحلیل نکنند. همان‌طور که پیشتر هم گفتم شفافیت در مالکیت فکری و مسئولیت نیز خیلی مهم است.
ما روزنامه‌نگاران باید بدانیم که اگر ماشین خطایی کرد، مسئولیت حقوقی با من روزنامه‌نگار است یا ماشین؟ برای پاسخ به این پرسش می‌بایست همگی در قدم نخست این پدیده را بشناسیم. یعنی همکاران روزنامه‌نگار (اعم از مدیران، سردبیران، دبیران و خبرنگاران) باید با ظرفیت‌ها و محدودیت‌های هوش مصنوعی آشنا شوند و آن زمان است که می‌توانند به بسیاری از چالش‌های اخلاقی و حرفه‌ای آینده شفاف‌تر بیندیشند. چون وقتی خبرنگاران بدانند خروجی الگوریتم چه قابلیت‌ها و چه نواقصی دارد، بهتر می‌توانند برای اصلاح، تکمیل و توزیع آن اقدام کنند.

این روزنامه‌نگار در پایان عنوان می‌دارد: هوش مصنوعی فرصت‌های بزرگی را در اختیار صنعت رسانه قرار می‌دهد، اما برای استفاده درست از آن باید هوشمندانه عمل کرد و ترکیبی از خلاقیت انسانی و توان الگوریتمی را به کار گرفت.
رسانه‌ها امروز می‌بایست خبرنگارانی داشته باشند که از منظر بینارشته‌ای به اتفاق‌ها نگاه می‌کند. می‌تواند با نرم‌افزاری مثل پایتون کار کند و همچنین ابزارهای مختص به تولید متن، صدا، تصویر و ویدئو را بشناسد و بتواند از خلاقیت خود برای ارتقای کیفیت محتوای خبری و رضایت بیشتر مخاطبان استفاده کند.