هوش مصنوعی مولد (Generative AI) با یادگیری الگوها و روابط از دادههای موجود، قادر به خلق محتوای جدید است. این فناوری که بیشتر با تولید متن و تصویر شناخته میشود، اکنون در حال ورود به حوزههای پیچیده زیستشناسی، از طراحی پروتئینها گرفته تا شبیهسازی سلولها و تولید دادههای مصنوعی است. اما در کنار پتانسیلهای شگرف، این سیستمها با پدیدهای به نام «توهم» (hallucination) روبرو هستند که میتواند منجر به نتایج گمراهکننده شود.
در تحقیقات زیستشناسی، توهم هوش مصنوعی به معنای تولید الگوهای مولکولی یا استنتاجهایی است که ظاهری منطقی دارند اما با واقعیت زیستی مطابقت ندارند. این خطاها میتوانند پیامدهای ملموسی داشته باشند؛ از نادیده گرفتن یک داروی بالقوه مؤثر گرفته تا هدایت محققان به سمت درمانهای بیاثر، پنهان کردن اثرات بیولوژیکی واقعی یا حتی جلوه دادن یک مکانیسم بیماری غیرموجود به عنوان یک کشف جدید.
توماس بورگر، زیستشناس محاسباتی در دانشگاه گرونوبل آلپ فرانسه، این چالشها را در ۱۰ کاربرد بالقوه هوش مصنوعی مولد در مقالهای در الگوها بررسی کرده است. او معتقد است که همه این کاربردها ریسک یکسانی ندارند و تفاوت کلیدی در این است که آیا خروجی هوش مصنوعی یک ایده برای آزمایش در دنیای واقعی است یا دادههای مصنوعی که مستقیماً به عنوان مدرک استفاده میشوند.
یکی از کاربردهای کمریسکتر، غربالگری داروهای بالقوه یا پروتئینهاست. در این حالت، هوش مصنوعی میتواند به سرعت تعداد زیادی از کاندیداها را ارزیابی کرده و گروه کوچکی را برای آزمایشهای آزمایشگاهی انتخاب کند. اگر هوش مصنوعی اشتباه کند، ممکن است یک داروی مؤثر نادیده گرفته شود یا زمان و هزینه صرف بررسی گزینهای شود که در نهایت شکست میخورد. با این حال، کاندیدای منتخب همچنان باید اثرات خود را در یک آزمایش واقعی اثبات کند تا به عنوان یک کشف پذیرفته شود.
خطر زمانی افزایش مییابد که دادههای تولید شده توسط هوش مصنوعی جایگزین اندازهگیریهای تجربی شوند. دادههای زیستی مصنوعی میتوانند به پر کردن شکافهای دادهای، حفظ حریم خصوصی بیماران، ایجاد گروههای مقایسه، کاهش هزینههای تحقیق و یا کاهش نیاز به استفاده از حیوانات در آزمایشها کمک کنند. اما اگر هوش مصنوعی ویژگیای را وارد کند که هرگز وجود نداشته است، دانشمندان ممکن است به اشتباه تصور کنند که یک اثر بیولوژیکی را کشف کردهاند که هرگز رخ نداده است. در این حالت، ساخته هوش مصنوعی به بخشی از شواهد علمی تبدیل میشود.
بورگر توضیح میدهد که مشکل اصلی اغلب نه مقایسه یک توهم با یک کشف واقعی، بلکه «خراب شدن دادههای واقعی در طول گردش کار محاسباتی پیچیده (با کمک هوش مصنوعی مولد) است که امکان تبدیل سیگنالهای خام به دست آمده با فناوریهای پیچیده زیستی را به توصیفات معتبر بیولوژیکی از مکانیسمهای مولکولی فراهم میکند». به عبارت دیگر، هوش مصنوعی میتواند در حین پردازش دادههای واقعی، سیگنالی را به گونهای تغییر دهد که تشخیص آن دشوار باشد و این تغییر میتواند نتیجهگیری محققان را تحت تأثیر قرار دهد بدون اینکه یک یافته مجزا و کاملاً ساختگی ایجاد شود.
نمونهای واقعی از این پدیده با AlphaFold ۳ مشاهده شد. توسعهدهندگان این مدل در مقالهای در سال ۲۰۲۴ گزارش دادند که این مدل میتواند «ساختارهای توهمی» در نواحی بینظم پروتئین ایجاد کند، هرچند امتیازات اطمینان پایین میتواند محققان را نسبت به این مشکل هشدار دهد.
خطاهای هوش مصنوعی همیشه باعث نمیشوند یک اثر غیرموجود واقعی به نظر برسد. گاهی اوقات، مدل ممکن است آنقدر دادهها را تحریف کند که محققان یک اثر واقعی را نادیده بگیرند و شواهدی را که نشاندهنده اثربخشی یک درمان است، از دست بدهند.
بورگر همچنین به این نکته اشاره کرده که ممکن است توهمات هوش مصنوعی به کشفیات واقعی منجر شوند، مشابه یافتههای تصادفی که در آزمایشهای آزمایشگاهی رخ میدهند. او معتقد است که در نهایت، چه این یافتههای غیرمنتظره ناشی از توهم هوش مصنوعی باشند و چه از اشتباهات آزمایشگاهی، از نظر اخلاقی و از نظر سطح اعتبار سنجی بعدی تفاوتی ندارند. آنچه اهمیت دارد نحوه استفاده محققان از خروجی است. اگر به عنوان ایدهای برای آزمایش تلقی شود، توهم صرفاً یک فرضیه شکستخورده باقی میماند. اما اگر به عنوان یک مشاهده واقعی در نظر گرفته شود، یک جعل متقاعدکننده میتواند وارد شواهد شده و با واقعیت بیولوژیکی اشتباه گرفته شود.
حتی هیجانانگیزترین نتیجهای که توسط هوش مصنوعی پیشنهاد میشود، تا زمانی که به طور مستقل در یک آزمایش واقعی تأیید نشود، یک کشف محسوب نمیشود. این مقاله در الگوها منتشر شده است.
