جدیدترین مطالب

» تازه های فناوری » هوش مصنوعی بازتولید دروغ : چگونه فناوری تاریخ را تحریف می کند !
 12 بازدید

هوش مصنوعی بازتولید دروغ : چگونه فناوری تاریخ را تحریف می کند !

خطر فناوری تنها در سناریوهایی نظیر خلق گونه‌‌های سایبورگ یا بردگی توسط یک ابرهوش خلاصه نمی‌‌شود، ممکن است روزی ما همگی حی‌‌وحاضر باشیم ولی دیگر نتوانیم افکار و احساسات خود را به‌‌خاطر آوریم.

هوش مصنوعی بازتولید دروغ : چگونه فناوری تاریخ را تحریف می کند !

تحریف تاریخ با هوش مصنوعی

 

واخر بهمن‌‌ماه سال گذشته بود که خلاقیت یک وب‌‌سایت تازه، توجه کاربران زیادی را به خود جلب کرد. کافی است سری به آدرس وب‌‌سایت این شخص وجود ندارد بزنید. در نگاه اول، شما تصویر یک فرد عادی را می‌‌بینید؛ اما اگر کمی بیشتر دقت کنید، با عبارتی در گوشه‌‌ی پایین تصویر مواجه می‌‌شوید که می‌‌گوید: «این تصویر با یک الگوریتم شبکه‌‌‌‌ی رقابتی مولد (GAN) تولید شده است». بله، شاید هضم آن برایتان کمی دشوار باشد، ولی این چهره‌‌ها که به‌‌طرز هولناکی واقعی به‌‌نظر می‌‌رسند، متعلق به هیچ انسانی نیستند.

 

تحریف تاریخ با هوش مصنوعی

تصاویر تهیه‌شده از thispersondoesnotexist.com، این افراد در دنیای واقعی وجود ندارند

فیلیپ وانگ، یک مهندس نرم‌افزار در اوبر (Uber) است که تصمیم گرفت این وب‌‌سایت را براساس نتایج فعالیت گروهی از پژوهشگران در انویدیا پایه‌‌گذاری کند تا افکار عمومی را از یک توانایی بالقوه‌‌ی فناوری در خلق تصاویر باکمک الگوریتم شبکه‌‌‌‌ی رقابتی مولد آشنا کند. این‌‌ها تنها برنامه‌هایی هستند که شامل دو شبکه‌‌ی عصبی می‌‌شوند.

یکی از شبکه‌‌ها یک تصویر ایجاد می‌کند و دیگری تصمیم‌‌گیری می‌‌کند که  این تصاویر تاچه‌‌اندازه واقعی هستند و درواقع، خروجی برنامه‌‌ی اول را باهدف بهبود نتایج، به چالش می‌‌گیرد. هدف نهایی این فرایند، خلق تصویری است که عملا از چهره‌‌ی واقعی یک انسان غیرقابل‌تشخیص باشد.چهره‌‌هایی که در سایت وانگ دیده می‌‌شوند، بسیار واقعی هستند. این چهره‌‌ها می‌‌تواند متعلق به هر کسی در دنیا باشند؛ درحالی‌‌که چهره‌ها متعلق به هیچ‌ انسانی نیست.

چند روز پس از راه‌اندازی این سایت، OpenAI از ابزاری خارق‌‌العاده رونمایی کرد که می‌توانست با کمترین دخالت انسانی، متونی منسجم شامل چندین پاراگراف را از خود بنویسد. آن‌ها بااقتباس از نام فناوری دیگری که می‌‌توانست با مونتاژ تصویر چهره‌‌ی یک فرد روی چهره‌‌ی فردی دیگر، ویدئوهای جعلی تولید کند، این قابلیت تازه را دیپ‌‌فیکس (deepfakes) نوشتاری نام نهادند. در توضیحات گاردین این‌‌گونه آمده است:

این سیستم هوش مصنوعی متون چند کلمه‌‌ای تا یک صفحه‌‌ای را به‌‌عنوان ورودی دریافت می‌‌کند و می‌‌تواند چندین جمله را باتوجه به پیش‌‌بینی‌‌های خود در ادامه‌ی آن بنویسد.

OpenAI به‌‌علت نگرانی‌‌های ناشی‌‌از سوءاستفاده‌‌های احتمالی، هنوز نسخه‌‌ی کامل این فناوری را منتشر نکرده است. بااین‌‌حال، گاردین از این فناوری که با نام GPT2 شناخته می‌‌شود، برای نگارش یک داستان کامل درباره‌‌ی خود این فناوری استفاده کرده است.

در مقاله‌‌ی اخیر، تنها دو پاراگراف در اختیار این برنامه‌‌ی رایانه‌‌ای قرار گرفت تا موضوعی برای شروع نگارش داشته باشد. درادامه، برنامه توانست به‌‌خوبی با ورودی‌‌های ارائه‌‌شده، یک داستان کامل از آب دربیاورد که تقریبا با نسخه‌‌های نگاشته‌‌ شده توسط یک انسان تفاوت چندانی ندارد.

شگفت‌‌انگیز آن‌‌که GPT2 حتی توانست چند نقل‌‌قول ساختگی نیز از سازندگان خود تولید کند. این فناوری پیش‌‌تر هم توانسته بود درحین نگارش یک متن آزمایشی درمورد برگزیت، نقل‌‌قول‌‌هایی جعلی از رهبر حزب کارگر انگلستان تولید کند.

متون GPT2 شباهت حیرت‌‌انگیزی به نوشته‌‌هایی دارد که یک انسان نوشته است، درصورتی‌‌که هیچ انسانی آن را ننوشته است.

اجازه دهید به ماجرایی دیگر نیز اشاره کنیم. در بهار سال گذشته، گوگل از دو فایل صوتی ضبط‌‌شده پرده‌برداری کرد. در این نوارهای صوتی از فناوری تقلید صدای گوگل به نام Duplex استفاده شد تا یک مکالمه‌‌ی تلفنی میان یک ماشین و یک فرد واقعی ترتیب داده شود. در اولین فایل صوتی، برنامه با یک سالن زیبایی تماس می‌‌گیرد تا یک نوبت رزورو کند. طی این مکالمه، برنامه با یک سری گزینه‌‌های ارائه‌‌شده ازسوی منشی مواجه می‌‌شود که مجبور بود از پس پاسخ به آن‌‌ها برآید.

در فایل صوتی دوم، برنامه تلاش می‌کند تا یک میز برای شام رزرو کند و زنی که مخاطب این تماس تلفنی است، می‌گوید که امکان رزرو میز برای تعداد کمتر از چهار نفر وجود ندارد.

این مکالمات صوتی ضبط‌‌شده شباهت غریبی به‌گفته‌‌های یک فرد واقعی را دارد. اما در واقعیت، هیچ انسانی این کلمات را به‌‌زبان نیاورده است.

 

تحریف تاریخ با هوش مصنوعی

پرده‌برداری گوگل از فناوری Duplex در هوش مصنوعی شگفتی دنیا را برانگیخت

 

اواخر سال ۱۸۷۷، توماس ادیسون درحالی که آخرین اختراع خود را به‌‌همراه داشت، وارد دفتر ژورنال علمیScientific American شد. آن‌‌گونه که سردبیران این ژورنال بعدها تعریف کردند، اختراع او شامل چند قطعه فلز بود که روی یک پایه‌‌ی آهنی با ابعاد ۰.۱ مترمربع قرار گرفته بودند. آن دستگاه درحقیقت، یک گرامافون بود که قادر به ضبط صدای انسان و بازپخش آن بود. سردبیران مجله علمی آمریکا بعدها نوشتند:

مهم نیست که تا چه‌‌اندازه با ماشین‌‌های مدرن و قابلیت‌‌های شگفت‌‌انگیز آن‌‌ها آشنایی داشته باشید یا اینکه چه‌‌میزان درکی از اصول کارکرد این دستگاه‌‌های عجیب داشته باشید، ممکن نیست درحالی‌‌که این صداهای مکانیکی را گوش می‌‌کنید، نتوانید تشخیص دهید که حواس شما درحال فریب‌‌دادنتان هستند.

ما قبلا هم به قابلیت شگفت‌‌انگیز شنیدن صدای مردگان ازطریق این دستگاه اشاره کرده‌‌ایم و هیچ شکی وجود ندارد که این قابلیت‌‌ها به همان اندازه شگفت‌‌آورند که به‌‌نظر می‌‌رسند.

درواقع، هیچ راهکار عملی برای تفکیک بشریت از فناوری او وجود ندارد. در سرتاسر تاریخ، فناوری برای بهبود و پیشرفت تجارب انسانی به‌‌کار گرفته شده است و این فناوری در خدمت هدف مهم دیگری نیز بوده است: «فناوری در بسیاری از موارد برای محافظت از بشریت تولید شده است.» این موضوع به‌‌ویژه در مورد پیدایش فناوری‌های ارتباطی (از صنعت چاپ گرفته تا گرامافون و اینترنت)، صادق بوده است. فارغ‌‌ازاینکه سازندگان این فناوری‌‌ها هنگام خلق آن‌‌ها چنین تصوری را داشته‌‌اند یا خیر و جدا از همه‌‌ی آن خدمات بی‌‌شماری که این فناوری‌‌ها برای ما به‌‌ارمغان آورده‌‌اند، باید به‌خاطر آورد که این‌‌ ابزارها تنها راهی برای یادآوری وجود بشریت به خود اوست؛ تا به خود یادآور شویم که ما هنوز وجود داریم.

پیشنهاد کنکاش :  گشت و گذار در اینترنت با اضافه کردن چاشنی هوش مصنوعی

 

هیچ راهکار عملی برای تفکیک بشریت از فناوری او وجود ندارد

شاید از همین جهت است که این سه پیشرفت اخیر در حوزه‌‌ی هوش مصنوعی قدری خاطرمان را مشوش می‌‌کند. برخلاف آنچه تاکنون شاهد آن بوده‌‌ایم، هرکدام از این دستاوردها چیزی بیش‌‌از یک «کپی‌‌» ساده از انسان‌‌ها و ارتباطات انسانی است. می‌‌توان گفت این‌‌ها به‌‌نوعی «بازتولید» محسوب می‌‌شوند. کمی تامل کنید، این تفاوت ظاهرا جزئی میان این دو کلمه، از اهمیت بسیار بالایی برخوردار است.

توجه به همین تفاوت میان دو عبارت «کپی» و «بازتولید» می‌‌تواند به ما بفهماند که در موضوع هوش مصنوعی، دقیقا با چه پدیده‌‌ای سروکار داریم: یک کپی و نسخه‌‌ی اصلی آن می‌‌توانند به‌‌صورت همزمان و مجزا از یکدیگر وجود داشته باشند. حتی اگر نسخه‌‌ی اصلی مفقود هم شود، نسخه‌‌ی کپی خود مدرکی است که ثابت می‌کند که  قبلا یک نسخه‌‌ی اصلی وجود داشته است. اما از آن‌سو، یک نسخه‌‌ی «بازتولیدشده» در حقیقت، نوعی دستکاری در نسخه‌‌ی اصلی با هدف ایجاد یک گونه‌‌ی جدید است. اساسا در این فرایند، بخشی از جوانب نسخه‌‌ی اصلی به‌‌کلی ناپدید می‌شود . این همان موضوعی است که آنچه را در سیلیکون‌ولی می‌‌گذرد، برایمان کمی نگران‌‌کننده جلوه می‌‌دهد. چرا که با انجام هر بازتولید موفق از چهره‌‌ها، کلمات و اصوات انسانی، آنچه که درسکوت ناپدید می‌شود، خود «انسان» است.

این ابزارهای جدید در هوش مصنوعی دیگر وجودمان را به ما یادآوری نمی‌‌کنند؛ در اصل، آن‌‌ها این موضوع را به ما یادآوری می‌‌کنند که شاید دیگر قرار نیست روزی وجود داشته باشیم. سال گذشته، مارتین کونز در مصاحبه‌‌ای چنین گفت:

ما در قالب یک گونه‌‌‌‌ی زیستی گردآورنده و یادآورنده بوده‌‌ایم. ما در هر جایی آثار خود را به‌‌جای گذاشته‌‌ایم.

کونز درقالب یک کاشی‌‌کار استرالیایی درحال ساخت یک کپسول زمان است که خود نام «پروژه‌‌ی یادبود بشر» را برای آن برگزیده است. او شروع به ساختن کاشی‌های سرامیکی کرده که روی آن خاطرات شخصی، اخبار جهانی، متون کتاب‌‌ها و مطالعات علمی با لیزر حک شده است. این‌‌ کاشی‌‌ها به‌‌منزله‌‌ی توصیفی از بشریت برای کسانی خواهد بود که شاید در آینده‌‌ای دوردست در یک غار نمک میراث ما را بیابند.

این پروژه به‌‌سرعت توسعه یافته است. در حال حاضر، کونز سه دسته از مطالب را چاپ می‌‌کند: سرمقالات که شامل مجموعه‌‌ای از سرخط اخبار جراید جهان از تمامی دیدگاه‌‌های سیاسی و جغرافیایی هستند؛ مطالب سازمانی که شامل مقالات علمی، رساله‌‌ها، پروژه‌های هنری و موسیقی‌‌های پرطرفدار و حتی محل سایت‌های انباشت زباله‌‌های هسته‌ای است؛ و درنهایت آیتم‌های شخصی.

پیشنهاد کنکاش :  هوش مصنوعی هنرمند می شود؛‌بازسازی نقاشی های قدیمی به وسیله هوش مصنوعی

در حال حاضر، او بیش از ۵۰۰ کتیبه دراختیار دارد که بامشارکت افرادی از چندین و چند کشور تهیه شده است؛ این افراد، مطالب مورد نظر خود را ازطریق ایمیل برای او ارسال می‌‌کنند تا روی یک کتیبه چاپ شوند. این مطالب شامل امور روزمره، نامه‌‌های عاشقانه، مقالات روزنامه، رساله‌‌ها، متون وبسیاری از چیزهایی می‌‌شود که برایمان اهمیت دارد.

یکی از انگیزه‌‌های کونز در حفظ این خاطرات انسانی، از نگرانی‌‌های او درمورد عدم امکان ذخیره‌‌سازی آن‌‌ها در جاهای دیگر ناشی می‌‌شود. کونز می‌‌گوید:

دیر یا زود بنابر مسائل اقتصادی یا اکولوژیکی ما مجبور به پاک‌‌کردن اطلاعات خود خواهیم شد. این پاک‌‌سازی به‌‌صورت سازمان‌‌دهی‌‌شده انجام نخواهد شد و قرار نیست خود انتخاب کنیم چه اطلاعاتی باید باقی بماند (و چه اطلاعاتی پاک شود).

ازاین‌‌رو پروژه‌‌ی یادبود بشر برای آن بنیان نهاده شده تا شاید روزی که دیگر نشانی از وجود ما در قرن بیست‌‌ویکم نبود، نوادگان ما بتوانند همچنان ما را به‌‌ خاطر آورند.

 

کتیبه‌های پروژه‌ی یادبود بشر قرار است یکی از آخرین میراث‌های بشر برای آیندگان دوردست باشد

 

یک «پاک‌‌سازی بزرگ» می‌‌تواند بدین معنا باشد که اطلاعات ما برای همیشه نابود شوند، اما هنوز سرورهای ما وجود داشته باشند و دوباره بتوانند با داده‌‌هایی تازه پر شوند. حال با درنظرگرفتن این سه پیشرفت اخیر در هوش مصنوعی باید این پرسش را از خود داشته باشیم: درصورت وقوع چنین حادثه‌‌ای این فضاهای خالی قرار است با چه اطلاعاتی پُر شوند؟

این ممکن است یک اشتباه بزرگ باشد که تصور کنیم درصورت نابودی اطلاعات مربوط‌به زندگی نسل ما، جای خالی آن‌ها دوباره با همان حقایق پُر خواهد شد. در عوض، ممکن است یک اتفاق عجیب رخ دهد: همان‌‌طور که هوش مصنوعی به تکامل خود ادامه می‌‌دهد و الگوریتم‌‌های آن بهینه می‌‌شوند، ممکن است به‌‌ناگاه با جهانی مواجه شویم که در آن اطلاعات مفقودشده با اطلاعاتی جایگزین شوند که توسط انسان تولید نشده‌‌اند. این اطلاعات ممکن است تنها چیزی شبیه‌‌به اطلاعات بشری باشند؛ اطلاعاتی ضبط‌‌شده که تنها محصول ارتباط میان لایه‌‌های یک الگوریتم پیچیده در حلقه‌‌ای بی‌‌پایان باشند. تصور این منظره هم هم هولناک است.

یک برنامه‌‌ی رایانه‌‌ای یک تماس تلفنی برقرار می‌‌کند؛ برنامه‌‌ای دیگر بدان پاسخ می‌‌دهد. یک الگوریتم یک داستان خبری می‌نویسد؛ الگوریتمی دیگر براساس آن یک رمان می‌‌نگارد. یک الگوریتم یک چهره‌‌ی انسانی تولید می‌کند؛ یک ربات از این تصویر برای ایجاد یک پروفایل در شبکه‌‌های اجتماعی استفاده می‌کند و شروع به تعامل با کسانی می‌‌کند که خود آن‌‌ها نیز ممکن است محصول یک الگوریتم دیگر باشند. بدین‌ترتیب با حلقه‌‌ای بی‌‌پایان از الگوریتم‌‌ها مواجه خواهیم شد که هریک روی دیگری سوار شده است.

مدت‌‌ها است که ترس ما از هوش مصنوعی از این گمان ناشی می‌‌شود که نکند روزی ما به‌‌صورت فیزیکی با یک کامپیوتر ادغام شویم و تبدیل به یک گونه‌‌ی سایبورگ شویم یا اصلا بدتر از آن روزی با فرارسیدن تکینگی فناوری به‌‌بردگی یک ابرهوش درآییم. اما واقعیت این است که امکان رخداد حوادث دیگری نیز می‌‌رود. ممکن است روزی با آینده‌ای رو‌به‌رو شویم که واقعیت فیزیکی ما دست‌‌نخورده باقی بماند؛ اما مجموعا نتوانیم احساسات و افکار واقعی خود را به‌‌خاطر آوریم؛ یعنی همان چیزهایی که از ما، انسان ساخته‌‌بودند. از آنجاکه در آن روزها سرورهای ما همچنان با ارتباطاتی «بازتولیدشونده»، به رشد سرطان‌‌گونه‌‌ی خود ادامه می‌‌دهند، ما به‌نوعی گرفتار بن‌‌بستی از انزوا خواهیم شد و انسانیت ما برای همیشه روی لوح‌‌هایی از سرامیک در اعماق یک غار کوهستانی مدفون خواهد شد.

ممکن است سرورهای ما هرگز از اطلاعات پاک نشوند، اما درنهایت این فناوری که روزگاری توسط خود ما و برای حفظ گونه‌‌ی ما ایجاد شده بود، به‌جای ما، از بازتولیدهای خود حفاظت کند. آن وقت است که ما ناپدید خواهیم شد؛ نه از صحنه‌‌ی روزگار، بلکه از حافظه‌‌ی تاریخ. برای قرن‌ها، ما فناوری را ایجاد کردیم تا از میراث بشریت حفاظت کنیم. حالا، همین فناوری تنها میراث خود را حفظ خواهد کرد.

[تعداد: ۰    میانگین: ۰/۵]

بیشتر بخوانید:


برچسب ها : , , , , , , , , ,
دسته بندی : تازه های فناوری , جدیدترین مطالب , علم و فناوری , فناوری اطلاعات
ارسال دیدگاه

WordPress Image Lightbox Plugin