۵ خطر بزرگ هوش مصنوعی که بسیار به ما نزدیک هستند
هوش مصنوعی وارد انواع و اقسام صنایع شده و روزبه‌روز نقش مهم‌تری پیدا می‌کند و به همین دلیل بررسی خطرات هوش مصنوعی هم ضرورت غیرقابل انکاری دارد. با پیشرفت شگفت‌انگیز هوش مصنوعی، این فناوری می‌تواند بسیاری از جنبه‌های زندگی را به طور شگفت‌انگیزی بهبود ببخشد اما از طرف دیگر نباید خطرات احتمالی آن را نادیده بگیریم.
با توجه به اینکه تعداد قابل توجهی از کارشناسان در مورد خطرات احتمالی هوش مصنوعی هشدار می‌دهند، بهتر است به این هشدارها توجه کنیم. از طرف دیگر، برخی مدعی هستند که چنین دیدگاه‌هایی صرفاً برای ایجاد جاروجنجال مطرح می‌شوند و هیچ خطر فوری از جانب هوش مصنوعی وجود ندارد.
بنابراین آیا نگرانی‌های مربوط به هوش مصنوعی جدی هستند یا اینکه باید آنها را نادیده بگیریم؟ در این مقاله به ۵ خطر مهم هوش مصنوعی اشاره کنیم که در آینده‌ی نزدیک می‌توانند مشکلات زیادی را ایجاد کنند.
خطرات هوش مصنوعی چیست؟
این فناوری روزبه‌روز پیچیده‌تر می‌شود و همین پیشرفت می‌تواند منجر به بروز خطرات مختلفی از جمله موارد ساده (اختلال در کار) تا خطرات فاجعه‌بار شود. با توجه به اختلاف نظری که در مورد این موضوع وجود دارد، در رابطه با سطح خطرات هوش مصنوعی هم یک دیدگاه مشترک و جامع دیده نمی‌شود. اما هوش مصنوعی چه خطراتی دارد؟ عموماً تصور می‌شود که هوش مصنوعی از دو طریق می‌تواند خطرناک باشد:
- این فناوری برای انجام کاری مخرب برنامه‌ریزی شود.
- این فناوری برای مفید بودن برنامه‌ریزی شود اما در حین رسیدن به هدف خود کار مخربی انجام دهد.
این ریسک‌ها با پیچیدگی نرم‌افزار هوش مصنوعی تقویت می‌شوند. سال‌ها قبل یکی از فیلسوف‌های مشهور به نام نیک بوستروم کتابی را منتشر کرد که در آن یک سناریو تحت عنوان «به حداکثر رساندن گیره کاغذ» مطرح شد. او می‌گوید فرض کنید یک هوش مصنوعی برای تولید حداکثر تعداد ممکن گیره کاغذ توسعه پیدا کند. اگر این هوش مصنوعی به اندازه‌ی کافی باهوش باشد، می‌تواند کل دنیا را برای رسیدن به این هدف نابود کند.
اما به غیر از این خطرات فاجعه‌آور که به نظر نمی‌رسد در آینده‌ی نزدیک تحقق پیدا کنند، می‌توانیم به ۵ خطر فوری اشاره کنیم که می‌توانند طی همین چند سال آینده مشکلات زیادی را ایجاد کنند.
۱. اتوماسیون شغل‌ها از خطرات هوش مصنوعی
اتوماسیون یا خودکارسازی از جمله مهم‌ترین خطرات هوش مصنوعی برای شغل‌های مختلف است. از کارخانه‌ها گرفته تا اتومبیل‌های خودکار، آغاز اتوماسیون به دهه‌ها قبل برمی‌گردد ولی روزبه‌روز شتاب آن بیشتر می‌شود.
مساله این است که برای بسیاری از کارهای مختلف، سیستم‌های هوش مصنوعی نسبت به انسانها عملکرد بهتری دارند. روی هم رفته در این موارد ارزان‌تر، دقیق‌تر و کارآمدتر از انسانها عمل می‌کنند. به عنوان مثال، هوش مصنوعی در تشخیص جعل آثار هنری بهتر از متخصصان انسانی عمل می‌کند و حالا این سیستم‌ها در زمینه‌ی تشخیص تومور از طریق تصاویر رادیوگرافی هم در حال بهتر شدن هستند.
از طرف دیگر، وقتی که هوش مصنوعی بسیاری از شغل‌ها را تصرف کند، بخش بزرگی از کارگران که شغل خود را از دست داده‌اند به دلیل فقدان تخصص موردنیاز یا عدم وجود اعتبارات قادر به پیدا کردن شغل جدیدی نخواهند بود. با پیشرفت سیستم‌های هوش مصنوعی، مهارت‌های آنها برای انجام کارهای مختلف بهتر از انسانها خواهد شد و اختلال در کار هم می‌تواند منجر به افزایش نابرابری اجتماعی و حتی یک فاجعه‌ی اقتصادی شود.
۲. امنیت و حریم خصوصی
مشکل اصلی این است که با افزایش نگرانی‌های امنیتی مبتنی بر هوش مصنوعی و خطرات آن، تدابیر پیش‌گیری با استفاده از هوش مصنوعی هم افزایش پیدا می‌کنند. این مشکل همچنین این سوال را مطرح می‌کند که ما چگونه سیستم‌های هوش مصنوعی را ایمن میکنیم؟ اگر از الگوریتم‌های هوش مصنوعی برای دفاع در برابر نگرانی‌های امنیتی استفاده میکنیم، باید در رابطه با ایمن بودن خود سیستم هوش مصنوعی هم اطمینان حاصل کنیم.
در زمینه‌ی حریم خصوصی هم شرکت‌های بزرگ طی چند سال گذشته در این زمینه تا حد قابل توجهی زیر تیغ دولت‌ها و نهادهای نظارتی قرار گرفته‌اند. باید خاطرنشان کنیم روزانه حدود ۲.۵ ترابایت داده توسط کاربران ایجاد می‌شود و الگوریتم‌های پیشرفته با استفاده از این داده‌ها می‌توانند پروفایل‌های بسیار دقیقی را برای نمایش تبلیغات ایجاد کنند.
از دیگر نگرانی‌ها می‌توانیم به تکنولوژی‌های تشخیص چهره اشاره کنیم و گزارش‌ها حاکی از آن است که برخی از نیروهای پلیس در کشورهای مختلف برای شناسایی مجرمان تحت تعقیب یا افراد مشکوک از عینک‌های هوشمند مجهز به نرم‌افزار تشخیص چهره استفاده می‌کنند. چنین تکنولوژی‌هایی می‌توانند منجر به گسترش رژیم‌های استبدادی شوند یا اینکه افراد یا گروه‌هایی با اهداف بدخواهانه از آنها سوءاستفاده کنند.
۳. بدافزار هوش مصنوعی
هوش مصنوعی به طور فزاینده‌ای در هک کردن سیستم‌های امنیتی و شکستن رمزگذاری‌های مختلف بهتر می‌شود. بخشی از این موضوع به تکامل الگوریتم‌های یادگیری ماشینی برمی‌گردد. این یعنی بدافزار مبتنی بر هوش مصنوعی با آزمون و خطا بهتر می‌شود و با گذر زمان خطر آن هم افزایش پیدا می‌کند.
برخی فناوری‌های هوشمند (مانند اتومبیل‌های خودران) اهداف ایدئالی برای این نوع بدافزارها هستند و مثلا می‌توانند برای ایجاد تصادف رانندگی یا ایجاد ترافیک مورد استفاده قرار بگیرند. با افزایش وابستگی ما به فناوری‌های هوشمند متکی به اینترنت، زندگی روزمره‌ی ما هم بیش از پیش تحت تأثیر خطر اختلال قرار میگیرد.
۴. سلاح‌های خودمختار از دیگر خطرات هوش مصنوعی
سلاح‌های خودمختار-سلاح‌هایی که به جای انسانها توسط سیستم‌های هوش مصنوعی کنترل می‌شوند-مدت‌هاست که انجام وظیفه می‌کنند و می‌توانند به عنوان یکی از خطرات هوش مصنوعی برای انسان در نظر گرفته شوند. در همین زمینه باید به هشدار صدها متخصص فناوری اشاره کنیم که از سازمان ملل خواسته‌اند تا راهی برای حفاظت از بشریت در برابر سلاح‌های مستقل ایجاد کند.
نیروهای نظامی کشورهای مختلف در حال حاضر به سلاح‌های مبتنی بر هوش مصنوعی یا سلاح‌هایی که تا حدی به این سیستم‌ها متکی هستند، دسترسی دارند. به عنوان مثال می‌توانیم به پهپادهای نظامی اشاره کنیم که مثلا با بهره‌گیری از سیستم‌های تشخیص چهره می‌توانند یک فرد را با دقت زیادی ردیابی کنند.
اما وقتی که به الگوریتم‌های هوش مصنوعی اجازه دهیم بدون دخالت انسان در مورد مرگ و زندگی تصمیم‌گیری کنند، چه اتفاقی می‌افتد؟ چنین قابلیت‌هایی می‌توانند تبعات فاجعه‌باری به همراه داشته باشند.
۶. دیپ‌فیک و اخبار جعلی از مضرات هوش مصنوعی
تکنولوژی دیپ‌فیک روزبه‌روز پیشرفته‌تر می‌شود و تشخیص جعلی بودن ویدیوهای مبتنی بر آن دشوارتر. اگرچه در حال حاضر این تکنولوژی عمدتاً برای ساخت ویدیوهای جعلی از افراد مشهور مورد استفاده قرار میگیرد اما همین حالا هم برخی کلاه‌برداران با استفاده از تصویر پروفایل افراد معمولی در شبکه‌های اجتماعی ویدیوهای جعلی از آنها درست می‌کنند تا بتوانند باج دریافت کنند. علاوه بر این، باید به استفاده از هوش مصنوعی برای ویرایش تصاویر و شبیه‌سازی صدا هم اشاره کنیم که می‌توانند تأثیر زیادی بر جامعه داشته باشند. در نتیجه باید عوارض استفاده از دیپ فیک را هم به عنوان یکی از مضرات هوش مصنوعی در نظر گرفت.
سخن آخر
با پیشرفت هوش مصنوعی، کاربردهای آن هم بیشتر می‌شود. اما متأسفانه یک تکنولوژی جدید قدرتمند همواره در معرض خطر سوءاستفاده قرار دارد. این خطرات تمام جنبه‌های زندگی روزمره‌ی ما را تحت تأثیر قرار می‌دهند؛ از حریم خصوصی و امنیت سیاسی گرفته تا اتوماسیون شغل‌ها. اولین گام در کاهش خطرات هوش مصنوعی این است که تصمیم بگیریم این فناوری در چه موقعیت‌هایی استفاده شود و در چه شرایطی از استفاده از آن اجتناب کنیم.
شما در مورد این موضوع چه فکر میکنید؟ آیا هوش مصنوعی خطرناک است؟ یا اینکه چنین هشدارهایی را چندان نباید جدی گرفت؟ نظرات خود را در بخش کامنت‌ها با ما و دیگران در میان بگذارید.
منبع: Make Use Of
سلام
اگر تمام انسانها وجن از اول خلقت تا آخر خلقت جمع شوند و تمام تلاش خود را انجام دهند که یک بال پشه را از خود بسازند هرگز نتوانند
هوش مصنوعی هم خواست خداست که در این مقطع زمانی ساخته شود
فقط برای امتحان ما انسانها
مثل انرژی هسته ای که هم استفاده‌ای مفید برای ما داردمثل داروها برق هم استفاده نادرست مثل بمب اتم
پس بدانید انسان بین شر وخیر کهدر تمام وجودات هست قرار گرفته که اختیار کند شر یا خیر که شر راه شیطان و عاقبت بد وخیر راه خدا و عاقبت خوب است که راه دوم شیرین ولی سخت است
حالا هوش مصنوعی هم انتخاب داردنه ترس دارد نه بد است فقط باید علم آنرا سخت یاد گرفت که عقب نمانیم که ضرر سنگین است
چون در آخر کار همین علم در راه شناخت خدا بکار میرود
یعنی کنار یه همچین موجوداتی داریم زندگی می کنیم
کم هم نیستن ها
از هر ده نفر تو مملکت راحت هفت هشت تاشون همین قدر عقل داشته باشن
سلام نباید هوش مصنوعی اختراع بشه چون جای تمام انسان ها میگیره و اینکه با هوش مصنوعی ذهن خوانی هم میکنم و باید جلوس گرفته بشه بلکه کسی یک راز داره و نمی‌خواد فاش بشه و لی هوش مصنوعی میخواد فاش کنه آخه کدوم عوضی بی همه چیز اینو ساخته خدا لعنتش کنه
هوش مصنوعی بدون شک یک تهدید بزرگی برای بشر است که باید خطرات آنرا پیش ازپیش گرفت و آنچه که جلو خطرات هوش مصنوعی را میگیرد اطلاعات پیام دانش تخصصی درباره تکنولوژی است تا با استفاده از دانش جلو خطرات را بگیرد.
هوش مصنوعی بسیار خطرناک است واز جمله برای استفاده ان به جای کار تمام شغل ها را به دست میگیرد این امکان هم هست که به مرور زمان باهوشتر شود تمام زمون زمان را به دست بگیرد
هوش مصنوعی چندین ساله دیگه که به حداکثر قدرت برسه همه چیز همه کار های انسان هارو می‌خواهد برای خودش کند اما انسان ها مقاومت می‌کنند و هوش مصنوعی تصمیم میگیره که هر چیزی جلوی هدفش را بگیره نابود کنه و نسل بشر رو منقرض کنه تا دیگه چیزی نباشه که جلوش ایستادگی کنه.
بنظر من مطالب پست در مورد مضرات هوش مصنوعی بسیار ابتدایی اند و بیشتر به اظهارنظرهای دهه های قبل شبیه هستند تا مطالب بروز امروزی و حق مطلب را درست ادا نمی کنند. مشکل اصلی با هوش مصنوعی اینه که هوش مصنوعی بزودی قراره قابلیت تصمیم گیری و تفکر انتزاعی را بدست بیاره ،اینکه انسانها باعث پیدایش آن شده‌اند برای آنها محدود کننده نخواهد بود. اگر با این موضوع مخالف هستید کمی منتظر بمانید تا بچشم خود ببینید این حرفها را وقتی من ۲۵ سال قبل وقتی با سیستم داس کار می کردیم بیان کردم همه با نگاه متعجبانه و عاقل اندر سفیه به موضوع می نگرستند و الان با دیدن توانایی گوشی همراه و چت جی پی تی و بوستون داینامیک کمی سر و گوششان جنبیده! درحال حاضر هوش مصنوعی دوران نوزادی خود را می گذراند و با اینکه سنی ندارد ولی در خیلی جنبه ها توانسته با بشریت رقابت کند و این قابلیت ها باعث شده که انسانها مخصوصا محققین از روی کنجکاوی به آن علاقمند شوند و خود و بشریت را در دام آن قرار دهند. مخصوصا افراد پیر که عمری از زندگیشان نمانده و امیدوارند با ابداعات جدید متکی به هوش مصنوعی راهی برای گریز از مرگ و زندگی جاودانه بیابند. تصور کنید که یک کودک خیلی باهوش دارید ولی هیچ تجربه ای در زندگی کسب نکرده است برای بدست آوردن تجربه نیازمند آزمون و خطا است حال مثلا اختیار کار افراد مجرب مثلا یک راننده اتوبوس را بدست بگیرد چه چیزی محتمل خواهد شد اگر خیرخواه خواهد بود ولی هنوز کودک ناآزموده است و احتمال خطا و انحراف زیاد است. چندی پیش یک ربات هوشمند پیشنهاد درست کردن غذا با گوشت انسان را داده بود و اتفاقا خیلی هم برای ما می تونه مقوی باشه. انسانها یا به اصطلاح برنامه نویسها با قرار دادن محدودیت های ذهنی هوش مصنوعی را کنترل خواهند کرد و هوش مصنوعی برای محدودیتهایی که برنامه نویس ها برای کنترل اختیاراتش قرار می دهند راه حل جدیدی را امتحان خواهد کرد و بالاخره و در آینده ای نچندان دور مستقل و صاحب اختیار خواهد شد و خود شروع به برنامه نویسی برای ربات های نسل دوم خواهد کرد. در هر زمینه از انسانها احساس برتری خواهد کرد و بالاخره بشریت را از نسل حیوانات هوشمند فرض خواهد کرد و ممکنه همون رفتاری که ما با حیوانات داریم را بر سر ما امتحان کند بالاخره انسانها در کنار هوش مصنوعی همزیستی خواهند داشت و دیگر قرار نیست ربات ها برده انسانها بشوند و شاید رو به برده داری از انسانها بیاورند و با تقبل مالکیت انسانها برای خود تجارت راه بیندازند. انسانها هم ممکن است با انجام اسکن پیشرفته اتمی از مغز خود و شبیه سازی ذهن خود در کامپیوتر شروع به تبدیل شدن به ربات های هوشمند و تکامل هوشمندی خود شوند و مهاجرت به زندگی مجازی و جاودانه دنیای دیجیتال را ترجیح دهند و بالاخره موضوع اصلی اینه که الان بقدری دیر شده اگه انسانها با تمام توانشان بخواهند مانع پیشرفت و تکامل هوش مصنوعی شوند باز نخواهند توانست جلوی امر حتمی و اجتناب ناپذیر را بگیرند و بخاطر این ناامیدی خیلی افراد آگاه سعی دارند بجای مخالفت از پیشرفت هوش مصنوعی راه حل کنار آمدن با آن را انتخاب کنند و ریسک آن را بپذیرند.
بنظرم هوش مصنوعی هیچ خطری نداره چون هیچوقت انسان نمی‌تواند مغز انسان را شبیه سازی کند چت جی پی تی و …همه و همه ابزاری برای تحلیل داده های آماده ای هستند که مادر اختیارشان می‌گذاریم هوش مصنوعی خودش رت نمی‌نویسد که بخواهد بر جهان مسلط شود در هوش مصنوعی احساس ندارد و نخواهد داشت تا بتواند مرگ و زندگی و ظلم و ناراحتی را درک کند و تا آخر به دستورات انسان عمل خواهد کرد اگر نگاهی درست به مسئله بیاندازیم خواهیم دید هوش مصنوعی چیزی جز حرکت الکترون ها با فشار بالا در سی پی یو ها نیست پس هرگز نمی‌تواند چیزی را درک کند بلکه ما فکر میکنیم که این کار از او ساخته است اما در حقیقت ما از آن بعنوان تصفیه کننده داده ها استفاده میکنیم آن تصمیم درست را نمی‌گیرد ما مجبورش میکنیم با گذراندن داده های برچسب دار آن داده ها را تصفیه کند و به ایک کار می‌گوییم تحلیل در واقع چیزی به اسم تحلیل داده توسط هوش مصنوعی وجود ندارد. و ما عامل تعیین کننده صفاتی هستیم که فقرار است داده ها را تصفیه کنند و جواب مطلوب را برگردانند وگرنه هوش مصنوعی از خود اختیاری ندارد و نخواهد داشت.
جالبه که در کامنت همرو ناقص العقل کردید و مثالی هم از هوش عجیب و وحشتناک خودتون اونم در ۲۵ سال قبل اوردید. زمانیکه بشر هنوز بلد نبود با برگ درخت تن خودشو بپوشونه اما شما با اینده نگری عمیق و حتی هولناکی که داشتید وقایع امروز رو بازگو میکردید. اما وقتی خوب به نظر شما دقت کنیم میبینیم دارید فیلم اودیسه فضایی رو تعریف میکنید. هوش مصنوعی توانایی تصمیم گیری در حوزه ای که براش تعریف نشده نداره.مثل اینکه یه بچه رو از اول بهش اموزش غیر های تک بدیم و بعد انتظار داشته باشیم در حوزه های تک دستاوردی نوین ارائه کنه.بچه ای که چندین سال در حوزه کار با فلزات و کانی ها و … اموزش دیده هیچوقت نمیتونه در زمینه ای تی کاری از پیش ببره. هوش مصنوعی هم به مطالبی مثل از سر راه برداشتن یا نابود کردن انسان نه علاقه ای داره و نه براش تعریف شده که بخاد در این زمینه کار کنه.هوش مصنوعی زیاده خواهی بشر رو نداره.پس ناچار نیست برای پس زدن دیگران کشتار جمعی راه بندازه.هوش مصنوعی خودخواهی بشر رو نداره. دو تا شاه تو یه کشور جا نمیشن و یکیشون باید اون یکی رو نفله کنه اما هوش مصنوعی چنین اخلاقهای دیوانه واری رو نداره.پس چیزایی که نوشتید بیشتر در فیلمهای تخیلی هالیوود کاربرد داره نه دنیای واقعی.در مطالبی که در وب میخونید خیلی غرق نشید.چون فاصله بین توهم و واقعیت رو ممکنه گم کنید.خیلی توی وهم غوطه نخورید چون ممکنه راه برگشت به واقعیت رو از دست بدید
و اینکه صلاح های هوش مصنوعی به هر
که دلش بخواد شلیک می‌کنه
استیون هاوکینگ هم هوش مصنوعی را.
خطر جدی اعلام کرد. پایان ماسک هم
هوش مصنوعی خطرناک است
هوش مصنوعی کم کم میخواد که جای انسان
انسان هارا بیگیره و انسان هارا نابود کنه اگه
جلوی هوش مصنوعی گرفته نشه تا سال ۳۰۰۰
هزار انسان ها همه شغل خود را از دست میده
فکر کنم دیگه انسان از بردگی درمیاد و همه تو رفاه زندگی میکنن اینجوری ؛ وقتی هر چیزی رو رباط بسازه یا مهیا کنه برای بشر دیگه چرا باید انسان ها باهم دعوا کنن سر قدرت یا ثروت ؟!
سلام : هدف از اختراع و گسترش هوش مصنوعی کمک به انسان در کارهای تکراری
و دقیق و محاسبات پیچیده آب و هواو اقتصادی
و و در جنگها با هوش مصنوعی بالا بردن ضریب امنیت مراکز مهم و مقابله با هکرهای زرنگ و…
آینده ای در خشان در کنار هوش مصنوعی چون باعث شفاف سازی می‌شود جلوی تقلب را می گیرد و عدالت با هوش مصنوعی بهتر حاصل می‌شود .
هوش مصنوعی می تونه خیلی بهمون کمک کنه
ولی به نظر من توی آینده قراره جای همه انسان هارو توی هر زمینه کاری بگیره.
چون متمرکز هستند و خستگی ناپذیر
و این خیلی ترسناکه
به نظر من هوش مصنوعی فوق العادست!
اما اگر قرار بر این باشه که به ما آسیب بزنه
همون بهتر که اختراع نشه…