جستجو
تمام دسته‌ها
    منو بسته
    بازگشت به همه

    سیستم های هوش مصنوعی، تهدید یا فرصت ؟!

    سیستم های هوش مصنوعی، تهدید یا فرصت ؟!

    سیستم‌های هوش مصنوعی یک تهدید محسوب می‌شوند، البته نه آنطور که Elon Musk ادعا می‌کند.
    راهکار این مشکل، تنظیم مقررات برای الگوریتم‌ها نیست.
    Elon Musk در سال 2017 ادعا کرد که هوش مصنوعی یکی از بزرگترین خطراتی است که نژاد انسان‌ها را تهدید می‌کند. وی به دانشجویان دانشگاه MIT گفت: "به نظر من هوش مصنوعی از جمله موارد خاصی است که در حوزه تنظیم مقررات باید با آن به صورت پیشگیرانه برخورد شود نه به صورت واکنشی. چون اگر قرار باشد رویکرد واکنشی داشته باشیم، زمانی که مشکل ایجاد شود برای عکس العمل خیلی دیر خواهد بود. هوش مصنوعی یک تهدید اساسی و جدی برای تمدن بشریت است."
    اما بر اساس گفته‌های Tom Siebel موسس و بنیانگذار C3، در حال حاضر دو نگرانی مهم تر وجود دارد که عبارتند از حریم خصوصی و آسیب پذیری اینترنت اشیاء.
    Siebel یکی از نام‌های شناخته شده در عرصه هوش مصنوعی است. او شغل خودش را به عنوان یک دانشمند علوم کامپیوتر در Oracle شروع کرد و بعدها در سال 1993 کمپانی خودش Siebel Systems را تاسیس کرد. تا سال 2000 این کمپانی 8 هزار کارمند در 29 کشور مختلف و 2 میلیارد دلار درآمد داشت و در سال 2006 با Oracle ادغام شد. Siebel در سال 2009، کمپانی C3 را تاسیس کرد.
    C3 حدود 10 سال زمان و نیم میلیارد دلار هزینه صرف ایجاد پلتفرمی برای یک مجموعه هوش مصنوعی کرد و مشتریانی مثل نیروی هوایی امریکا، Shell و John Deere دارد که برای آنها اپلیکیشن‌هایی در مقیاس صنعتی تولید می‌کند. سیستم‌های تولیدی کمپانی او به کاهش انتشار گازهای گلخانه‌ای، پیش بینی نقص سخت افزاری دکل‌های نفتی خارج از کشور، جت‌های جنگده و تراکتور‌ها کمک می‌کنند و به بانک‌ها نیز جهت مقابله با پولشویی کمک می‌کند.

    the Effective Altruism Global conference
    وی می‌گوید بهتر است به جای تلاش برای تنظیم مقررات بر الگوریتم‌های هوش مصنوعی که کار غیرممکنی است، به تهدید واقعی تری که هوش مصنوعی برای حریم خصوصی ما ایجاد کرده، تمرکز کنیم.

    هوش مصنوعی در خدمت جامعه
    او می‌گوید "استفاده از هوش مصنوعی در حوزه پزشکی دقیق را در نظر بگیرید که در مقیاس عظیم انجام خواهد شد... همه ما درباره این موضوع اتفاق نظر داریم که پرونده‌های سلامت جمعیت انگلستان یا مثلاً امریکا یک دیتاست عظیم را تشکیل می‌دهند. در آینده اطلاعات مربوط به توالی ژنوم هم به این دیتاست اضافه خواهد شد."
    می‌توان از چنین سیستم‌هایی برای پیش بینی یا تشخیص بیماری در مراحل اولیه و ارائه بهترین درمان ممکن برای بیماران استفاده کرد.

    Tom Siebel
    Tom Siebel مدیر عامل و بنیانگذار C3، منبع عکس: Ethan Pines, the Forbes Collection

    Siebel می‌گوید: "می‌توانیم از هوش مصنوعی برای کمک به تشخیص‌های پزشکی استفاده کنیم. مثلاً برای خواندن رایودگرافی یا سی‌تی اسکن و یا توصیه کردن به آنها [پزشکان]. در حال حاضر داده‌ها – اطلاعات مربوط به شیمی خون یا موارد مشابه – را بررسی کرده و توصیه می‌کنیم که [پزشکان] به دنبال بررسی چه بیماری‌هایی باشند."
    امروزه مشاهده می‌شود که شرکت‌ها در زمینه اطلاعات هویتی شخصی قانونمند عمل نمی‌کنند. " Tom Siebel مدیرعامل C3 "
    "و پس از انتخاب [یک تشخیص] می‌توانیم از پروتکل‌های مراقبتی متناسب با ژنوم یا خصوصیات فرد استفاده کنیم. بنابراین می‌توانیم با دقت بسیار بالایی واکنش‌های دارویی را تشخیص دهیم که حتی ممکن است باعث اعتیاد دارویی شوند و بعد به موضوع اثربخشی دارویی می‌رسیم و این که سطح بهینه‌ی یک دارو یا ترکیب دارویی مناسب برای درمان بیماری مورد نظر چیست؟"
    "بنابراین اگر به عنوان مثال بتوانیم برای جمعیتی در حد جمعیت انگلستان یا امریکا با دقت بالا تشخیص بدهیم که چه کسانی مستعد ابتلا به دیابت در 5 سال آینده هستند، می‌توانیم همین حالا درمان این افراد را شروع کنیم تا در 5 سال آینده آنها را در وضعیت اورژانسی نبینیم. اثرات اجتماعی و اقتصادی چنین اقدامی حیرت انگیز است."

    تهدید حریم خصوصی
    تا اینجا همه چیز خیلی خوب و مثبت بود، اما این معادله یک سمت دیگر هم دارد. Siebel می‌گوید "حالا فرض کنیم که اطلاع داریم چه افرادی به دیابت مبتلا می‌شوند یا چه فردی به بیماری لاعلاج مبتلا می‌شود. اما آیا تمایلی به دانستن این موضوع داریم؟ من مطمئن نیستم. در نهایت یا سرویس‌های پزشکی دولتی یا شرکت‌های بیمه این اطلاعات را به دست می‌آورند ولی چه استفاده ای از آنها خواهند کرد؟ تا به امروز مشخص شده که شرکت‌ها در زمینه اطلاعات هویتی شخصی قانونمند عمل نمی کنند." وی به مورد فیسبوک به عنوان بدیهی ترین مثال از این موضوع اشاره کرد.
    این ایده که باید آژانس‌های دولتی وجود داشته باشند که بر الگوریتم‌های هوش مصنوعی نظارت کنند، عاقلانه نیست. یک الگوریتم کامپیوتری چه موقع هوش مصنوعی محسوب می‌شود؟ هیچ کس نمی تواند برای این موضوع یک خط مشخص ترسیم کند.
    "قرار است از این داده‌ها چه استفاده ای شود؟ آیا از آنها برای اولویت بندی درمان استفاده می‌شود یا برای کارهایی مثل تعیین نرخ بیمه؟"
    همانطور که Siebel اشاره کرد در امریکا بیمه شدن برای افرادی که سابقه بیماری دارند سخت (یا بسیار پرهزینه) است و با مجهز شدن حوزه مراقبت‌های بهداشتی به هوش مصنوعی ممکن است شرایط بدتر هم بشود.
    "اگر قرار باشد از بیماری‌هایی که افراد در آینده به آنها مبتلا می‌شوند اطلاع داشته باشیم، سابقه بیماری‌های گذشته آنها اهمیت چندانی نخواهد داشت. بنابراین پیامدهای رویارویی با چنین داده‌هایی بسیار وحشتناک است."

    از کار افتادن شبکه انتقال برق
    همچنین باید به اینترنت اشیاء هم توجه داشته باشیم که به گفته Siebel در برابر حملات سایبری – با پیامدهایی که ممکن است فاجعه بار شوند – بشدت آسیب پذیر است. او می‌گوید: "به نظر من شکننده بودن این سیستم‌ها مثل سیستم‌های برق و بانکداری می‌تواند منجر به ایجاد مشکلات دردسرآفرینی شود. به نظر من اگر سیستم برق انگلستان یا امریکا قطع شود این امکان وجود دارد که از هر 10 نفر 9 نفر بمیرند. کل زنجیره تامین متوقف می‌شود."
    "نیروی برق در سلسله مراتبی که Maslow برای تمدن قرن بیست و یکم ترسیم کرده، در پایین ترین سطح قرار دارد. تمام سیستم‌های دیگر – از جمله سیستم امنیتی، زنجیره تامین غذا، توزیع آب، سیستم دفاعی، خدمات مالی – به این سیستم وابسته هستند بنابراین اگر این سیستم درست کار نکند مشکلات بسیار زیادی ایجاد خواهد شد."

    اقدام مناسب
    اما برای حل این مشکلات چه اقداماتی را می‌توان انجام داد؟ به گفته Siebel اتحادیه اروپا با تصویب مقررات عمومی محافظت از داده‌ها یا به اختصار GDPR برای حل این مشکل پیش قدم شده اما برای پیشبرد این هدف به همکاری سایر دولت‌ها هم نیاز داریم.
    "قانون GDPR حق "فراموش شدن" را هم دربر می‌گیرد و این موضوع بسیار مهم است اما به نظرم باید در رابطه با ‘شرایط استفاده از خدمات’ که معمولاً در چنین فرمی همه کاربران به سرعت و بدون آگاهی روی گزینه ‘I agree’ کلیک می‌کنند هم کنترل‌هایی وجود داشته باشد چون این شرایط استفاده معمولاً امکان جمع آوری و سوءاستفاده از داده‌ها را برای شرکت‌های جمع آوری کننده و تحلیل داده‌ها فراهم می‌کنند. به نظرم باید یک استاندارد برای استفاده از داده‌ها در فرم‌های شرایط استفاده از خدمات وجود داشته باشد که تخدی از آن نقض قانون شمرده شده و جریمه و تعقیب قانونی داشته باشد."
    مسلماً نباید یک آژانس دولتی برای بازرسی الگوریتم‌های هوش مصنوعی تاسیس شود. به گفته‌ی Siebel " Elonیکی از باهوش ترین افراد در صنعت تکنولوژی اطلاعات جهان است. اما با تمام احترامی که برای او قائل هستم خیلی از نظرات او در سه سال اخیر پایه و اساس درستی ندارند."
    "این ایده که باید آژانس‌های دولتی وجود داشته باشند که بر الگوریتم‌های هوش مصنوعی نظارت کنند، عاقلانه نیست. یک الگوریتم کامپیوتری چه موقع هوش مصنوعی محسوب می‌شود؟ هیچ کس نمی تواند برای این موضوع یک خط مشخص ترسیم کند و اگر قرار باشد یک آژانس دولتی برای ایجاد تاسیس شود هرج و مرج زیادی به بار خواهد آمد. اما در عین حال حریم خصوصی نیاز به محافظت دارد."

     

     

    منبع : Techradar

    نظرات
    نظر خود را بنویسید بسته