گردآوری هوش مصنوعی | امنیت حرفه ای

همانطور که در نسخه چاپی ژوئن مجله امنیت حرفه‌ای، تنظیم‌کننده بخش نظارت تصویری – کمیسیونر دوربین مداربسته – قربانی تلاش‌های دولت بریتانیا برای انطباق خود با دنیای فناوری به سرعت در حال توسعه، هوش مصنوعی (هوش مصنوعی) و داده‌ها، که داده‌های ویدیویی از آن‌هاست، است. برای امنیت و امنیت عمومی و به طور کلی مدیریت فضاهای عمومی جزئی نیست. مارک رو می نویسد.

این که دفتر کمیساریای دوربین های مداربسته ده ساله در حال لغو شدن است و ظاهراً چیزی برای جایگزینی آن وجود ندارد، به معنای از بین رفتن تمام کارهای (داوطلبانه) افراد صنعت است که با حسن نیت گرد هم آمده بودند تا با استانداردهای سایبری و سایر استانداردها مقابله کنند. دنیای دوربین مداربسته سال گذشته کمیسر بیومتریک را به عنوان خود و او اضافه کرد گزارش سالانه اوایل سال جاری نشان داد که وظایف او چقدر گسترده شده است – از جمله هواپیماهای بدون سرنشین، استفاده پلیس از نرم‌افزار تشخیص چهره، ویدیوهای فرسوده، دوربین‌های داشبورد در خودروها و زنگ‌های هوشمند در خانه‌ها. کمیسر در حال خروج، پروفسور فریزر سامپسون، از “فرصت های ارائه شده و تهدیدات ناشی از انفجار قابلیت در نظارت بیومتریک مبتنی بر هوش مصنوعی” صحبت کرد.

وی گفت: اکنون بیش از هر زمان دیگری به یک چارچوب روشن، جامع و منسجم برای تضمین مقررات و پاسخگویی مناسب در این زمینه‌های حیاتی نیاز داریم.

همانطور که او اشاره کرد، پلیس و هر کس دیگری که از چنین فناوری برای مقاصد خصوصی یا عمومی استفاده می کند نمی تواند برنده شود – یا آنها به اندازه کافی از آن استفاده نمی کنند (در بخش خصوصی، کسب و کارها عقب می مانند و پلیس از کشف مجرمان باز می ماند) یا از آن استفاده می کند. بیش از حد، بی پروا و بر اساس قانون نیست (اگر این روند ادامه داشته باشد، همانطور که به نقل از گزارش، فناوری “با سرعت تصاعدی پیش می رود”؟).

با این حال، همانطور که او در گزارش خود بیان کرده است، دولت در حال پذیرش است لایحه حفاظت از داده ها و اطلاعات دیجیتال به سمت قانون شدن این سیستم حفاظت از داده ها را متحول خواهد کرد و شاهد تشکیل یک “کمیسیون اطلاعاتی” خواهد بود.

در حالی که پروفسور سامپسون در گزارش خود نسبت به “ماموریت خزش” هشدار داده بود، منظور او “ماموریت خزش” کاربران فناوری نظارت برای امنیت بود که به تدریج شاهد استفاده از آن برای اهداف دیگر غیرامنیتی بودند. ممکن است بگوییم «ماموریت خزنده» دیگر این است که دوربین‌های نظارتی (در صورت وجود) چه مکانی در کمیسیون اطلاعات پیشنهادی خواهند داشت. تنظیم‌کننده حفاظت از داده‌ها، ICO، در طول تاریخ با شکایات عمومی در مورد بازاریابی تلفنی دست داشته است و دوربین‌های مدار بسته را در نظر نمی‌گیرد. از این رو، تأسیس کمیسیونر دوربین های مداربسته، در سال های ائتلاف، و ایجاد کد کمیسیونر دوربین های مداربسته، برای کاربران معمولی دوربین های مداربسته (و نصب کنندگان و مشخص کننده های آنها) تا چیزی برای راهنمایی اخلاقی و عملی آنها داشته باشند. این کار ضروری بود – برای اینکه (برای اشاره به کمیسر قبلی، تونی پورتر) نشان دادن نظارت بر فضای عمومی طبق اصل انجام شد، برای جلب رضایت مردم مالیات‌دهنده، به جای نظارت در خیابان، مانند پلیس، کاری مداخله جویانه، برای مردم انجام شده است. این کد احتمالاً از بین می‌رود زیرا تنظیم‌کننده جدید هوش مصنوعی فوری و خبرسازتری برای دست‌وپنجه نرم کردن با آن دارد.

همچنین این موضوع وجود دارد که آیا دولت بریتانیا به اندازه کافی زیرک است که بتواند به آن ادامه دهد یا اینکه قوانین (و کدها) بیش از پیش قدیمی خواهند شد. انگلستان قانون حفاظت از داده ها قانون حفاظت از داده 2018 است، که مظهر قانون GDPR اتحادیه اروپا (مقررات عمومی حفاظت از داده ها) است در حالی که بریتانیا در اتحادیه اروپا باقی مانده بود، حتی اگر رأی گیری در سال 2016 برای خروج از اتحادیه بود. ما پنج سال از آن زمان می گذریم و هنوز یک دولت بریتانیایی که برگزیت ساز است، رژیم حفاظت از داده های پس از دوره اتحادیه اروپا را ایجاد نکرده است تا ظاهرا بریتانیا را از اتحادیه اروپا متمایز کند، تا تجارت را جذب کند (که به معنای اعطای کارت کارت به مشاغل بیشتر است. از داده ها آن طور که صلاح می دانند استفاده کنند).

دفتر کمیسر اطلاعات (ICO) در همین حال اخیراً هشدار داده است فناوری های عصبی در حال ظهوربرای استفاده در بخش های رفاه شخصی، ورزش و بازاریابی؛ حتی برای نظارت در محل کار. به زبان انگلیسی ساده تر، نظارت بر داده های عصبی، اطلاعاتی که از مغز و سیستم عصبی می آید. ممکن است به نظر چیزهای علمی تخیلی باشد – خواندن شوم ذهن ها. استفان آلموند، مدیر اجرایی ریسک نظارتی در ICO گفت: اما این فناوری واقعی است و به سرعت در حال توسعه است.

او گفت: «فناوری اعصاب اطلاعات شخصی صمیمی را جمع آوری می کند که مردم اغلب از آن آگاه نیستند، از جمله احساسات و رفتارهای پیچیده. اگر این فناوری‌ها به‌طور نامناسب توسعه یابند یا به کار گرفته شوند، عواقب آن می‌تواند وحشتناک باشد. ما می خواهیم شاهد بهره مندی همه افراد جامعه از این فناوری باشیم. برای سازمان‌ها مهم است که اکنون برای جلوگیری از خطر واقعی تبعیض اقدام کنند.»

برای اطلاعات بیشتر به گزارش مراجعه کنید – آینده فناوری ICO: فناوری عصبی. این داده‌های عصبی را لمس می‌کند که ممکن است از اطلاعات بیومتریک گسترده‌تر استنباط شود، مانند حرکات چشم، راه رفتن یا ردیابی ضربان قلب. و نظارت بر راه رفتن (نحوه راه رفتن شما؛ چیزی که در رمان جورج اورول 1984 به طور گذرا ذکر شده است) کاربرد آشکاری برای امنیت دارد (چه کسی به گونه‌ای در اطراف راه می‌رود که گویی دلیل خوبی برای حضور در آنجا ندارد؟).

نیاز به کمیسر دوربین مدار بسته با لغو دفتر از بین نخواهد رفت. این احتمال وجود دارد که کاری که به طرز دردناکی شروع شده است پژمرده شود و در عجله برای دستیابی به هوش مصنوعی غرق شود.

در همین حال، امنیت سایبری این همه داده چیست؟ پرسید a کنفرانس در بروکسل اوایل این ماه آژانس امنیت سایبری اتحادیه اروپا (ENISA) این خبر را منتشر کرد گزارش ها: در مورد شیوه های خوب امنیت سایبری برای هوش مصنوعی؛ دو مورد استفاده سایبری و هوش مصنوعی – پیش‌بینی تقاضا در شبکه‌های برق و تشخیص تصویربرداری پزشکی. و چه تحقیقات بیشتری نیاز است.

جوهان لپاسار، مدیر اجرایی ENISAوی گفت: «اگر می‌خواهیم هم سیستم‌های هوش مصنوعی را ایمن کنیم و هم حریم خصوصی را تضمین کنیم، باید نحوه عملکرد این سیستم‌ها را به دقت بررسی کنیم. ENISA در حال بررسی پیچیدگی فنی هوش مصنوعی برای کاهش خطرات امنیت سایبری است. ما همچنین باید تعادل مناسبی بین امنیت و عملکرد سیستم ایجاد کنیم. کنفرانس امروز اجازه می دهد تا در مورد چنین چالش هایی طوفان فکری کنیم تا تمام اقدامات ممکن مانند رویکرد امنیت با طراحی را در نظر بگیریم. با توسعه سریع هوش مصنوعی مولد، ما آماده هستیم تا با ورود به این مرحله جدید از انقلاب هوش مصنوعی، از بهترین سیاست‌گذاران حمایت کنیم.

عکس مارک رو; هنر خیابانی، مرکز شهر ساوتند.