Kovoja A.I. Su A.I.

Jau dabar labai pasitikime prie interneto prijungtais įrenginiais, kad galėtume išgyventi dieną, ir jie vis labiau tampa dirbtinai išmanūs. Skaitmeniniai asistentai, tokie kaip „Amazon Alexa“, populiarėja, į horizontą išrieda savarankiškai važiuojantys automobiliai, o kariuomenė išbando dronų, kurie galėtų veikti be žmogaus priežiūros . Didelis klausimas yra, ar šie dalykai yra saugūs nuo įsilaužėlių?

Į šį klausimą įsigilinome Mokslo penktadienį Praeitą savaitę , su ekspertų grupe, kuri dalyvavo neseniai Arizonos valstijos universitete vykusiuose debatuose apie A.I. ateitį. Štai keletas ištraukų iš mūsų pokalbio:

Jau dabar yra plačiai paplitęs mūsų prijungtų įrenginių pažeidžiamumas.

Paimkite, pavyzdžiui, automobilius.

„Mūsų automobiliai ir kiti daiktų interneto įrenginiai šiuo metu iš tikrųjų yra gana nulaužti“, – sakė Kathleen Fisher, Tuftso universiteto kompiuterių mokslų profesorė.

Pavyzdžiui, „yra maždaug penki skirtingi būdai, kaip įsilaužėliai gali pasiekti automobilį iš išorės per Bluetooth sąsają, leidžiančią kalbėtis su automobiliu be rankų, arba per telematikos skyrių, kuris susitaria iškviesti greitąją pagalbą, jei esate nelaimingas atsitikimas“, – sakė Fisheris. „Ir įsilaužėliui įsilaužus, jie gali pakeisti programinę įrangą, kuri valdo, kaip automobiliai stabdo, greitėja, vairuoja arba atlieka daugybę kitų funkcijų.

„Iš esmės automobiliai yra tinkliniai kompiuteriai ant ratų ir yra gana pažeidžiami nuotoliniu būdu“, - sakė ji.

Medicinos prietaisai taip pat yra jautrūs.

Pavyzdžiui, kompiuterių saugumo ekspertas Jerome'as Radcliffe'as parodė prieš keletą metų „Kad jis galėtų belaidžiu būdu nulaužti savo insulino pompą ir priversti ją tiekti netinkamas vaistų dozes“, – pridūrė Fisheris.

Elektroninės balsavimo sistemos taip pat nėra apsaugotos.

„Manau, kad įdomu yra tai, kad kuo daugiau žinai apie kompiuterius, tuo mažiau tau patogu balsuoti elektroniniu būdu“, – sakė Fisheris. „Balsavimo aparatas skaičiuos pagal naujausią jame esančios programinės įrangos versiją. Ir tai gali būti teisinga programinės įrangos versija, kurią įdiegė žmonės, dalyvaujantys rinkimuose, bet gali būti, kad į ją kažkas įsilaužė arba kažkas įstrigo į atminties kortelę ir pakeičia kodą. Ir tada jis skaičiuojamas pagal naują kodą.

Kodėl mūsų įrenginiai tokie jautrūs?

Anot Fisherio, daiktų interneto produktai dažnai kuriami neatsižvelgiant į saugumo problemas. „Žmonės džiaugiasi šių naujų įrenginių teikiamomis funkcijomis ir paslaugomis ir skuba ten pateikti produktus“, – sakė ji. „Ir mes neturime labai gero būdo užtikrinti, kad šie įrenginiai būtų sukurti pagal gerus saugumo standartus. Labai sunku išmatuoti saugumą ir labai sunku uždirbti iš saugumo. Kas moka už saugumą ir ar vartotojai mokės priemoką už saugius įrenginius, „tikrai neaišku“, – sakė Fisheris.

Be to, „užtikrinti tikrai gerą saugumą yra labai sudėtinga problema. Jei norite, kad sistema būtų saugi, turite pasirinkti daugybę matmenų“, - sakė Fisheris.

Pavyzdžiui, pagalvokite apie savo namus. „Kad jūsų namai būtų saugūs, neužtenka užrakinti lauko duris. Turite užrakinti priekines ir galines duris. Ir to neužtenka. Turite užrakinti visus langus“, – sakė Fisheris.

Kompiuteryje yra tas pats. „Turite užrakinti kiekvieną įėjimo kelią. Turite užtikrinti, kad jūsų vartotojai būtų gerai apmokyti, kad jie neišduos slaptažodžio tiems, kurie skambina telefonu ir įtikina, kad jie yra IT skyrius ir jiems reikia slaptažodžio. Turite turėti tinkamą aparatūrą“, – sakė Fisheris. „Yra daug, daug dalykų, kuriuos turite išspręsti. Ir jei jūs jų nesugebate gerai, tada yra pažeidžiamumas, į kurį įsilaužėlis gali įsilaužti.

Kokios rūšies A.I. ar galime tikėtis išpuolių?

„Kai kuriame išmanesnes sistemas, jos gali padaryti daugiau už mus, naudodamos mašininį regėjimą, mašininį mokymąsi, kad suprastume situacijas“, – sakė Arizonos valstijos universiteto kompiuterių mokslo ir inžinerijos profesorius Subbarao Kambhampati. „Pristatome tai, ką aš vadinu „naujos atakos paviršiais““ – tai yra, naujas įsilaužimo vietas.

Vadinamųjų mašininio mokymosi atakų metu įsilaužėlis sugalvoja būdą, kaip valdyti į sistemą patenkančių duomenų srautą ir priversti sistemą daryti tai, ko dizaineriai neketino.

Pavyzdžiui, pernai tyrėjų komanda pademonstravo kaip klaidingų įvesties duomenų įvedimas į vaizdo atpažinimo sistemą – potencialiai tokią, kokia gali būti naudojama savarankiškai važiuojančiuose automobiliuose – gali priversti ją klaidingai klasifikuoti stabdymo ženklą kaip pasidavimo ženklą.

„Microsoft Research Lab“ pagrindinio filialo Redmonde (Vašingtonas) vykdantysis direktorius Ericas Horvitzas turėjo šiek tiek klaikią prognozę: „Manau, kad visi galime manyti, kad po kelerių metų A.I. sistemos ir pažangi grafika bei atvaizdavimas galės tikrai labai tiksliai apgaudinėti jūsų tapatybę, net vaizdo įrašus, kuriuose jūs kalbate ir sakote, ar lyderių vaizdo įrašus.

Ar yra toks dalykas kaip „atsparumas įsilaužimui“?

Deja, „atsparus įsilaužimui“ yra sąvoka, kuri nėra tiksliai apibrėžta“, - sakė Fisheris. „Visada reikia kalbėti apie įsilaužimą atsižvelgiant į grėsmės modelį ir apie tai, kokius dalykus galite įsivaizduoti darantį užpuoliką.

Tačiau gera žinia yra ta, kad, anot Horvitzo, „yra darbas, siekiant apgalvoti geriausią praktiką ir galbūt vieną dieną standartus“. Jis pasakė, kad skambino grupė Partnerystė su A.I. kad būtų naudinga žmonėms ir visuomenei – sudaryta iš „Amazon“, „Apple“, „Facebook“, „Google“, „DeepMind“, IBM, „Microsoft“ ir kitų, buvo sukurta turint omenyje šį tikslą.

Kokiais būdais galime pagerinti saugumą?

Kaip pažymėjo Fisheris, negalime pasikliauti geru senamadišku žmonių stebėjimu. „Žmonės nebus pakankamai greiti, kad galėtų prasmingai įsikišti daugeliu atvejų. Ir kitais atvejais terminai bus tokie ilgi, kad žmonės negalės įsikišti“, – sakė ji. „Taigi aš manau, kad arba per trumpas, arba per greitas laiko tarpas reiškia, kad žmonės tikrai negalės prasmingai stebėti.

Taigi vienas iš variantų galėtų būti A.I. kovoti su A. I. įsilaužimų, pasak Subbarao Kambhampati. „Manau, kad tai bus ginklavimosi varžybos“, – sakė jis. „Šias priemones naudojame, nes jos labai naudingos. Tačiau viskas, kas naudinga, taip pat gali būti užgrobta. Ir jūs to nepasiduodate – iš esmės saugumas ir saugumas yra priežiūros tikslas. Ir jūs turite naudoti tą pačią technologiją, kad užtikrintumėte.

Tačiau Fisheris perspėjo, kad naudojant A.I. kovoti su įsilaužimais turi savo spąstų. „Problema ta, kad tada jus riboja dirbtinio intelekto sistemos aprėptis – kaip ją sukūrėte, kaip ją lavinote, ko tikėjotės ir ką įdėjote į ją arba ką ji galėjo padaryti išvadą. Nežinomi nežinomieji yra nuolatinis iššūkis.

Šios citatos buvo šiek tiek redaguotos siekiant aiškumo. Norėdami gauti visą nuorašą, spustelėkite čia ir slinkite žemyn iki „stenograma“.