Tko će biti kriv ako medicinski robot pogriješi? On, proizvođač ili pacijent?

Autor: Bernard Ivezić , 23. lipanj 2017. u 14:00
Foto: Robert Anić / Pixsell

Filozofske debate o autonomnoj vožnji već utječu na kupnju e-vozila, pametnih uređaja u domu…

Hrvatski robot za operacije mozga Ronna, koji danas asistira u zagrebačkoj Kliničkoj bolnici Dubrava, za dvije-tri godine moći će cijeli zahvat obaviti sam. Umjetna inteligencija ugrađena u Ronnu uči munjevitom brzinom pa jedan od njenih tvoraca, Bojan Jerbić, voditelj Zavoda za robotiku i automatizaciju proizvodnih sustava s Fakulteta strojarstva i brodogradnje u Zagrebu, sad umjesto problema iz domene visoke tehnologije, sve više promišlja pitanja iz domene etike pa i šire – filozofije.

Naoko jednostavno pitanje vezano za buduću autonomnu Ronnu, za koju se zanimaju i američki proizvođači, moglo bi biti tko će biti kriv ako zahvat krene po zlu. Ronna kao elektronička osoba? Autor algoritma na temelju kojeg Ronna radi? Hoće li kriv biti proizvođač ili pacijent?

Big data u rukama diktatora

Ronna dobro oslikava s kakvim će se pitanjima domaći visokotehnološki stručnjaci uskoro susresti. O njima se već godinama žustro debatira u Silicijskoj dolini, a sada se te teme načinju i kod nas. U Zagrebu je krajem svibnja održana prva konferencija o umjetnoj inteligenciji u Hrvatskoj. “Zagreb Applied Ethics Conference 2017 – The Ethics of Robotics and Artificial Intelligence” (ZAEC) je usmjerena na znanstvenike koji se bave primijenjenom etikom, a ove godine prezentirali su svoja dostignuća u području umjetne inteligencije. S njom u Hrvatskoj radi pregršt tvrtki – CROTEAM, Nanobit, Rimac Automobili, Dok-Ing, ali i startupi Bellabeat, PhotoPay, Erato… Njome se bave istraživači na fakultetima, u biotehnologiji, nanotehnologiji, rudarstvu, prometu. Prvu konferenciju u Hrvatskoj isključivo o umjetnoj inteligenciji nisu organizirali inženjeri, informatičari ili poduzetnici već – filozofi. Andreas Matthias, programer i filozof, viši predavač na katedri za filozofiju na hongkonškom Lingnan Universityju, negoduje na pitanje odakle filozofi u visokoj tehnologiji i onda još biznisu.

“Filozofi su oduvijek propitivali vrijednosti društva i kvalitetu naših života. Danas je to tim aktualnije što su te dvije teme postale izvori poslovnih ciljeva najvećih kompanija. Jean-Jacques Rousseau, John Stuart Mill, Karl Marx samo su neki od filozofa koji su ostavili vrlo opipljivog traga i u gospodarstvu. Pitanja racionalnog izbora ili općeg dobra, na kojima danas gradimo gospodarstvo, prvo su bila u fokusu filozofije. No, danas imamo programere koji ne znaju ništa o filozofiji i filozofe koji ne znaju ništa o programiranju”, kaže Matthias.

 

Stručnjaci ne komuniciraju

“U Hrvatskoj se vrlo malo bavimo primijenjenom filozofijom, iako za to potrebe ima mnogo. Dio problema leži u sve većoj specijalizaciji i činjenici da stručnjaci međusobno ne komuniciraju pa smo stoga i organizirali konferenciju na temu umjetne inteligencije. No, mogli bismo više učiniti i po pitanju obrazovanja, jer jedan od najprestižnijih svjetskih studija PPE je zapravo kratica za studij filozofije, politike i ekonomije čega u Hrvatskoj nema iako bi baš takav studij mnogim liderima, bilo političkim bilo gospodarskim, dao najbolji uvid u izazove i potencijalna rješenja procesa digitalne transformacije”, zaključuje Bracanović.

Dodaje da je tako i u drugim područjima te da je sve veći problem što stručnjaci iz različitih područja međusobno ne komuniciraju. S druge strane, Matthias koji je i programer i filozof, kaže da filozofi znaju što smeta programere. Spominje blockchain i bitcoin za koje kaže da daju mogućnost da izvodite tajne transakcije i to se može koristiti za zlo, ali daju i slobodu da kupite nešto, a da to svatko ne zna. Navodi i primjer big data tehnologije kod Tesle, koji cijelo vrijeme dok koristite auto sve što radite dojavljuje proizvođaču.

“Big data stvara niz filozofskih problema. Što ako država iz koje je proizvođač automobila odjednom postane diktatura ili dobije lošu vladu? Diktator dobiva pristup svim vašim osobnim podacima”, upozorava Matthias.

Teško pogađa manje igrače

Već danas, ističe, tehnologije vatrozida umjesto za zaštitu od hakera koriste se za cenzuru i špijuniranje. Dodaje da će daljnji napredak tehnologije u big dati i umjetnoj inteligenciji kroz sustave ugrađene u računala, robote i druge stvari, teško pogoditi manje igrače i gospodarstva manjih država.

“Hrvatska i tvrtke odavde nemaju dovoljno podataka da treniraju svoje sisteme umjetne inteligencije s kojima bi mogle održati prednost u odnosu na konkurenciju iz najvećih država, a svi takvi sistemi temelje se na podacima. Apple, Google, Tesla i svi ti podatkovni monopolisti, daju vam tek da radite vlastite proizvode na njihovim platformama, ne i podatke koje su skupili”, kaže Matthias.

Tomislav Janović, docent na Odsjeku za filozofiju i komunikologiju Hrvatskih studija, jedan od organizatora ZAEC-a pojašnjava da nam nedostaju think-tankovi koji bi pomogli društvu anticipirati takve trendove. S njim se slaže i drugi suorganizator konferencije, Tomislav Bracanović, izvanredni profesor etike i filozofije znanosti na Hrvatskim studijima, koji ističe da su pitanja s kojima se bave tvorci Ronne u filozofiji dugo poznata.

“Robotika i umjetna inteligencija napreduju eksponencijalno i postaju sveprisutni. Roboti, možemo ih zvati i pametni strojevi, koriste se u medicini, prometu, zdravstvenoj skrbi, seks industriji, domaćinstvu i zato smo na konferenciju doveli filozofe i druge stručnjake koji se bave svim tim područjima”, kaže Bracanović.

On nastavlja da filozofske debate na temu autonomne vožnje već utječu na odluku o kupnji električnih vozila. Slično je, navodi, i u slučaju robotskih usisavača, pametnih kuća ili pametnih televizora u kućanstvu.

“Nije svejedno je li proizvođač odlučio zaštiti sebe i pri opasnoj situaciji isporučio automobil čija umjetna inteligencija smatra da je prioritet spasiti pješaka ili je prioritet spasiti vozača. Veliko je pitanje sigurnosti kućanskih robota, oni skupljaju velike količine podataka o vama i vašoj djeci pa je pitanje tko snosi odgovornost ako netko hakira te robote i naruši vašu privatnost ili vas zahvaljujući tim podacima opljačka ili napadne”, kaže Bracanović.     

Komentirajte prvi

New Report

Close