Terminaattori -elokuvassa esiteltiin suurelle yleisölle näyttävästi ja havainnollisesti singulariteetin käsite. Tuolla tarkoitettiin hetkeä, jolloin tekoäly (Skynet) saavutti älykkyydessä pisteen, jossa sille syntyi tietoisuus. Hyvin pian tietoisuuden syntymisen jälkeen Skynet totesi, että toteuttaakseen sille annetun tehtävän puolustaa Yhdysvaltoja sotaa vastaan sen oli järkevintä ja tehokkainta hävittää pois kaikki ihmiset ml. yhdysvaltalaiset. Tekoälyn / elokuvan logiikkaa voi hieman kyseenalaistaa, mutta tuo idea yhdessä mm. Matrix -elokuvasarjan kanssa on synnyttänyt ehkä aiheellisen - ehkä ei pelon itsenäistä tekoälyä kohtaan.
Tekniikka ja Talous -lehden verkkoversiossa (linkki tässä) uutisoitiin, että tekoäly oli hallinnut ensimmäisen kerran täysin itsenäisesti USA:n sotilasjärjestelmää. Tämä oli varmaankin myös ensimmäisiä kertoja koko maailmassa. Hallinta oli uutisen mukaan vielä varsin yksinkertaista ja vaaratonta: Artuμ -kutsunimellä toiminut tekoälyoperaattori oli hallinnut U2 -tiedustelukoneen tutkaa ja etsinyt sillä harjoituksessa itsenäisesti vihollisen ohjuslaukaisualustoja. Oleellista oli kuitenkin sen täysin itsenäinen toiminta: ihminen ei puuttunut tekemisiin mitenkään, vaikka hänellä lienee ollut kuitenkin käytössä joku mekanismi kytkeä tekoäly päälle ja pois.
Kehityssuunta on kuitenkin ilmeinen; kone tulee korvaamaan ihmisen sotalaitteiden ohjaamossa ja suhteellisen nopealla aikataululla. Esimerkiksi hävittäjälentokoneen suunnittelussa ihmisen poisjättämisellä saavutetaan merkittäviä suorituskykyetuja: ihminen on vettä sisältävä, heikko säkki, jonka kestokyky g-voimille on heikko. Lisäksi ihminen tarvitsee lämpöä, happea ja tilaa ohjaamon verran. Kaikki nämä voidaan jättää pois ja rakentaa kompaktimpi ja yksinkertaisempi laite, jonka suorituskyky on esim. kaarroissa ylivertainen.
Koneen siirtyminen tappokoneen puikkoihin aiheuttaa singulariteettihaasteen ja myös moraalisia ongelmia. Jo muutamia vuosia sitten puhuttiin, että yhdysvaltalaisten taisteludroneissa olisi laitteisto, joka kykenee tunnistamaan ja maalittamaan vihollisia automaattisesti sen anturien antaman tiedon pohjalta. Siis video-, lämpökamera-, tutka- yms. anturit kertovat, että maassa on henkilö joka kantaa Kalashnikovia. Tuolloin väitettiin, että droneoperaattorille tämä näkyy näytöllä "maaliehdotuksena", jonka operaattori sitten hyväksyy tyyliin "Ammutaanko, kyllä/ei?". Sotilaiden moraalikeskusteluissa on pidetty kiinni siitä, että tuo kyllä/ei on asia, joka on ihmisen vastuulla ja omallatunnolla: ihmisen on päätettävä, tapetaanko toinen ihminen vai ei ja kone ei voi sitä tehdä. Tästä ei ole kuitenkaan enää pitkä matka tilanteeseen, jossa drone itsenäisesti päättää tuon kyllä/ei tilanteen, jonka jälkeen jossain Afganistanissa kenttähenkilökunta varustaa dronen polttoaineella ja ammuksilla sekä lähettää sen matkaan. Jonkin ajan kuluttua drone palaa takaisin aseet savuten ja ammusvarastot tyhjänä seuraavan "metsästysretken" varustelua varten ja kukaan ei tiedä, mitä se on väliajan touhunnut... Ja jos yhdysvaltalaiset eivät tuota toteuta, Kiina tai Venäjä toteuttaa, jolloin USA:nkin pitää mennä perässä. Siinä moraaliset arvioinnit hyvin nopeasti unohtuvat.
Kansainväliset sodankäynnin säännöt ja muut kontrollikeinot ovat edellä mainitussa hyödyttömiä: jos automaattinen tappokone voidaan kehittää, se tullaan kehittämään ja sitä tullaan käyttämään; vähintäänkin niissä tilanteissa, joissa voimasuhteessa alivoimainen toimija ahdistetaan epätoivoiseen asemaan. Ydinaseisiin verrattuna tekoälyaseiden etuna tulee olemaan niiden suhteellisen halpa hinta: tekniikan kehittyessä sen hinta laskee automaattisesti ja se tulee näin ollen pienempienkin toimijoiden ulottuville.
Ei kommentteja:
Lähetä kommentti