Vinnslugeta og minni hafa verið og eru enn þröskuldar í þróun gervigreindar, þó hefur tæknin leyft okkur að þróa takmörkuð kerfi sem hafa þegar haft gríðarleg áhrif, kerfi sem læra, hugsa og hegða sér skynsamlega í takmörkuðu umhverfi. Fyrir um 5 árum gaf Ray Kurzweil bókina “The age of spiritual machines” í henni áætlar hann að venjuleg einkatölva muni ná vinnslugetu mannsheila eða um  reikniaðgerðum á sekúndu fyrir árið 2019. Einkatölvur í dag ná u.þ.b. reiknigetu. Öflugasta tölva veraldar er IBM BlueGene/L, hún hefur 32.768 örgjöfra og skilar u.þ.b.. Öflugasta PC vél veraldar er Orion DC-96, hún framkvæmir rúmlega reikniaðgerðir á sekundu. Kurzweil byggir á kenningu sinni um að þróunin verði hraðari en hið þekkta lögmál Moore og færir sterk rök fyrir því. Þessi öra þróun og aðgengi upplýsinga gefur þeim sem vinna við gervigreind tækifæri til þess að glíma við flóknara umhverfi og loks yfirstíga greind manna. Við gætum fengið að upplifa það sem frumkvöðlar gervigreindar dreymdu um. Ég ræddi við Kurzeeil um daginn og spurði hann um stöðu mála, hvort hann telur enn að áætlanir hans muni standast. Við fórum lítillegar í gegnum áætlanir hans fyrir 2009 og vorum sammála um að þróunin væri enn eins og hann hafi séð fyrir. Kurzweil gaf út nýja athygliverða bók fyrir skömmu sem ber sama titil og gömul vísindaskáldsaga efir Richard O. Fleischer frá 1966 eða "Fantastic Voyage", þar lýsir hann ásamt Terry Grossman hvernig þeir sem verða á lífi eftir um 50 ár, geta lifað nær endalaust. Þetta er ekki vísindaskáldsaga.

Minn þáttur í gervigreind undanfarin ár hefur snúist um notkun gervitauganeta við mynsturleit. Slík kerfi læra af reynslunni og nota þann lærdóm til þess að áætla niðurstöður nýrra gagna þó þau séu töluvert frábrugðin þeim gögnum sem notuð voru til þess að kenna kerfinu, þ.e. þau hafa öðlast skynsemi í gegnum þekkingu á fortíðinni til þess að taka ákvörðun út frá breyttum forsendum. Í því fellst styrkur slíkra kerfa. Tauganet af þessu tagi hafa reynst vel við leit að kortamisferlum, peningaþvætti, bókhaldssvikum, tryggingasvikum, verðbréfaviðskiptum, myndgreiningum, hljóðgreiningu, umhverfisrannsóknir, anditsgreiningu, rithandargreiningu og ekki síst við rannsóknir þar sem mynsturleit er snar þáttur.

En lítum aðeins á sögu gervigreindar og tauganeta.

Sumarið 1956 komu saman til tveggja mánaða vinnufundar í Dartmounth í Bandaríkjunum tíu manns. Tilgangur vinnufundarins var að koma saman þeim vísindamönnum sem sem höfðu áhuga á tauganetum og rannsóknum á greind. Fundurinn var að frumkvæði John McCarthy sem þá hafði nýlokið meistaranámi frá Princeton og vann nú við Dartmouth College.

Þátttakendur voru: John McCarthy frá Princeton, Marvin Minsky frá Princeton,Claude Shannon, Bell labaratories, Nathaniel Rochester frá Princeton, Trenchard More frá Princeton, Arthur Samuel frá IBM, Ray Solomonoff frá MIT, Oliver Selfridge frá MIT,  Allen Newell frá CMU, Herbert Simon frá CMU.

Þessi fundur markar faglegt upphaf gervigreindar og kynnir til sögunar þá menn sem standa í fylkingarbrjósti gervigreindar næstu 20 árin á eftir. þar kemur McCarthy fyrst fram með fagheitið “Artificial Intelligence” eða gervigreind eins og það er nefnd á Íslensku. Á fundinum kynntu Newell og Simon LT (the Logic Theorist)  og sögðu um það að þeir hefðu fundið með því forrit sem væri þess megnugt að hugsa ónúmerískt og þar með aðskilið huga frá líkama. Stór orð en sönn ef við reynum að aðskilja tilfinningalegri hugsun frá hugsun sem snýr að vinnslu upplýsinga.

Þó faglegur grunnur  hafi verið lagður að gervigreind á þessum fundi, á gervigreind sér lengri sögu. Fyrsta vísindagreindin sem eignuð er gervigreind var skrifuð 1943 af Warren McCulloch og Walter Pitts. Þeir settu saman kenningar um virkni og uppbyggingu taugafruma í heilanum, kenningar Russell og Whitehead um  yrðingarökfræði og  tölvunarkenningar Alan Turing. Niðurstaða þeirra var model af gervi-taugafrumum sem hver um sig gátu verið í “kveikt” ham eða “slökkt” ham þar sem hami var náð með áreiti tengdra gervi-taugafruma. Þeir sýndu fram á að  niðurstöðu hvaða reiknanlegs falls sem er, mátti ná með neti slíkra gervi-taugafruma. Þeir lögðu einnig til í greininni að slík gervi-tauganet gætu lært, sem Danold Hebb sannaði að var rétt sex árum síðar með einfaldri uppfærslu aðferð á vigt tenginanna á milli eininganna. Marvin Minsky og Dean Edmonds byggðu fyrstu gervi-tauganets tölvuna (SNARC) árið 1951 úr 3000 lömpum og afgangs sjálfstýringu úr B-24 sprengjuflugvélar. Tölvan hafði 40 gervi-tauganetsfrumur (sellur).  Rekja má aðferðafræði bæði samtengingasinna (connectionism) og rökfræðisinna (logicism) innan gervigreindar til skrifa McCulloch og Pitts.

Samtengingasinnar vinna með gervitauganet með það að markmiði að útskýra og hanna greind.

Rökfræðisinnar leitast við að útskýra og hanna greind út frá rökfræðilegum forsendum.

Framanaf ríkti mikil bjartsýni í notkun gervigreindar. Newell og Simon þróuðu LT áfram í  GPS(General Problem Solver) en það kerfi var hannað til þess að líkja eftir atferli manna við lausn vandamála. Herbert Gelenter hannaði GTP (Geometry Theorem Prover) sem sannaði kenningar á grundvelli frumreglna líkt og LT. Gelenter sá fljótlega að rökfræðin bíður upp á of marga mögulegar leiðir sem kanna þurfti í kerfinu og flestar enduðu án niðurstöðu, hann hannaði því aðferðir til þess að flýta leit að niðurstöðu.

Í febrúar 1956 var sýnt í Bandarísku sjónvarpi, tölva sem hafði lært dam. Þar hafði Arthur Samuel hjá IBM afsannað þá kenningu að tölvur gætu aðeins gert það sem þeim var sagt, því þetta forrit hans lærði dam fljótt og lék betur en höfundurinn.

John McCarthy, sem þá var kominn til MIT skrifaði forritunarmálið LISP árið 1958 sem síðar varð vinsællt innan gervigreindar sér í lagi í Bandaríkjunum. Sama ár skrifaði hann grein sem bar yfirskriftina “Programs with Common Sense” og má þar sjá fyrsta fullkomna gervigreindar kerfið á pappír, sem hann nefndi “The Advice Taker”. Kerfið átti líkt og LT og GTP að finna lausnir út frá þekkingu sinni en ólíkt LT og GTP átti kerfið að geta aflað sér þekkingar sjálft og gat jafnframt breytt grundvallarreglum (axioms) ef þurfa þótti og í eðlilegi keyrslu  kerfisins. Aðgangur að tölvum var mjög takmarkaður á þessum tíma, McCarthy og félagar hans hjá MIT fundu því upp “time sharing” sem gjörbylti aðgangsmálum að tölvum, þetta gerist einnig 1958. Þessi hópur og þessi nýja uppfinning varð síðan kveikjan að stofnun “Digital Equipment Corporation”.  McCarthy for hins vegar til Stanford og setti þar á stofn rannsóknarstofu í gervigreind, en sú rannsóknarstofa lagði áherslu á gerð og notkun almennra aðferða við rökfærslu.

Væntingarnar voru miklar, líklega of miklar. Margt að því sem lagt var upp með brást þegar sýna átti árangur. Gott dæmi hvað þetta varðar voru forrit sem áttu að þýða milli tungumála og voru byggð á gervigreind, frægastur er líklega textinn úr ensk-rússnesku þýðingaforrit “the vodka is good but the meat is rotten” sem átti að vera þýðing á “the spirit is willing but the flesh is weak”.  Vandamál af þessu tagi leiddu til þess að skipuð var nefnd á vegum bandaríkjaþings til þess að gera úttekt á árangri af vinnu með gervigreind á þýðingum, í kjölfarið hætti Bandaríkjastjórn að fjármagna rannsólknir á því sviði 1966.

Áður en tíma-flækju kenningar (NP completeness theory) komu fram, var almennt álitið að einungis þrufti að auka afl örgjörfa og auka við innraminni til þess að kerfi gengu í flóknara umhverfi. Í gervigreind vann fólk með mjög takmarkað umhverfi svonefnd “microworld” en þegar umhverfið varð flólknara var ekki nægjalegt að bæta við minni og örgjörfaafli, það tókst ekki að sanna kenningar sem gengu í einfaldara umhverfi, sem er vitaskuld afleitt. Þetta var megin ástæða þess að Bresk stjórnvöld hættu 1973 að styrkja rannsóknir í gervigreind nema að litlu leiti.

Minsky og Papert sögðu í bók sinni Perceptrons sem kom út 1969 að þó tauganet gætu lært allt sem þau gátu lýst, þá gætu þau lýst afar littlu. Þetta olli því að allar rannsóknir á tauganetum lögðust af í áratug. Þeir félagar lýstu í bók sinni afar einföldum netum og áttu niðurstöður þeirra einganvegin við flóknari net, þær voru rangar að því leiti. Það er kaldhæðnislegt að sama ár og Perceptrons kom út, fundu Bryson og Ho upp lærdóms-algorithma (back-propagation) fyrir fjöllaga tauganet sem átti eftir að blása lífi í rannsóknir á tauganetum aftur um 1980. Minsky heggur stundum í greinina, hér er nýlegt dæmi. Hann leyndi ekki skoðunum sínum á Turing verðlaununum. En hvað sem því líður er Minsky tvímælalaust einn af frumkvöðlum gervigreindar þó hann eigi vissulega einnig sök á því að rannsóknir á gervitauganetum lágu niðri í tíu ár. Minsky gagnrýndi að vísu "Lighthill" skýrsluna sem lagði til að Breska ríkið stöðvaði allar fjárveitingar til rannsókna á gervigreind á áttunda áratug síðustu aldar

Fyrstu sérfræðingakerfi (expert systems) litu dagsins ljós upp úr 1970. Það var sérfræðingakerfið Dendral frá þeim félögum í Stanford Ed Feigenbaum, Bruce Buchanan og Joshua Lederberg sem ruddi brautina. Tilgangur þess var að finna mólikúl uppbyggingu út frá upplýsingum um massa. Í kjölfarið fylgdi Mycin, sérfræðingakerfi til þess að finna blóðsýkingar. Feigenbaum og Buchanan nutu aðstoðar Edward Shortliffe við gerð kerfisins. Mycin var frábrugðið Dendral að því leiti að Mycin notaði tilbúnar reglur fengnar frá sérfræðingum í stað þess að vera grundvallað á almennum fræðilegum rökfræðireglum. Mycin var einnig með loðna rökfræði og gat því sagt til um líkur. Líklega er Prospector sérfræðingakerfið einna þekktast frá þessum tíma. Prospector var hannað hjá MRI til þess að finna málmgrýti og reyndist mjög gagnlegt.

Árangur í tungumálaskilningi náðist ekki fyrr en vísindamenn gerðu sér grein fyrir að þekking á viðfangsefninu skiptir sköpum í gervigreind, þegar áherslan fór af verkfærunum og aðferðafræðinni yfir á viðfangsefnið fóru hlutirnir að gerast. Eitt fyrsta sérfræðingakerfið á þessu sviði var SHRDLU en áherslan þar á málfræði reglur sem leiddi til slæmrar þýðingar, það þurfti skilning á viðfangsefninu. Málfræðingurinn Roger Schank hristi upp í vísindamönnum með því að segja að það væri engin málfræði til og skrifaði fjölmörg kerfi þar sem áherslan var á málskilning fyrst og fremst. Með þetta að leiðarljósi skrifaði William Woods Lunar kerfið sem notaði venjulega ensku og var ætlað jarðfræðingum til rannsóknar á grjóti sem Appolo geimflaugin kom með frá tunglinu.

Hugmyndir Japana um “fimmtu kynslóðar tölvuna” 1981 varð að vítamínsprautu fyrir fagið ekki sýst vegna hræðslu annarra um Japönsk yfirráð í tölvugeiranum. Þessi 10 ára áætlun Japana byggðist á því að hanna skynsaman velbúnað byggðan á Prolog á svipanan hátt og venjulegar tölvur byggðu á vélamáli. Ég hreyfst með í þeirri bylgju sem þessar hugmyndir ollur og ekki minkaði áhuginn eftir Prolog námskeið sem ég sat á hjá Oddi Benediktsyni upp í háskóla 1984. En um það leiti sá ég um tölvunet Skýrr. Tölvunet voru þá í mjög hraðri þróun og þó gervigreindin vakti áhuga minn var þróunin það ör í tölvunetum að lítið annað komst að. Tenging hudruð ríkisstofnana og samtenging megintölva og sívinnsla Skýrr voru mínar ær og kýr. Internetvæðingin á Íslandi hófst á þessum árum, frukvöðull hennar er án efa Jóhann Gunnarsson, en ég stat stofnfund Surís fyrir hönd Skýrr þar sem lögð voru drög að fyrsta internetsambandinu. Það voru ófá skiptin sem við Einar Reynis, glímdum við vandamál og tilraunir, þó margar tenginganna voru fyrstar sinnar tegundar, situr þó fyrsta háhraðatengingin ofarlega í minni. En flóra protokolla og tenginga var ævintýraleg enda var hugsjón Jóns Þ. Þórhallssonar forstjóra Skýrr að leyfa allar tegundir tenginga við hvaða tölvukerfi sem var.  Þessi starfsemi var og er enn að einhverju leiti það sem kalla má “core business” hjá Skýrr, engu að síður er  þessu gerð lítil skil í bókinni “Upplýsingaiðnaður í hálfa öld.”, líklega má þar um kenna þekkingaleysi höfunar.

Um 10 árum seinna eða um 1994 er tölvunetsbyltingin afstaðin. Sú ánægjulega þróun hafði orðið á markaðinum að hann  hafði dottið niður á IP, tölvunet voru orðin rútína og mun einfaldari og engra byltinga að vænta IP, X.25, ISDN var komið og ATM var fyrirsjáanleg framtíð. Þá ákvað ég að snúa mér að gervigreindinni þó þannig að ég fylgdist með þróun mála í tölvusamskiptum. 

Á áttunda áratug síðustu aldar má segja að gervigreind sé orðin að iðnaði, fyrirtæki sem sérhæfa sig í gervigreind skjóta upp kollinum og í flestum stærri fyrirtækja eru reknar deildir eða hópar sem nota eða vinna að gerð sérfræðingakerfa. Rannsóknir á gervitauganetum sem höfðu að verulegu leiti verið grundaðar á einnar lags perceptron netum fyrir 1970 höfðu lagst af eftir skrif Minsky og Papert 1969, hófust nú aftur og má rekja upphaf endurlífgunarinnar til skrifa Rumelhart upp úr 1986. Fjöllaga gervitauganet höfðu sannað gildi sitt og nú hófst þróun sem enn sér ekki fyrir endan á. Hopfield net, Boltzmann machine og fleiri sáu dagsins ljós, en það var Cybenko sem setti fram sönnun um að tveggja-laga gerivitauganet gætu túlkað (eða áætlað) hvaða  sem er en eins-lags gerivitauganet getur túlkað hvaða samfelda fúnksíon sem er (Cybenko theorem). Grannfræði fjöllaga gervitauganeta má að hluta rekja til rannsókna í GA (genetic algorithms) sem er þáttur undir gervigreind sem byggir á því að vélar læri í gegnum þróun. Grannfræði gervitauganeta er þó ekki komið lengra á veg en svo að í flestum tilfellum er byggt á reynslu og innsæji við hönnun gervitauganeta þó aðferðafræði LeCun um “optimal brain damage” sé oft notuð við við lágmörkun á einingum og aðferðafræði Marchand og Frean um viðbætur á einingum er það enn svo að grannfræði upphafsneta eru byggð á reynslu og innsæji.

Flækja lærdómsferla gervitauganeta hefur verið rannsökuð ítarlega. Niðurstöður  Avrim Blum og Ron Rivest 1992 um leysanleika lærdómsferla gervitauganeta eru sannfærandi og sýna að þau eru “NP-complete” þ.e. þó fjöldi lægða vægisrýmisins sé veldisfall er víðvær kjörstaða vægja finnanleg.

En hvað eru gervitauganet ?
Engin samhljóða skilgreining hefur verið samþykkt meðal vísindamanna, en algengast er að skilgreina gervitauganet sem mengi einfaldra vinnslueininga þar sem heildar hegðun stjórnast af tengingum á milli vinnslueininganna og stuðlum vinnslueininganna. Hugmyndin kemur af þekkingu okkar á starfsemi heilans, lífræðilegum tauganetum gerðum úr taugafrumum og taugaendum.
Einingarnar í gervitauganeti byggjast á einfaldri stærðfræði formúlu:
Lát gefna sellu k hafa m fjölda inntaka og vikt úttak sellu k er og vikt úttak sellu k er

Skipta má gervitauganetum niður með ýmsum hætti: