"Aidosti ajatteleva tietokone", Skepsis on ollut Lauri Gröhnin ansioista tieteellinen

Risto Koivula, 10/26/2018 10:39:17 PM, 399524

Lainaus: PeP, 26.10.2018 13:45:29, 399521
Lainaus: Diletant, 26.10.2018 11:52:50, 399518
PeP kirjoitti 26.10.2018 (399516)...

> Miksi koneälyn tulisi matkia ihmisälyä?

Ehkä ihmisäly on sellaista, jonka voimme intuitiivisesti tuntea
ja tunnistaa olevan samalla viivalla. Vuorovaikutus ihmisen ja koneen
välillä kai olisi lähinnä jonkinlaisena kaukaisena tavoitteena.
Olisihan se kai aika raskasta, jos koneen kanssa ei olisi enää mitään yhteistä.


Nykyään koneet peittoavat ihmisen monella alalla, jota ei vielä parikymmentä vuotta sitten pidetty mahdollisena. Taidetta on pidetty ihmisälyn viimeisenä linnakkeena, mutta nyt tekoälyt lukemani mukaan kirjoittavat novelleja ja tekevät sävellyksiä, joita on vaikea jos ei mahdoton erottaa ihmisen tuotoksesta.
Kun tekoäly pannaan etsimään Big Datasta säännöllisyyksiä, ihmisparoilla ei ole samaan kisaan mitään asiaa. Nyt koneet analysoivat jopa magneetti- ja röntgenkuvia melkoisella tarkkuudella.

Kohta on vaikea löytää sellaista osa-aluetta, missä ihminen pärjäisi koneelle. Mitä silloin on väliä, millä logiikalla kone oikeaan tulokseen pääsee? Jos se on joka hemmetin asiassa ihmistä parempi asiantuntija, niin ihan turha kitistä: "Väärin sammutettu"

Eikö ollutkin hauska ja uniikki lausahdus tuohon loppuun. Se varmaan on konetta korkeamman älyn tuotosta.


Garri Kasparov siitä kerran sanoi olennaisen, tai puhua tuollaisessa tapahtumassakin siitä 2015. Koneet suorittavat ihmisen antamia tehtäviä, nillä ei ole tietoisuutta, ne eivät voi asettaa pitkän tähtäimen päämääriä itsenäisesti, niidenKEHITYS eroaa täysin ihmisen ajattelun kehityksestä, vaikka jotakin tehtävänsuoritusta olisikin vaikea erottaa ihmisen suorittamasta.

Tätä asiaa on käsitelty jo vuonna 2001 tälläkin palstalla:

http://keskustelu.skepsis.fi/Message/FlatMessageIndex/67559?page=1#67587

Risto Koivula

19.12.2001 02:05:59
67559

Ajattelevat koneet?


Puhuvat ja ajattelevat eläimet on tällä palstalla tältä erää pantu halki, poikki ja pinoon noin 8 sivua tuonnempana.

Mutta entäpä ajattelevat koneet, voisiko ja millä edellytyksillä sellaisia olla (tulossa)?
Olisiko faktoja ja mielipiteitä?

Keskustelun pohjaksi:

http://www.helsinki.fi/agora/vara/mielipide/assosiatiiviselle_muistille.html

" Assosiatiiviselle muistille perustuva tietokone ei ajattele "



LGröhn (Tuolla sitä juttua aiheesta löytyykin...)

19.12.2001 02:06:27
67587

Re: Ajattelevat koneet?

Risto Koivula kirjoitti 19.12.2001 (67559)...

Viesti oli täällä:

http://www.helsinki.fi/agora/vara/keskustelu.html

Koivula pohdiskelee Haikosen väitteitä. Ongelmina Haikosen ja vastaavien väitteissä on, että nuo väitteet tukeutuvat metaforiin ja simulaatiohin ja emulaatiohin. Sellaisilla ei Haikonen tai kumppanit pysty todistelemaan yhtään mitään. Kannataisi tsekata, miten Haikonen esimerkiksi määrittelee ajattelun.



Zap the flash
19.12.2001 02:07:00
67620

Re: Ajattelevat koneet?

Ajattelevat koneet sinällään eivät ole mahdottomia, onhan ihminenkin eräänlainen kone. Eri asia on tietenkiin yltääkö teknologiamme kyseiselle tasolle koskaan. Joskin joidenkin määritelmien mukaan meillä on jo 2-4 vuotiaan lapsen tasolla olevia koneita, oppivia koneita. Ongelmana on myös se ymmärretäänkö me ihmiset lopulta jos ajatteleva kone syntyisi sen aidosti ajattelevaksi. Ihmisaivojen ajattelu kyky tulee siitä kun yhdistätään valtava määrä pari yksinkertaista toimenpidettä osaavaa hermosolua yhteen, kykenemme aina 100% ennustamaan yhden hermosolun vastaukset tiettyihin ärsykkeisiin, muttemme kokonaisten aivojen. Sama juttu tietokoneilla. Tietokonekin koostuu monista yksinkertaisista transistoreista, joilla on muutama mahdollinen tila, yhdessä ne muodostavat monimutkaisen järjestelmän, joten jos transistoreita liitetään tarpeeksi monta yhtenäiseksi järjestelmäksi se todella saattaisi ajatella aidosti ja itsenäisesti (nykyisiin transistori määriin vaaditaan 1000-10000 kertainen lisäys, vähintään! Ennenkuin voidaan edes keskustella aidosta ajattelu kyvystä.)

Heikki Hynninen
19.12.2001 02:07:27
67647

Re: Ajattelevat koneet?

Risto Koivula kyseli ajattelevien koneiden mahdollisuudesta. Kysymys on mielenkiintoinen ja mielenfilosofiassa paljon pohdittu. Koivula pyysi myos nakemyksia aiheesta. Yritan tarjota yhden. Esitan nakemykseni karjistettyina teeseina.

1) Ajattelu on sidottu tietoisuuteen.

Kun asetamme kysymyksen, voivatko koneet ajatella tai ovatko ne alykkaitta, tormaamme heti maarittely ongelmiin. Mita ajettelulla tai alykkyydeella oikein tarkoitetaan? Nahdakseni on hedelmallisempaa kysya, voiko kone olla tietoinen. Siitahan me loppujen lopuksi olemme kiinnostuneita. On vaikea ymmartaa, mita ajattelu ilman tietoisuutta voisi tarkoittaa.

2) Tietoisuuden perustava piirre ovat kvaliteetit

Kun alamme maaritella tietoisuutta, niin voimme tarjota eraanlaisen kehamaisen maaritelman: Tietoisuus tarkoittaa kaikkia niita asioita, joista olen tietoinen talla hetkella. Kehamainen maaritelma, mutta meilla ei ole parempaakaan tarjolla. Koen tiettyja laadullisia ominaisuuksia: Eri aistien valittamia tuntemuksia ja tunteita. Naita laadullisia ominaisuuksia kutsutaan usein Kvalioiksi. Paitsi etta koen naita kvalioita, tiedan kokevani niita. Voin kielen avulla maaritella niita, ja ilmaista muille.

3) Tietoisuus on aineeseen sidottu, mutta siihen palautumaton, emergentti ominaisuus.

Perustava oletukseni on, etta tietoisuus on seurausta aineen ominaisuuksista. Tietoisuus on evoluuution aikana ilmaantunut tietyntyyppiseen aineelliseen yksikkoon: Aivoihin. Aivot koostuvat aarimmaisen mutkikkaista hermosoluverkostoista. Hermosolut ja niiden valiset relaatiot aiheuttavat tietoisuuden. Kuitenkin tietoisuus on palautumaton ominaisuus. Puhetta kvalioista ei voida palauttaa puheeksi aineen ominaisuuksista.

4) Omatakseen tietoisuuden koneen on pystyttava samaan kompleksisuus-asteeseen kuin ihminen.

Tama on triviaali seuraus siita, etta ainoa tuntemamme tietoinen olio on ihminen aivoineen. Tasta seuraa, etta koneen ollakseen tietoinen, on pystyttava tuottamaan samantasoiset kausaaliset seuraukset kuin ihminen. Toisin sanoen jos haluamme tietoisen koneen, meidan on pystyttava rakentamaan kutakuinkin yhta kompleksinen yksikko kuin ihminen.

5) Koska emme tieda kuinka ihmisen tietoisuus syntyy, emme voi viela luoda sita koneellekkaan.

Vaikka on todennakoista, etta tietoisuus on aineesta aiheutuva ilmio, emme tieda kuinka se syntyy. Ja tassa on pullonkaula myos tietoiselle koneelle. Ainoa tietamamme tietoinen olio on ihminen. Mutta jos emme tieda kuinka ihmisen tietoisuus syntyy, miten voimme rakentaa tietoisen koneen? Nahdakseni emme mitenkaan.

6) Tietoisuus voi olla kognitiivisesti suljettu asia.

Talla tarkoitan sita, etta kaikilla olioilla on tiedolliset rajoitteensa. Simpanssin kognitiiviset kyvyt eivat riita Bachin musiikin hahmottamiseen. Ei ole mitaan syyta uskoa, etteiko ihmisella olisi vastaavia rajoituksia. Voi olla, etta kysymys tietoisuuden syntymisesta on liian vaikea ongelma. Tietokykymme ei riita sen ratkaisemiseen. Jos nain on, kohdan 5 perusteella ei tietoisia koneita voi ilmaantua. En kuitenkaan vaita, etta nain on. Pidan kuitenkin mahdollisena, etta tietoisuus on kognitiivisesti suljettu.

Nain mutkikasta kysymysta on hankala kasitella ilman valmisteluja. Kuten huomattua, en tyrmaa tietoisen tai ajattelevan koneen mahdollisuutta A Priori. Mutta olen yrittanyt loytaa ehtoja, joiden vallitessa kone voisi olla tietoinen. Vaatimukset nayttavat siina maarin kovilta, etta olen hieman skeptinen tietoisien koneiden suhteen.

Lopuksi muutama kirja aiheesta:
1) Daniel Dennet: Tietoisuuden selitys
2) Daniel Dennet: Miten mieli toimii
3) John Searle: Rediscovery of Mind
4) John Searle: Mystery of Consciousness
5) Paul Churchland: Matter and Consciousness
6) Jaegwon Kim: Philosophy of Mind


LGröhn
19.12.2001 02:07:43

Eivät...

Zap the flash kirjoitti 19.12.2001 (67620)...

>joidenkin määritelmien mukaan meillä
>on jo 2-4 vuotiaan lapsen tasolla
>olevia koneita, oppivia koneita.

Perustuen virheellisiin analogioihin,
jossa vertaillaan joitakin erityistoimintoja.


>järjestelmän, joten jos
>transistoreita liitetään tarpeeksi
>monta yhtenäiseksi järjestelmäksi se
>todella saattaisi ajatella aidosti ja
>itsenäisesti (nykyisiin transistori
>määriin vaaditaan 1000-10000
>kertainen lisäys, vähintään!
>Ennenkuin voidaan edes keskustella
>aidosta ajattelu kyvystä.)

Perustuen virheelliseen ekstrapolatioon.

Tomi.V
19.12.2001 02:09:05
67745

Re: Ajattelevat koneet?

Zap the flash kirjoitti 19.12.2001 (67620)...
>järjestelmän, joten jos
>transistoreita liitetään tarpeeksi
>monta yhtenäiseksi järjestelmäksi se
>todella saattaisi ajatella aidosti ja
>itsenäisesti (nykyisiin transistori
>määriin vaaditaan 1000-10000
>kertainen lisäys, vähintään!
>Ennenkuin voidaan edes keskustella
>aidosta ajattelu kyvystä.)

Tämä on ihan hölmö väite, vaikka sitä näkee
toistettavan kohtalaisen arvovaltaisissa lähteissä.

Mistä hemmetistä se äly sinne transistorikasaan
tulla tupsahtaa, vaikka niitä kasaisi Mount
Everestin kokoisen kasan? Nythän meillä on jo
käsittämätön määrä prosessointitehoa nettiin
kytketyissä koneissa, eikä siellä mitään superälyä
ole syntynyt muuta kuin huonoissa scifi-leffoissa.

Tekoälyä on nyt hierottu 50 vuotta, eikä paljoa
edistystä ole tapahtunut. Veikkaisin että menee
toiset 50 vuotta ennen kuin meikäläisen pyykit,
tiskit, siivoamisen ja päivätyön osaa hoitaa
riittävän fiksu robotti.
67663


NOBELISTI OBAMA LEVITTÄÄ VAARALLISTA UUSUSKONTOA ”AIDOSTI AJATTELEVISTA TIETOKONEISTA”   [ 399493 , Risto Koivula , 25.10.2018 02:41:06 ]
    CAPSLOCK PÄÄLLÄ JO OTSIKOSSA, JOTEN...   [ 399496 , Diletant , 25.10.2018 10:06:32 ]
        CAPSLOCK PÄÄLLÄ JO OTSIKOSSA, JOTEN...   [ 399498 , Risto Koivula , 25.10.2018 11:09:29 ]
            CAPSLOCK PÄÄLLÄ JO OTSIKOSSA, JOTEN...   [ 399499 , mmm , 25.10.2018 12:57:46 ]
                Koivulaa VTTAA   [ 399500 , Diletant , 25.10.2018 13:12:55 ]
    NOBELISTI OBAMA LEVITTÄÄ VAARALLISTA UUSUSKONTOA ”AIDOSTI AJATTELEVISTA TIETOKONEISTA”   [ 399504 , VCO , 25.10.2018 15:03:24 ]
        Kaikin mokomin   [ 399509 , Diletant , 26.10.2018 09:56:44 ]
            Kaikin mokomin   [ 399511 , VCO , 26.10.2018 10:30:10 ]
                Kaikin mokomin   [ 399513 , Diletant , 26.10.2018 10:53:15 ]
                    Kaikin mokomin   [ 399514 , VCO , 26.10.2018 10:58:58 ]
                        Kaikin mokomin   [ 399515 , Diletant , 26.10.2018 11:05:49 ]
        NOBELISTI OBAMA LEVITTÄÄ VAARALLISTA UUSUSKONTOA ”AIDOSTI AJATTELEVISTA TIETOKONEISTA”   [ 399539 , Risto Koivula , 28.10.2018 07:21:46 ]
            NOBELISTI OBAMA LEVITTÄÄ VAARALLISTA UUSUSKONTOA ”AIDOSTI AJATTELEVISTA TIETOKONEISTA”   [ 399543 , VCO , 28.10.2018 09:51:05 ]
                Nopelisti... lyhensin otsikkoa vähän   [ 399548 , sherlocker , 28.10.2018 10:44:58 ]
                    Nopelisti... lyhensin otsikkoa vähän   [ 399550 , VCO , 28.10.2018 10:59:06 ]
                        Nopelisti... lyhensin otsikkoa vähän   [ 399552 , sherlocker , 28.10.2018 11:05:16 ]
                            Nopelisti... lyhensin otsikkoa vähän   [ 399565 , VCO , 28.10.2018 15:45:00 ]
                                Hölmöydet tiskiin...   [ 399584 , Risto Koivula , 30.10.2018 14:54:34 ]
                    Nopelisti... lyhensin otsikkoa vähän   [ 399554 , Risto Koivula , 28.10.2018 11:24:20 ]
                        Nopelisti... lyhensin otsikkoa vähän   [ 399559 , sherlocker , 28.10.2018 11:55:41 ]
                            Nopelisti... lyhensin otsikkoa vähän   [ 399561 , Risto Koivula , 28.10.2018 12:32:26 ]
                                Nopelisti... lyhensin otsikkoa vähän   [ 399562 , sherlocker , 28.10.2018 12:48:36 ]
                                    Nopelisti... lyhensin ja jatkoin sitten   [ 399568 , sherlocker , 28.10.2018 16:48:49 ]
                                        Nopelisti... lyhensin ja jatkoin sitten   [ 399573 , Risto Koivula , 29.10.2018 03:45:35 ]
    "Aidosti ajatteleva tietokone"   [ 399507 , Otto Mäkelä , 26.10.2018 07:58:21 ]
        "Aidosti ajatteleva tietokone"   [ 399510 , Diletant , 26.10.2018 10:06:24 ]
            "Aidosti ajatteleva tietokone"   [ 399516 , PeP , 26.10.2018 11:42:08 ]
                "Aidosti ajatteleva tietokone"   [ 399518 , Diletant , 26.10.2018 11:52:50 ]
                    "Aidosti ajatteleva tietokone"   [ 399521 , PeP , 26.10.2018 13:45:29 ]
                        "Aidosti ajatteleva tietokone", Skepsis on ollut Lauri Gröhnin ansioista tieteellinen   [ 399524 , Risto Koivula , 26.10.2018 22:39:17 ]
                            "Aidosti ajatteleva tietokone", Skepsis on ollut Lauri Gröhnin ansioista tieteellinen   [ 399527 , PeP , 27.10.2018 09:07:49 ]
                                "Aidosti ajatteleva tietokone", Skepsis on ollut Lauri Gröhnin ansioista tieteellinen   [ 399529 , Risto Koivula , 27.10.2018 14:35:04 ]
                                    "Aidosti ajatteleva tietokone", Skepsis on ollut Lauri Gröhnin ansioista tieteellinen   [ 399530 , PeP , 27.10.2018 17:59:23 ]
                                        "Aidosti ajatteleva tietokone", Skepsis on ollut Lauri Gröhnin ansioista tieteellinen   [ 399534 , Teppolainen , 27.10.2018 20:12:15 ]
                                            "Aidosti ajatteleva tietokone", Skepsis on ollut Lauri Gröhnin ansioista tieteellinen   [ 399540 , Risto Koivula , 28.10.2018 08:16:48 ]
                                                "Aidosti ajatteleva tietokone", Skepsis on ollut Lauri Gröhnin ansioista tieteellinen   [ 399542 , PeP , 28.10.2018 09:37:26 ]
                                                    "Aidosti ajatteleva tietokone", Skepsis on ollut Lauri Gröhnin ansioista tieteellinen   [ 399546 , Risto Koivula , 28.10.2018 10:26:28 ]
                                                    Jos tietokone ratkaisisi   [ 399556 , Diletant , 28.10.2018 11:33:35 ]
                                                        Jos tietokone ratkaisisi   [ 399567 , sherlocker , 28.10.2018 16:35:40 ]
                            "Aidosti ajatteleva tietokone", Skepsis on ollut Lauri Gröhnin ansioista tieteellinen   [ 399528 , VCO , 27.10.2018 10:04:57 ]
        "Aidosti ajatteleva tietokone"   [ 399525 , Risto Koivula , 26.10.2018 22:55:51 ]
            "Aidosti ajatteleva tietokone"   [ 399537 , Otto Mäkelä , 28.10.2018 01:06:02 ]
                "Aidosti ajatteleva tietokone"   [ 399538 , Risto Koivula , 28.10.2018 06:58:03 ]
                    "Aidosti ajatteleva tietokone"   [ 399544 , sherlocker , 28.10.2018 10:17:23 ]
                        "Aidosti ajatteleva tietokone"   [ 399553 , Risto Koivula , 28.10.2018 11:19:10 ]
                            "Aidosti ajatteleva tietokone"   [ 399560 , sherlocker , 28.10.2018 12:29:28 ]
                                "Aidosti ajatteleva tietokone"   [ 399563 , Risto Koivula , 28.10.2018 14:08:56 ]
                                    "Aidosti ajatteleva tietokone"   [ 399566 , sherlocker , 28.10.2018 16:26:46 ]
                                        "Aidosti ajatteleva tietokone"   [ 399572 , Risto Koivula , 29.10.2018 03:41:30 ]
                                            "Aidosti ajatteleva tietokone"   [ 399598 , sherlocker , 01.11.2018 12:40:21 ]
                                            "Aito skeptikko"   [ 399599 , sherlocker , 01.11.2018 12:55:15 ]
                    "Aidosti ajatteleva tietokone"   [ 399579 , Otto Mäkelä , 29.10.2018 15:25:15 ]
                        "Aidosti ajatteleva tietokone"   [ 399591 , Risto Koivula , 31.10.2018 21:51:24 ]
                            "Aidosti ajatteleva tietokone"   [ 399592 , mmm , 01.11.2018 10:06:51 ]
                                "Aidosti ajatteleva tietokone"   [ 399621 , Risto Koivula , 01.11.2018 20:31:08 ]
                                    "Aidosti ajatteleva tietokone"   [ 399623 , mmm , 01.11.2018 21:18:55 ]
                                        "Aidosti ajatteleva tietokone"   [ 399624 , Risto Koivula , 01.11.2018 23:52:15 ]
                            "Aidosti ajatteleva tietokone"   [ 399595 , Otto Mäkelä , 01.11.2018 10:31:57 ]
                                "Aidosti ajatteleva tietokone"   [ 399612 , Teppolainen , 01.11.2018 17:02:26 ]
                                    "Aidosti ajatteleva tietokone"   [ 399614 , PeP , 01.11.2018 17:37:59 ]
                                        "Aidosti ajatteleva tietokone"   [ 399615 , Diletant , 01.11.2018 18:05:57 ]
                                            "Aidosti ajatteleva tietokone"   [ 399617 , Teppolainen , 01.11.2018 18:21:41 ]
                                                "Aidosti ajatteleva tietokone"   [ 399619 , Diletant , 01.11.2018 18:25:59 ]
                                "Aidosti ajatteleva tietokone"   [ 399620 , Risto Koivula , 01.11.2018 19:22:40 ]
                                    "Aidosti ajatteleva tietokone"   [ 399629 , Otto Mäkelä , 02.11.2018 07:42:04 ]
                                        "Aidosti ajatteleva tietokone"   [ 399661 , Risto Koivula , 02.11.2018 18:28:30 ]
                                            "Aidosti ajatteleva tietokone"   [ 399662 , VCO , 02.11.2018 18:36:45 ]
                                                "Aidosti ajatteleva tietokone"   [ 399663 , Risto Koivula , 02.11.2018 19:00:00 ]
                                                    "Aidosti ajatteleva tietokone"   [ 399664 , VCO , 02.11.2018 19:31:35 ]
                                                        "Aidosti ajatteleva tietokone"   [ 399665 , Risto Koivula , 02.11.2018 21:18:02 ]
                                                            "Aidosti ajatteleva tietokone"   [ 399666 , VCO , 02.11.2018 22:15:16 ]
                                                                "Aidosti ajatteleva tietokone"   [ 399667 , VCO , 02.11.2018 22:15:39 ]
                                                                    "Aidosti ajatteleva tietokone"   [ 399668 , Risto Koivula , 02.11.2018 23:41:01 ]
                                                                "Aidosti ajatteleva tietokone"   [ 399670 , PeP , 03.11.2018 09:38:07 ]
                                                                    "Aidosti ajatteleva tietokone"   [ 399671 , VCO , 03.11.2018 10:08:45 ]
                                                                        "Aidosti ajatteleva tietokone"   [ 399674 , Diletant , 03.11.2018 10:53:03 ]
                                                                            "Aidosti ajatteleva tietokone"   [ 399675 , VCO , 03.11.2018 11:07:43 ]
                                                                                Tuore kirjoitus aiheesta   [ 399680 , Diletant , 03.11.2018 12:17:00 ]
                                                                                    Tekoälyn luonteesta   [ 399682 , Otto Mäkelä , 03.11.2018 12:33:53 ]
                                                                                    Tuore kirjoitus aiheesta   [ 399693 , Risto Koivula , 04.11.2018 04:05:35 ]
                                                                                    Lisää tavaraa aihetta sivuten   [ 399707 , Diletant , 04.11.2018 20:03:51 ]
                                                                                        Lisää tavaraa aihetta sivuten   [ 399709 , Risto Koivula , 04.11.2018 21:59:53 ]
                                                                    "Aidosti ajatteleva tietokone"   [ 399694 , Risto Koivula , 04.11.2018 05:17:08 ]
                                                                        "Aidosti ajatteleva tietokone"   [ 399695 , PeP , 04.11.2018 08:56:41 ]
                                                                            "Aidosti ajatteleva tietokone"   [ 399703 , Risto Koivula , 04.11.2018 15:50:47 ]
                                                                                "Aidosti ajatteleva tietokone"   [ 399704 , PeP , 04.11.2018 17:17:02 ]
                                                                                    "Aidosti ajatteleva tietokone"   [ 399706 , Risto Koivula , 04.11.2018 19:00:33 ]
                                                                        Koneäly oppii ennakkoluulot   [ 399696 , PeP , 04.11.2018 09:33:10 ]
                                            "Aidosti ajatteleva tietokone"   [ 399700 , Otto Mäkelä , 04.11.2018 11:16:31 ]
                                                "Aidosti ajatteleva tietokone"   [ 399701 , Diletant , 04.11.2018 11:41:56 ]
                                                    "Aidosti ajatteleva tietokone"   [ 399702 , VCO , 04.11.2018 11:51:52 ]
                                                "Aidosti ajatteleva tietokone"   [ 399705 , Risto Koivula , 04.11.2018 17:26:42 ]
                            "Aidosti ajatteleva tietokone"   [ 399597 , sherlocker , 01.11.2018 11:20:44 ]
                                "Aidosti ajatteleva tietokone"   [ 399622 , Risto Koivula , 01.11.2018 21:09:19 ]
                            Mary's Room   [ 399602 , sherlocker , 01.11.2018 13:28:27 ]