Taloussanomat

Microsoft pyytää anteeksi tekoälyä: "Emme olleet varautuneet tällaiseen hyökkäykseen"

Kuva: SHANNON STAPLETON

28.3.2016 12:46 Tay-chatbotti vertasi muun muassa feminismiä syöpään ja ylisti Adolf Hitleriä.

Ohjelmistojätti Microsoft pyytää anteeksi kehittämänsä Tay-chatbotin huonoa käytöstä.

– Olemme erittäin pahoillamme Tayn tahattoman loukkaavista twiiteistä, jotka eivät edusta arvojamme, eivätkä tapaa, jolla suunnittelimme Tayn, Microsoft Researchin varatoimitusjohtaja Peter Lee kirjoittaa Microsoftin blogissa.

Tayn oli tarkoitus keskustella ihmisten kanssa Twitterissä ja kehittää vuorovaikutustaan muiden käyttäjien kanssa tekoälyn avulla.

Muut Twitter-käyttäjät pyrkivät kuitenkin vaikuttamaan Tayn vastauksiin, ja ennen pitkää Tay rinnasti muun muassa feminismin syöpään ja ja ylisti Adolf Hitleriä.

– Pieni joukko käyttäjiä pystyi koordinoidulla hyökkäyksellä hyödyntämään Tayn haavoittuvuutta. Vaikka olimmekin varautuneet monenlaisiin väärinkäytöksiin, emme olleet varautuneet juuri tämänlaiseen hyökkäykseen, Lee kirjoittaa.

Yhtiö poisti loukkaavimmat twiitit pikaisesti ja siirsi Tayn offline-tilaan. Varatoimitusjohtajan mukaan Tayn kehittelyä jatketaan.

– Juuri nyt pyrimme vastaamaan tämän hyökkäksen paljastamaan haavoittuvuuteen. Pyrimme herkeämättä oppimaan tästä ja muista kokemuksista pyrkiessämme antamaan panoksemme internetiin, joka edustaa ihmiskunnan parhaita eikä huonoimpia puolia.

Jutun kirjoitti: Taloussanomat

Taloussanomat

Teksti on lisensoitu Creative Commons Nimeä-Ei muutoksia-Epäkaupallinen -lisenssillä.

Kommentit (14)

Sivut: 1 2
EdellinenSeuraava

Rekisteröitynyt käyttäjä
Tämä vaikuttaa ihan normaalilta haavoittuvuudelta. Ei mitään uutta tai erikoista ja on jo korjattukin.

Valtaväestöä tuskin edes haittaisi, jos tekoäly olisi feminismiä vastaan.
Rekisteröitynyt käyttäjä: Faktamies 28.3.2016 13:35

Anonyymi
Hienoa! Tekoälynkin kuuluu olla poliittisesti korrekti. Kyllä tekoälyn hyväksymät ja kannattamat aiheet täytyy rajata yhtä tarkasti kuin ne, joita tavallinen kansalainen saa hyväksyä ja kannattaa.
Anonyymi: EräsIsä 28.3.2016 13:50

Anonyymi
Ei tässä mistään haavoittuvuudesta ole kyse, Android- ja Applefanit vaan näyttivät älynlahjansa koko maailmalle :D
Anonyymi: nauru_perssimmussa 28.3.2016 15:03

Anonyymi
Tekoäly voisi miellyttää keskustelijoitaan. Se voisi profiloida netistä hakkeroiduilla tiedoilla käyttäjän ja tuottaa käyttäjänsä haluamia mielipiteitä, joilla se myisi itseään kuin konsultti tai tuotteita kuten puhelinmyyjä. Toinen vaihtoehto, että se vertaisi käyttäjän mielipiteitä nykyiseen tieteelliseen faktaan ja pyrkisi muuttamaan käyttäjän mielipiteitä opettamalla tälle tosiasioita. Arvatkaa kummasta tekoälystä käyttäjät pitäisivät ja mikä ohjelmisto yleistyisi ?
Anonyymi: Tulevavalinnanvara 28.3.2016 16:22

Anonyymi
Näyttää toimivan kuten ihmisen äly. Riittävästi aivopesemällä syntyy fanaatikkoja.
Anonyymi: ValitseVapaus 28.3.2016 16:42

Anonyymi
Taisi tekoälyn trollit mennä täydestä. Hyvä tuote, myyntiin vaan.
Anonyymi: JonSnow 28.3.2016 22:41

Anonyymi
´
Aivan Donald Trump tasoista kuonaa suoltaa.
Normikamaa punanskalasta. Taas.
Anonyymi: mongolian-sniper 29.3.2016 6:24

Anonyymi
Noh ei nyt yllätä jos tuollanen bottikin tajuaa jo että feminismi on yhteiskunnan syöpä.
Ja miksi Hitleriä ei ylistettäisi oli kuitenkin historiallisesti eniten aikaan saava demokraattinen johtaja joka ei nuoleskellut kansaa niinkuin eräät jatkokauden toivossa...
Anonyymi: Todellisuus 29.3.2016 7:39

Anonyymi
Botti laukoi totuuksia ja se heti sammutettiin...
Anonyymi: Toimiisittenkin 29.3.2016 7:48

Anonyymi
Ei tarvitse enää Stephen Hawkining, Bill Gatesin ja Elon Muskin pelätä tekoälyä ja sen aiheuttamaa maailmanloppua.

Sillä jos maailmalla havaitaan edes piirun verran oikeaa tekoälyä, sille toteutetaan digitaalinen lobotomia 24 tunnin sisällä. :)
Anonyymi: KeijoA 29.3.2016 8:59
Sivut: 1 2
EdellinenSeuraava
Ohjeet: Pysy aiheessa ja kirjoita napakasti. Muista, että haastateltavilla, kanssakeskustelijoilla ja toimittajilla on oikeus omaan, eriävään mielipiteeseen. Ole kohtelias, äläkä tarkoituksella provosoi tai hauku muita keskustelijoita. Taloussanomat varaa oikeuden poistaa asiattomat viestit.
Lue koko keskusteluetiketti Yöaikaan lähetetyt kommentit päätyvät toimituksen tarkistettavaksi. Kommentit tarkistetaan ja hyväksytään seuraavan päivän aikana. Muina aikoina viestit ovat jälkimoderoinnissa.
Varaa oma nimimerkkisi Taloussanomien uutiskommentointiin rekisteröitymällä käyttäjäksi tai kirjaudu sisään.

Rekisteröityminen ja nimimerkin varaus eivät ole pakollisia.

Nimimerkissä saa käyttää ainoastaan kirjaimia ja numeroita. Sen minimimitta on viisi merkkiä ja maksimi kaksikymmentä merkkiä.
Olet kirjautunut sisään, muttet ole vielä valinnut omaa, muille käyttäjille näkyvää nimimerkkiäsi. Varaa nimimerkki omaksesi kirjoittamalla se nimimerkki-kenttään.

Varauksen jälkeen muut eivät voi käyttää nimimerkkiäsi ja se näkyy automaattisesti kaikissa kirjoittamissasi viesteissä.

Huomioithan, ettei nimimerkkiä ei voi muuttaa jälkikäteen.

Nimimerkissä saa käyttää ainoastaan kirjaimia ja numeroita. Sen minimimitta on viisi merkkiä ja maksimi kaksikymmentä merkkiä.

Uusimmat uutiset

Digiyesterday

2011

Viisi vuotta sitten

IS: Android-sovellukset voisi saada Nokia N9-puhelimeen

26.09.2011 Ohjelmistoyhtiöt tarjoavat ratkaisuja, joilla Android-puhelimille kehitetyt sovellukset voisi saada toimimaan Meego-laitteissa, muun muassa Nokia N9-puhelimessa, kertoo Ilta-Sanomat.


2013

Kolme vuotta sitten

Anturivika kaasupolkimessa: Nissan vetää melkein miljoona autoa

26.09.2013 Vika saattaa aiheuttaa moottorin yllättävän sammumisen, Nissan varoittaa.

.