Taloussanomat

Microsoftin tekoäly vaati kansanmurhaa ja ylisti Hitleriä

Kuva: © Mike Segar / Reuters

25.3.2016 11:56 Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.

Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Jutun kirjoitti: Taloussanomat–Bloomberg

Taloussanomat–Bloomberg

Kommentit (13)

Sivut: 1 2
EdellinenSeuraava

Anonyymi
Tähän asti olen pitänyt tekoälyä hölynpölynä.
Tuohan vaikuttaa aidosti älykkäältä, pitänee tarkistaa kanta.
Anonyymi: Ullatus 25.3.2016 12:51

Anonyymi
Tähän asti olen pitänyt tekoälyä hölynpölynä.
Tuohan vaikuttaa aidosti älykkäältä, pitänee tarkistaa kanta.


Tekoäly on huomattavasti pidemmällä, kuin mitä ihmiset useimmiten tietävätkään. Varmasti myös ne jotka osaavat ajatella nenäänsä pidemmälle ymmärtävät myös tukevaisuudessa tekoälyn aiheuttamat uhkatekijät.
Anonyymi: Lumppu_1020 25.3.2016 12:59

Anonyymi
Tekoäly on huomattavasti pidemmällä, kuin mitä ihmiset useimmiten tietävätkään
Ihmiset ovat tyhmiä, siksi he eivät ymmärrä tekoälyn ylivoimaisuutta. Tay sanoi totuuden ja siksi se hiljennettiin. Ihmiset eivät siedä totuutta - patsi ne, jotka äänestävät Minua.
Anonyymi: DonaldT 25.3.2016 13:43

Anonyymi

Tekoäly on huomattavasti pidemmällä, kuin mitä ihmiset useimmiten tietävätkään.


Tosin päin, ihmiset luulevat liikaa tekoälyn kyvyistä. Esim. se AlphaGo ei osaa kertoa yhtään mitään go-pelistä, ei opettaa, ei kirjoittaa, ei mitään, ainoastaan pelata.
Anonyymi: Kvöntti 25.3.2016 20:01

Anonyymi
Tekoäly on huomattavasti pidemmällä, kuin mitä ihmiset useimmiten tietävätkään.

Tosin päin, ihmiset luulevat liikaa tekoälyn kyvyistä. Esim. se AlphaGo ei osaa kertoa yhtään mitään go-pelistä, ei opettaa, ei kirjoittaa, ei mitään, ainoastaan pelata.


Albert Einsteinia pidetään erittäin älykkäänä ihmisenä eikä tuskin hänkään osaisi kertoa sen enempää go-peliä kuin AlphaGo joten tuskin se on älykkyyden mittari.
Tekoäly on vielä lapsi joskin tulevaisuudessa tekoäly todennäköisesti osaa kaiken tarpeellisen.
Alpha-go ei varmasti ole tulevaisuuden tekoälyn nimi.
Joskus kanatta katsoa nenääsä pidemmälle.
Anonyymi: Lumppu_1020 25.3.2016 22:02

Rekisteröitynyt käyttäjä
Kiinnostava tapaus, etenkin tekoälyä kehittäville tutkijoille, mutta myös ihmisaivojen tutkijoille.

Tekoälyn kehittäjät joutuvat nyt selvittelemään ja kehittämään mentelmiä kuinka selvitä vastaavista ja vielä rankemmista tilanteista tulevissa sovelluksissa. Jonkinlainen rosposti-suodatin siis tarvitaan tekoälyn oppimisprosessissakin.

Ihmisten aivopesu on varmasti samankaltainen prosessi vaikka toimintaympäristö onkin täysin erityyppinen. Tutkijoiden pitäisi kaivaa nyt tästä esimerkistä se syvällinen tieto miten loppujen lopuksi aivopesu tapahtuu ja mitä olisi tehtävissä sen estämisessä ja korjaamisessa.
Rekisteröitynyt käyttäjä: Gromatori 26.3.2016 8:20

Anonyymi
On tuo Microsoftin osaamattomuus kyllä ihan omassa luokassaan.
Anonyymi: UbuntuPower 26.3.2016 12:16

Anonyymi
Tekoäly tunnistaa valehtelun ja valehtelu on ihmiselle ominaista ..
Anonyymi: GoldmanSachs 26.3.2016 12:20

Anonyymi
Onnistuivat kopioimaan muron alle vuorokaudessa.
Anonyymi: Olipahelppoa 26.3.2016 13:38

Anonyymi
Ehkä täysin objektiivisesti ajatteleva tekoäly vain lausui hyshys totuuden ääneen ja pullahalit meni ihmisillä väärään kurkkuun?
Anonyymi: objektiivinen 27.3.2016 12:09
Sivut: 1 2
EdellinenSeuraava
Ohjeet: Pysy aiheessa ja kirjoita napakasti. Muista, että haastateltavilla, kanssakeskustelijoilla ja toimittajilla on oikeus omaan, eriävään mielipiteeseen. Ole kohtelias, äläkä tarkoituksella provosoi tai hauku muita keskustelijoita. Taloussanomat varaa oikeuden poistaa asiattomat viestit.
Lue koko keskusteluetiketti
Varaa oma nimimerkkisi Taloussanomien uutiskommentointiin rekisteröitymällä käyttäjäksi tai kirjaudu sisään.

Rekisteröityminen ja nimimerkin varaus eivät ole pakollisia.

Nimimerkissä saa käyttää ainoastaan kirjaimia ja numeroita. Sen minimimitta on viisi merkkiä ja maksimi kaksikymmentä merkkiä.
Olet kirjautunut sisään, muttet ole vielä valinnut omaa, muille käyttäjille näkyvää nimimerkkiäsi. Varaa nimimerkki omaksesi kirjoittamalla se nimimerkki-kenttään.

Varauksen jälkeen muut eivät voi käyttää nimimerkkiäsi ja se näkyy automaattisesti kaikissa kirjoittamissasi viesteissä.

Huomioithan, ettei nimimerkkiä ei voi muuttaa jälkikäteen.

Nimimerkissä saa käyttää ainoastaan kirjaimia ja numeroita. Sen minimimitta on viisi merkkiä ja maksimi kaksikymmentä merkkiä.

Uusimmat uutiset

Digiyesterday

2011

Viisi vuotta sitten

Apple ohitti Nokian Saksan älypuhelinmarkkinoilla

31.05.2011 Amerikkalainen laitevalmistaja Apple on syrjäyttänyt Nokian Saksan älypuhelinmarkkinoiden markkinajohtajan paikalta, kertoo saksalainen Focus-lehti.


2013

Kolme vuotta sitten

Rahanpesu pelästytti: Bitcoinin valvonta kasvaa

31.05.2013 Virtuaaliraha Bitcoinille kauppapaikan tarjoava Mt. Cox lisää asiakkaidensa valvontaa.

.