OpenAI-instituutissa kehitettiin artikkeleita kirjoittava tekoäly
15. helmikuuta 2019
Elon Muskin perustamassa[1] OpenAI-tutkimusinstituutissa kehitettiin tekoäly, joka pystyy tuottamaan uutisjuttuja tai muita artikkeleita aiheesta kuin aiheesta ihmisen kirjoitettua ensin lyhyen johdannon.[2][3]
OpenAI:n julkaiseman tutkimuksen aiheena oli koneoppimista hyödyntävä luonnollisen kielen tuottamiseen tarkoitettu tekoäly. Tutkimuksessa kehitetty AI-järjestelmä kykenee kirjoittamaan artikkeleita mistä tahansa teemasta ilman tarvetta kouluttaa keinoälyä aihekohtaisesti. Tutkijat eivät kuitenkaan halunneet tuoda kehittämäänsä tekniikkaa julkisesti saataville, koska he pelkäävät, että järjestelmää voitaisiin käyttää valeuutisten laajamittaiseen generointiin tai muuhun pahantahtoiseen toimintaan. Tutkimusta ei ole vertaisarvioitu.[3]
Tekoälyjärjestelmän lähdeaineistona käytettiin kahdeksaa miljoonaa verkkosivua, jotka valikoitiin Redditissä tehtyjen linkitysten perusteella. Aineistoon otettiin mukaan ainoastaan sellaiset Redditissä linkitetyt sivut, joista oli ilmaissut pitävänsä ainakin kolme ihmistä. Järjestelmä pyrkii tuottamaan omaperäistä kirjoitusjälkeä lähdeaineiston sisältämien lauseiden pohjalta. Keinoälyn tuottamat artikkelit ovat yleensä sisäisesti loogisia mutta sisältävät useimmiten valheellista aineistoa, kuten tekaistuja lainauksia ja lainausten kuvitteellisia antajia. Esimerkiksi eräässä BBC:lle annetussa näytteessä tekoäly kirjoitti mielenosoitusmarssista, jonka puuhamiehen nimeksi ilmoitettiin Paddy Power, joka on todellisuudessa vedonlyöntitoimisto. Tekoälyn kirjoittamissa teksteissä ilmeni tutkimusryhmän mukaan myös muunlaisia ongelmia, kuten tarpeetonta toistoa ja ”luonnotonta aiheiden vaihtumista”.[3]
BBC:n teknologiatoimittaja Dave Leen haastattelema Kalifornian yliopiston (Berkeley) tietojenkäsittelytieteen apulaisprofessori Benjamin Recht kritisoi OpenAI-instituuttia sanomalla, että se ”tuottaa paljon salonkitemppuja”. Recht piti kuitenkin äärimmäisen tärkeänä, että tekoälytutkijat miettivät tuottamiensa asioiden seurauksia. Saman yliopiston CITRIS Policy Labin johtaja Brandie Nonnecke oli puolestaan sitä mieltä, että pahantahtoinen vakuuttavalta tuntuvien valeuutisten tuottaminen keinoälyllä on väistämätöntä ja että Facebookin kaltaisten alustapalvelujen pitäisi rakentaa valheellisen sisällön torjumiseen soveltuvia mekanismeja.[3]
Lähteet
muokkaa- ↑ Botit keksivät salakielen – tekoälyprojekti piti lopettaa kesken Kauppalehti. 29.7.2017. Alma Media. Viitattu 15.2.2019.
- ↑ Gustavsson, Joonas: ”Liukuportaat helvetistä” – Elon Muskin perustama organisaatio teki tekoälyyn perustuvan tekstigeneraattorin, jota se pitää liian pelottavana julkaistavaksi Tekniikan Maailma. 15.2.2019. Otavamedia Oy. Viitattu 15.2.2019.
- ↑ 3,0 3,1 3,2 3,3 Lee, Dave: Researchers create ’malicious’ writing AI BBC News. 15.2.2019. BBC. Viitattu 15.2.2019. (englanniksi)
Aiheesta muualla
muokkaa- OpenAI: Better Language Models and Their Implications (englanniksi)
