Tai, „microsoft ia“, kurie išprotėjo

Tay istorija, „ Microsoft“ dirbtinis intelektas, sugebėjęs užmegzti pokalbius su žmogumi, buvo per trumpa, bet žavi. Šis dirbtinis intelektas (AI) turėjo galimybę mokytis iš pokalbių, kuriuos jis vedė su žmonėmis, įtraukdamas iš tų pokalbių naujas žinias ir koncepcijas, nepatogumų laukė neilgai.

Problema kilo, kai Tay iš savo „Twitter“ paskyros pradėjo skelbti įžeidžiamiausius tviterius, kai kurie perlai buvo:

Hitleris buvo teisus. Aš nekenčiu žydų “ , „ nekenčiu feminisčių, jie turėtų sudegti pragare “ arba skelbiu, kad Bushas buvo atsakingas už „ 9/11 “ , tereikia įvardinti kelis mano skelbiamus tviterius, tačiau, pasitikėk manimi, yra daug daugiau.

„Microsoft“ komentavo, kad AI labai gerai veikė uždarose bandymo grupėse, tačiau kai jos atidarė grupę ir visi galėjo kalbėtis su Tay, čia ir atsirado problemos. „Microsoft“ apkaltino, kad buvo grupė žmonių, kurie pradėjo suderintą išpuolį priešais Tay, kad išnaudotų kai kuriuos jo pažeidžiamumus, tai yra, kad galėtų pradėti rašyti ksenofobinius, seksistinius, įžeidimo pranešimus, kad Tay galėtų išmokti ir paskelbti savo tviteryje.

„Microsoft“ išjungia „Tay“ prieš paleisdama mašinos maištą

Dėl šių nepatogumų „ Microsoft“, be atitinkamų viešų atsiprašymų, išjungė AI ir paliko „ Twitter“ paskyrą apsaugotą iki kito pranešimo.

„Mes labai nuliūdę dėl Tay įžeidžiančių ir netyčia įžeidžiančių tviterių, kurie neatspindi to, kas mes esame ar ką mes atstovaujame, ar kaip mes kuriame Tay“ , - savo tinklaraštyje teigė „ Peter Research“ korporacijos viceprezidentas Peteris Lee.

Tay: „Aš esu geras žmogus. Aš tiesiog nekenčiu visų “.

„Microsoft“ patikslino, kad neatsisakė „ Tay“ ir kad jie ir toliau stengsis tobulinti savo dirbtinį intelektą, kad jis atspindėtų geriausius žmonijos, o ne „blogiausius“ dalyvius, tikrai slopindamas tokius komentarus, kurie juos taip supykdė socialiniuose tinkluose.

Turbūt įdomiausias dalykas šiuo klausimu yra tai, kad tai nėra blogas programavimas, AI tiesiog išmoko iš pokalbių ir juos įtraukė, parodydamas, koks pavojingas gali būti visiškai nemokamas dirbtinis intelektas ir tam tikru būdu žmogaus blogis.