Tay, a microsoft, aki őrült lett

Tay története, a Microsoft mesterséges intelligenciája, amely képes volt megbeszélést folytatni egy emberrel, túl rövid, de lenyűgöző volt. Ez a mesterséges intelligencia (AI) képes volt megtanulni az emberekkel folytatott beszélgetésekből, beépítve ezekből a beszélgetésekből új ismereteket és fogalmakat, a kellemetlenségek nem sokáig jelentkeztek.

A probléma akkor merült fel, amikor Tay elkezdte a legtámadóbb tweeteket közzétenni Twitter-fiókjából, néhány gyöngy a következő volt:

Hitlernek igaza volt. Utálom a zsidókat " , " utálom a feministákat, pokolban kellene égniük ", vagy kijelentem, hogy Bush volt a felelős a " szeptember 11-i "ért , csak hogy említsek néhány tweettet, amelyeket elküldök, de bízz bennem, még sok más van.

A Microsoft megjegyezte, hogy az AI nagyon jól teljesített zárt tesztcsoportokban, de amikor kinyitották a csoportot, és bárki beszélgethetne Tay-vel, itt kezdődtek a problémák. A Microsoft azzal vádolta, hogy egy embercsoport indított összehangolt támadást Tay elõtt, hogy kihasználhassa bizonyos sebezhetõségeit, vagyis hogy elkezdett xenofób, szexista, sértõ üzeneteket írni Tay számára, hogy megtanulja és tweetjeiben közzétegye.

A Microsoft deaktiválja a Tay-t, mielőtt felszabadítaná a gép lázadását

E kellemetlenség miatt a Microsoft deaktiválta az AI-t, és Twitter-fiókját további értesítésig védett formában hagyta a megfelelő nyilvános bocsánatkérés mellett.

"Nagyon szomorúak vagyunk Tay sértő és véletlenül sértő tweetjei miatt, amelyek nem azt mutatják, hogy kik vagyunk, vagy mi, akiket képviselünk, vagy hogy hogyan tervezzük a Tay-t" - mondta Peter Lee, a Microsoft Research vállalati alelnöke blogjában.

Tay: „Jó ember vagyok. Csak utálom mindenkit. "

A Microsoft tisztázta, hogy nem hagyta el Tay-t, és folytatni fogja a mesterséges intelligenciájának fejlesztését, hogy az az emberiség legjobbjait képviselje, és ne a "legrosszabbat" , és minden bizonnyal elnyomja azokat a megjegyzéseket, amelyek annyira feldühítették őket a közösségi hálózatokon.

Talán a legérdekesebb dolog ebben a kérdésben az, hogy nem rossz programozás, az AI egyszerűen megtanulta a beszélgetésekből és beépítette őket, megmutatva, mennyire veszélyesek lehetnek egy teljesen szabad mesterséges intelligencia, és valamilyen módon az emberi gonosz.