Index Vakbarát Hírportál

Kiszedték a Bing keresőből a titkos nevét és szabályait

2023. február 17., péntek 13:08

Nem viccel kisebbségekkel, politikusokkal vagy a szerzői joggal.

A Microsoft új ChatGPT mesterséges intelligenciával erősített internetes keresőjét elsőként kipróbáló felhasználók megfejtették a chatbot működésének főbb szabályait. A Redditre feltöltött információkból kiderül, hogy a csevegőrobot neve Sydney, amit sok felhasználóval közöl, annak ellenére, hogy elvileg titok. Sydney viselkedését emellett titkos szabályok alakítják, amelyet a felhasználók furfangos kérdésekkel derítettek ki és töltöttek fel a Redditre.

A Verge kérdésére a Microsoft munkatársai elismerték, hogy tényleg léteznek ilyen szabályok, és a Sydney a fejlesztési munka során használt belső név volt, de éppen kivezetik. Hozzátették, hogy a szabályok az üzemeltetés tapasztalatai alapján változnak és bővülnek.

Az OpenAI a titkos szabályokat úgy használja, hogy a keresőkifejezéseket titokban kiegészíti például az előítéletek elkerülése érdekében. A képgenerátor a „doktor” keresésre ilyen szabályok alapján generál nem fehér, nem férfi doktort ábrázoló képet.

Többek közt az alábbi szabályokra derült fény:

(The Verge)

Rovatok