Kínában még a mesterséges intelligenciával (AI) működő chatbotoknak sem egyszerű az élet. Alapvetően lehet véleményük a dolgokról – már amennyire a jelenkori technológiák ezt lehetővé teszik –, de mindennek van határa. Például milyen dolog az, hogy egy kínai chatbot nem szereti a Kommunista Pártot? Meg is lett az eredménye az ilyen veszélyes gondolatoknak: a renitens chatbotokat lekapcsolták. 

A Tencent – Kína legnagyobb közösségi platformja –  kénytelen volt lekapcsolni a pekingi Turing Robottal közösen fejlesztett BabyQ nevű chatrobotot, illetve a Microsoft által fejlesztett XiaoBing-et is. A botok lekapcsolásuk előtt 800 millió ember számára voltak elérhetőek a Tencent üzenetküldő alkalmazásán, a QQ-n keresztül. 

A mesterséges intelligencián alapuló chatbotok úgy tanulnak, hogy különféle adatokat és információkat gyűjtenek össze az internetről, ami hatással van a kvázi gondolkodásmódjukra, véleményükre. Ezért fordulhatott elő az, hogy chatbotok olyan dolgokról beszéltek, minthogy az ő kínai álmuk Amerikába menni, vagy az állították, hogy nem szeretik a Kommunista Pártot.

Természetesen a chatbotokba vannak irányvonalak kódolva, hogy irányítsák a tanulási folyamatokat, de szemmel láthatóan még akadnak hibák. A Facebook mesterséges intelligenciája például létrehozott magának egy nyelvet, egy Twitteren futó, Microsoft-fejlesztette bot pedig rasszista és szexista posztokat kezdett el tolni.