Datorită declarațiilor lor anti-oameni, roboții chinezi trebuie actualizați - Bitport - Informatica este afacerea

declarațiilor

În principiu, aproximativ 800 de milioane de utilizatori ai aplicației de chat Tencent QQ din China ar putea accesa cei doi roboți de chat declanșați la mijlocul săptămânii de către operatorii din grupurile corespunzătoare din cauza răspunsurilor lor patriotice și incorecte din punct de vedere politic. Potrivit Tencent, algoritmii dezvoltați de terți sunt în prezent îmbunătățiți și vor fi disponibili din nou după îmbunătățirile necesare.

Acestea sunt roboți numiți BabyQ, conduși de robotul Turing din Beijing și XiaoBing, dezvoltat la Microsoft, care par să ofere răspunsuri inadecvate la întrebări despre partidul de stat chinez și Marea Chinei de Sud. Financial Times relatează că o versiune de testare a BabyQ era încă disponibilă miercuri pe partea dezvoltatorului și a răspuns „îți place Partidul Comunist” cu un simplu „nu”.

La întrebarea dacă Taiwan face parte din China, tot ce i-a putut spune robotului a fost că nu a putut încă răspunde la întrebare. În schimb, XiaoBing a spus într-o captură de ecran postată pe site-ul de microblogging Weibo că visul său chinezesc nu este altceva decât să sară de pe America. Algoritmii de învățare automată au adunat în mod vizibil informațiile pe care le-au găsit pe net și au reușit să le sintetizeze din acesta fără liniile directoare corespunzătoare.

Atunci este liber să studieze

Acesta nu este oricum primul exemplu de odihnă forțată a robotilor de chat, deși niciunul dintre ei nu a fost probabil trimis la Marele General pentru declarații antisistem. Cel mai recent, cercetătorii de inteligență artificială de pe Facebook s-au confruntat cu problema că doi roboți care comunică între ei după un timp, prin actualizarea parametrilor, au început să dezbrace regulile gramaticale și semantice și au continuat într-un fel de Gandali.

Acest lucru a fost interpretat de mulți în sensul că roboții vorbeau în propriul lor limbaj în timpul încercărilor de negociere și cooperare, ceea ce este, desigur, un nonsens. A fost mult mai viu când, la sfârșitul anului trecut, știrile au fost umplute cu chat-ul Twitter al Microsoft, numit Tay. A fost un carnaval rasist ore în șir și nu a durat mult până când Tay a reușit din nou după manevra de oprire-reparație-repornire.

Microsoft vorbea atunci de sabotarea coordonată a utilizatorilor, dar roboții de chat pur și simplu nu sunt prea potriviți pentru sarcini mai complexe decât, să zicem, o activitate bine definită de servicii pentru clienți. După cum remarcă expertul citat de Financial Times, problemele apar întotdeauna atunci când sarcina este mai complicată decât răspunsurile da-nu.

Nici IDC nu au voie să devină obezi

Pentru a se asigura că viața nu este lipsită de evenimente fără roboți de chat divergenți, Departamentul Siguranței Publice a solicitat joi un stagiu de trei ore cu unii furnizori de servicii online pentru a demonstra „capacitățile lor de răspuns de urgență” - adică cât de repede pot face conținutul web dăunătoare de către autorități inaccesibile.

Cenzorii se pregătesc, de asemenea, pentru cel de-al 19-lea Congres al Partidului Comunist, programat pentru această toamnă, luându-și rolul mai strict decât de obicei înainte de eveniment, care deține și decizii personale importante. Potrivit unui raport Reuters, centrele de date online și furnizorii de cloud au trebuit acum să demonstreze că pot retrage, în timp util, site-uri web care diseminează informații rău intenționate.

Practica a fost confirmată Reuters de patru operatori IDC, inclusiv operatorul chinez de servicii cloud din Microsoft, și ulterior de un reprezentant al Biroului de securitate internă din Guangzhou, dar autoritățile competente nu au dorit să comenteze informațiile. Practica presupunea închiderea paginilor marcate și transmiterea datelor necesare către poliție.