AI trebuie să învețe despre valorile sociale, astfel încât să nu avem probleme

Potrivit unei perechi de cercetători, profesioniștii care lucrează la crearea și dezvoltarea AI trebuie să-și „învețe” mașinile valorile sociale și umane dacă nu dorim să avem probleme în viitor. Potrivit oamenilor de știință - Mona Sloane și Emanuel Moss, de la Universitatea New York și, respectiv, Universitatea din New York - există deja dovezi că AI poate perpetua discriminarea, intensifica inegalitățile și chiar poate produce vătămări în această privință. Prin urmare, dezvoltatorii ar trebui să aibă grijă ca creațiile lor, mai degrabă decât să le facă rău, să servească societatea la maximul capacității lor.

Tehnologie socială

Cercetătorii susțin că ne confruntăm cu apariția unui sistem „tehnosocial” complex și, pentru ca acesta să fie mai echitabil, mai democratic și echilibrat, inginerii și programatorii trebuie să includă cea mai largă gamă de noțiuni sociale în AI-urile lor pentru a reduce riscul ca acestea să fie dăuna societății noastre.

Perechea a menționat studii care au arătat că motoarele de căutare pot discrimina femeile de culoare și, după cum știți, există multe temeri cu privire la modul în care mașinile autonome vor lua decizii în cazul situațiilor de accident - unde vor trebui să aleagă între a alerga peste un om sau a lovi o mașină. pe un stâlp, de exemplu. Pentru a evita astfel de dileme și pentru a obține o dezvoltare tehnologică care să beneficieze umanitatea în ansamblu, mașinile trebuie învățate cum să fie și mai inteligente din punct de vedere social.

Cercetătorii știu că există deja profesioniști preocupați de integrarea ideilor sociale în mașinile lor, astfel încât aceștia să acționeze mai mult în conformitate cu valorile umane, deși este extraordinar de dificil să definiți și să codificați aceste informații pe o mașină - fără a menționa că inginerii și programatorii nu sunt de obicei. instruiți pentru a înțelege modul în care diferite categorii rasiale și sociale din învățarea automată pot afecta organizațiile și societatea în sine.

Astfel, perechea sugerează că metodele calitative de cercetare socială ar trebui adoptate în crearea și dezvoltarea AIs, deoarece aceste tehnici necesită de obicei profesioniștii să reflecte asupra impactului intervențiilor lor asupra universului în care se fac observații. În plus, cercetarea calitativă poate ajuta programatorii și inginerii să înțeleagă mai bine fondul sociocultural și istoric din spatele diferitelor categorii care alcătuiesc societatea noastră și modul în care AI ar trebui să se încadreze în acest context.

AI trebuie să afle despre valorile sociale, astfel încât să nu avem probleme prin TecMundo