AI må lære om sosiale verdier slik at vi ikke får problemer

Ifølge et par forskere, trenger fagpersoner som jobber med å skape og utvikle AI å "lære" maskinene sine sosiale og menneskelige verdier hvis vi ikke vil ha problemer i fremtiden. I følge forskere - henholdsvis Mona Sloane og Emanuel Moss fra henholdsvis New York University og New York City University - er det allerede bevis for at AI kan forevige diskriminering, intensivere ulikheter og til og med forårsake skade i denne forbindelse. Derfor bør utviklere passe på at deres kreasjoner, i stedet for å skade, tjener samfunnet etter beste evne.

Sosial teknologi

Forskere hevder at vi står overfor fremveksten av et komplekst "teknososialt" system, og for at det skal være mer rettferdig, mer demokratisk og balansert, må ingeniører og programmerere inkludere det bredeste spekteret av sosiale forestillinger i AI-ene for å redusere risikoen for at de er skade samfunnet vårt.

Paret nevnte studier som viste at søkemotorer kan diskriminere svarte kvinner, og som du kanskje vet, er det mange frykt for hvordan autonome biler vil ta beslutninger i møte med krasj-situasjoner - hvor de vil måtte velge mellom å løpe over et menneske eller treffe en bil. på en stolpe, for eksempel. For å unngå slike dilemmaer og oppnå teknologisk utvikling som gagner menneskeheten som helhet, må maskiner læres hvordan man også kan være mer sosialt intelligent.

Forskere vet at det allerede er fagpersoner som er opptatt av å integrere sosiale ideer i maskinene sine, slik at de handler mer i samsvar med menneskelige verdier, selv om det er ekstra vanskelig å definere og kode denne informasjonen på en maskin - for ikke å nevne at ingeniører og programmerere vanligvis ikke er det. trent for å forstå hvordan forskjellige raser og sosiale kategorier i maskinlæring kan påvirke organisasjoner og samfunnet selv.

Dermed antyder paret at kvalitative metoder for sosial forskning bør tas i bruk i etableringen og utviklingen av AIer, siden disse teknikkene vanligvis krever at fagfolk reflekterer over hvordan deres intervensjoner påvirker universet som observasjoner blir gjort i. I tillegg kan kvalitativ forskning hjelpe programmerere og ingeniører til å få en bedre forståelse av den sosiokulturelle og historiske bakgrunnen bak de forskjellige kategoriene som utgjør vårt samfunn og hvordan AI skal passe inn i denne sammenhengen.

AI må lære om sosiale verdier for å unngå problemer via TecMundo