Kunstig intelligens skal følges nøje: Microsofts Brad Smith

Det lyder måske som en joke for mange, men indtil for ikke så længe siden var frygten for kunstig intelligens ved at se det som en trussel mod menneskeheden var en ret udbredt fobi. Faktisk så vi det allerede i denne tale i vores første afsnit af anden sæson af Captcha, hvor vi så, hvordan det er en ubegrundet frygt.

Det ser dog ud til, at ikke alle ser det sådan, og mange tror, ​​at Skynet eller Matrix og maskinrevolutionen er lige om hjørnet. Kunstig intelligens kan være en trussel, og derfor har præsidenten for Microsoft, Brad Smith, på GeekWire Summit 2019 givet sin vision, noget pessimistisk omkring det

Er kunstig intelligens en trussel?

Smith gav årsagen til denne noget negative opfattelse, flystyrtet, der fandt sted i Puget-strædet-området, hvor et fly med passagerer og besætning kom ud for en ulykke pga. et automatisk system, som de ikke kunne deaktivere fra kabinen, når tiden kom.

Softwaren og dens forudsætning var storslået, da den er ansvarlig for at detektere en overskydende hældning af flyet, hvis den er for høj, sænker næsen og reducerer højden tilsvarende. Problemet er, at i dette tilfælde mislykkedes målingerne, og kabinepersonalet kunne ikke deaktivere systemet med den deraf følgende tragiske ende.

"

Denne situation har været undskyldningen for Brad Smith, som begrunder, at teknologisk udvikling er prisværdig, men altid skal kontrolleresOg i tilfælde af kunstig intelligens og de systemer, der inkorporerer det, skal disse have en slags panik- eller nødknap, der gør det muligt at deaktivere dem."

Og for en god ordens skyld er det ikke det eneste tilfælde. På et mere jordisk plan og meget tættere på langt de fleste brugere har vi tilfælde af mennesker, der er blevet kørt over af af selvkørende biler.

Det handler om at garantere forrangen af ​​menneskelige beslutninger på bestemte tidspunkter og under visse omstændigheder, hvor beslutningstagningen i et system er baseret om kunstig intelligens er ikke så fyldestgørende, som den burde være.

Brad Smith holdt ikke op på det tidspunkt i sin kritik af brugen af ​​kunstig intelligens, som vi kender det i dag. Hele samfundet og hele industrien skal blive bevidst om den vej, de går:

"

Vi har set, hvordan der findes droner og krigsmaskiner>Det er kun en del af problemet, der får Smith til at bekræfte, at den mulige risiko for en ukontrolleret udvikling af AI bør undersøges og automatisk læring (machine learning). Faktisk har vi allerede set en lignende udtalelse fra en Google-ingeniør."

Det er et vanskeligt problem. Udviklingen af ​​en AI, der på et givet tidspunkt ikke engang kunne styre kontrolsystemerne selv påtvunget af mennesker. Krydsningen af ​​ideer og teorier er på bordet og vil give en masse at tale om.

Kilde | GeekWire