06 | 10 | 2021

Forklarbar AI (XAI) - forstå begrundelsen bag resultaterne af ML

Forståelse af forklarelig kunstig intelligens (XAI)

Kunstig intelligens (AI) udvikler en stigende del af vores daglige liv. Billed- og ansigtsgenkendelsessystemerne dukker op i forskellige applikationer til Machine Learning (ML). Drevet forudsigelsesanalyse, samtaleapplikationer, autonome enheder og hyperpersonlige systemer; vi finder ud af, at de er nødt til at stole på disse AI-baserede systemer med alle former for beslutningstagning og forudsigelser er altafgørende.
AI finder vej til forskellige brancher som f.eks uddannelse, byggeri, sundhedspleje, fremstilling, retshåndhævelse og finansiering. Som et resultat bliver den slags beslutninger og forudsigelser, der træffes af AI-aktiverede systemer, meget mere spidsog i mange tilfælde kritisk til liv, død og personlig velvære. For eksempel er disse prognoser usædvanligt nøjagtige for AI -systemer, der bruges i sundhedsvæsenet.

Som mennesker skal vi fuldt ud forstå, hvordan beslutninger træffes, så vi kan stole på beslutningerne i AI -systemer. Den begrænsede forklarbarhed og tillid hæmmer vores evne til fuldt ud at stole på AI -systemer.

Gør AI gennemsigtig med Forklarelig AI (XAI)

Således forventes XAI af de fleste ejere, operatører og brugere at besvare nogle varme spørgsmål som:
Hvorfor lavede AI -systemet en bestemt forudsigelse eller beslutning?
Hvorfor gjorde AI -systemet ikke noget andet?
Hvornår lykkedes AI -systemet, og hvornår mislykkedes det?
Hvornår giver AI -systemer tilstrækkelig sikkerhed i beslutningen til, at du kan stole på det?
Hvordan kan AI -systemerne rette fejl, der opstår?

The Explainable Artificial Intelligence (XAI) er et sæt teknikker og metoder, der tillader mennesker operatører til forstå og tillid resultater og output skabt af Machine Learning -algoritmer. Forklarbar AI bruges til at definere et AI -mønster, dets sandsynlige indvirkning og potentielle bias. Det hjælper skelne mellem modelnøjagtighed, retfærdighed, gennemsigtighed og resultater i AI-drevet beslutning at lave. XAI er afgørende for en organisation i at opbygge tillid og tillid, når de sætter AI -modeller i produktion

 

 

Hvorfor er Forklarbar AI (XAI) vigtig?

Forklarelig AI er bruges til at træffe AI -beslutninger både forståelige og fortolkelige af mennesker. Dette efterlader dem åbne for betydelig risiko; uden at et menneske sløjfede ind i udviklingsprocessen. AI -modeller kan generere forudindtaget resultater, der kan føre til både etiske og lovgivningsmæssige problemer senere.

Hvordan opnår du forklarelig AI?

For at opnå forklarbar AI skal de holde øje med de data, der bruges i modeller, finde en balance mellem nøjagtighed og forklarelighed, fokus på slutbrugeren og udvikle centrale præstationsindikatorer (KPI'er) til vurdering af AI -risiko.

Hvad er et forklareligt AI -eksempel?

Eksempler omfatter maskinoversættelse ved hjælp af tilbagevendende neurale netværk og billedklassificering ved hjælp af et konvolutionsnervalt neuralt netværk. Derudover har forskning udgivet af Google DeepMind vakt interesse for forstærkningslæring.

Hvilken sag ville have fordel af forklarbare AI -principper?

Som konsekvens, sundhedspleje er et glimrende sted at starte, dels fordi det også er et område, hvor AI kan være ganske fordelagtigt. For eksempel kan forklarbare AI-drevne maskiner spare læger meget tid, så de kan koncentrere sig om medicinens fortolkningsopgaver frem for en gentagen pligt.

Forklarbare AI -principper - en kort introduktion

  • Modeller kan i sig selv forklares - enkle, gennemsigtige og lette at forstå.
  • Modeller, der er black-box i naturen og kræver forklaring gennem separate, replikerende modeller, der efterligner den originale models adfærd. Forklar dens begrundelse bag beslutninger eller forudsigelser.

 

Kunstig intelligens (AI) - 10 spørgsmål?

Komplicerede Machine Learning -modeller betragtes ofte som sorte kasser, hvilket betyder, at ingen, selv ophavsmanden til modellen, ved, hvorfor modellen fremsatte en bestemt anbefaling eller forudsigelse. Som et resultat kan det bare ikke forklares. Forklarelig AI eller XAI forsøger at rette op på black box -problemet med Machine Learning -modeller. Det overordnede mål med XAI er at producere en model, der kan forklare dens begrundelse bag at træffe bestemte beslutninger eller forudsigelser og kalde dens styrker og svagheder.
XAI hjælper brugere af modellen med at vide, hvad de kan forvente, og hvordan modellen kan fungere. For eksempel er forståelsen af, hvorfor en model valgte en vej frem for en anden, og de typiske fejl en model vil lave, et massivt fremskridt inden for maskinlæring.
Dette niveau af gennemsigtighed og forklarelighed hjælper med at opbygge tillid til de forudsigelser eller resultater, der frembringes af en model.

 

Hvordan en organisation kan begynde at bruge kunstig intelligens og maskinlæring? | v500-systemer

Kontakt os for mere information og implementer kunstig intelligens og maskinlæring, og hvordan vores værktøjer kan gøre dine data mere præcise. Vi kan besvare alle dine spørgsmål.
Planlæg et møde | Kunstig intelligens | Virtuel kaffe

Se vores casestudier og andre stillinger for at finde ud af mere:

Kunstig intelligens

Kunstig intelligens i sundhedsvæsenet

Nøjagtige data på grund af kunstig intelligens

AI ROI -lommeregner

Kunstig intelligens (AI) - 10 spørgsmål?

RELATEREDE ARTIKLER

04 | 07 | 2022

Automatisering i Cloud Platform

Kunstig intelligens har potentialet til betydeligt at øge effektiviteten af ​​vores industrier, samtidig med at det forbedrer det job, som mennesker kan udføre. Når AI overtager verdslige eller farlige pligter, frigør det den menneskelige arbejder til at være KREATIV
15 | 06 | 2022

Advokatfirmaer sidder på tonsvis af ustrukturerede data, uvidende om guldminen, de ejer!

Gartners forskning forudsiger, at mængden af ​​data i verden vil vokse 800 % over de næste fem år, og op til 80 % af disse data vil være fuldstændig ustruktureret. Nu er der en smartere måde at udføre denne opgave - at læse og forstå.
15 | 05 | 2022

Intelligent automatisering til den finansielle og juridiske sektor

Vi ved, at ved at udnytte kunstig intelligens og maskinlæring i dine organisationer kan du reducere en enorm mængde tid og samtidig spare penge.
11 | 05 | 2022

AI er fantastisk til opgaver, og mennesker er fantastiske til processer

For et par måneder siden er vi begyndt at skrive et nyhedsbrev på Linkedin. Der er en række interessante artikler for at bringe frem, hvad AI- og ML-teknologi kan bringe til dit forretningsmiljø.