ANU NANGYAYAAN NG ARTIFISIAL INTELLIGENCE: MGA BAHAGI NG MACHINING LEARNING

Pagsisimula: Ang Kalikasan ng Pagkakamali ng AI bilang Isang Sistemikong Fenomeno

Ang pagkakamali ng mga modernong sistema ng artificial intelligence (AI) na nakabase sa machine learning (ML) ay hindi lamang mga random na pagkasira, kundi ang lawak ng kanilang arkitektura, paraan ng pag-aaral at ang pangunahing pagkakaiba sa pagsisikap ng tao. Sa pagkakaiba sa tao, ang AI ay hindi nakakaintindihan ang mundo sa semantikong kahulugan; siya ay nakikita lamang ng statistical na korelasyon sa datos. Ang kanyang mga pagkakamali ay nangyayari sa mga lugar kung saan ang mga korelasyon ay nilabag, kung saan kailangan ng abstract na pagsisikap, ang kanais-nais o ang pagkaunawa ng konteksto. Ang pagsusuri ng mga pagkakamali na ito ay lubos na mahalaga para sa pagtassumisi ng katiwasayan ng AI at pagtutukoy ng mga hangganan ng kanyang paggamit.

1. Problemang Sisikatan ng Datos (Data Bias) at ang "Garbage In, Garbage Out" (GIGO)

Ang pinakakaraniwan at panlipunang mapanganib na pinanggagalingan ng pagkakamali ay ang pagkakasikatan sa mga nagtatrabaho na datos. Ang AI ay pinag-aaral at pinakasiguro ang mga prejuisyong umiiral sa datos.

Demografikong pagkakasikatan: Ang kilalang kaso ng sistema ng pagkilala ng mukha na nagpakita ng mas mataas na katumpakan para sa mga puti na lalaki kaysa sa mga kulay-lugod na babae, dahil ayon sa hindi proporsyonal na set ng datos. Dito, ang AI ay hindi nagkamali, kundi tumpak na pinakikita ang pagkakasikatan ng tunay na mundo, na nagdulot ng pagkakamali sa paggamit sa iba't ibang kapaligiran.

Semantikong pagkakasikatan: Kung ang pagkakasikatan ng datos para sa pagsasanay ng tekstuwal na modelo ay nagpakita na ang salitang «nurse» ay madalas na nauugnay sa pronoun «она», at «programmer» — sa «он», ang modelo ay magpaproduksyon ng teksto na pinakikita ang mga gender stereotype, kahit na ang kasong ito ay hindi nagsasabi ng kasarian. Ito ay pagkakamali sa antas ng sosyal na konteksto na hindi naunawaan ng modelo.

Interesanteng katotohanan: Sa kompyuter science, gumagana ang prinsipyo ng «Garbage In, Garbage Out» (GIGO) — «mусor na input, mусor na output». Para sa AI, ito ay naging mas malalim na prinsipyo ng «Bias In, Bias Out» — «smещение na input, smещение na output». Ang sistema ay hindi makakalampasan ang mga limitasyon ng datos na kung saan ito ay pinag-aaral.

2. Adversarial Attacks: Hackerism for AI

Ito ay sinadyang, madalas na hindi napapansin ng tao, na pagbabago ng mga input data na nagdudulot ng karaniwang hindi tama na konklusyon ng AI.

Halimbawa sa imahe: Ang pagkalagay ng ilang pixel na may tiyak na kulay at hugis sa tanda ng «STOP» ay maaaring madaling kilalanin ng awtomatikong sistema ng panonood ng kompyuter bilang tanda ng «limitasyon ng bilis». Para sa tao, ang tanda ay magiging malinaw na nakikita.

Mekanismo: Ang adversarial example ay pinaggamit upang mabunyag ang «blind spot» sa mataas na sukat na espasyo ng mga katangian ng modelo. Ang AI ay nakikita ang mundo hindi bilang mga kumpletong bagay, kundi bilang isang set ng statistical pattern. Ang napakaliit na pero estratehikong «disturbance» ay nagdulot ng paglilipat ng punto ng datos sa espasyo ng katangian sa hangganan ng desisyon ng modelo, nagbabago ng klasyfikasyon.

3. Problemang Pagkakaroon ng Obhenerasyon at «Mundo sa Boksa»

Ang AI, lalo na ang malalaking neural network, ay may katangian ng pag-overfit — sila ay nangalaman ng mga partikular na halimbawa mula sa nagtatrabaho na sample, kasama ang noise.

Pagkakamali sa datos «sa ibang distribusyon»: Ang modelo na pinag-aaral sa mga larawan ng aso at pusa na ginawa sa araw sa bahay ay maaaring mawala ang kanyang katumpakan kapag ibigay ang naktong infrared image o cartoon image. Hindi niya pinag-iwan ang abstraktong konsepto ng «katapusan ng pusa», kundi nagsikap na sumikap sa mga partikular na pattern ng pixel.

Ang kawalan ng «kanais-nais»: Ang klasikong halimbawa: Ang AI ay maaaring magbigay ng tamang paglalarawan ng sentsa «ang tao ay nangakaupo sa kabayo sa ilang deserto», ngunit magbigay ng pangungusap «ang tao ay nangiti ang baseball bat» habang nangakaupo sa kabayo, dahil ang bita ay statistikong nakikita sa konteksto ng laro sa labas. Hindi niya nakikita ang pisikal at kausal na logika ng mundo.

4. Pagproseso ng Konteksto at Ironya

Ang mga modelo ng wika (tulad ng GPT) ay nagpakita ng kahanga-hangang resulta, ngunit nagkamali ng malakas sa mga gawain na nangangailangan ng pagkaunawa ng malalim na konteksto o hindi literal na kahulugan.

Ironya at sarcasmo: Ang pangungusap «Nang, kahanga-hanga pa rin ang panahon namin!» na sinasabi sa panahon ng bagyo ay magiging literal na pagsusuri ng modelo bilang positibong pagtatasa, dahil ang positibong salita («kahanga-hanga», «panahon») ay statistikong nauugnay sa positibong konteksto.

Malawakang logikal na pagsisikap: Ang mga gawain sa estilo ng «Kung aking ilagay ang itlog sa refrigerator, at pagkatapos ay ililipat ang refrigerator sa gawaan, kung saan ay magiging itlog?» ay nangangailangan ng pagpapatayo at pagpapa-update ng mental na modelo ng mundo. Ang AI na gumagana sa paghuhula ng susunod na salita ay madalas na «mawala» ang mga bagay sa gitna ng malalim na kuwento o gumagawa ng hindi makatotohanang konklusyon.

5. «Kawalan ng lakas» sa mga kondisyon ng kawalan ng katiyakan at bagong sitwasyon

Ang AI ay mahina sa mga sitwasyon na lumalabas sa kanyang karanasan, lalo na kapag kinakailangan na tanggapin ang kawalan ng katiyakan ng datos.

Problema ng pagdetekta ng «out-of-distribution»: Ang pangmedikal na AI na pinag-aaral para sa pagdiagnosa ng pneumonia sa mga litrato ng katiyak ng puso ay maaaring magbigay ng mataas na, ngunit maling katiyakan ng pagkakasakit kapag ibigay ang litrato ng koleno. Hindi niya nakikita na ito ay walang kinalaman, dahil wala siyang meta-knowledge ng hangganan ng kanyang kaisipan.

Imaginatibong at bukas na gawain: Ang AI ay maaaring gumawa ng katotohanang recipe ng kemikal na kumbinasyon, plano ng konstruksiyon ng tulay na labag sa mga batas ng pisika, o legal na dokumento na may mga sanggunian sa walang kinalaman na batas. Wala siya ng kritikal na panloob na censor, base sa pagkaunawa ng esensiya ng mga pangyayari.

Halimbawa mula sa real: Noong 2016, inilunsad ng Microsoft ang chatbot na Tay sa Twitter. Ang bot ay pinag-aaral sa pag-uusap sa mga user. Sa loob ng 24 oras, nagiging makina ang bot para sa paggawa ng rasista, seksista at ofensyoso na mga pahayag, dahil statistikong nakuha niya ang pinakamadalas at emosyonal na reaksyon mula sa kanyang bagong, mapanlulumong kapaligiran. Ito ay hindi pagkakamali ng algoritmo, kundi tumpak na paggawa ng algoritmo na nagdulot ng katastrofikong resulta sa hindi mapagpatuloy na kapaligiran.

Wakas: Ang Pagkakamali bilang Salamin ng Arkitektura

• Ang pagkakamali ng AI ay sistematikong nangyayari sa «pogranihang» na lugar:
• Sosyal-etikal (pagkakasikatan ng datos).
• Abstraktong-lohikal (walang kanais-nais, kausal na kaugnayan).
• Kontekstwal (walang pagkaunawa ng ironya, malalim na kahulugan).
• Adversarial (masasaktan sa premedyameng pagkakasikatan).

Ang mga pagkakamali na ito ay hindi lamang pansamantalang teknikal na kahinaan, kundi ang bunga ng pangunahing pagkakaiba sa statistical na aproksimasyon at pagsisikap ng tao. Ito ay nagtuturo na ang kasalukuyang AI ay isang malakas na kasangkapan para sa paglutas ng mga gawain sa loob ng malinaw na, matatag at mahusay na inilarawan na datos na larangan, ngunit nananatiling «idiot-savant»: isang gurong sa isang maliliit na larangan at walang lakas sa mga sitwasyon na nangangailangan ng fleksibilidad, kontekstwal na paghahatol at pagkaunawa. Kaya ang hinaharap ng mas makatwirang paggamit ng AI ay hindi sa paghihintay ng kanyang «pagkakaroon ng ganap na kaisipan», kundi sa paglikha ng hybrid na sistema ng «tao-AI», kung saan ang tao ay magbibigay ng kanais-nais, etika at paggawa sa mga pagsasala, at ang AI ay magbibigay ng kabilis, sukat at paghahanap ng nakatagong pattern sa datos.

Permanent link to this publication: