IA ak konfyans

Lè yon moun pa konnen yon bagay, anjeneral ou wè sa. Li kanpe yon ti moman. Li mete yon nuans. Li di li kwè se konsa, epi pou ou tcheke. Sa a non. Move repons lan rive ak menm vwa ak bon an: menm longè, menm estrikti byen ranje, menm ton ki vle ede. Li pa pote okenn mak. Okenn koulè avètisman, okenn asirans ki desann, okenn nòt anba paj ki di pati sa a mens. Li sanble fini, paske sanble fini se sa yo bati l pou fè.

Epi sa mete tout chay la sou ou. Pou sèvi avè l san danje, fòk ou deja konnen repons lan, oswa fòk ou konnen egzakteman kote pou ale chèche l. Men se jisteman nan moman sa yo ou pa t ap poze kesyon an. Donk zouti a mwens serye jisteman kote li pi tantan, epi li p ap di ou nan kilès nan de ka yo ou ye. Sa se pa yon move konpreyansyon sou teknoloji a. Se yon deskripsyon egzak li, epi se yon rezon valab pou kenbe l lwen tout sa ki enpòtan.

Epi yon timoun se moun ki pi mal plase nan kay la pou pote chay sa a. Yon paragraf ki gen asirans li tankou otorite, sitou pou yon moun ki gen ane depi y ap montre l ke se nan tèks ekri repons yo rete. “Toujou tcheke sa IA a di ou” fasil pou enprime sou yon lèt lekòl epi trè difisil pou fè a nevè diswa, lè repons lan deja la, deja byen mete, epi deja ase bon pou remèt.

Ann pran vèsyon klè a anvan, paske krent sa a bezwen mwens nuans pase nenpòt lòt paj isit la. Li gen rezon lajman. Sistèm sa yo pwodui tèks lè yo predi kisa k ap vini apre, moso pa moso. Yon fraz ki kadre ak yon fraz ki vre se pa menm tès la, epi se sèlman premye a yo aplike. Kote vrè repons lan te mens oswa pa t la nan sa modèl la te aprann, yon envansyon ki koule byen rete kontinyasyon ki pi pwobab la — donk se yon envansyon ki koule byen ki tounen.

Ka konkrè yo dokimante epi pa gen anyen bèl ladan yo. Gen avoka ki depoze devan tribinal dokiman ki site desizyon ki pa egziste, ak non, tribinal ak ane ki sanble kòrèk, epi yo pran sanksyon pou sa. Lis lekti tounen ak liv pèsonn pa t ekri. Yo bay moun ki pa t janm di yo sitasyon. Yo envante nimewo paj pou liv ki reyèl. Epi kalkil la tounen fo nan mitan yon rezònman kote tout lòt etap yo kòrèk.

Gade sa ki manke nan tout sa: yon mesaj erè. Sistèm lan pa gen yon sans apa sou sa li konnen. Li p ap chèche yon bagay pou anonse li pa jwenn li, paske pa gen okenn depo reyalite pou konsilte, donk pa gen anyen li ka pa jwenn. Se poutèt sa move repons yo sanble egzakteman ak bon yo. Se pa paske avètisman an kache, se paske pa gen okenn avètisman pou montre. Nan metye a yo rele sa alisinasyon, epi non an malere: li fè kwè gen yon pàn. Se pwosesis òdinè a, aplike sou yon kesyon kote li pa tonbe jis.

Èske yo ka retire sa nan konstriksyon an, se yon bagay ki vrèman enkoni, epi ni yon bò ni lòt pa nayif. Chèchè serye kenbe ke mare repons yo nan sous, chèche dokiman, kouch verifikasyon ak pi bon antrenman ap desann sa jouk nan to erè yon zouti òdinè, epi to sa a pa t janm zewo pou okenn zouti pèsonn sèvi. Lòt moun kenbe ke yon sistèm ki tout aktivite l se predi tèks ki sanble kòrèk ap toujou kapab predi yon manti ki sanble kòrèk, epi okenn anvlòp pa chanje sa ki anba a. Okenn prèv poko regle sa. Nenpòt moun ki di l plat nan yon sans oswa nan lòt ap rapòte ou yon preferans.

Èske abitid tcheke yo siviv kontak ak yon madi swa, se dezyèm kesyon an, epi yo pale de li pi piti anpil. Li fasil pou ekri “toujou verifye” epi difisil pou fè l sou katriyèm kesyon an a nevè diswa. Yon zouti ki gen rezon disnèf fwa dezabitye ou tcheke ventyèm nan, epi sa se pa yon defo karaktè: se konsa atansyon mache lakay tout moun. Pèsonn poko montre yon konsepsyon ki kenbe tchèk la vivan san fè zouti a vin ase anmèdan pou moun kite l, epi presyon komèsyal la ale nan lòt sans lan.

Anba toude gen yon kesyon ki pa gen okenn repons teknik. Si yon sistèm prèske toujou gen rezon, epi ou pa ka konnen davans ki fwa ki eksepsyon an, konbyen pwa li rezonab pou mete sou li? Sa se yon jijman sou risk, se pa yon reyalite sou modèl. Li depann de sa yo mande, de kilès ki mande, de sa ki rive si li fo, ak de konbyen tan moun sa a genyen. De moun ki fè atansyon ka mete liy sa a nan kote byen diferan epi toude ap rezone byen.

Se konsa yon paran ki li tout sa a epi ki deside echanj lan pa vo lapenn li l kòrèkteman. Kenbe sa deyò lakay ou, oswa deyò devwa pitit ou, se pa yon mank apresyasyon pou teknoloji a ni yon refi pou swiv. Se yon konklizyon sou yon zouti ki p ap di ou lè li fè erè, tire nan menm reyalite tout lòt moun ap travay avè l. Chwa ki rezonab yo laj isit la, epi sa ki mache pou fanmi ou se ou ki pou chwazi l.