Fjögur atriði sem ég vildi að allir vissu um gervigreind

Fjögur atriði um ChatGPT og aðrar samræðu-gervigreindarlausnir sem ég vildi að allir vissu.

Allir og amma þeirra farnir að spjalla við gervigreind - sem er frábært! En á meðan það er mikilvægt að sjá möguleikana þá þarf líka að skilja takmarkanirnar.

Hér er það sem ég vildi óska að allir vissu:

1. Spjallmódel eru ekki gagnagrunnar eða Google á sterum. Þó að þau geti búið yfir miklum upplýsingum þá virka þau með því að greina mynstur og búa til svör frekar en að fletta upp nákvæmum heimildum.
2. Spjallmódel geta ekki skapað þekkingu úr engu. Þau geta framkallað ótrúlega og jafnvel nýstárlega hluti, út frá þeim mynstrum sem þau hafa greint, en allt byggist það á því sem er fyrir í þjálfunargögnunum.
3. Öll gervigreindarkerfi hafa ákveðin "þekkingarmörk". Til dæmis nær þekking ChatGPT eins og er aðeins fram til október 2023 og Claude til júlí 2024. Það eru því takmarkaðar upplýsingar um nýrri atburði eða þróun. Sum kerfi geta leitað á netinu og gefið svör út frá því, en þá er niðurstaðan háð þeim heimildum sem finnast.
4. Persónuvernd er ekki sjálfgefin. Samtölin þín geta verið notuð við áframhaldandi þróun gervigreindar. Vertu meðvituð/aður um gagnaöryggi - sérstaklega þegar kemur að viðkvæmum gögnum (t.d. þarf sérstaklega að velja að gögn séu ekki notuð í þjálfun hjá ChatGPT).

Oft er fólk ekki meðvitað um þetta - eins og þegar skrifstofumanneskjan rennir samningum í gegnum chatGPT til að fá samantekt eða nemandi tekur svörum sem heilögum sannleik án þess að tjékka á heimildum (bæði raunveruleg, nýleg dæmi). Það er hægt að tækla þessi atriði með réttri nálgun þegar gervigreindarlausnir eru smíðaðar, en plís hafðu í huga að þetta er tækni en ekki töfrar. 🪄 ✨