Persónuvernd
Erindrekar
Efnisyfirlit
Erindreki (e. agent) er gervigreindarlausn sem tekur að sér verkefni og til að sinna þeim þarf hann gjarnan aðgang að persónuupplýsingum notandans. Sú hætta er meðal annars fyrir hendi að notandinn hafi ekki yfirsýn yfir þær persónuupplýsingar sem erindrekinn hefur aðgang að.
Venjulegt spjallmenni svarar kvaðningum (e. prompts) og vinnur einungis þær upplýsingar sem notandinn lætur hann fá. Erindrekar fá hins vegar leyfi til aðgangs að kerfum á vegum notandans og öllum þeim upplýsingum sem þar er að finna.
Erindrekar geta verið öflugt verkfæri en mikilvægt er að notandinn sé meðvitaður um þær hættur sem fylgja notkun þeirra.
Rangar ákvarðanir
Erindrekar geta tekið rangar ákvarðanir. Til dæmis geta þeir sent póst sem notandinn vildi ekki að yrði sendur eða eytt gögnum sem ekki stóð vilji af hálfu notandans til að eyða. Þá geta þeir gert óæskilegar breytingar á kerfum notandans.
Fyrirmælasmitun (e. prompt injection)
Erindrekar geta lesið tölvupóst, vefsíður og gögn á vegum notandans. Óprúttinn aðili gæti sett fyrirmæli í gögnin sem reyna að blekkja þá til að haga sér öðruvísi en notandinn ætlaðist til.
Gögnin berskjaldast
Þegar notandinn gefur erindrekanum aðgang að gögnum sínum vinnur erindrekinn með persónuupplýsingar notandans og annarra. Mögulegt er að erindrekinn safni þessum upplýsingum með hættu á að upplýsingarnar verði notaðar á þann hátt sem notandinn ætlaðist ekki til. Sama hætta steðjar að upplýsingum um viðskiptaleyndarmál.
Þá getur verið að upplýsingarnar verði nýttar til að þjálfa gervigreindarlíkanið sem erindrekinn byggir á, en vandkvæðum getur verið bundið fyrir einstaklinga að nýta réttindi sín samkvæmt persónuverndarlögum þegar kemur að gögnum sem hafa verið mötuð í líkön. Loks getur verið um að ræða að persónuupplýsingarnar verði geymdar í ríki utan Evrópska efnahagsvæðisins sem býður ekki upp á viðunandi vernd í samræmi við kröfur evrópsku persónuverndarreglugerðarinnar.