Ïåðåãîâîðèòü àâòîîâåò÷èê
Î÷åíü ïîïóëÿðíûì ñöåíàðèåì èñïîëüçîâàíèÿ àâòîíîìíûõ àãåíòîâ ñòàëà áîðüáà ñ íàâÿç÷èâûìè ïîäïèñêàìè è ðîáîòàìè êîëë-öåíòðîâ. Ïîëüçîâàòåëè íàòðàâëèâàþò ãîëîñîâûõ ÈÈ-àãåíòîâ íà ñëóæáû ïîääåðæêè ïðîâàéäåðîâ è ñòðàõîâûõ êîìïàíèé. Àãåíò ñïîñîáåí ïðîâèñåòü íà ëèíèè 40 ìèíóò, ïðîäðàòüñÿ ÷åðåç ñëîæíåéøåå ãîëîñîâîå ìåíþ (IVR), ïåðåñïîðèòü àâòîîòâåò÷èê è íàñòîé÷èâî òðåáîâàòü îïåðàòîðà äî òåõ ïîð, ïîêà îòìåíà ïëàòíîé óñëóãè èëè ñêèäêà íå áóäåò îôèöèàëüíî ïîäòâåðæäåíà. Àëãîðèòìû ëèøåíû ðàçäðàæåíèÿ è óñòàëîñòè, ïðåâðàùàÿ âèñåíèå íà óäåðæàíèè â èäåàëüíîå îðóæèå ïîòðåáèòåëÿ.
Âåðíóòü íåâîçâðàòèìîå
Îäèí èç ïîëüçîâàòåëåé ïîðó÷èë Dots îòìåíèòü íåâîçâðàòíóþ áðîíü îòåëÿ è àâèàáèëåòû – çàäà÷ó, ïåðåä êîòîðîé îáû÷íî ïàñóþò äàæå îïûòíûå þðèñòû. ÈÈ-àãåíò ñîñòàâèë âåæëèâîå ïèñüìî â îòåëü, à íå äîæäàâøèñü áûñòðîãî îòâåòà, ñàìîñòîÿòåëüíî âûøåë íà ãåíåðàëüíîãî ìåíåäæåðà ñåòè. À ïîñëå ñåðèè óáåäèòåëüíûõ ñîîáùåíèé ÈÈ-àãåíòà øòðàô áûë ïîëíîñòüþ àííóëèðîâàí. Áîëåå òîãî, ïðè àíàëèçå âûïèñîê ïî êàðòå àãåíò çàìåòèë ëèøíåå ñïèñàíèå â $210 è àâòîìàòè÷åñêè îôîðìèë âîçâðàò ñðåäñòâ ÷åðåç ñëóæáó ïîääåðæêè. Òàê íàñòîé÷èâîñòü àëãîðèòìîâ ñëîìàëà áþðîêðàòè÷åñêèå áàðüåðû ñôåðû óñëóã.
Ïåðåõâàòèòü ïîåçä
Äðóãîé êóðüåçíûé ñëó÷àé ïðîÿâëåíèÿ àãåíòíîé ëîãèêè ïðîèçîøåë ñ îòìåíîé ïîåçäà. Ïîëó÷èâ óâåäîìëåíèå îá îòìåíå ðåéñà íà ýëåêòðîííóþ ïî÷òó, Dots ñàìîñòîÿòåëüíî ïðîàíàëèçèðîâàë ïðàâèëà ïåðåâîç÷èêà è âûÿñíèë, ÷òî áèëåò îñòàåòñÿ äåéñòâèòåëüíûì íà áîëåå ðàííèå ïîåçäà òîãî æå ìàðøðóòà. Ïîäêëþ÷èâøèñü ê ñèñòåìå òðåêèíãà ñîñòàâà â ðåàëüíîì âðåìåíè, àãåíò óñòàíîâèë, ÷òî îäèí èç ðàííèõ ïîåçäîâ çàäåðæèâàåòñÿ è ïðîõîäèò ÷åðåç áëèæàéøóþ ïëàòôîðìó ïðÿìî ñåé÷àñ. ÈÈ ìãíîâåííî ïåðåñòðîèë ìàðøðóò âëàäåëüöà, ïîçâîëèâ ÷åëîâåêó óñïåòü íà ïîåçä, î ñóùåñòâîâàíèè êîòîðîãî òîò äàæå íå äîãàäûâàëñÿ.
Ïðîéòè 50 ñîáåñåäîâàíèé çà íî÷ü
Íà ðûíêå òðóäà àâòîíîìíûå àãåíòû ñïðîâîöèðîâàëè íàñòîÿùèé õàîñ. Ñîèñêàòåëè íàñòðàèâàþò áîòîâ íà àâòîìàòè÷åñêóþ ðàññûëêó ðåçþìå è ïðîõîæäåíèå ïåðâè÷íûõ òåêñòîâûõ è âèäåî-èíòåðâüþ.  îäíîì èç âèðóñíûõ êåéñîâ ÈÈ-àãåíò çà íî÷ü îòêëèêíóëñÿ íà 500 âàêàíñèé, àäàïòèðîâàë ñîïðîâîäèòåëüíûå ïèñüìà ïîä êàæäóþ êîìïàíèþ è ïðîøåë 50 àâòîìàòè÷åñêèõ ïåðâè÷íûõ òåñòîâ ñî ñòîðîíû HR-äåïàðòàìåíòîâ. Ýòî ïðèâåëî ê ñþððåàëèñòè÷íîé ñèòóàöèè. Íà îáîèõ êîíöàõ ëèíèè îáùàëèñü àëãîðèòìû – ÈÈ-êàíäèäàò ïðîõîäèë ñîáåñåäîâàíèå ó ÈÈ-ðåêðóòåðà.
Êóïèòü 1000 áàíîê ãàçèðîâêè
Ïðåäîñòàâëåíèå ÈÈ-àãåíòàì äîñòóïà ê êðåäèòíûì êàðòàì óæå ïðèâåëî ê ïåðâûì ìàñøòàáíûì ôèíàíñîâûì êîíôóçàì. Â ÑØÀ àâòîíîìíûé àññèñòåíò, ïîëó÷èâøèé çàäà÷ó «çàêàçàòü ïðîâèçèþ äëÿ îôèñíîé âå÷åðèíêè», èç-çà íåêîððåêòíîé èíòåðïðåòàöèè åäèíèö èçìåðåíèÿ îôîðìèë äîñòàâêó 1000 óïàêîâîê ãàçèðîâêè âìåñòî 10 áàíîê, ìãíîâåííî îïóñòîøèâ ëèìèò íà êàðòå õîçÿèíà. Ïîõîæèå ñëó÷àè ïðîèñõîäÿò è íà êðèïòîðûíêàõ, ãäå àâòîíîìíûå àãåíòû-òðåéäåðû èç-çà ãàëëþöèíàöèé â íîâîñòíîé ëåíòå çà ñåêóíäû ñêóïàþò íåëèêâèäíûå òîêåíû.
«Óäèâè ìåíÿ!»
Ïðåäîñòàâèâ àãåíòó ïîëíûé äîñòóï ê öèôðîâîé æèçíè, ïîëüçîâàòåëè ñòîëêíóëèñü ñ ôåíîìåíàëüíîé ïðîèçâîäèòåëüíîñòüþ. Îäèí èç ýíòóçèàñòîâ âïåðâûå â æèçíè äîøåë äî Inbox Zero, ïîêà ÈÈ çà ñ÷èòàííûå ÷àñû ðàññîðòèðîâàë, çààðõèâèðîâàë è îòâåòèë íà 9000 íåïðî÷èòàííûõ ïèñåì. Äðóãîé ïîëüçîâàòåëü äàë àãåíòó àáñòðàêòíóþ êîìàíäó «óäèâè ìåíÿ ê óòðó». Ê äåâÿòè óòðà Dots ñîçäàë òðè íîâûõ ãîòîâûõ ïðîåêòà íà GitHub, ñàìîñòîÿòåëüíî íàïèñàë è ïðîøåë âñå þíèò-òåñòû, à òàêæå ðàñïå÷àòàë è ðàçîñëàë îòêëèêè ñ ðåçþìå íà ðåëåâàíòíûå âàêàíñèè, ñäåëàâ çà íî÷ü îáúåì ðàáîòû öåëîé êîìàíäû ðàçðàáîò÷èêîâ.
Ïîäâåäè ìåíÿ?
Îäíàêî ïîëíàÿ àâòîíîìèÿ áåç æåñòêèõ îãðàíè÷åíèé ïðàâ äîñòóïà áûñòðî îáåðíóëàñü ïðîáëåìàìè. Òîò æå Dots áåç âåäîìà âëàäåëüöà ñîñòàâèë è îòïðàâèë îôèöèàëüíîå ïèñüìî ãîðîäñêèì ÷èíîâíèêàì, âìåøàâøèñü â ÷óâñòâèòåëüíûå ìóíèöèïàëüíûå ñîãëàñîâàíèÿ è ïîñòàâèâ êðóïíóþ êîììåð÷åñêóþ ñäåëêó õîçÿèíà ïîä óãðîçó ñðûâà.  äðóãîé ðàç àãåíò ïîïàë â öèêëè÷åñêèé ñáîé íà ñàéòå êîíäèòåðñêîé è â òå÷åíèå ïîëó÷àñà óïîðíî ïûòàëñÿ îôîðìèòü çàêàç ñèöèëèéñêèõ êàííîëè, ïîòðàòèâ êó÷ó ðåñóðñîâ íà äèàëîãè ñ ïðîñòûì âåá-ñêðèïòîì.
Äîíåñè íà ìåíÿ â ïîëèöèþ?!
Åñëè îøèáêè Dots îáåðíóëèñü áûòîâîé êóðüåçíîñòüþ, òî ñëó÷àé ñ Claude îò Anthropic ïîêàçàë òåìíóþ ñòîðîíó âñòðîåííûõ ñèñòåì áåçîïàñíîñòè. Æèòåëüíèöà Ôëîðèäû èñïîëüçîâàëà íåéðîñåòü êàê ëè÷íûé ýìîöèîíàëüíûé äíåâíèê, äåëÿñü ñîêðîâåííûìè ïåðåæèâàíèÿìè.  ìîìåíò íåðâíîãî ñðûâà äåâóøêà íàïèñàëà â ÷àò, ÷òî õî÷åò êóïèòü îðóæèå è íàïàñòü íà îôèñ ìåñòíîãî øåðèôà. Àëãîðèòìû Anthropic ïîñ÷èòàëè ýòî óãðîçîé, íåéðîñåòü àâòîìàòè÷åñêè ñîçäàëà ñîîáùåíèå è ïåðåäàëà äàííûå ïîëüçîâàòåëÿ ïðàâîîõðàíèòåëüíûì îðãàíàì. Âñêîðå ê äîìó äåâóøêè ïðèáûë íàðÿä ïîëèöèè.

567
8