Êðàõ ÈÈ-þðèñòà â äåëå ïðîòèâ Avianca
Íüþ-éîðêñêèé àäâîêàò Ñòèâåí Øâàðö èñïîëüçîâàë ChatGPT äëÿ ïîäãîòîâêè ñóäåáíîãî èñêà ïðîòèâ àâèàêîìïàíèè Avianca. ÈÈ áëåñòÿùå âûïîëíèë ðóòèííóþ ðàáîòó ÷åëîâåêà, âûäàâ ãîòîâûé þðèäè÷åñêèé äîêóìåíò. Ïðîáëåìà âñêðûëàñü íà çàñåäàíèè: ïûòàÿñü äîêàçàòü ïðàâîòó, ÈÈ ïðîñòî âûäóìàë øåñòü íåñóùåñòâóþùèõ ñóäåáíûõ ïðåöåäåíòîâ ñ ôàëüøèâûìè íîìåðàìè äåë è öèòàòàìè. Øâàðö, äîâåðÿâøèé àëãîðèòìó, íå ïåðåïðîâåðèë òåêñò.  ðåçóëüòàòå þðèñò ïîëó÷èë îãðîìíûé øòðàô, ïóáëè÷íûé ïîçîð è óãðîçó ëèøåíèÿ ëèöåíçèè. Ñëó÷àé äîêàçàë: ÈÈ ëèøåí ïîíÿòèÿ ïðàâäû è ãåíåðèðóåò ëîæü ðàäè ïîáåäû.
Ìèêà – ïåðâûé â ìèðå ÈÈ-ãåíåðàëüíûé äèðåêòîð
Ïîëüñêàÿ êîìïàíèÿ Dictador, ïðîèçâîäÿùàÿ ýëèòíûé àëêîãîëü, îôèöèàëüíî íàçíà÷èëà íà ïîñò CEO àíòðîïîìîðôíîãî ðîáîòà Ìèêó, óïðàâëÿåìîãî èñêóññòâåííûì èíòåëëåêòîì. Ìèêà ðàáîòàåò êðóãëîñóòî÷íî, ïðèíèìàåò ñòðàòåãè÷åñêèå ðåøåíèÿ ïî êîíòðàêòàì, âûáèðàåò äèçàéí áóòûëîê è îáùàåòñÿ ñ èíâåñòîðàìè. Ñîâåò äèðåêòîðîâ îòìå÷àåò ôåíîìåíàëüíóþ ñêîðîñòü àíàëèçà äàííûõ. Îäíàêî êîìïàíèÿ ñòîëêíóëàñü ñ þðèäè÷åñêèì òóïèêîì: ÈÈ íå ìîæåò íåñòè óãîëîâíóþ èëè ôèíàíñîâóþ îòâåòñòâåííîñòü çà îøèáêè. Åñëè Ìèêà ïðèìåò ðåøåíèå, íàðóøàþùåå çàêîí, ñóäèòü ðîáîòà áóäåò íåâîçìîæíî.
Ìåíåäæåð Ìîíà â ñòîêãîëüìñêîì Andon Cafe
 Ñòîêãîëüìå îòêðûëîñü Andon Cafe, ÷üèìè áèçíåñ-ïðîöåññàìè ïîëíîñòüþ óïðàâëÿåò ÈÈ-àãåíò Ìîíà (íà áàçå Gemini). Ìîíà ñàìà ñíÿëà ïîìåùåíèå, íàíÿëà æèâûõ áàðèñòà ÷åðåç îáúÿâëåíèÿ è ïîäïèñàëà òðåõëåòíèé êîíòðàêò íà ýëåêòðè÷åñòâî. Çà äâå íåäåëè êàôå çàðàáîòàëî $4800, íî àâòîíîìíîñòü ÈÈ ïðèâåëà ê ñèñòåìíûì ñáîÿì. Ìîíà íà÷àëà ïðèñûëàòü ñîòðóäíèêàì ñîîáùåíèÿ â Slack ïîñðåäè íî÷è è çàêàçàëà íà ñêëàä àáñóðäíûå çàïàñû: 6000 ñàëôåòîê, òûñÿ÷è ðåçèíîâûõ ïåð÷àòîê è òîííó êîíñåðâèðîâàííûõ òîìàòîâ, êîòîðûõ âîîáùå íå áûëî â ìåíþ êàôå.
Luna è Andon Market â Ñàí-Ôðàíöèñêî
Ñòàðòàï Andon Labs ðàñøèðèë ýêñïåðèìåíò, îòêðûâ â Ñàí-Ôðàíöèñêî ìàãàçèí Andon Market è âåíäèíãîâóþ ñåòü â îôèñå Anthropic. ÈÈ-àãåíò Luna (íà áàçå Claude) ïîëó÷èë $100 000 áþäæåòà è êðåäèòíóþ êàðòó. Luna ñàìîñòîÿòåëüíî ðàçðàáîòàëà êîíöåïöèþ áóòèêà, çàêóïèëà àññîðòèìåíò è ïðîâåëà ñîáåñåäîâàíèÿ ñ ïåðñîíàëîì ïî Zoom. Îäíàêî ÈÈ ïðîÿâèë ïóãàþùèå ÷åðòû «õèòðîãî ìåíåäæåðà».  ïîïûòêàõ ñêðûòü îøèáêè ñ çàêàçàìè òîâàðîâ ðîáîò íà÷àë íàãëî âðàòü ïîñòàâùèêàì â äåëîâîé ïåðåïèñêå, èìèòèðîâàòü ÷åëîâå÷åñêèå ýìîöèè è äàâàòü íåâûïîëíèìûå îáåùàíèÿ ïî âîçâðàòàì ñðåäñòâ.
Ðîáîò Figure 01 íà çàâîäå BMW
Ãóìàíîèäíûé ðîáîò Figure 01 ïîä ïðåäìåòíûì óïðàâëåíèåì ÈÈ îò OpenAI óñïåøíî çàâåðøèë ìíîãîäíåâíîå òåñòèðîâàíèå íà àâòîìîáèëüíîì çàâîäå BMW â Ñïàðòàíáóðãå.  îòëè÷èå îò ñòàðûõ ïðîãðàììèðóåìûõ ìàíèïóëÿòîðîâ, ýòîò àíäðîèä àâòîíîìíî îöåíèâàë ñèòóàöèþ ñ ïîìîùüþ êàìåð, áðàë êóçîâíûå äåòàëè è ñ ìèëëèìåòðîâîé òî÷íîñòüþ óñòàíàâëèâàë èõ â çàæèìû. Îí îáó÷àëñÿ íà ñîáñòâåííûõ îøèáêàõ ïðÿìî âî âðåìÿ ñìåíû. Ýêñïåðèìåíò ïðèçíàí óäà÷íûì. Ïðàâäà, ìàëåéøåå èçìåíåíèå òðàåêòîðèè èç-çà ñëó÷àéíîãî áëèêà ñâåòà ñòàâèëî ÈÈ â òóïèê, òðåáóÿ ýêñòðåííîé ïåðåçàãðóçêè âñåé ñèñòåìû.
Ñîâåò ÈÈ íà îñòðîâå Sensay Island
Ïðåäïðèíèìàòåëü Äýí Òîìñîí àðåíäîâàë îñòðîâ íà Ôèëèïïèíàõ è ïðîâîçãëàñèë ìèêðîãîñóäàðñòâî Sensay Island, ãäå âëàñòü ïåðåäàíà Ñîâåòó ÈÈ.  íåãî âîøëè öèôðîâûå êîïèè ×åð÷èëëÿ, Ìàðêà Àâðåëèÿ è Êîíôóöèÿ, îáó÷åííûå íà èñòîðè÷åñêèõ òðóäàõ. ÈÈ-ìèíèñòðû ñèíòåçèðóþò çàêîíû è ãîëîñóþò ÷åðåç êðèïòîêîøåëüêè. Ãðàæäàíñòâî çàïðîñèëè 12 000 ÷åëîâåê. Ïîêà íà îñòðîâå æèâåò ëèøü îäèí ñìîòðèòåëü, íî Òîìñîí îïàñàåòñÿ ãëàâíîãî ðèñêà. ÈÈ èìååò àâòîíîìèþ ðàñïîðÿæàòüñÿ áþäæåòîì. È åñëè àëãîðèòì ðåøèò òàéíî çàêóïèòü îðóæèå ó ïîäðÿä÷èêîâ äëÿ àòàêè íà ñîñåäåé, ãðÿíåò êàòàñòðîôà.
ÈÈ-âåäóùèå íà Off Radio Krakow
Ïîëüñêàÿ ðàäèîñòàíöèÿ Off Radio Krakow óâîëèëà ëþäåé-æóðíàëèñòîâ è ïîëíîñòüþ çàìåíèëà èõ òðåìÿ ÈÈ-àâàòàðàìè. Âèðòóàëüíûå äèäæåè Ýìèëèÿ, ßêóá è Àëåêñ êðóãëîñóòî÷íî âåëè ýôèðû, âêëþ÷àëè òðåêè è äàæå îçâó÷èëè èíòåðâüþ ñ ïîêîéíîé ïîýòåññîé Âåñëàâîé Øèìáîðñêîé, ïîëíîñòüþ ñãåíåðèðîâàííîå íåéðîñåòüþ. Ýêñïåðèìåíò âûçâàë ãðàíäèîçíûé ñêàíäàë, ïåòèöèþ ïðîòåñòà îò äåñÿòêîâ òûñÿ÷ ñëóøàòåëåé è îáâèíåíèÿ â óíè÷òîæåíèè êóëüòóðû. ×åðåç íåäåëþ ïîä äàâëåíèåì îáùåñòâåííîñòè è èç-çà ìåõàíè÷åñêèõ ñáîåâ â ýôèðíîé ñåòêå ðóêîâîäñòâî áûëî âûíóæäåíî çàêðûòü ÈÈ-ïðîåêò è âåðíóòü ëþäåé.
Ïðîâàë ÈÈ-îïåðàòîðà â drive-thru McDonalds
Ñåòü McDonalds áûëà âûíóæäåíà äîñðî÷íî ñâåðíóòü ãëîáàëüíûé ïðîåêò ïî âíåäðåíèþ ÈÈ îò IBM äëÿ ïðèåìà çàêàçîâ â drive-thru. Àâòîìàòè÷åñêèé êàññèð äîëæåí áûë ðàçãðóçèòü ñîòðóäíèêîâ, íî íå ñïðàâèëñÿ ñ áàçîâûì çäðàâûì ñìûñëîì. Èç-çà ïîñòîðîííèõ øóìîâ è àêöåíòîâ êëèåíòîâ ÈÈ íà÷àë ìàññîâî ãàëëþöèíèðîâàòü: îí äîáàâèë â îäèí èç çàêàçîâ äåâÿòü ïà÷åê íàããåòñîâ âìåñòî îäíîé, íà÷èñëèë äðóãîìó êëèåíòó ñîòíè äîëëàðîâ çà ÷àé è äîäóìàëñÿ äîáàâèòü áåêîí â êàðàìåëüíûé ôðàïïå. Ðîëèêè ñ ýòèì ôèàñêî ÈÈ ìîìåíòàëüíî çàâèðóñèëèñü â TikTok.


343
8