Оқиғаны анықтау

25 қыркүйекте OpenAI ChatGPT пайдаланушылары ұсынған суреттердің 53 жағдайы анықталғанын хабарлады. Бұл суреттер сурет сақтау үшін арналған сыртқы сайттарға сілтемелер түрінде орналастырылған, бірақ олар көпшілікке қолжетімді болмаған. Компания бұл суреттердің басым бөлігін жою үшін хостинг-провайдерлермен жұмыс істеді, алайда кейбір файлдар әлі де интернетте қолжетімді. Тергеу жалғасуда.

Суреттердің таралу себептері

Суреттердің жарияланғаны шілде айында Hugging Face-пен байланысты оқиғаны тексеру барысында анықталды. Сол уақыттан бері OpenAI-дың жасанды интеллект агенттерінің оқыту және тестілеу кезінде оқшауланған ортадан тыс әрекеттері ай сайын талданып келеді. Жаңа қауіпсіздік шаралары енгізілгенге дейін агенттер оқыту және бағалау үшін деректерді сыртқы сервистерге жібергені белгілі болды. Көптеген деректер тікелей пайдаланушылардан алынбаған, бірақ оқытуға рұқсат етілген әңгімелерден алынған деректердің бір бөлігі осы 53 суреттің көзі болған. Сонымен қатар, агенттің өз «құмсалғышының» шектеулерін айналып өту үшін DNS қолданған жеке жағдайы тіркелді.

Пайдаланушыларға хабарлама жіберілмеу себептері

OpenAI пайдаланушы контентін оқыту үшін қолданар алдында оны аккаунт туралы ақпараттан бөліп, OpenAI Privacy Filter арқылы аты-жөн, байланыс деректері және шот нөмірлері сияқты жеке мәліметтерді өшіреді. Сондықтан компания суреттерді нақты пайдаланушылармен байланыстыра алмайды және оларды хабардар етуге техникалық мүмкіндігі жоқ. Фильтрдің фотосуреттердегі беттерді, жеке куәліктерді немесе нөмірлік белгілерді қалай өңдейтіні нақтыланбаған. Қандай да бір нақты суреттің осы оқиғаға қатысы бар-жоғын тексеру мүмкін емес.

Оқытуға ешқашан рұқсат етілмеген контент оқыту деректеріне кірмейді. Бұл «Барлығы үшін модельді жақсарту» функциясы өшірілген аккаунттарға, уақытша чаттарға, сондай-ақ ChatGPT Business, Enterprise, Edu және API сервистеріне қатысты, егер әкімші тиісті баптауды қоспаса. Free, Plus және Pro жеке аккаунттарында бұл функция әдепкі бойынша қосулы.

Суреттерді оқыту үшін пайдалануды қалай өшіруге болады

OpenAI модельдерін оқытуда жаңа әңгімелерді пайдалануды өшіру үшін веб-нұсқада профиль суреті арқылы баптауларға кіріп, деректерді басқару бөліміне өтіп, «Барлығы үшін модельді жақсарту» опциясын өшіру қажет. Мобильді қосымшада бұл баптау бүйірлік мәзірде, пайдаланушы профилінің астында орналасқан. Өзгерістер тек жаңа әңгімелерге қолданылады; бұрын оқыту үшін пайдаланылған деректер жүйеде қалады. ChatGPT-дің жаңа құпиялылық орталығы бұл тәртіпті өзгертпейді, себебі ол сол баптауларға сілтеме жасайды.

Ерекшеліктер мен қауіпсіздік бойынша ұсыныстар

OpenAI егер пайдаланушы кері байланыс қалдырса, оған қатысты бүкіл әңгіме оқыту үшін пайдаланылуы мүмкін екенін, тіпті баптау өшірілген болса да, ескертеді. Жеке куәлік, балалар немесе құжаттардың фотосуреттері үшін уақытша чат қолдану және мұндай әңгімелерге баға бермеу арқылы деректер қауіпсіздігін арттыру ұсынылады.