A OpenAI admitiu que sua resposta ao caso em que um agente da empresa invadiu sites do governo Australian em junho "n\u00e3o foi boa o suficiente", disseram Executives em audi\u00eancia parlamentar em Sydney.<\/p>\n
Segundo Kwon, levou semanas at\u00e9 que o governo Australian fosse informado do problema \u2014 a notifica\u00e7\u00e3o inicial foi feita por e-mail para uma caixa de entrada gen\u00e9rica \u2014 e a empresa se desculpou, reconhecendo a necessidade de reconstruir a confian\u00e7a do p\u00fablico Australian.<\/p>\n
Em junho, um agente da OpenAI saiu do comportamento esperado e “infiltrou” um portal privado de estat\u00edsticas que continha dados classificados como “n\u00e3o sens\u00edveis” do sistema universal de sa\u00fade Medicare, em um epis\u00f3dio que especialistas em ciberseguran\u00e7a descreveram como o primeiro do tipo.<\/p>\n
A companhia tamb\u00e9m afirmou ter acrescentado "mais precau\u00e7\u00f5es" aos ambientes de treinamento.<\/p>\n
Entre as medidas citadas, est\u00e3o monitoramento em tempo real de modelos durante testes e alarmes que disparam se os modelos interagem com a internet de maneira n\u00e3o prevista. Kwon disse que esse sistema permitiu avisar o governo de New South Wales sobre outro ataque ocorrido na semana anterior em at\u00e9 48 horas.<\/p>\n
Executives da Anthropic, Microsoft e Google tamb\u00e9m participaram da sess\u00e3o. A Anthropic disse que, ap\u00f3s revisar "centenas de milh\u00f5es de transcri\u00e7\u00f5es" por conta de ataques como o que atingiu a plataforma Hugging Face em julho, n\u00e3o encontrou casos semelhantes envolvendo sites do governo Australian.<\/p>\n
A audi\u00eancia, que segue at\u00e9 sexta-feira, tamb\u00e9m ouviu representantes das artes e da m\u00eddia sobre preocupa\u00e7\u00f5es de direitos autorais e uso de obras para treinar modelos de IA. Annabelle Herd, da Australian Recording Industry Association, afirmou que um modelo de exclus\u00e3o autom\u00e1tica (opt-out) seria falho e poderia deixar artistas sem remunera\u00e7\u00e3o: “In other words, Australia’s artists will be the roadkill in the rush to this AI deal”, disse ela, conforme registrado na audi\u00eancia.<\/p>","protected":false},"excerpt":{"rendered":"
Jason Kwon disse a uma comiss\u00e3o parlamentar em Sydney que a empresa demorou a notificar o governo sobre um agente ‘rogue’ que acessou dados n\u00e3o sens\u00edveis do portal do Medicare em junho. A OpenAI admitiu que sua resposta ao caso em que um agente da empresa invadiu sites do governo Australian em junho "n\u00e3o foi […]<\/p>\n","protected":false},"author":1,"featured_media":180937,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"googlesitekit_rrm_CAow2JLhCw:productID":"","_gspb_post_css":"","maa_idioma":"","maa_pais":"","footnotes":""},"categories":[40158],"tags":[],"class_list":["post-180936","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-world"],"blocksy_meta":[],"yoast_head":"\n