A Microsoft anunciou recentemente a implementa\u00e7\u00e3o gradual do Copilot Actions no Windows 11. \u00c9 um recurso experimental dispon\u00edvel para Windows Insiders que automatiza tarefas atribuindo um chatbot de intelig\u00eancia artificial (IA) a a\u00e7\u00f5es cotidianas, como organizar arquivos ou enviar e-mails. A empresa, no entanto, citou novos riscos de seguran\u00e7a e recomendou que esta funcionalidade fosse utilizada apenas se os utilizadores compreendessem as suas implica\u00e7\u00f5es de seguran\u00e7a. Os especialistas j\u00e1 alertaram sobre as a\u00e7\u00f5es do Copilot, chamando os limites de seguran\u00e7a da Microsoft de \u201cn\u00e3o realmente um limite\u201d.<\/p>\n
Aviso da Microsoft sobre a\u00e7\u00f5es do copiloto<\/p>\n
Apesar de todas as capacidades da IA \u200b\u200bde ag\u00eancia, ainda existem limita\u00e7\u00f5es funcionais em termos de seu comportamento e tend\u00eancia a alucinar e fornecer resultados inesperados, explicou a Microsoft em um comunicado. postagem no blog<\/a>. Estes est\u00e3o associados aos defeitos inerentes aos grandes modelos de linguagem (LLMs). Consequentemente, pode haver casos em que a IA distorce os factos e fornece respostas factualmente imprecisas e at\u00e9 bizarras.<\/p>\n Al\u00e9m disso, existem novos riscos de seguran\u00e7a associados \u00e0s aplica\u00e7\u00f5es de IA de agentes. Por exemplo, a inje\u00e7\u00e3o de prompt cruzado (XPIA) pode resultar na incorpora\u00e7\u00e3o de conte\u00fado malicioso em documentos e elementos da interface do usu\u00e1rio. Isso acarreta o risco de as instru\u00e7\u00f5es do agente serem substitu\u00eddas, levando \u00e0 exfiltra\u00e7\u00e3o de dados, instala\u00e7\u00e3o de malware ou outras a\u00e7\u00f5es n\u00e3o intencionais.<\/p>\n A Microsoft disse que construiu prote\u00e7\u00f5es apropriadas para mitigar tais casos. Para come\u00e7ar, todas as a\u00e7\u00f5es automatizadas realizadas pelas a\u00e7\u00f5es do Copilot s\u00e3o observ\u00e1veis \u200b\u200be distingu\u00edveis daquelas realizadas manualmente por um usu\u00e1rio. Al\u00e9m disso, os agentes de IA que coletam e utilizam dados protegidos dos usu\u00e1rios devem atender ou exceder os padr\u00f5es de seguran\u00e7a e privacidade dos dados consumidos.<\/p>\n Por \u00faltimo, todos os pedidos de utiliza\u00e7\u00e3o de dados do utilizador, bem como as a\u00e7\u00f5es a tomar, ser\u00e3o aprovados pelo utilizador. A empresa esclareceu ainda que os administradores de TI podem desativar um espa\u00e7o de trabalho de agente tanto no n\u00edvel da conta quanto no n\u00edvel do dispositivo para contas de espa\u00e7o de trabalho, usando aplicativos de gerenciamento de dispositivos m\u00f3veis (MDM).<\/p>\n Apesar dos esfor\u00e7os da empresa, o novo recurso Copilot Actions foi examinado por especialistas em seguran\u00e7a.<\/p>\n O que dizem os especialistas<\/p>\n