Os Termos de Uso do Copilot da Microsoft afirmam que a IA é “apenas para fins de entretenimento” e não para conselhos importantes, apesar de sua promoção para produtividade e sua integração em produtos como o Windows 11. O artigo observa isenções de responsabilidade semelhantes da indústria e argumenta que o preconceito de automação pode levar a problemas do mundo real, enquanto as empresas usam tais advertências para limitar a responsabilidade, mesmo quando comercializam a IA como um aumento de eficiência.
A Microsoft passou o ano passado promovendo o Copilot como uma ferramenta de produtividade convencional, incorporando-o ao Windows 11 e promovendo novos hardwares, como PCs Copilot+, mas sua própria linguagem jurídica exige cautela. Em Termos de uso do copiloto da Microsoftatualizado em outubro do ano passado, a empresa afirma que o Copilot é “apenas para fins de entretenimento”, pode “cometer erros” e “pode não funcionar como pretendido”.
Os termos alertam os usuários para não confiarem no Copilot para obter conselhos importantes e para “usar o Copilot por sua própria conta e risco”, uma advertência que acompanha desconfortavelmente o marketing focado nos negócios do produto.
O Artigo Hardware do Tom argumenta que a Microsoft não é a única a emitir tais avisos. Isenções de responsabilidade semelhantes são comuns em toda a indústria de IA generativa. Aponta para a orientação da xAI de que a IA é de “natureza probabilística” e pode produzir “alucinações”, gerar conteúdo ofensivo ou censurável, ou não refletir pessoas, lugares ou factos reais.
Embora essas limitações sejam bem conhecidas por aqueles familiarizados com grandes modelos de linguagem, o artigo observa que muitos usuários ainda tratam IA resultados como confiáveis, mesmo em ambientes profissionais onde o ceticismo deveria ser padrão.
Para sublinhar os riscos de dependência excessiva, o texto cita relatos de incidentes relacionados com a Amazon, alegadamente ligados a “mudanças assistidas pela Gen-AI”. Diz alguns Interrupções da AWS foram supostamente causados depois que os engenheiros permitiram que um bot de codificação de IA resolvesse um problema sem supervisão suficiente, e que o site da Amazon experimentou problemas de ‘alto raio de explosão’ que exigiram a intervenção de engenheiros seniores. Esses exemplos são usados para ilustrar como os erros gerados pela IA podem se propagar rapidamente em sistemas complexos quando os humanos não conseguem verificar a saída.
Por que isso importa?
Globalmente, o artigo reconhece que a IA generativa pode aumentar a produtividade, mas sublinha que continua a ser uma ferramenta sem responsabilidade por erros, tornando a verificação essencial. Alerta que o preconceito da automação, ou seja, as pessoas que confiam nos resultados das máquinas em detrimento de provas contraditórias, pode ser intensificado por sistemas de IA que produzem respostas que parecem plausíveis e que passam por uma inspeção casual.
Embora tais isenções de responsabilidade ajudem as empresas a limitar a responsabilidade legal, o artigo sugere que o marketing agressivo da IA como um “hack” de produtividade pode minimizar os riscos do mundo real, especialmente à medida que as empresas procuram retornos sobre os milhares de milhões investidos em hardware e talento de IA.
Gostaria de saber mais sobre IA, tecnologia e diplomacia digital? Se for assim, pergunte ao nosso chatbot Diplo!
‘O artigo anterior pode incluir informações divulgadas por terceiros’
‘Alguns detalhes deste artigo foram extraídos da seguinte fonte dig.watch’
‘ O artigo anterior foi obtido e traduzido do site internacional da celebrity.land ’ Source Link
