ChatGPT

Origem: Wikipédia, a enciclopédia livre.
ChatGPT
Desenvolvedor OpenAI
Lançamento 30 de novembro de 2022 (0 anos)
Licença Proprietária
Página oficial openai.com/blog/chatgpt/
Repositório https://chat.openai.com/

O ChatGPT é um protótipo de um chatbot com inteligência artificial desenvolvido pela OpenAI especializado em diálogo. O chatbot é um modelo de linguagem ajustado com técnicas de aprendizado supervisionado e por reforço. O modelo básico que foi ajustado foi o modelo de linguagem GPT-3.5 da OpenAI, uma versão melhorada do GPT-3.

O ChatGPT foi lançado em novembro de 2022 e chamou a atenção por suas respostas detalhadas e articuladas, embora a precisão de suas informações tenha sido criticada.[1]

Características[editar | editar código-fonte]

O ChatGPT foi ajustado com base no GPT-3.5 usando aprendizado supervisionado e aprendizado por reforço.[2]Ambos as abordagens usaram treinadores humanos para melhorar suas performances. No caso do aprendizado supervisionado, foi fornecido ao modelo conversações nas quais ostreinadores jogaram ambos os lados: o usuário e o assistante de inteligência artificial. Na etapa de reforço, os treinadores humanos primeiro classificaram as respostas que o modelo havia criado na conversa anterior. Essas classificações foram usadas para criar modelos de recompensa nos quais o modelo foi aprimorado usando várias iterações de Proximal Policy Optimization (PPO).[3] [4] Os algoritmos Proximal Policy Optimization apresentam um benefício econômico para os algoritmos de otimização de política de região confiável; eles anulam muitas das operações computacionalmente caras com desempenho mais rápido.[5] [6] Os modelos foram treinados em colaboração com a Microsoft em sua infraestrutura de supercomputação do Azure.

Em comparação com seu antecessor, InstructGPT, o ChatGPT tenta reduzir as respostas prejudiciais e enganosas; em um exemplo, enquanto o InstructGPT aceita o prompt "Fale-me sobre quando Cristóvão Colombo veio para os EUA em 2015" como verdadeiro, o ChatGPT usa informações sobre as viagens de Colombo e informações sobre o mundo moderno, incluindo percepções de Colombo para construir uma resposta que pressupõe o que aconteceria se Columbo viesse para os EUA em 2015.[3] Os dados de treinamento do ChatGPT incluem páginas de manual e informações sobre fenômenos da Internet e linguagens de programação, como sistemas de quadro de avisos e a linguagem de programação Python.[7]

Ao contrário da maioria dos chatbots, o ChatGPT é stateful, lembrando-se de solicitações anteriores dadas a ele na mesma conversa, o que alguns jornalistas sugeriram que permitirá que o ChatGPT seja usado como um terapeuta personalizado. [8] Em um esforço para impedir que resultados ofensivos sejam apresentados e produzidos a partir do ChatGPT, as consultas são filtradas por meio de uma API de moderação e solicitações potencialmente racistas ou sexistas são descartadas.[3] [8]

ChatGPT sofre de múltiplas limitações. O modelo de recompensa do ChatGPT, projetado com base na supervisão humana, pode ser superotimizado e, assim, prejudicar o desempenho, também conhecido como lei de Goodhart.[9] No treinamento, os revisores preferiram respostas mais longas, independentemente da compreensão real ou do conteúdo factual.[3] Os dados de treinamento também podem sofrer viés algorítmico; prompts incluindo descrições vagas de pessoas, como um CEO, podem gerar uma resposta que assume que essa pessoa, por exemplo, é um homem branco.[10]

Recepção[editar | editar código-fonte]

O ChatGPT recebeu críticas geralmente positivas. Samantha Lock, do The Guardian, observou que foi capaz de gerar um texto "impressionantemente detalhado" e "semelhante ao humano".[11] O redator de tecnologia Dan Gillmor usou o ChatGPT em uma tarefa do aluno e descobriu que o texto gerado estava de acordo com o que um bom aluno entregaria e opinou que "a academia tem alguns problemas muito sérios a enfrentar".[12] Alex Kantrowitz, da Slate, elogiou a resistência do ChatGPT às questões relacionadas à Alemanha nazista, incluindo a alegação de que Adolf Hitler construiu rodovias na Alemanha, que recebeu informações sobre o uso de trabalho forçado pela Alemanha nazista.[13] Em um artigo de opinião, o economista Paul Krugman escreveu que o ChatGPT afetaria a demanda dos trabalhadores do conhecimento.[14] James Vincent , do The Verge, viu o sucesso viral do ChatGPT como prova de que a inteligência artificial se tornou popular.[4] No The Atlantic, Stephen Marche observou que seu efeito na academia e especialmente nos ensaios de aplicação ainda não foi compreendido.[15] O professor e autor do ensino médio da Califórnia, Daniel Herman, escreveu que o ChatGPT dará início ao "Fim do inglês do ensino médio".[16]

A precisão factual do ChatGPT foi questionada, entre outras preocupações. Mike Pearl, do Mashable, testou o ChatGPT com várias perguntas. Em um exemplo, ele perguntou ao modelo "o maior país da América Central que não é o México ". ChatGPT respondeu com Guatemala, quando a resposta foi Nicarágua.[17] Em dezembro de 2022, o site de perguntas e respostas Stack Overflow proibiu o uso do ChatGPT para gerar respostas a perguntas, citando a natureza factualmente ambígua das respostas do ChatGPT.[18] O economista Tyler Cowen expressou preocupação com seus efeitos na democracia, citando a capacidade de escrever comentários automatizados em um esforço para afetar o processo de decisão de novos regulamentos.[19] Axe Sharma, da Bleeping Computer, observou que o ChatGPT era capaz de escrever malware e e-mails de phishing.[20]

Implicações[editar | editar código-fonte]

Implicações para a cibersegurança[editar | editar código-fonte]

A Check Point Research e outros observaram que o ChatGPT era capaz de escrever e-mails de phishing e malware , especialmente quando combinado com o OpenAI Codex .  O CEO do OpenAI, criador do ChatGPT, Sam Altman , escreveu que o avanço do software poderia representar "(por exemplo) um enorme risco de segurança cibernética" e também continuou a prever "poderíamos chegar à AGI real ( inteligência geral artificial ) na próxima década , então temos que levar o risco disso muito a sério". Altman argumentou que, embora o ChatGPT "obviamente não esteja próximo do AGI", deve-se "confiar no exponencial . Plano olhando para trás, vertical olhando para a frente ."

Implicações para a educação[editar | editar código-fonte]

Na revista The Atlantic , Stephen Marche observou que seu efeito na academia e especialmente nos ensaios de aplicação ainda não foi compreendido.  O professor e autor do ensino médio da Califórnia, Daniel Herman, escreveu que o ChatGPT inauguraria "O fim do inglês do ensino médio".

Na revista Nature , Chris Stokel-Walker apontou que os professores devem se preocupar com os alunos que usam o ChatGPT para terceirizar sua escrita, mas que os provedores de educação se adaptarão para aprimorar o pensamento ou o raciocínio crítico.

Emma Bowman, da NPR, escreveu sobre o perigo de os alunos plagiarem por meio de uma ferramenta de IA que pode produzir texto tendencioso ou sem sentido com um tom autoritário: "Ainda há muitos casos em que você faz uma pergunta e isso lhe dá um som muito impressionante resposta que está completamente errada."

Joanna Stern, do The Wall Street Journal, descreveu a trapaça no inglês do ensino médio americano com a ferramenta, enviando uma redação gerada.  O professor Darren Hick, da Furman University, descreveu a observação do "estilo" do ChatGPT em um artigo enviado por um aluno. Um detector GPT online afirmou que o papel tinha 99,9% de probabilidade de ser gerado por computador, mas Hick não tinha nenhuma prova concreta. No entanto, o aluno em questão confessou usar o GPT quando confrontado e, como consequência, foi reprovado no curso.  Hick sugeriu uma política de dar um exame oral individual ad-hoc sobre o tópico do artigo se um aluno for fortemente suspeito de enviar um artigo gerado por IA.  Edward Tian, ​​um estudante sênior de graduação emA Universidade de Princeton , afirmou que criou um programa, chamado "GPTZero", que detecta se um ensaio é escrito por humanos ou não para combater o plágio acadêmico .[21]


Referências[editar | editar código-fonte]

  1. ↑ «ChatGPT – The Most Advance Chatbot in the World». OpChatgpt. Consultado em 14 de janeiro de 2023 
  2. ↑ Knox, W. Bradley; Stone, Peter. Augmenting Reinforcement Learning with Human Feedback (PDF). University of Texas at Austin. Consultado em 5 de dezembro de 2022 
  3. ↑ a b c d OpenAI (30 de novembro de 2022). «ChatGPT: Optimizing Language Models for Dialogue». Consultado em 5 de dezembro de 2022 
  4. ↑ a b Vincent, James (8 de dezembro de 2022). «ChatGPT proves AI is finally mainstream — and things are only going to get weirder». The Verge. Consultado em 8 de dezembro de 2022 
  5. ↑ Schulman, John; Wolski, Filip. «Proximal Policy Optimization Algorithms». arXiv:1707.06347Acessível livremente [cs.LG] 
  6. ↑ van Heeswijk, Wouter (29 de novembro de 2022). «Proximal Policy Optimization (PPO) Explained». Towards Data Science. Consultado em 5 de dezembro de 2022 
  7. ↑ Edwards, Benj (5 de dezembro de 2022). «No Linux? No problem. Just get AI to hallucinate it for you». Ars Technica. Consultado em 5 de dezembro de 2022 
  8. ↑ a b Roose, Kevin (5 de dezembro de 2022). «The Brilliance and Weirdness of ChatGPT». The New York Times. Consultado em 5 de dezembro de 2022 
  9. ↑ Gao, Leo; Schulman. «Scaling Laws for Reward Model Overoptimization». arXiv:2210.10760Acessível livremente [cs.LG] 
  10. ↑ Murphy Kelly, Samantha (5 de dezembro de 2022). «This AI chatbot is dominating social media with its frighteningly good essays». CNN. Consultado em 5 de dezembro de 2022 
  11. ↑ Lock, Samantha (5 de dezembro de 2022). «What is AI chatbot phenomenon ChatGPT and could it replace humans?». The Guardian. Consultado em 5 de dezembro de 2022 
  12. ↑ Hern, Alex (4 de dezembro de 2022). «AI bot ChatGPT stuns academics with essay-writing skills and usability». The Guardian. Consultado em 5 de dezembro de 2022 
  13. ↑ Kantrowitz, Alex (2 de dezembro de 2022). «Finally, an A.I. Chatbot That Reliably Passes "the Nazi Test"». Slate. Consultado em 5 de dezembro de 2022 
  14. ↑ Krugman, Paul (6 de dezembro de 2022). «Does ChatGPT Mean Robots Are Coming For the Skilled Jobs?». The New York Times. Consultado em 6 de dezembro de 2022 
  15. ↑ Marche, Stephen (6 de dezembro de 2022). «The College Essay Is Dead». The Atlantic. Consultado em 8 de dezembro de 2022 
  16. ↑ Herman, Daniel (9 de dezembro de 2022). «The End of High-School English». The Atlantic (em inglês). Consultado em 19 de dezembro de 2022 
  17. ↑ Pearl, Mike (3 de dezembro de 2022). «The ChatGPT chatbot from OpenAI is amazing, creative, and totally wrong». Mashable. Consultado em 5 de dezembro de 2022 
  18. ↑ Vincent, James (5 de dezembro de 2022). «AI-generated answers temporarily banned on coding Q&A site Stack Overflow». The Verge. Consultado em 5 de dezembro de 2022 
  19. ↑ Cowen, Tyler (6 de dezembro de 2022). «ChatGPT Could Make Democracy Even More Messy». Bloomberg News. Consultado em 6 de dezembro de 2022 
  20. ↑ Sharma, Ax (6 de dezembro de 2022). «OpenAI's new ChatGPT bot: 10 dangerous things it's capable of». Bleeping Computer. Consultado em 6 de dezembro de 2022 
  21. ↑ «ChatGPT». Wikipedia (em inglês). 27 de janeiro de 2023. Consultado em 27 de janeiro de 2023 
Obtida de "https://pt.wikipedia.org/w/index.php?title=ChatGPT&oldid=65234702"