O pasado 30 de novembro, cando o mundo entraba no espírito de fin de ano e tiña os ollos centrados na Copa do Mundo en Qatar, debutou un programa que pronto se considerou un paso adiante no avance da intelixencia artificial: ChatGPT.

BBC

Este novo sistema pode xerar contidos escritos de forma altamente coherente e moi parecidos aos creados polos humanos.

A pesar dos erros e carencias que aínda existen, a capacidade xa demostrada polo programa, e ​​o seu potencial para mellorar a longo prazo, esperta non só admiración, senón tamén temores.

Basta con mirar a cantidade de reseñas que asocian ChatGPT coa palabra "ameaza". Moitos senten que o programa parece demasiado convincente ao imitar a fala dun ser humano e prevén a aparición de problemas.

Son interrogantes sobre a posibilidade dunha forte ruptura en áreas como a creatividade, a aprendizaxe e a educación, o traballo, a seguridade dixital e a democracia mesma, como se afirma nun artigo recente de The New York Times.

Segundo os autores, o que antes era unha persoa expresando a súa opinión agora pode ser só un robot que xera un argumento artificialmente.

Que é o programa?

ChatGPT é, basicamente, un robot virtual (chatbot) que responde unha variedade de preguntas, realiza tarefas por escrito, conversa con fluidez e mesmo dá consellos sobre problemas persoais (aínda que se advirte que non ten este obxectivo).

As súas posibilidades de xerar contido son inmensas.

Pode, por exemplo, ensinarche a preparar un stroganoff —e cun xiro diferente na receita, si especifícalo—, darche consellos para conseguir un traballo, escribir poesía, traballos académicos e tamén redactar unha carta de reconciliación para un amigo do que che distanciaches.

ChatGPT responde en cuestión de segundos a unha petición aleatoria sobre como "escribir un poema sobre intelixencia artificial ao estilo de Carlos Drummond de Andrade"; a calidade do resultado, dependendo de quen o critique, pode ser discutible.

Segundo as probas de SEO.ai, ChatGPT está dispoñible en case 100 idiomas, pero o rendemento do modelo varía segundo o idioma (funciona mellor en inglés).

O sistema foi desenvolvido por OpenAI , empresa fundada en 2015 en EE.UU. por Sam Altman (hoxe a súa principal figura) e polo omnipresente Elon Musk (quen a abandonou en 2018 por considerar que había un conflito de intereses coa súa principal empresa, Tesla).

Elon Musk foi un dos fundadores da plataforma, pero logo deixou a súa participación porque o consideraba un conflito de intereses coa súa compañía Tesla.

Cinco días despois do seu lanzamento, ChatGPT chegou a máis de 1 millón de usuarios (quen, ironicamente, teñen que ser humanos; tes que demostrar que non es un robot ao iniciar sesión). Estas interaccións están a utilizarse para adestrar e desenvolver o modelo.

OpenAI di que o uso será gratuíto e aberto a todos durante esta etapa de "proba e investigación", o que leva aos expertos a especular sobre os futuros tipos de monetización da ferramenta.

A compañía tamén advirte que, nese período, o software "pode xerar ocasionalmente información incorrecta ou enganosa" e que o seu historial de datos limítase a 2021.

A pesar de ser sinalado como unha posible ameaza á hexemonía de Google como facilitador de información en internet, o sistema aínda comete erros graves, como dicir que Brasil gañou polo menos cinco premios Óscar (de feito, o país nunca gañou unha figura).

Sam Altman é o director executivo de OpenAI.

Por que ChatGPT considérase un gran avance para a IA?

Os potentes programas de intelixencia artificial baseados ​​en texto funcionan almacenando cantidades xigantescas de datos (con énfases en palabras e conversacións neste caso) e con algoritmos para predicir a mellor formulación dunha oración.

Estes denomínanse modelos de linguaxe grande (LLM, polas súas siglas en inglés).

O profesor da Unifesp Álvaro Machado Dias, neurocientífico, explica que durante a capacitación do software, ao chatbot fánselle preguntas como "que é un cilindro?" e os técnicos elaboran as súas propias respostas.

"Si a resposta do chatbot non é válida, as correctas insérense no sistema para ensinarlle. Isto pásase a outras situacións automaticamente".

A pesar de xa utilizar unha modalidade que logra entender o contexto do uso das palabras, permitindo concatenar mellor os textos, os programas anteriores non respondían tan ben ao usuario ou aínda soaban moi artificiais.

ChatGPT aprendeu a falar dunha maneira máis próxima a un humano.

Machado Dias di que o que diferencia a este programa é o uso dunha técnica que entende como funciona a linguaxe: o reforzo da aprendizaxe a través da retroalimentación humana (RLHF).

Os enxeñeiros aplican métodos de "recompensa" e "castigo" para ensinar ao sistema as formas de interacción máis desexables. É un proceso de axuste fino.

"Na práctica, os enxeñeiros ordenan as respostas dadas polo algoritmo segundo a súa relevancia e animan ao programa a aprender as preferencias enumeradas no ordenamento para aumentar a relevancia das producións textuais. O resultado dáse en forma de textos que parecen máis profundos e máis significativos que os das alternativas", di o profesor da Unifesp.

ChatGPT tamén foi capacitado para admitir erros, desafiar suposicións incorrectas e rexeitar solicitudes inapropiadas.

Pero un profesor da Universidade de California logrou que o sistema escribise un código de programación para dicir que só os homes brancos ou asiáticos son bos científicos.

OpenAI afirma que, aínda que se esforzou neste sentido, o programa "ás veces responderá a instrucións problemáticas ou exhibirá un comportamento nesgado".

Segundo a empresa, os datos recompilados nesta etapa de proba servirán para mellorar o sistema.

É unha ameaza para a aprendizaxe e a creatividade?

A ameaza de cambios ou alteracións xa se cerne sobre o traballo e o emprego. Os campos que dependen do texto, como o xornalismo, poderían modificarse moito e as vacantes poderían desaparecer para sempre.

A competencia de ChatGPT na xeración de códigos tamén está a expor preguntas nun sector relativamente novo: a programación.

Pero una das áreas que se foi dando conta dos posibles problemas de ChatGPT é precisamente una das máis afectadas pola chegada das novas tecnoloxías: a educación.

Hai expertos preocupados por como a nova tecnoloxía pode incidir na maneira en que o noso cerebro aprende.

A tentación entre os estudantes de usar o programa para atopar respostas listas para as súas tarefas levou a Nova York a tomar unha decisión rápida: só un mes despois do seu debut, o sistema foi prohibido nas escolas e dispositivos públicos da cidade estadounidense.

OpenAI estivo traballando nunha especie de marca para identificar que o contido se orixinou en ChatGPT . Xa existen algoritmos que calculan con bastante precisión a probabilidade de que un chatbot realice un texto.

Ademais de "copiar e pegar", existe o medo aos impactos estruturais na aprendizaxe humana. Por exemplo, verase afectado o exercicio cognitivo de escribir un ensaio con principio, medio e final, concatenando ideas de maneira coherente?

"Preocúpame moito a algoritmización do pensamento, que é a alteración da nosa comprensión e relación co mundo debido á interacción coa IA", di Machado Dias, da Unifesp.

"Creo que este será o cambio de mentalidade máis grande en toda a historia moderna. Vale a pena sinalar que o cerebro humano foise reducindo de tamaño lentamente, como resultado do desenvolvemento tecnolóxico, durante máis de mil anos, desde o punto de vista técnico-cultural, pero tamén máis limitado desde un punto de vista neurocognitivo".

Martha Gabriel, autora do libro "Intelixencia Artificial: do cero ao metaverso" e docente da Pontificia Universidade Católica de Rio Grande do Sul, afirma que será necesario adaptarse aos novos tempos.

"O que marca a diferenza neste contexto xa non son as respostas, senón as preguntas. Hai que saber preguntar. Para saber preguntar hai que saber pensar críticamente", di.

Para Yuri Lima, investigador do Laboratorio do Futuro da Universidade Federal de Río de Janeiro, "o propio ensino necesita adaptarse para estimular unha aprendizaxe que recoñeza aos estudantes como cyborgs cada vez máis integrados coas novas tecnoloxías".

A capacidade de ChatGPT para xerar textos con precisión podería pór en risco carreiras como o xornalismo e con outras funcións creativas.

"Isto esixe que os docentes tamén saiban utilizar estas mesmas tecnoloxías e integralas nas súas actividades. Desde o momento en que os proxectos, actividades e tarefas vólvense máis complexos e integrados ao universo actual no que viven os estudantes, a motivación deixa de verse afectada por esta cuestión tecnolóxica".

Outro tema vira en torno ao futuro da creatividade humana e a produción de contidos que non estean baseados ​​en intelixencia artificial.

Dez días despois da chegada do sistema OpenAI, un deseñador de San Francisco (EE.UU.) logrou crear en tan só un fin de semana un libro infantil con texto e ilustracións realizado con ChatGPT  e MidJourney, un programa que produce imaxes proporcionando descricións.

"Un punto importante aínda por tratar é o tema do plaxio. Dado que o adestramento de modelos como ChatGPT baséase en textos dispoñibles en internet como noticias, libros e blogs, as súas respostas poden traer ideas publicadas por certas persoas sen que reciban crédito por iso", di Lima.

"En áreas creativas, este recoñecemento aos autores considérase importante. Ademais, o descoñecemento das fontes dificulta recoñecer rumbos ou mesmo mentiras, como nas noticias falsas".

Machado Dias sinala que "a creatividade xorde de combinacións que son á vez inusuais e relevantes. Como os algoritmos son dispositivos para xerar combinacións, espérase que o impulso creativo redúzase".

"Doutra banda, a medida que os algoritmos realizan as súas tarefas, tenden a xerar patróns que nin sequera imaxinamos posibles, expandindo a nosa comprensión combinatoria, é dicir, a nosa creatividade".

Martha Gabriel vai nunha liña similar: "A tecnoloxía pode ser unha ferramenta incrible para ampliar o noso pensamento, xa que podemos probar en pouco tempo innumerables hipótese, formatos, solucións para refinar as nosas hipóteses e mellorar as nosas preguntas".

"Con todo, isto tamén pode ser unha ameaza moi grande para quen usan estes sistemas a cegas, sen críticas nin cuestionamientos á moral e a ética. Isto non é só un risco individual, senón para toda a humanidade".