O pasado 30 de novembro, cando o mundo entraba no espírito de fin de ano e tiña os ollos centrados na Copa do Mundo en Qatar, debutou un programa que pronto se considerou un paso adiante no avance da intelixencia artificial: ChatGPT.
BBC
Este novo sistema pode xerar contidos escritos de forma altamente coherente
e moi parecidos aos creados polos humanos.
A pesar dos erros e carencias que aínda existen, a capacidade xa demostrada
polo programa, e o seu potencial para mellorar a longo prazo, esperta non só
admiración, senón tamén temores.
Basta con mirar a cantidade de reseñas que asocian ChatGPT coa
palabra "ameaza". Moitos senten que o programa parece demasiado
convincente ao imitar a fala dun ser humano e prevén a aparición de problemas.
Son interrogantes sobre a posibilidade dunha forte ruptura en áreas como a
creatividade, a aprendizaxe e a educación, o traballo, a seguridade dixital e a
democracia mesma, como se afirma nun artigo recente de The New York
Times.
Segundo os autores, o que antes era unha persoa expresando a súa opinión
agora pode ser só un robot que xera un argumento artificialmente.
Que é o programa?
ChatGPT é, basicamente, un robot virtual (chatbot) que responde unha
variedade de preguntas, realiza tarefas por escrito, conversa con fluidez e mesmo
dá consellos sobre problemas persoais (aínda que se advirte que non ten este
obxectivo).
As súas posibilidades de xerar contido son inmensas.
Pode, por exemplo, ensinarche a preparar un stroganoff —e cun xiro
diferente na receita, si especifícalo—, darche consellos para conseguir un
traballo, escribir poesía, traballos académicos e tamén redactar unha carta de
reconciliación para un amigo do que che distanciaches.
ChatGPT responde en cuestión de segundos a unha petición aleatoria sobre
como "escribir un poema sobre intelixencia artificial ao estilo de Carlos
Drummond de Andrade"; a calidade do resultado, dependendo de quen o
critique, pode ser discutible.
Segundo as probas de SEO.ai, ChatGPT está dispoñible en case 100
idiomas, pero o rendemento do modelo varía segundo o idioma (funciona
mellor en inglés).
O sistema foi desenvolvido por OpenAI , empresa fundada en 2015 en EE.UU.
por Sam Altman (hoxe a súa principal figura) e polo omnipresente Elon Musk
(quen a abandonou en 2018 por considerar que había un conflito de intereses coa
súa principal empresa, Tesla).
Elon Musk foi un dos fundadores da plataforma, pero logo deixou a súa
participación porque o consideraba un conflito de intereses coa súa compañía
Tesla.
Cinco días despois do seu lanzamento, ChatGPT chegou a máis de 1 millón de
usuarios (quen, ironicamente, teñen que ser humanos; tes que demostrar que non
es un robot ao iniciar sesión). Estas interaccións están a utilizarse para
adestrar e desenvolver o modelo.
OpenAI di que o uso será gratuíto e aberto a todos durante esta etapa de
"proba e investigación", o que leva aos expertos a especular sobre os
futuros tipos de monetización da ferramenta.
A compañía tamén advirte que, nese período, o software "pode xerar
ocasionalmente información incorrecta ou enganosa" e que o seu historial
de datos limítase a 2021.
A pesar de ser sinalado como unha posible ameaza á hexemonía de Google como
facilitador de información en internet, o sistema aínda comete erros graves,
como dicir que Brasil gañou polo menos cinco premios Óscar (de feito, o país
nunca gañou unha figura).
Sam Altman é o director executivo de OpenAI.
Por que ChatGPT considérase un gran avance para a IA?
Os potentes programas de intelixencia artificial baseados en texto
funcionan almacenando cantidades xigantescas de datos (con énfases en palabras
e conversacións neste caso) e con algoritmos para predicir a mellor formulación
dunha oración.
Estes denomínanse modelos de linguaxe grande (LLM, polas
súas siglas en inglés).
O profesor da Unifesp Álvaro Machado Dias, neurocientífico, explica que
durante a capacitación do software, ao chatbot fánselle preguntas como
"que é un cilindro?" e os técnicos elaboran as súas propias
respostas.
"Si a resposta do chatbot non é válida, as correctas insérense no sistema
para ensinarlle. Isto pásase a outras situacións automaticamente".
A pesar de xa utilizar unha modalidade que logra entender o contexto do uso
das palabras, permitindo concatenar mellor os textos, os programas anteriores
non respondían tan ben ao usuario ou aínda soaban moi artificiais.
ChatGPT aprendeu a falar dunha maneira máis próxima a un humano.
Machado Dias di que o que diferencia a este programa é o uso dunha técnica
que entende como funciona a linguaxe: o reforzo da aprendizaxe a través da
retroalimentación humana (RLHF).
Os enxeñeiros aplican métodos de "recompensa" e
"castigo" para ensinar ao sistema as formas de interacción máis
desexables. É un proceso de axuste fino.
"Na práctica, os enxeñeiros ordenan as respostas dadas polo algoritmo
segundo a súa relevancia e animan ao programa a aprender as preferencias
enumeradas no ordenamento para aumentar a relevancia das producións textuais. O
resultado dáse en forma de textos que parecen máis profundos e máis
significativos que os das alternativas", di o profesor da Unifesp.
ChatGPT tamén foi capacitado para admitir erros, desafiar suposicións
incorrectas e rexeitar solicitudes inapropiadas.
Pero un profesor da Universidade de California logrou que o sistema
escribise un código de programación para dicir que só os homes brancos ou
asiáticos son bos científicos.
OpenAI afirma que, aínda que se esforzou neste sentido, o programa "ás
veces responderá a instrucións problemáticas ou exhibirá un comportamento
nesgado".
Segundo a empresa, os datos recompilados nesta etapa de proba servirán para
mellorar o sistema.
É unha ameaza para a aprendizaxe e a creatividade?
A ameaza de cambios ou alteracións xa se cerne sobre o traballo e o emprego.
Os campos que dependen do texto, como o xornalismo, poderían modificarse moito
e as vacantes poderían desaparecer para sempre.
A competencia de ChatGPT na xeración de códigos tamén está a expor
preguntas nun sector relativamente novo: a programación.
Pero una das áreas que se foi dando conta dos posibles problemas de ChatGPT
é precisamente una das máis afectadas pola chegada das novas tecnoloxías: a
educación.
Hai expertos preocupados por como a nova tecnoloxía pode incidir na maneira
en que o noso cerebro aprende.
A tentación entre os estudantes de usar o programa para atopar respostas
listas para as súas tarefas levou a Nova York a tomar unha decisión rápida: só
un mes despois do seu debut, o sistema foi prohibido nas escolas e dispositivos
públicos da cidade estadounidense.
OpenAI estivo traballando nunha especie de marca para identificar
que o contido se orixinou en ChatGPT . Xa existen algoritmos que calculan
con bastante precisión a probabilidade de que un chatbot realice un texto.
Ademais de "copiar e pegar", existe o medo aos impactos
estruturais na aprendizaxe humana. Por exemplo, verase afectado o exercicio
cognitivo de escribir un ensaio con principio, medio e final, concatenando
ideas de maneira coherente?
"Preocúpame moito a algoritmización do pensamento, que é a alteración
da nosa comprensión e relación co mundo debido á interacción coa IA", di
Machado Dias, da Unifesp.
"Creo que este será o cambio de mentalidade máis grande en toda a
historia moderna. Vale a pena sinalar que o cerebro humano foise reducindo de
tamaño lentamente, como resultado do desenvolvemento tecnolóxico, durante máis
de mil anos, desde o punto de vista técnico-cultural, pero tamén máis limitado
desde un punto de vista neurocognitivo".
Martha Gabriel, autora do libro "Intelixencia Artificial: do cero ao
metaverso" e docente da Pontificia Universidade Católica de Rio Grande do
Sul, afirma que será necesario adaptarse aos novos tempos.
"O que marca a diferenza neste contexto xa non son as respostas, senón
as preguntas. Hai que saber preguntar. Para saber preguntar hai que saber
pensar críticamente", di.
Para Yuri Lima, investigador do Laboratorio do Futuro da Universidade
Federal de Río de Janeiro, "o propio ensino necesita adaptarse para
estimular unha aprendizaxe que recoñeza aos estudantes como cyborgs cada vez
máis integrados coas novas tecnoloxías".
A capacidade de ChatGPT para xerar textos con precisión podería pór en
risco carreiras como o xornalismo e con outras funcións creativas.
"Isto esixe que os docentes tamén saiban utilizar estas mesmas
tecnoloxías e integralas nas súas actividades. Desde o momento en que os
proxectos, actividades e tarefas vólvense máis complexos e integrados ao
universo actual no que viven os estudantes, a motivación deixa de verse afectada
por esta cuestión tecnolóxica".
Outro tema vira en torno ao futuro da creatividade humana e a produción de
contidos que non estean baseados en intelixencia artificial.
Dez días despois da chegada do sistema OpenAI, un deseñador de San
Francisco (EE.UU.) logrou crear en tan só un fin de semana un libro infantil
con texto e ilustracións realizado con ChatGPT
e MidJourney, un programa que produce imaxes proporcionando descricións.
"Un punto importante aínda por tratar é o tema do plaxio. Dado que o
adestramento de modelos como ChatGPT baséase en textos dispoñibles en internet
como noticias, libros e blogs, as súas respostas poden traer ideas publicadas
por certas persoas sen que reciban crédito por iso", di Lima.
"En áreas creativas, este recoñecemento aos autores considérase
importante. Ademais, o descoñecemento das fontes dificulta recoñecer rumbos ou
mesmo mentiras, como nas noticias falsas".
Machado Dias sinala que "a creatividade xorde de combinacións que son
á vez inusuais e relevantes. Como os algoritmos son dispositivos para xerar
combinacións, espérase que o impulso creativo redúzase".
"Doutra banda, a medida que os algoritmos realizan as súas tarefas,
tenden a xerar patróns que nin sequera imaxinamos posibles, expandindo a nosa
comprensión combinatoria, é dicir, a nosa creatividade".
Martha Gabriel vai nunha liña similar: "A tecnoloxía pode ser unha
ferramenta incrible para ampliar o noso pensamento, xa que podemos probar en
pouco tempo innumerables hipótese, formatos, solucións para refinar as nosas hipóteses
e mellorar as nosas preguntas".
"Con todo, isto tamén pode ser unha ameaza moi grande para quen usan
estes sistemas a cegas, sen críticas nin cuestionamientos á moral e a ética.
Isto non é só un risco individual, senón para toda a humanidade".