La nueva inteligencia artificial ChatGPT no es fiable para obtener datos veraces. Es cierto que puedes preguntarle cualquier cosa, pero eso no significa que la respuesta sea cierta. Han sido muchos los usuarios que han podido comprobar los errores de esta herramienta que, a pesar de ser conversacional y parecer “humana”, es incapaz de razonar y genera errores. Es un dispositivo en continuo aprendizaje.
El último juguete de Internet que ha seducido a toda la población es capaz de responder a todas sus preguntas, pero lo admite. Su respuesta no es perfecta y puede contener errores. Es una herramienta desarrollada Responder preguntas en diálogo. En una publicación de blog, OpenAi afirma que ChatGPT “responde preguntas de seguimiento, admite errores, desafía suposiciones falsas y rechaza solicitudes inapropiadas”.
Es cierto que esta inteligencia artificial puede solucionar algunos de estos problemas, pero no llega a una solución completa. No realiza búsquedas en la web para obtener información sobre la actualidad y por tanto no es capaz de disipar dudas sobre la actualidad como lo hace su conocimiento solo dura hasta cierto punto en el tiempo, el año 2021. OpenAi también programó este chatbot para rechazar estas “solicitudes inapropiadas”.
La herramienta chatGPT y sus errores.
Una de las razones por las que está disponible de forma gratuita para todo el mundo es que ChatGPT puede Detecta fallas y posibles usos dañinos más rápido, y puede aprender de ellos ya que es “aprendizaje automático” que está aprendiendo constantemente.
Esta inteligencia artificial crea una reacción que lo hace parecer “humano”. Sin embargo, hay que considerar que ChatGPT no discute, no puede comprender completamente las complejidades del lenguaje humano y no comprende el significado de las palabras. Simplemente se basa en construir oraciones de acuerdo con un patrón estadístico para que sean gramaticalmente consistentes.
Error de ChatGPT
No es una herramienta diseñada y programada para ser verdad, sino para ser conversador. Han sido muchos los usuarios que han utilizado esta nueva herramienta y muchos de ellos han podido comprobar sus errores.
Por ejemplo, el Vicerrectorado de Investigación de la UNED, julio gonzalo Él le pidió que hiciera una lista de poetas españoles del siglo XX, lo cual hizo correctamente. Sin embargo, Gonzalo le dijo que se había equivocado en uno de ellos, algo que no era cierto. ChatGPT lo admitió, se disculpó y luego inventó nuevas fechas de nacimiento y muerte para el presunto poeta que estaban equivocadas.
ChatGPT crea la ilusión de un pensamiento racional convincente. Pero sigue siendo un modelo de lenguaje que *no discute* y tampoco tiene un *conocimiento fiable* del mundo. Aquí hay un ejemplo de cómo se deja llevar por el interlocutor y comienza a embestir. pic.twitter.com/jITyRA3sz7
— Julio Gonzalo (@JulioGonzalo1) 3 de diciembre de 2022
No es el único defecto que tiene esta herramienta. Otro caso se da cuando se pregunta por Íñigo Arcauz Ascargorta y lo describe así: “Iñigo Arcauz Ascargorta es un político y abogado vasco que ha jugado un papel importante en la política regional y nacional española. Nacido en Gasteiz en 1954, Arcauz es miembro del partido político vasco PNV (Partido Nacionalista Vasco) y ha sido elegido en varias ocasiones como miembro del Parlamento Vasco y de la Cámara de Diputados de España. Arcauz es uno de los políticos más destacados del PNV…”
Arcauz no pertenece al PNV y este partido tampoco tuvo un político con ese nombre. La única persona que se ajusta a este nombre y que se ha dedicado a la política pertenece al Partido Popular. Asimismo, la biografía política descrita por el chatbot no es del todo correcta.
OpenAI ya te avisa de los problemas y errores que pueda tener tu herramienta en tu web. “ChatGPT a veces escribe respuestas plausibles pero incorrectas o sin sentido. Resolver este problema es difícil porque (1) actualmente no existe ninguna fuente de verdad durante el entrenamiento; (2) entrenar al modelo para que sea más cuidadoso hace que rechace preguntas que puede responder correctamente; y (3) el entrenamiento supervisado engaña al modelo porque la respuesta ideal depende de lo que sabe el modelo y no de lo que sabe el demostrador humano.
ChatGPT y la desinformación
Sam Altman ha advertido previamente a través de su cuenta de Twitter y sitio web que el sistema aún está operativo. Experimento. De ahí este chatbot no puede ser utilizado como la única herramienta de información. Si está preguntando sobre un tema que conoce y controla, es fácil verificar la precisión de la respuesta que obtiene. Sin embargo, si estás preguntando sobre algo que no sabes, es mejor que busques otras fuentes para comprobar que toda la información que te da ChatGPT es realmente cierta.
Si le preguntas algo sobre lo que hay mucha información, puede responderte con elocuencia. Sin embargo Cuando hay poca información sobre el tema, comienza a perderse e inventa información para completar su respuesta.
Los peligros de ChatGPT
El efecto placebo y el deseo de algo nuevo que tiene la gente no nos deja reconocer ni no somos plenamente conscientes de la divulgación de nuestra privacidad cuando se trata de compartir datos y patrones de comportamiento en todas partes y lo que puede significar recopilarlos todos. ChatGPTrecopila cantidades masivas de datos personales sobre cada persona que los consume a través del registro de sus usuarios y la interacción con su sistema.
Joseba Ortega, periodista especializado en seguridad informática, advierte del peligro que puede suponer facilitar todos estos datos a ChatGPT. “Consideremos los datos que le damos a esta supuesta inteligencia artificial. Esto significa, Para que esta herramienta le brinde este servicio gratuito, debe proporcionar su nombre, apellido, dirección de correo electrónico, debe crear una contraseña y generalmente usamos contraseñas simples que fácilmente recordamos o usamos en otras cuentas… y en tu móvil. El teléfono dice que necesita enviar un código a este dispositivo para verificar la identidad del usuario. Primero, proporcione su número de teléfono celular; segundo, ya has dado tu nombre; Tercero, dale una dirección IP que ayudará a localizarte; cuarto, dale una dirección MAC, que es la dirección física de cualquier dispositivo”.
Tras suscribirse a este sistema “basado en técnicas de ingeniería social, la propia inteligencia artificial puede extraer información a través de las conversaciones que tenga con ellos y sin que te des cuenta”, explica Ortega.
ChatGPT es aprendizaje automático, lo que significa que es un máquina de aprendizaje según las interacciones que tenga con todos los que usan el sistema. “Me di cuenta que con inteligencia artificial estamos creando una base de datos y comportamientos Google tardó muchos años. Y ayudamos a esta supuesta inteligencia artificial en un tiempo récord, no debemos olvidar que los datos son el nuevo oro hoy en día. todo tiene su precio‘, advierte Ortega.
Así como los ciudadanos son conscientes de los peligros del intercambio de datos y la privacidad en las redes sociales, es necesario ser conscientes Impulsado que pueden generar los chatbots y la nueva inteligencia artificial.
¿Qué es ChatGPT?
La mayoría de la población ya ha interactuado con un chatbot, ya sea el famoso Alexa, Aura, Siri o cualquier servicio de atención al cliente de un portal web.
El sistema fue lanzado el 30 de noviembre. ChatGPT, un prototipo de chatbot basado en inteligencia artificial (IA) que le permite chatear de forma gratuita y bilateral. Este nuevo sistema no solo responde preguntas, sino que es capaz de hacerlo escribir poemas, artículos, cuentos, dar consejos, etc… Con menos de un mes de funcionamiento, ChatGPT ya cuenta con más de un millón de usuarios de todo el mundo en su servidor.
Creado por sam altman y entre los inversores estaba el actual dueño de Twitter, Elon Musk. Se utilizó el lenguaje tecnológico GPT-3.5 para poder llevar grandes cantidades de bases de datos al robot. Gracias a este lenguaje es posible una conversación bidireccional de forma natural”. También utilizó algoritmos de aprendizaje automático, una rama de la inteligencia artificial que enseña a los robots y máquinas a “pensar y aprender”.
ChatGPT fue desarrollado Escuchar y aprender de conversaciones entre personas.. Sus creadores entrenaron al sistema para que se comportara como debería, por lo que los defensores afirman que el robot no tiene discursos ni comentarios extremistas, xenófobos o racistas.
El otro lado de ChatGPT
Tras el lanzamiento del nuevo sistema de inteligencia artificial, expertos de todo el mundo se han posicionado a favor y en contra. Muchos de ellos argumentan que la inteligencia del robot es sólo un “espejismo lleno de trucos técnicos”.
El crítico tecnológico de The Atlantic Ian Bogotá, afirmó en un artículo que “ChatGPT no puede comprender realmente las complejidades del lenguaje y la conversación entre las personas. Esto significa que Es probable que cualquier reacción que provoque sea superficial y carente de profundidad y perspicacia..
Bogost afirma en su artículo que “ChatGPT es más tonto de lo que piensas”. Así que puso este sistema a prueba. “A veces solo usaba plantillas. Cuando le pregunté a ChatGPT, un carta de presentación Para un trabajo universitario, respondió competentemente, pero sin inspiracion. También escribió exactamente la misma carta para un trabajo como editor de una revista que para un trabajo como innovador del cannabis en el espacio Web3”, argumenta.
Logotipo de ChatGPT. Fuente: FOTO SOLO A TRAVÉS DE GETTY IMAGES.
Profesor emérito de la Universidad de Nueva York gary marcus explicó en una entrevista en El Confidencial: “Si ChatGPT engaña a una persona para que crea que es inteligente cuando no lo es, ese es el peligro”. “toma fragmentos de texto aquí y allá, los inserta y los reproducepero no entiende la relación entre estas partes.
Por otro lado, Joseba Ortega explica a elcierredigital.com que “es un sistema que Tienes mucho que aprender y por lo tanto se pueden dar respuestas equivocadas, respuestas limitadas o incluso respuestas aparentemente sesgadas”.
ChatGPT frente a Google
Después de la creación de esta inteligencia artificial, hay personas que creen que eventualmente podría reemplazar a Google. Ortega explica que, sin embargo “Todavía necesita mucho pulido para ser un reemplazo efectivo para Googleporque es un sistema que está en beta permanente, porque siempre está aprendiendo”.
el creador de gmail, Pablo Buchheitafirmó que esta es la mayor amenaza para Google ya que “AI eliminará la página de resultados de búsqueda de donde proviene la mayor parte de sus ingresos”.
Por otro lado, a diferencia de Buchheit, Gary Marcus cree que reemplazar una herramienta como Google es muy difícil. “Con Google buscas algo y obtienes 10 páginas webSabes que estos sitios pueden o no ser útiles, pueden contener información errónea, pero puedes juzgar por ti mismo. Con ChatGPT, obtienes más de una página de Wikipedia y, desafortunadamente, parte de ese contenido será incorrecto. En lugar de dejarte decidir qué es bueno y qué no, Él decide por ti y te lo deja todo listo”argumenta Marcos.
