Se activa para evitar algunos de los problemas que causan los modelos de lenguaje de máquina de IA.
El problema es que solo funciona si sus creadores lo integran con el modelo de lenguaje utilizado desde el principio.
Ante las preocupaciones de algunos sectores, ante la posibilidad de que haya quienes estén intentando sustraer un texto escrito por aplicaciones de inteligencia artificial (IA) como ChatGPT como una creación humana original, hay desarrolladores que encontró una solución. Se trata de crear un trazo invisible al ojo humano, una especie de marca de agua, en el generador de texto, pero no para ningún otro programa de inteligencia artificial.
Marcas que se integran grandes modelos de lenguaje como ChatGPT, Podrían ayudar a evitar algunos de los problemas que estos modelos ya han causado.
Cuando una inteligencia artificial escribe un texto, a simple vista parece que lo hizo un humano, es difícil descubrir la máquina que hay detrás, pero si se aplican estos modelos, dejaría un rastro creado intencionalmente en los textos generados por la IA para poder identificarlos. Eso significa firmarlo permanecer en el textoinvisible para los humanos pero algorítmico más detectable de una pequeña cantidad de fichas.
Fueron desarrollados por investigadores de la Universidad de Maryland, quienes los probaron simplemente reconociendo el texto creado con el modelo de lenguaje de código abierto OPT-6.7B de Meta. el algoritmo de detección que crearon. Aunque su trabajo aún no ha sido verificado. Ya han proporcionado su código, que será de uso gratuito a partir de mediados de febrero.
palabra más probable
La herramienta que desarrolló este equipo podría ajustarse para que funcione con cualquier modelo de lenguaje de IA para predecir la siguiente palabra. Estos modelos suelen funcionar predecir y generar una palabra a la vez. El sistema de marca de agua vendría a magnificar esta decisión de palabra contra palabra. Haz una lista verde de las palabras más comunes y otra roja de las menos recurrentes. Luego seleccione un término de la lista verde.
Cuantas más palabras en la lista verde tenga un texto, más probable es que haya sido generado por inteligencia artificial. Un texto humano tiene una mezcla aleatoria de rojos y verdes.
Pero hay limitaciones con este nuevo método. La marca de agua solo funciona si sus creadores la integran en el modelo de lenguaje utilizado Desde el principio. Además, el modelo de IA en el que se probó la marca de agua también es más pequeño que los modelos populares como ChatGPT.
Los textos de IA dejan pistas
En cualquier caso, no olvidemos que ChatGPT es básicamente GPT un robot de chat virtual (chatbot) que responde a una variedad de preguntas y completa tareas por escrito, pero que aprendido por imitación cómo escribe la gente.
El generador de texto OpenAI enfrenta otro problema. puedes presentar”estructura idéntica y argumentos similares”, Descubrió esto en varios de los trabajos de su clase y llevó a un profesor de Lyon a sospechar que sus alumnos habían usado inteligencia artificial para escribir los textos que les daban.
Lo que pasó es que ChatGPT aprendió cómo conectar palabras y conceptos. ellatiene una estructura bastante consistente todo el tiempo, pero si lo lees detenidamente, se puede decir que fue escrito por una máquina, especialmente a medida que el texto se hace más largo: “Con el chatbot de OpenAI, a medida que pasan las frases y se alejan de la primera, hay discrepancias, contradicciones, cambios de referencia. Cuanto más largo sea el textose agradecen mas incoherencias entre el principio y el final, explica Carles Sierra, director del Instituto de Investigación en Inteligencia Artificial (IIIA) del CSIC.
En otras palabras, cuanto más largo sea el texto, mayores serán las posibilidades de descubrir su esencia robótica: “Como soy un modelo de lenguaje creado por OpenAI, No tengo preferencias ni preferencias personales. Mi trabajo es brindar información y ayudar a las personas a responder sus preguntas, pero No tengo la capacidad de disfrutar o apreciar las películas. o cualquier otro tipo de entretenimiento”, explica el propio programa y ahí quizás esté la forma real de reconocerlo, trata de encontrar tu alma
