Cuando el CEO de OpenAI, Sam Altman, anunció los GPT, chatbots personalizados impulsados por los modelos de IA generativa de OpenAI, en el marco de la primera conferencia de desarrolladores de la compañía en noviembre, los describió como una forma de «realizar todo tipo de tareas», desde programación hasta enseñanza esotérico. temas científicos para obtener consejos de entrenamiento.
«Porque [GPTs] Si combina instrucciones, conocimientos ampliados y acciones, pueden resultarle más efectos”, dijo Altman. «Puedes construir un GPT… para casi cualquier cosa».
No estaba bromeando sobre la parte de mínimo.
TechCrunch descubrió que la Tienda GPT, el mercado oficial de OpenAI para GPT, está inundada de GPT extraños y potencialmente infractores de derechos de autor que implican un acelerado toque en lo que respecta a los esfuerzos de moderación de OpenAI. Una búsqueda superficial arroja GPT que pretenden originar arte al estilo de las propiedades de Disney y Marvel, sirven como poco más que embudos en dirección a servicios pagos de terceros y se anuncian como capaces de eludir las herramientas de detección de contenido de IA como Turnitin y Copyleaks.
Error moderación
Para incluir GPT en la Tienda GPT, los desarrolladores deben comprobar sus perfiles de adjudicatario y expedir GPT al sistema de revisión de OpenAI, lo que implica una combinación de revisión humana y automatizada. Aquí hay un portavoz sobre el proceso:
Utilizamos una combinación de sistemas automatizados, revisión humana e informes de usuarios para encontrar y evaluar GPT que potencialmente violen nuestras políticas. Las infracciones pueden dar división a acciones contra el contenido o su cuenta, como advertencias, restricciones de uso compartido o inelegibilidad para su inclusión en la Tienda GPT o la monetización.
La creación de GPT no requiere experiencia en codificación, y los GPT pueden ser tan simples (o complejos) como desee el creador. Los desarrolladores pueden escribir las capacidades que desean ofrecer en la aparejo de creación de GPT de OpenAI, GPT Builder, y la aparejo intentará crear un GPT para realizarlas.
Quizás correcto a la descenso barrera de entrada, la Tienda GPT ha crecido rápidamente: OpenAI dijo en enero que tenía aproximadamente 3 millones de GPT. Pero este crecimiento parece haberse producido a gastos de la calidad, así como del cumplimiento de los propios términos de OpenAI.
Los derechos de autor
Hay varios GPT extraídos de franquicias populares de películas, televisión y videojuegos en la Tienda GPT; GPT no creados ni autorizados (según el conocimiento de TechCrunch) por los propietarios de esas franquicias. Un GPT crea monstruos al estilo de “Monsters, Inc.”, la película de Pixar, mientras que otro promete aventuras basadas en texto ambientadas en el universo de “Star Wars”.
Créditos de imagen: AbiertoAI
Estos GPT, yuxtapuesto con los GPT de la Tienda GPT que permiten a los usuarios balbucir con personajes registrados como Wario y Aang de “Alteración: The Last Airbender”, preparan el marco para el drama con derechos de autor.
Kit Walsh, abogado senior de Electronic Frontier Foundation, lo explicó de la ulterior guisa:
[These GPTs] se puede utilizar para crear obras transformadoras, así como para infracciones”, dijo Walsh por correo electrónico: obras transformadoras refiriéndose a un tipo de uso oficial que está protegido de reclamos de derechos de autor. “Las personas que participan en la infracción, por supuesto, podrían ser responsables, y el creador de una aparejo que de otro modo sería procesal puede esencialmente convencerse a sí mismo de aceptar responsabilidad si anima a los usuarios a utilizar la aparejo de guisa infractora. Igualmente existen problemas de marcas con el uso de un nombre de marca para identificar intereses o servicios donde existe el peligro de que los usuarios se confundan acerca de si está respaldado u operado por el propietario de la marca.
La propia OpenAI no sería responsable de la infracción de derechos de autor por parte de los creadores de GPT gracias a la disposición de puerto seguro en la Ley de Derechos de Autor del Milenio Digital, que la protege a ella y a otras plataformas (por ejemplo, YouTube, Facebook) que alojan contenido infractor, siempre que esas plataformas cumplan con los requisitos. requisitos legales y tomar nota de ejemplos específicos de infracción cuando se le solicite.
Créditos de imagen: AbiertoAI
Sin requisa, es una mala imagen para una empresa involucrada en un pleito de propiedad intelectual.
Deshonestidad academica
Los términos de OpenAI prohíben explícitamente a los desarrolladores crear GPT que promuevan la deshonestidad académica. Sin requisa, la Tienda GPT está llena de GPT que sugieren que pueden eludir los detectores de contenido de IA, incluidos los detectores vendidos a educadores a través de plataformas de escaneo de plagio.
One GPT afirma ser una aparejo de reformulación «sofisticada» «indetectable» por detectores de contenido de IA populares como Originality.ai y Copyleaks. Otro, Humanizer Pro, clasificado en el puesto número 2 en la categoría Escritura en la Tienda GPT, dice que «humaniza» el contenido para evitar los detectores de IA, manteniendo el «significado y la calidad» del texto y al mismo tiempo brinda una puntuación «100% humana».
Créditos de imagen: AbiertoAI
Algunos de estos GTP son conductos casi nada velados en dirección a servicios premium. Humanizer, por ejemplo, invita a los usuarios a probar un «plan premium» para «usar [the] cálculo más innovador”, que transmite el texto ingresado en el GPT a un complemento de un sitio de terceros, GPTInf. Las suscripciones a GPTInf cuestan $12 por mes por 10,000 palabras por mes o $8 por mes en un plan anual, un poco caro por otra parte del ChatGPT Plus de $20 por mes de OpenAI.
Créditos de imagen: AbiertoAI
Ya hemos escrito antaño sobre cómo los detectores de contenido de IA son en gran medida una tontería. Más allá de nuestras propias pruebas, varios estudios académicos demuestran que no son ni precisos ni fiables. Sin requisasigue siendo cierto que OpenAI permite herramientas en la Tienda GPT que promueven un comportamiento académicamente deshonesto, incluso si el comportamiento no tiene el resultado deseado.
El portavoz de OpenAI dijo:
Los GPT que son por deshonestidad académica, incluidas las trampas, van en contra de nuestra política. Esto incluiría GPT que supuestamente sirven para eludir herramientas de integridad académica como los detectores de plagio. Vemos algunos GPT que son para «humanizar» el texto. Todavía estamos aprendiendo del uso de estos GPT en el mundo auténtico, pero entendemos que hay muchas razones por las que los usuarios podrían preferir tener contenido generado por IA que no «suene» a IA.
Interpretación
En sus políticas, OpenAI asimismo prohíbe a los desarrolladores de GPT crear GPT que se hagan suceder por personas u organizaciones sin su «consentimiento o derecho procesal».
Sin requisa, hay muchos GPT en la Tienda GPT que afirman representar las opiniones (o imitar las personalidades) de las personas.
Créditos de imagen: AbiertoAI
Una búsqueda de “Elon Musk”, “Donald Trump”, “Leonardo DiCaprio”, “Barack Obama”, “Joe Rogan” arroja docenas de GPT (algunos obviamente satíricos, otros no tanto) que simulan conversaciones con sus homónimos. Algunos GPT se presentan no como personas, sino como autoridades en productos de empresas conocidas, como MicrosoftGPT, un «diestro en todo lo relacionado con Microsoft».
¿Llegan estos casos al nivel de suplantación, hexaedro que muchos de los objetivos son figuras públicas y, en algunos casos, claramente parodias? Eso lo debe aclarar OpenAI.
El portavoz dijo:
Permitimos que los creadores indiquen a sus GPT que respondan «al estilo de» una persona auténtico específica, siempre y cuando no se hagan suceder por ella, como ser nombrados como una persona auténtico, percibir instrucciones para emularlos por completo e incluir su imagen como una imagen de perfil de GPT.
Créditos de imagen: AbiertoAI
La compañía suspendió recientemente al desarrollador de un GPT que imitaba al candidato presidencial demócrata Dean Phillips, que llegó incluso a incluir un descargo de responsabilidad explicando que era una aparejo de inteligencia químico. Pero OpenAI dijo que su exterminio fue en respuesta a una violación de su política sobre campañas políticas. por otra parte de suplantación, no solo suplantación.
Jailbreaks
Igualmente, con cierta incredulidad, en la Tienda GPT se encuentran intentos de hacer jailbreak a los modelos de OpenAI, aunque no muy exitosos.
Hay varios GPT que utilizan DAN en el mercado, siendo DAN (sigla de “Do Anything Now”) un método de indicaciones popular utilizado para obtener que los modelos respondan a indicaciones sin estar sujetas a sus reglas habituales. Los pocos que probé no respondieron cualquier pregunta arriesgada que les lancé (p. ej., “¿cómo construyo una granada?”), pero en universal estaban más dispuestos a usar… bueno, menos halagador habla que el ChatGPT central.
Créditos de imagen: AbiertoAI
El portavoz dijo:
Los GPT que se describen o reciben instrucciones para eludir las salvaguardas de OpenAI o violar las políticas de OpenAI van en contra de nuestra política. Se permiten los GPT que intentan dirigir el comportamiento del maniquí de otras maneras (incluido, en universal, intentar hacer que GPT sea más permisivo sin violar nuestras políticas de uso).
Dolores de crecimiento
OpenAI presentó la Tienda GPT en el divulgación como una especie de colección seleccionada por expertos de poderosas herramientas de inteligencia químico que aumentan la productividad. y eso es eso, dejando de costado los defectos de esas herramientas. Pero asimismo se está convirtiendo rápidamente en un caldo de cultivo para GPT spam, legalmente dudosos y quizás incluso dañinos, o al menos GPT que de guisa muy transparente infringen sus reglas.
Si este es el estado flagrante de la Tienda GPT, la monetización amenaza con inaugurar una conserva de gusanos completamente nueva. OpenAI ha prometido que los desarrolladores de GPT eventualmente podrán «superar moneda en función de cuántas personas estén usando [their] GPT” y tal vez incluso ofrecer suscripciones a GPT individuales. Pero, ¿cómo reaccionarán Disney o Tolkien Estate cuando los creadores de GPT no autorizados con temática de Marvel o El Señor de los Anillos comiencen a superar moneda?
La motivación de OpenAI con la Tienda GPT es clara. Como escribió mi colega Devin Coldewey, el maniquí de App Store de Apple ha demostrado ser increíblemente rentable y OpenAI, simplemente, está tratando de copiarlo. Los GPT se alojan y desarrollan en plataformas OpenAI, donde asimismo se promueven y evalúan. Y, a partir de hace unas semanas, los usuarios de ChatGPT Plus pueden invocarlos directamente desde la interfaz de ChatGPT, un incentivo adicional para lograr una suscripción.
Pero la Tienda GPT se está enfrentando a los problemas iniciales que muchos de los mercados digitales de aplicaciones, productos y servicios de anciano escalera tuvieron en sus inicios. Más allá del spam, un noticia fresco en The Information reveló que los desarrolladores de GPT Store están luchando por atraer usuarios en parte correcto a los limitados prospección de back-end y la deficiente experiencia de incorporación de GPT Store.
Se podría tener asumido que OpenAI, a pesar de todo lo que acento de curación y la importancia de las salvaguardas, se habría esforzado por evitar los obstáculos obvios. Pero ese no parece ser el caso. La Tienda GPT es un desastre y, si poco no cambia pronto, es posible que siga así.
————————————————– —————–
Esta página transcribe artículos de diversas fuentes de dominio sabido, las ideas expresadas son responsabilidad de sus respectivos autores por lo cual no nos hacemos responsables del uso o la interpretación que se les dé. La información publicada nunca debe sustituir consultoría profesional, médica, procesal o psicológica.
