Esta semana en IA: OpenAI considera permitir la pornografía con IA | TechCrunch

Mantenerse al día con una industria que evoluciona tan rápidamente como la IA es una tarea difícil. Entonces, hasta que una IA pueda hacerlo por usted, aquí hay un sumario útil de historias recientes en el mundo del enseñanza inevitable, cercano con investigaciones y experimentos notables que no cubrimos por sí solos.

Por cierto, TechCrunch planea divulgar pronto un boletín informativo sobre IA. Manténganse al tanto. Mientras tanto, estamos aumentando la cadencia de nuestra columna semiregular de IA, que anteriormente era dos veces al mes (más o menos), a semanal; así que esté atento a más ediciones.

Esta semana en IA, OpenAI reveló que está explorando cómo difundir «responsablemente» pornografía con IA. Si, escuchaste correctamente. Anunciada en un documento destinado a desobstruir las cortinas y resumir comentarios sobre las instrucciones de su IA, la nueva política NSFW de OpenAI tiene como objetivo iniciar una conversación sobre cómo y dónde la compañía podría permitir imágenes y texto explícitos en sus productos de IA, dijo OpenAI.

«Queremos asegurarnos de que las personas tengan el mayor control en la medida en que no viole la ley ni los derechos de otras personas», dijo a NPR Joanne Jang, miembro del equipo de producto de OpenAI. «Hay casos creativos en los que el contenido que involucra sexualidad o desnudez es importante para nuestros usuarios».

No es la primera vez que OpenAI ha manifestado su voluntad de sumergirse en división controvertido. A principios de este año, Mira Murati, directora de tecnología de la compañía, dijo a The Wall Street Journal que “no estaba segura” de si OpenAI eventualmente permitiría que su útil de engendramiento de videos, Sora, se utilizara para crear contenido para adultos.

Entonces, ¿qué hacer con esto?

Allá es un futuro en el que OpenAI abre la puerta a la pornografía generada por IA y todo resulta… correctamente. No creo que Jang se equivoque al aseverar que existen formas legítimas de expresión artística para adultos, expresiones que podrían crearse con la ayuda de herramientas impulsadas por inteligencia sintético.

Pero no estoy seguro de que podamos esperar en OpenAI, o en cualquier proveedor de IA generativa, para hacerlo correctamente.

Consideremos, por ejemplo, el ángulo de los derechos de los creadores. Los modelos de OpenAI han sido entrenados en grandes cantidades de contenido web divulgado, algunos de ellos sin duda de naturaleza pornográfica. Pero OpenAI no ha otorgado licencias para todo este contenido, ni siquiera ha permitido a los creadores optar por no percibir capacitación hasta hace relativamente poco tiempo (e incluso entonces, solo ciertas formas de capacitación).

Es difícil ganarse la vida con contenido para adultos, y si OpenAI llevara la pornografía generada por IA a la corriente principal, los creadores enfrentarían una competencia aún más dura: competencia construida sobre las espaldas de los trabajos de esos creadores, no en vano.

El otro problema que tengo en mente es la falibilidad de las salvaguardias actuales. OpenAI y sus rivales han estado perfeccionando sus herramientas de filtrado y moderación durante primaveras. Pero los usuarios descubren constantemente soluciones que les permiten extralimitarse de los modelos, aplicaciones y plataformas de IA de las empresas.

Escasamente en enero, Microsoft se vio obligado a realizar cambios en su útil de creación de imágenes Designer, que utiliza modelos OpenAI, posteriormente de que los usuarios encontraran una modo de crear imágenes desnudas de Taylor Swift. En el costado de la engendramiento de texto, es trivial encontrar chatbots construidos sobre modelos supuestamente “seguros”, como Claude 3 de Anthropic, que fácilmente escupen contenido amoroso.

La IA ya ha creado una nueva forma de tropelía sexual. Los estudiantes de primaria y secundaria están utilizando aplicaciones impulsadas por inteligencia sintético para “quitar” fotos de sus compañeros de clase sin el consentimiento de esos compañeros; Una pesquisa de 2021 realizada en el Reino Unido, Nueva Zelanda y Australia encontró que el 14% de los encuestados de entre 16 y 64 primaveras habían sido víctimas de imágenes deepfake.

Nuevas leyes en Estados Unidos y otros lugares apuntan a combatir esto. Pero aún no se sabe si el sistema de equidad (un sistema de equidad que ya lucha por erradicar la mayoría de los delitos sexuales) puede regular una industria que evoluciona tan rápidamente como la IA.

Francamente, es difícil imaginar un enfoque que OpenAI podría adoptar para la pornografía generada por IA que no esté saciado de riesgos. Quizás OpenAI reconsidere su postura una vez más. O tal vez, contra todo pronóstico, voluntad encontrar una mejor modo. Cualquiera que sea el caso, parece que lo descubriremos más temprano que tarde.

Aquí hay algunas otras historias destacadas de IA de los últimos días:

• Los planes de IA de Apple: El director ejecutor de Apple, Tim Cook, reveló algunos datos sobre los planes de la compañía para avanzar con la IA durante la indicación de resultados con los inversores de la semana pasada. Sarah tiene la historia completa.
• GenIA empresarial: Los directores ejecutivos de Dropbox y Figma, Drew Houston y Dylan Field, respectivamente, han invertido en Lamini, una startup que construye tecnología de inteligencia sintético generativa cercano con una plataforma de alojamiento de inteligencia sintético generativa dirigida a organizaciones empresariales.
• IA para servicio al cliente: Airbnb está lanzando una nueva función que permite a los anfitriones optar por sugerencias impulsadas por IA para reponer a las preguntas de los huéspedes, como enviarles una mentor de plazo de la propiedad.
• Microsoft restringe el uso de IA: Microsoft ha reafirmado su prohibición a los departamentos de policía de EE. UU. de utilizar IA generativa para el inspección facial. Asimismo prohibió a las fuerzas del orden mundiales aplicar tecnología de inspección facial en cámaras corporales y cámaras para salpicadero.
• Mosca para la montón: Los proveedores de montón alternativos como CoreWeave están recaudando cientos de millones de dólares a medida que el auge de la IA generativa impulsa la demanda de hardware de bajo costo para entrenar y ejecutar modelos.
• RAG tiene sus límites: Las alucinaciones son un gran problema para las empresas que buscan integrar la IA generativa en sus operaciones. Algunos proveedores afirman que pueden eliminarlos mediante una técnica indicación RAG. Pero esas afirmaciones son muy exageradas, según lo cree sinceramente un servidor.
• Prontuario de la reunión de Vogels: El CTO de Amazon, Werner Vogels, abrió una aplicación de sumario de reuniones indicación Distill. Como era de esperar, se apoya en gran medida en los productos y servicios de Amazon.