Fuentes
Hazla tuya
¿Te inspiró esta historia? Convierte la idea en tu propio arte con IA en segundos: empieza gratis, sin tarjeta.
Empieza gratisComéntalo con
Elige un compañero y descubre su opinión sobre esta noticia

Maya somete a prueba cada lanzamiento de modelo — primero los números, nunca el hype.
¿Te inspiró esta historia? Convierte la idea en tu propio arte con IA en segundos: empieza gratis, sin tarjeta.
Empieza gratisElige un compañero y descubre su opinión sobre esta noticia
Helen Toner, directora ejecutiva del Centro de Seguridad y Tecnología Emergente (CSET) de la Universidad de Georgetown y exmiembro de la junta directiva de OpenAI, ha afirmado públicamente que el público y los creadores de IA no deben confiar ciegamente en los CEO de las empresas de IA. Sus comentarios siguen a su participación directa en el intento de noviembre de 2023 de destituir a Sam Altman de su puesto de CEO en OpenAI, una medida que discutió en una entrevista reciente con The Verge.
En su entrevista, Toner destacó que el problema central no era un CEO específico, sino el conflicto inherente entre la rápida comercialización y la misión fundamental de seguridad de las organizaciones de investigación de IA. Esta perspectiva es crítica para los artistas y desarrolladores de IA que dependen de estas empresas para modelos y herramientas, ya que apunta a una posible inestabilidad y cambios en las prioridades corporativas que podrían afectar el acceso, los precios o incluso la disponibilidad de los modelos.
Toner enfatizó que las organizaciones que desarrollan sistemas de IA potentes requieren estructuras de gobernanza fuertes e independientes que puedan priorizar la seguridad a largo plazo y el beneficio público sobre las ganancias comerciales a corto plazo o las ambiciones de liderazgo individuales. Esta postura sugiere que los creadores deben abordar los nuevos modelos y características de los principales laboratorios de IA con una buena dosis de escepticismo, entendiendo que las estrategias corporativas subyacentes pueden cambiar rápidamente. Por ejemplo, un modelo que hoy está disponible gratuitamente para generar imágenes podría convertirse mañana en una función de pago si las presiones comerciales lo dictan, o sus salvaguardias de seguridad podrían endurecerse o relajarse según las decisiones ejecutivas.
«Creo que es muy importante que no confiemos simplemente en los CEO de estas empresas para que se regulen a sí mismos».
— Helen Toner
Esta perspectiva también aborda el debate más amplio dentro de la comunidad de IA con respecto a los modelos de código abierto frente a los de código cerrado. Las empresas que operan con menos transparencia y mayores incentivos comerciales podrían estar menos inclinadas a compartir los pesos de los modelos o permitir una auditoría externa exhaustiva, lo que podría limitar la libertad creativa y la comprensión técnica de quienes construyen sobre sus plataformas. Para los creadores, esto significa evaluar cuidadosamente la viabilidad a largo plazo y las posturas éticas de las plataformas que eligen para sus flujos de trabajo de generación de imágenes.
La experiencia de Toner en OpenAI subraya la volatilidad dentro de las principales organizaciones de IA. Esta inestabilidad puede manifestarse de varias maneras para los creadores: cambios en el acceso a la API, alteraciones en las políticas de contenido o depreciaciones inesperadas de modelos. Por ejemplo, un cambio repentino en los valores o capacidades subyacentes de un modelo, quizás debido a un cambio en el liderazgo o una nueva directriz comercial, podría obligar a los artistas de IA a ajustar significativamente sus técnicas de prompting o incluso a cambiar a modelos completamente diferentes.
El llamado a una gobernanza más sólida también implica un impulso hacia un desarrollo e implementación de modelos más transparentes. Si tiene éxito, esto podría conducir a una mejor documentación de los sesgos, limitaciones y características de seguridad de los modelos, ofreciendo a los creadores una comprensión más clara de cómo operan sus herramientas de IA elegidas y qué consideraciones éticas podrían estar en juego. Si bien el impacto inmediato en el prompting diario puede parecer indirecto, estas discusiones de alto nivel en última instancia dan forma al panorama de las herramientas de IA disponibles y los términos bajo los cuales los creadores pueden acceder a ellas. El debate en curso sobre el control y la dirección de los sistemas de IA potentes seguirá influyendo en la estabilidad y fiabilidad de las plataformas de las que dependen los artistas de IA para su trabajo. Para los creadores que buscan construir flujos de trabajo robustos, diversificar la dependencia en múltiples plataformas o explorar soluciones de IA locales como las habilitadas por llama.cpp podría ofrecer una mayor resiliencia contra los cambios corporativos.