¿Un paso adelante en la responsabilidad ética?
OpenAI anunció la formación de un nuevo equipo con el objetivo de implementar acciones que respalden su compromiso democrático en la toma de decisiones relacionadas con su software de inteligencia artificial (IA). Esta iniciativa surge como una continuación del programa de subvenciones destinado a financiar experimentos de procesos democráticos anunciado en mayo de 2023.
El equipo se presenta como un paso crucial en la misión de OpenAI hacia el desarrollo de modelos superinteligentes que puedan integrarse en la sociedad. La ingeniera de investigación Tyna Eloundou destaca la importancia de brindar a las personas la oportunidad de aportar directamente en la toma de decisiones.
Te recomendamos leer: Tips frente a la inflación
Worldcoin como aliado
Para garantizar la participación exclusiva de humanos en ciertos procesos, OpenAI podría asociarse con Worldcoin, un proyecto de criptomonedas fundado por el CEO de OpenAI, Sam Altman.
Teddy Lee, gerente de producto, señala la capacidad de Worldcoin para diferenciar entre humanos y robots de IA, aunque aún no hay planes concretos para su integración.
Te puede interesar: Antes y después de una entrevista de trabajo
Desafíos éticos
La creciente preocupación sobre la capacidad de la inteligencia artificial para generar información incorrecta y sesgada se intensifica, especialmente en el contexto de la campaña electoral estadounidense de 2024. Los críticos señalan el sesgo inherente en sistemas como ChatGPT, evidenciando resultados problemáticos.
El nuevo equipo de OpenAI, en proceso de contratación, trabajará por fortalecer su compromiso democrático y para ello tendrá tareas conjuntas con el equipo de «Datos Humanos», encargado de recopilar información humana sobre los modelos de IA de la empresa.
La colaboración con otros equipos de investigación refuerza el enfoque integral de la compañía para abordar los desafíos éticos y democráticos en la inteligencia artificial.
Si te interesa escuchar a expertos del sector franquicia, te invitamos a visitar nuestro canal de YouTube.
