Categorías
···
Entrar / Registro
Resumen: Únase a un equipo rojo de expertos en datos humanos para analizar modelos de IA, detectar vulnerabilidades y generar datos que hagan la IA más segura para los clientes. Aspectos destacados: 1. Modelos y agentes de IA conversacional del equipo rojo para descubrir vulnerabilidades 2. Generar datos humanos de alta calidad: anotar fallos y clasificar riesgos 3. Colaborar como contratista independiente con trabajo remoto flexible **Modalidad de trabajo:** Remoto **Tipo de colaboración:** Contratista independiente **Tipo:** Trabajo por contrato a tiempo completo o parcial **Conocimientos lingüísticos fluidos requeridos:** Inglés y chino (mandarín) **Motivo de existencia de este puesto** Creemos que la IA más segura es aquella que ya ha sido atacada — por nosotros. Estamos constituyendo un equipo rojo para este proyecto: expertos en datos humanos que someten modelos de IA a entradas adversarias, detectan vulnerabilidades y generan datos del equipo rojo que hacen la IA más segura para nuestros clientes. Este proyecto implica revisar salidas de IA relacionadas con temas sensibles, como sesgos, desinformación o comportamientos perjudiciales. Todo el trabajo es textual y la participación en proyectos de mayor sensibilidad es opcional y cuenta con pautas claras y recursos de bienestar. Antes de acceder a cualquier contenido, se comunicarán claramente los temas correspondientes. **Sus responsabilidades** * Analizar modelos y agentes de IA conversacional del equipo rojo: intentos de evasión (jailbreaks), inyecciones de indicaciones (prompt injections), casos de uso indebido, explotación de sesgos, manipulación en múltiples turnos * Generar datos humanos de alta calidad: anotar fallos, clasificar vulnerabilidades y señalar riesgos sistémicos * Aplicar estructura: seguir taxonomías, referencias comparativas (benchmarks) y manuales operativos (playbooks) para mantener pruebas coherentes * Documentar de forma reproducible: elaborar informes, conjuntos de datos y casos de ataque sobre los que los clientes puedan actuar **Perfil ideal** * Posee experiencia previa en equipos rojos (trabajo adversario con IA, ciberseguridad, análisis socio-técnico) * Es curioso/a y adversario/a: empuja instintivamente los sistemas hasta sus límites * Es estructurado/a: utiliza marcos metodológicos o referencias comparativas (benchmarks), no solo ataques aleatorios * Es comunicativo/a: explica claramente los riesgos a partes interesadas técnicas y no técnicas * Es adaptable: prospera al trasladarse entre distintos proyectos y clientes **Especialidades deseables (no excluyentes)** * Aprendizaje automático adversario: conjuntos de datos para intentos de evasión (jailbreak), inyección de indicaciones (prompt injection), ataques RLHF/DPO, extracción de modelos * Ciberseguridad: pruebas de penetración, desarrollo de exploits, ingeniería inversa * Riesgo socio-técnico: análisis de acoso/desinformación, análisis de abusos, pruebas de IA conversacional * Exploración creativa: psicología, interpretación teatral, escritura para pensamiento adversario poco convencional **Indicadores de éxito** * Descubre vulnerabilidades que las pruebas automatizadas pasan por alto * Entrega artefactos reproducibles que refuercen los sistemas de IA de los clientes * Ampliación de la cobertura de evaluación: se prueban más escenarios y surgen menos sorpresas en producción **Términos contractuales y de pago** ------------------------------ * Colaborará como contratista independiente. * Se trata de un puesto completamente remoto que puede realizarse según su propio horario. * Los proyectos pueden ampliarse, acortarse o finalizarse anticipadamente según las necesidades y el desempeño. * Los pagos se realizan semanalmente mediante Stripe o Wise, según los servicios prestados.
