Segun MarkTechPost (AI/ML News), Google Research ha presentado un nuevo enfoque para definir conceptos subjetivos en clasificación de imágenes, especialmente útil en áreas como moderación de contenido. Este marco, denominado Agile Deliberation, se centra en ayudar a usuarios a identificar y delimitar conceptos vagos, como “alimentos saludables” o “contenido engañoso”, sin necesidad de que ya tengan una comprensión clara de sus límites. En lugar de asumir que los usuarios conocen la frontera de un concepto, el sistema guía a los humanos para descubrirlo paso a paso, integrando su experiencia en el proceso de definición.
El modelo opera mediante una serie de interacciones con Gemini 2.5 Pro y Gemini 2.5 Flash a través de su API, sin necesidad de entrenar o personalizar los modelos. La implementación se realiza en entornos como Jupyter o Google Colab, utilizando embeddings de CLIP y un índice FAISS, que puede ejecutarse tanto en CPU como en GPU. El índice inicial del demo tiene un tamaño de aproximadamente 260 MB. En pruebas realizadas con 18 sesiones y dos conceptos distintos, el sistema alcanza un promedio de 10,5 puntos de F1 por encima del rendimiento cero de Gemini 2.5 Flash. En el caso más favorable, el F1 alcanza 0,59 frente a 0,48 en el caso sin intervención, con una precisión que mejora en 22 puntos (de 0,35 a 0,57). Sin embargo, en otros escenarios, como el caso de “alimentos saludables”, se observa una reducción de 15 puntos en la recuperación (de 0,80 a 0,63), mientras que en otro caso, la recuperación baja 17 puntos.
El diseño del marco se basa en entrevistas con expertos en moderación de contenidos que señalaron que el proceso más lento era localizar imágenes límite. La primera etapa divide el concepto original en hasta tres componentes más simples, usando cadenas de prompts con Gemini 2.5 Pro. Cada componente recibe ejemplos positivos y negativos, mostrados visualmente mediante imágenes recuperadas. Por ejemplo, en el caso de “alimentos saludables”, los ejemplos positivos podrían incluir ensaladas o bowls de grano, mientras que los negativos podrían ser productos ultraprocesados o altamente azucarados.
Este avance tiene un impacto significativo en contextos donde la subjetividad de los criterios de evaluación es alta, como en el control de contenido digital. Para los usuarios del Perú, este tipo de herramientas puede ser clave en entornos como redes sociales, plataformas de comercio electrónico o servicios de salud digital, donde definir qué es un “producto sano” o “contenido válido” puede ser un desafío. Al permitir que los usuarios construyan sus propios criterios mediante interacciones guiadas, el marco no solo mejora la precisión, sino que también fomenta la transparencia y el control local en las decisiones de moderación. En un entorno donde la diversidad cultural y las percepciones varían, este enfoque puede adaptarse más fácilmente a contextos específicos del país.