Definición - ¿Qué significa Machine Bias?
El sesgo de la máquina es el efecto de suposiciones erróneas en los procesos de aprendizaje automático. El sesgo refleja problemas relacionados con la recopilación o el uso de datos, en los que los sistemas extraen conclusiones incorrectas sobre conjuntos de datos, ya sea debido a la intervención humana o como resultado de una falta de evaluación cognitiva de los datos.
El sesgo de la máquina también se conoce como sesgo de algoritmo o simplemente sesgo.
Techinfo explica Machine Bias
El sesgo de la máquina adopta varias formas. Uno de los ejemplos más destacados implica el uso de sistemas de aprendizaje automático para emitir juicios sobre personas individuales o grupos de personas. Por ejemplo, cuando se utilizan en el campo de la justicia penal, se ha demostrado que algunos modelos de aprendizaje automático asumen tasas de criminalidad más altas para las personas según datos superficiales como el origen étnico o la ubicación.
Otra forma de explicar el sesgo de la máquina en términos científicos es describiéndolo como un "agrupamiento" de datos que no está inherentemente justificado, donde el sesgo es una parte de lo que los ingenieros denominan una compensación "sesgo-varianza". Un sesgo alto puede provocar una agrupación inadecuada. Una gran variación puede provocar una dispersión excesiva de datos. Los ingenieros pueden referirse a un sistema o resultado como "alto sesgo, alta variación" o "bajo sesgo, alta variación" o alguna otra combinación.