Sistema automatizado para detecção e classificação de viabilidade celular em Saccharomyces cerevisiae utilizando YOLOv8

Abstract

A análise de viabilidade celular através da coloração com azul de metileno é fundamental em processos biotecnológicos, porém a classificação manual de células microscópicas apresenta limitações em termos de subjetividade, tempo e reprodutibilidade. Este trabalho explorou a aplicabilidade de um modelo de detecção e classificação de células de Saccharomyces cerevisiae com e sem corante azul de metileno utilizando You Only Look Once (YOLO)v8, uma arquitetura de aprendizado profundo para detecção de objetos em tempo real. A metodologia implementou protocolo de validação para prevenção de data leakage e controle de overfitting, aplicando comparação sistemática através de cinco configurações distintas: baseline, fine-tuning avançado, high class weight, high regularization e minimal augmentation. O dataset consistiu de 329 imagens microscópicas totalizando 4.930 anotações celulares válidas, divididas em conjuntos de treinamento (233 imagens), validação (64 imagens) e teste (32 imagens) com distribuição balanceada entre as classes. A implementação utilizou Python com framework Ultralytics YOLO, executada em ambiente Kaggle com Graphics Processing Unit (GPU) Tesla P100. O modelo otimizado com configuração minimal augmentation alcançou 94,4% de mean Average Precision (mAP)@0.5 no conjunto de validação. A validação no conjunto de teste independente (32 imagens) apresentou resultados preliminares com 88,7% de F1-Score, embora com limitações estatísticas devido ao tamanho amostral reduzido. A otimização de threshold identificou o valor ótimo de 0,55 baseado na maximização do F1-Score, resultando em 88,7% de F1, 89,3% de Precision e 88,1% de Recall. Os resultados preliminares sugerem adequação da abordagem para o contexto específico estudado, representando melhoria de 3,6 pontos percentuais em relação ao modelo baseline. A metodologia apresentou observação relevante sobre minimal augmentation para preservação de características microscópicas específicas. Este estudo exploratório estabelece base inicial para futuras investigações, requerendo validação em conjuntos de dados maiores para confirmação da generalização dos resultados.

Cell viability analysis using methylene blue staining is fundamental in biotechnological processes; however, manual classification of microscopic cells presents limitations in terms of subjectivity, time, and reproducibility. This study explored the applicability of an object detection and classification model for Saccharomyces cerevisiae cells, stained and unstained with methylene blue, using You Only Look Once (YOLO)v8 — a deep learning architecture for real-time object detection. The methodology implemented a validation protocol to prevent data leakage and control overfitting, with systematic comparison across five configurations: baseline, advanced fine-tuning, high class weight, high regularization, and minimal augmentation. The dataset consisted of 329 microscopic images with a total of 4,930 valid cell annotations, divided into training (233), validation (64), and test (32) sets, with balanced class distribution. The implementation used Python and the Ultralytics YOLO framework, executed in a Kaggle environment with a Tesla P100 Graphics Processing Unit (GPU). The model optimized with the minimal augmentation configuration achieved 94.4% mean Average Precision (mAP)@0.5 on the validation set. Testing on the independent test set (32 images) yielded preliminary results of 88.7% F1-Score, although statistical limitations exist due to the small sample size. Threshold optimization identified the optimal value of 0.55 via F1-Score maximization, resulting in 88.7% F1, 89.3% Precision, and 88.1% Recall. These preliminary results suggest the approach is suitable for the specific context studied, representing a 3.6 percentage point improvement over the baseline model. The methodology revealed relevant insights regarding the preservation of biological features through minimal augmentation. This exploratory study provides a foundation for future investigations, which require validation on larger datasets to confirm generalization of results.