Deep Learning aplicado ao diagnóstico assistido de retinopatia diabética

Resumo

A avaliação da gravidade da retinopatia diabética (RD) por especialistas humanos é inerentemente limitada por uma significativa variabilidade interobservadora, particularmente em cenários de triagem descentralizados, onde a concordância diagnóstica pode variar de razoável a moderada entre profissionais com diferentes níveis de formação. No Brasil, esse desafio é agravado por barreiras estruturais, tais como longas filas de espera, acesso restrito a especialistas e insumos médicos, e a concentração desproporcional de profissionais de saúde em grandes centros urbanos — fatores que atrasam sistematicamente o diagnóstico de uma condição que permanece assintomática em seus estágios iniciais, justamente quando a intervenção seria mais eficaz para evitar a progressão para a cegueira irreversível. Diante desse cenário, sistemas automatizados baseados em deep learning (aprendizado profundo) surgem como uma alternativa promissora, demonstrando alta sensibilidade, valores de AUC de até 0,879 e a capacidade de estender os intervalos de acompanhamento entre os exames. Este estudo propõe o desenvolvimento de uma ferramenta de suporte ao diagnóstico de RD por meio de um modelo de deep learning para a classificação da condição em imagens de retinografia (ou imagens de fundo de olho). O desenvolvimento do modelo fundamenta-se em três eixos de referência: os sistemas de classificação de gravidade da RD e suas limitações no contexto de novas plataformas de imagem e inteligência artificial; as técnicas de processamento de imagens médicas aplicadas à detecção da RD; e o estado da arte no diagnóstico da condição baseado em deep learning, com ênfase nos desafios remanescentes relativos à interpretabilidade do modelo e à confiabilidade clínica.

Palavras-chave: retinopatia diabética; aprendizado profundo; diagnóstico assistido por computador; triagem automatizada; classificação de imagens de fundo de olho; variabilidade interobservador; saúde pública.

Abstract

The assessment of diabetic retinopathy (DR) severity by human specialists is inherently limited by substantial interobserver variability, particularly in decentralized screening settings, where diagnostic agreement may range from fair to moderate among professionals with different levels of training. In Brazil, this challenge is further exacerbated by structural barriers, including long waiting times, limited access to specialists and medical resources, and the disproportionate concentration of healthcare professionals in major urban centers. These factors systematically delay the diagnosis of a condition that remains asymptomatic in its early stages, precisely when intervention is most effective in preventing progression to irreversible blindness. In this context, automated systems based on deep learning have emerged as a promising alternative, demonstrating high sensitivity, area under the receiver operating characteristic curve (AUC) values of up to 0.879, and the potential to safely extend follow-up intervals between retinal examinations. This study proposes the development of a computer-aided diagnostic tool for diabetic retinopathy based on a deep learning model for the classification of retinal fundus photographs (fundus images). The development of the proposed model is grounded on three main pillars: (i) diabetic retinopathy severity classification systems and their limitations in the context of emerging imaging platforms and artificial intelligence; (ii) medical image processing techniques applied to diabetic retinopathy detection; and (iii) the current state of the art in deep learning–based diabetic retinopathy diagnosis, with particular emphasis on the remaining challenges related to model interpretability and clinical reliability.

Keywords: diabetic retinopathy; deep learning; computer-aided diagnosis; automated screening; retinal fundus image classification; interobserver variability; public health.

1 INTRODUÇÃO

A avaliação da gravidade da retinopatia diabética (RD) por retinografias coloridas apresenta desafios inerentes à subjetividade do julgamento humano. Mesmo entre especialistas com formação e experiência equivalentes, a variabilidade interobservadora é um fenômeno consistentemente documentado. Em estudo com dois especialistas em retina avaliando imagens de campo ultra-aberto (UWF), identificou-se discordância diagnóstica em 15,2.

Essa incerteza amplifica-se quando a triagem é descentralizada para a atenção primária ou conduzida por profissionais em diferentes estágios de formação. Avaliações comparativas envolvendo especialistas, residentes, médicos de família e estudantes de medicina demonstram que a concordância interobservador e intra grupo varia de razoável a moderada (TEOH et al., 2023), cenário que se agrava ao considerar que a aplicação de escalas categóricas tradicionais de severidade por avaliadores menos experientes apresenta forte inconsistência em rodadas repetidas de análise do mesmo conjunto de imagens (CUREUS, 2026).

No contexto brasileiro, esse desafio assume contornos estruturais. Filas de espera, acesso restrito a especialistas e insumos, e a concentração desproporcional de profissionais de saúde nas grandes regiões do estado de São Paulo compõem um cenário que sistematicamente atrasa o diagnóstico e compromete a adesão ao tratamento (PIROLO, 2023, apud GALISI, 2023). Esse atraso é particularmente grave no caso da RD: trata-se de uma doença silenciosa, que na fase inicial não produtos sintoma algum — justamente o momento em que a intervenção seria mais eficaz para impedir a progressão à cegueira irreversível (BORDON, 2023, apud GALISI, 2023). Agrava o quadro o fato de que esse rastreamento precoce não demandaria necessariamente um especialista; a atenção primária teria condições técnicas de realizá-lo, mas ainda carece de capacitação e estrutura adequadas (PIROLO, 2023; BORDON, 2023, apud GALISI, 2023).

Em meio a este cenário, sistemas de triagem automatizada baseados em aprendizado profundo (deep learning) têm emergido como alternativa concreta para mitigar as assimetrias do diagnóstico humano — não apenas na detecção em larga escala da doença, mas também na orientação do manejo individualizado de pacientes (HUANG, 2022). Enquanto avaliadores humanos divergem amplamente entre si, modelos automatizados mantêm alta sensibilidade e desempenho robusto, com AUC de até 0,879 na detecção de casos referenciais (TEOH et al., 2023). Um exemplo concreto desse potencial é o DeepDR Plus (DAI et al., 2024), capaz de estender o intervalo médio de acompanhamento de pacientes sem sinais de retinopatia, ou com quadros leves, de 12 para aproximadamente 31,97 meses — o que representa uma redução de 62,46.

Diante do exposto, este trabalho tem por objetivo o desenvolvimento de uma ferramenta de auxílio à detecção da retinopatia diabética por meio de um modelo de deep learning para classificação da patologia em imagens de fundo de olho. A construção do modelo apoia-se em três eixos de referência na literatura: os sistemas de classificação de severidade da RD e suas limitações frente às novas plataformas de imagem e à inteligência artificial (YANG et al., 2026); as técnicas de processamento de imagens médicas e aplicações de deep learning no contexto específico da detecção de RD (UPPAMMA; BHATTACHARYA, 2023); e o estado da arte do uso de deep learning no diagnóstico da patologia, incluindo os desafios ainda em aberto quanto à interpretabilidade e confiabilidade clínica dos modelos (TSIKNAKIS et al., 2021).

2 REVISÃO BIBLIOGRÁFICA

2.1 Deep Learning aplicado à retinopatia diabética

A retinopatia diabética (RD) é uma das principais complicações microvasculares do diabetes mellitus e figura como a maior causa de cegueira evitável na população em idade ativa globalmente (Tan & Wong, 2023). Como o curso clínico da doença é predominantemente assintomático em seus estágios iniciais, o rastreamento periódico torna-se indispensável para mitigar o risco de perda visual severa (Shekar et al., 2021). Tradicionalmente, o diagnóstico baseia-se na avaliação manual de fotografias coloridas de fundo de olho por especialistas. Contudo, a escassez de oftalmologistas e a crescente demanda gerada pela prevalência global do diabetes têm sobrecarregado os sistemas de saúde, impulsionando o desenvolvimento de métodos computadorizados auxiliados por inteligência artificial (Huang et al., 2022; Tan & Wong, 2023). Nesse cenário, as abordagens baseadas em Deep Learning (DL), como as Redes Neurais Convolucionais (CNNs), consolidaram-se como o estado da arte, superando modelos tradicionais que dependiam da extração manual de características (Tsiknakis et al., 2021).

Na literatura atual, a aplicação de DL na RD desdobra-se principalmente em duas frentes complementares: o rastreamento por classificação e a segmentação de lesões (Tsiknakis et al., 2021). Os modelos de classificação operam em nível de imagem para categorizar a gravidade da doença em cinco estágios clínicos, que variam desde a ausência de RD até a retinopatia diabética proliferativa (RDP) (Shekar et al., 2021). Arquiteturas consagradas em computação visual, como Inception, ResNet, VGGNet e DenseNet, têm sido amplamente adaptadas para essa tarefa por meio do aprendizado por transferência (transfer learning), utilizando pesos pré-treinados e refinando-os em repositórios de fundoscopia (Nadeem et al., 2022; Tsiknakis et al., 2021). Estudos utilizando bases de dados massivas, como o EyePACS e o Messidor, demonstraram que esses sistemas alcançam valores de área sob a curva ROC (AUC) superiores a 96

Por outro lado, os algoritmos de segmentação focam na localização precisa de estruturas anatômicas (como a árvore vascular e o disco óptico) e de lesões biomarcadoras estruturais da doença (Tsiknakis et al., 2021). Entre as principais manifestações identificadas pelas redes estão os microaneurismas, e hemorragias intra retinianas, os exsudatos duros e a neovascularização (Nadeem et al., 2022; Shekar et al., 2021). Para as tarefas de segmentação semântica pixel a pixel, arquiteturas baseadas em redes totalmente convolucionais (FCNs) e, proeminentemente, a arquitetura U-Net (e suas variações), destacam-se pela capacidade de preservar a integridade estrutural da imagem e mapear com alta fidelidade capilares finos mesmo em fundos de baixo contraste (Tsiknakis et al., 2021).

Apesar dos resultados promissores, a literatura aponta gargalos técnicos significativos, como a dependência de grandes volumes de dados anotados manualmente por especialistas e a dificuldade de generalização dos modelos em imagens de qualidades heterogêneas (Chen et al., 2022; Nadeem et al., 2022). Para contornar a escassez de dados, investigações recentes convergem para paradigmas de aprendizado "não tão supervisionados", incluindo o uso de Redes Adversariais Generativas (GANs) e abordagens de aprendizado semi ou auto-supervisionado (Chen et al., 2022). Adicionalmente, a evolução do DL aponta para além do diagnóstico estático tradicional. Avanços recentes expandiram o escopo da tecnologia para modelos prognósticos longitudinais em tempo real, como o sistema DeepDR Plus, capaz de prever o risco individualizado e o tempo de progressão da RD em uma janela de até 5 anos (Dai et al., 2024). Essa transição para sistemas preditivos temporais promete transformar as estratégias de rastreamento populacional até 2030, otimizando custos e direcionando terapias oportunas antes da perda visual irreversível (Dai et al., 2024; Tan & Wong, 2023).

2.2 Retinopatia diabética

A retinopatia diabética (RD) é uma complicação microvascular crônica e progressiva diretamente decorrente da hiperglicemia persistente em pacientes diagnosticados com diabetes mellitus, figurando como a principal causa de perda visual evitável na população economicamente ativa em âmbito global (Tan & Wong, 2023). Clinicamente, o estado hiperglicêmico crônico induz danos bioquímicos e estruturais ao endotélio capilar da retina, desencadeando obstruções microvasculares, isquemia, aumento da permeabilidade vascular e o enfraquecimento das barreiras hematorretinianas (Shekar et al., 2021). A patologia é classificada de acordo com sua severidade em dois grandes estágios clínicos: a retinopatia diabética não proliferativa (RDNP) — caracterizada pela presença inicial de microaneurismas, hemorragias intraretinianas e exsudatos duros — e a retinopatia diabética proliferativa (RDP), marcada pela liberação de fatores de crescimento angiogênicos (como o VEGF) e subsequente neovascularização, que pode evoluir para descolamento de retina e cegueira (Nadeem et al., 2022; Tsiknakis et al., 2021). Devido ao seu caráter predominantemente assintomático nas fases iniciais, a doença avança de forma silenciosa, tornando o rastreamento clínico periódico e a detecção precoce de seus biomarcadores estruturais as estratégias mais eficazes para o manejo clínico oportuno e a preservação da integridade visual do paciente (Huang et al., 2022; Shekar et al., 2021).

3 Metodologia

3.1 Natureza da Pesquisa

A presente pesquisa caracteriza-se como de natureza aplicada, tendo em vista que se volta ao estudo da implementação de um modelo de visão computacional em um contexto específico — a detecção precoce da retinopatia diabética —, com vistas à aplicação prática do conhecimento teórico de Deep Learning no desenvolvimento de uma ferramenta de auxílio ao diagnóstico médico. Quanto à abordagem, o trabalho é estritamente quantitativo, fundamentando-se na análise estatística de métricas de desempenho, como acurácia, sensibilidade e especificidade, obtidas por meio de um protocolo experimental voltado à mensuração da capacidade do modelo em identificar sintomas pré-estabelecidos da doença. No que concerne aos objetivos, a pesquisa possui caráter explicativo, buscando identificar padrões em imagens de retina considerados fatores determinantes para a classificação e o diagnóstico da retinopatia diabética, aprofundando a compreensão sobre as relações entre tais padrões visuais e os estágios de progressão da enfermidade. Por fim, quanto aos procedimentos técnicos, a pesquisa é classificada como experimental, uma vez que envolve a manipulação deliberada de variáveis — como arquitetura da rede neural, hiperparâmetros e composição do conjunto de dados — sob condições controladas, com o objetivo de testar hipóteses previamente definidas e avaliar o desempenho do modelo proposto em cenários reprodutíveis.

3.2 Ambiente de Desenvolvimento e Materiais

3.2.1 Descrição do Dataset

A fonte de dados utilizada nesta pesquisa é a base Diabetic Retinopathy Detec tion, disponibilizada publicamente na plataforma Kaggle, acessível por meio do endereço: https://www.kaggle.com/competitions/diabetic-retinopathy detection/data.

O dataset é constituído por aproximadamente 88.436 imagens de retina de alta resolução, cedidas pela organização EyePACS e provenientes de diferentes modelos e tipos de câmeras, o que confere ao conjunto uma heterogeneidade visual representativa de condições reais de aquisição de imagem. Para cada paciente, são fornecidas duas imagens — referentes ao campo esquerdo e ao campo direito —, identificadas por um código de sujeito acrescido da lateralidade correspondente (e.g., 1_left.jpeg e 1_right.jpeg).

A rotulação dos dados foi realizada previamente por um clínico especialista, que avaliou a presença e o grau de retinopatia diabética em cada imagem com base em uma escala ordinal de cinco classes, conforme detalhado na Tabela 1.

Tabela 1: Escala de classificação da retinopatia diabética

Cabe destacar que, como característico de conjuntos de dados provenientes de ambientes clínicos reais, o dataset apresenta ruídos tanto nas imagens quanto nos rótulos. As imagens podem conter artefatos, variações de foco, subexposição ou superexposição, além de diferenças de orientação. Tal variabilidade constitui um desafio adicional ao desenvolvimento do modelo, exigindo robustez algorítmica para operar satisfatoriamente na presença dessas inconsistências.

3.2.2 Recursos de Infraestrutura

O processamento das imagens em alta resolução (728×728 pixels) foi adotado com o objetivo de preservar as microestruturas da retina relevantes ao diagnóstico. Em decorrência da elevada carga computacional imposta pela propagação de tensores de tal magnitude pelas camadas convolucionais, o treinamento do modelo demandou infraestrutura de processamento paralelo acelerado por hardware. Utilizou-se, para tanto, unidade de processamento gráfico (GPU) com capacidade de memória de vídeo (VRAM) suficiente para alocar os lotes (batches) de imagens em precisão de ponto flutuante, viabilizando tempos de convergência compatíveis com a escala do experimento.

3.2.3 Recursos de Software

A stack tecnológica do projeto foi organizada em dois domínios: o desenvolvimento do modelo de inteligência artificial e a construção da interface voltada ao usuário final. O pipeline de visão computacional foi implementado na linguagem Python, com utilização do framework PyTorch para a manipulação algébrica de tensores e a definição de funções de perda customizadas. A arquitetura base da rede neural foi fornecida pela biblioteca Ultralytics, por meio da família de modelos YOLO (You Only Look Once).

3.3 Pipeline de Dados

3.3.1 Pré-processamento

O pré-processamento das imagens brutas constituiu etapa fundamental para maximizar a extração de características pela rede neural. Inicialmente, aplicou se o Filtro de Ben Graham, técnica baseada na subtração de uma versão suavizada por desfoque gaussiano da própria imagem, com vistas à normalização de discrepâncias de iluminação local e ao realce de estruturas vasculares e formações patológicas, como exsudatos duros. Em seguida, as imagens foram redimensionadas para as dimensões de 728×728 pixels, resolução selecionada estrategicamente para preservar detalhes de pequena escala, como microaneurismas. Por fim, os arrays matriciais foram convertidos para precisão de ponto flutuante de 32 bits (FP32), assegurando estabilidade numérica durante a atualização dos gradientes.

3.3.2 Aumento de Dados

A fim de mitigar os efeitos do desbalanceamento de classes e ampliar a capacidade de generalização do modelo — reduzindo o risco de overfitting —, técnicas de aumento de dados (data augmentation) foram incorporadas à fase de treinamento. Foram aplicadas transformações geométricas, com ênfase em rotações espaciais e espelhamentos horizontais e verticais. No contexto da oftalmologia, a orientação do globo ocular não interfere na classificação da patologia, o que torna tais operações seguras e eficazes para a diversificação dos padrões visuais apresentados à rede.

3.3.3 Divisão dos Dados

O conjunto de imagens foi particionado em subconjuntos de treinamento, validação e teste por meio do método de divisão estratificada — abordagem recomendada para bases de dados desbalanceadas. Esse procedimento garantiu a manutenção rigorosa da proporção original de cada uma das cinco classes em todos os subconjuntos, assegurando que o modelo fosse treinado de forma representativa e avaliado de maneira metodologicamente consistente em todos os graus de severidade da doença.

3.4 Desenvolvimento do Modelo de Deep Learning
3.4.1 Arquitetura

O sistema diagnóstico foi construído sobre a arquitetura YOLO, adaptada de sua finalidade original — detecção de objetos — para a execução de uma tarefa de classificação categórica. A rede emprega um backbone composto por blocos convolucionais profundos responsáveis pela extração hierárquica de características visuais. Na camada terminal da rede, um módulo de Global Average Pooling (GAP) condensa os mapas de características espaciais em um vetor unidimensional, o qual alimenta o classificador final e retorna a distribuição de probabilidade sobre as cinco classes ordinais.

3.4.2 Hiperparâmetros

A calibração dos hiperparâmetros exigiu abordagens avançadas, em razão da sutil transição visual entre os estágios da retinopatia diabética. Aplicou-se Label Smoothing com valor de 0,15, suavizando os rótulos-alvo para prevenir o desenvolvimento de excesso de confiança e a memorização de ruídos presentes em imagens limítrofes. Para o tratamento do desbalanceamento de classes, introduziram-se pesos inversamente proporcionais à frequência de cada classe.

Adicionalmente, implementou-se um wrapper customizado no ecossistema do PyTorch para a aplicação da Focal Loss (γ = 2,0). Essa modificação reduziu a penalidade matemática atribuída a amostras de fácil classificação — como fundos de olho saudáveis — e concentrou a atualização dos gradientes no aprendizado das microestruturas presentes nas amostras patológicas de maior dificuldade discriminativa.

3.4.3 Critérios de Parada

O treinamento foi regido por um mecanismo de Early Stopping dinâmico, mediante monitoramento contínuo da função de perda no conjunto de validação (val/loss). O algoritmo foi configurado para interromper a execução quando a referida métrica apresentasse estagnação ou trajetória ascendente prolongada. Esse critério assegurou que o modelo não transitasse para um regime de overfitting, preservando os pesos correspondentes ao ponto de máxima capacidade de generalização.

3.5 Avaliação e Validação

3.5.1 Métricas de Desempenho

O desempenho quantitativo do modelo foi avaliado por meio da curva de perda de validação e da acurácia Top-1. O monitoramento dessas métricas ao longo das épocas evidenciou decréscimo contínuo na função de erro e estabilização da acurácia global em aproximadamente 81%. A ausência de divergência entre as curvas de treinamento e de validação confirmou a eficácia das técnicas de regularização empregadas — pesos de classe e label smoothing —, indicando adequada capacidade de generalização do modelo.

3.5.2 Matriz de Confusão

A avaliação qualitativa e clínica do modelo foi conduzida por meio da análise de uma matriz de confusão relativa, expressa em termos de sensibilidade por classe, conforme ilustrado na Figura 1.

Os resultados demonstraram elevada confiabilidade nos extremos do espectro da doença, com taxas de acerto de 90,97% para a classe Normal e de 80,46% para a classe Proliferativa. O desempenho nas classes intermediárias, contudo, foi sensivelmente inferior: a classe Moderada atingiu 56,80% de acerto, ao passo que as classes Leve e Grave apresentaram as menores taxas, com 38,98% e 36,27%, respectivamente.

Figura 1: Matriz de confusão relativa (sensibilidade) do modelo para diagnóstico de retinopatia diabética.

A matriz evidenciou ainda um viés sistemático de subestimação de severidade (down-grading), particularmente pronunciado nas classes intermediárias. Imagens pertencentes à classe Leve foram classificadas como Normal em 46,78% dos casos, enquanto imagens da classe Grave foram predominantemente atribuídas à classe Moderada (39,22%), em detrimento da classificação correta. Esse padrão de confusão sistemática foi atribuído a dois fatores combinados: a perda de resolução espacial decorrente da supressão progressiva das dimensões convolucionais por stride, e a diluição de microaneurismas introduzida pelo estágio de pré-processamento, ambos comprometendo a dis criminação de achados sutis característicos dos estágios intermediários da doença.

4 Referências

ANGIOFLUORESCEINOGRAFIA (Retinografia Fluorescente): tudo sobre. IOC, 12 jan. 2022. Disponível em: https://ioc.med.br/angiofluoresceinografia retinografia-fluorescente/. Acesso em: 14 mar. 2026.

BERGMANN, Dave. O que é deep learning? IBM Think, [s.d.]. Disponível em: https://www.ibm.com/br-pt/think/topics/deep-learning. Acesso em: 14 mar. 2026.

COELHO, Erika. Distribuição médica no Brasil: problemas, desafios e estratégias. Estratégia MED, 16 jun. 2023. Disponível em: https://med.estrategia.com/portal/atualidades/distribuicao-medica-no-brasil/. Acesso em: 14 mar. 2026.

DEVISHREE, T.; RAHMAN, K. Abdul; SATHISHKUMAR, R. Enhanced ConvNeXt-V2 Framework with Squeeze-and-Excitation Attention Module for Grading of Diabetic Retinopathy using Fundus Images. In: INTER NATIONAL CONFERENCE ON COMPUTATIONAL INTELLIGENCE IN DATA SCIENCE (ICCIDS), 9., 2026, Chennai. Anais [...]. New York: IEEE, jan. 2026. Disponível em: https://ieeexplore.ieee.org/document/

11407890.

GUEDES, Ricardo Augusto Paletta; CHAOUBAH, Alfredo. Percepção dos cuidados e atenção com a saúde ocular da população brasileira. Revista Brasileira de Oftalmologia, v. 82, p. e0055, 25 out. 2023.

HOSPITAL SÃO CAMILO. 90% DOS CASOS de doenças oculares no Brasil são previsíveis e tratáveis. Hospital São Camilo, 16 jul. 2024. Disponível em: https://hospitalsaocamilosp.org.br/90-dos-casos-de-doencas oculares-no-brasil-sao-previsiveis-e-trataveis/. Acesso em: 14 mar. 2026.

LOKESH, R.; RAMAN, D. Raghu. Enhanced Eye Disease Detection with YOLOv10 and Convolutional Neural Networks (CNN) in Deep Learning. In: INTERNATIONAL CONFERENCE ON EMERGING TECHNOLOGIES IN ENGINEERING APPLICATIONS (ICETEA), 2025. Anais [...]. New York: IEEE, jun. 2025. Disponível em: https://ieeexplore.ieee.org/ document/11099901.Acessoem:11mar.2026.

NIROB, Md. Asraful Sharker et al. EDDNet30: A Spatial Attention and Multi-Scale Fusion Model for Enhanced Eye Disease Classification With Ex plainable AI. IEEE Access, v. 14, p. 19453-19471, 2026.

OMER, Muhammad et al. Inductive Bias Matters: Benchmarking CNNs, Transformers, and Hybrid Architectures for Diabetic Retinopathy Grading. In: INTERNATIONAL CONFERENCE ON UBIQUITOUS INFORMA TION MANAGEMENT AND COMMUNICATION (IMCOM), 20., 2026, Hanói. Anais [...]. New York: IEEE, jan. 2026. Disponível em: https: //ieeexplore.ieee.org/document/11360971.