Detecção e exploração de vulnerabilidades a ataques de buffer overflow

Abstract

As anomalias relacionadas ao uso incorreto de memória estão entre asvulnerabilidades mais críticas encontradas em softwares de qualquer natureza. A exploração desse tipo de falha permite o desvio do fluxo padrão de um processo, aexecução arbitrária de outros programas e a consequente escalação de privilégiospara comprometer o sistema operacional atacado. Tais características fazem do ataque de bufferoverflow uma das técnicas de exploração mais letais e, devido àamplitude de suas possibilidades, também uma das mais comuns. Neste trabalho foram estudadas técnicas para a verificação automática de código para a detecçãode vulnerabilidades a ataques de buffer overflow. Algumas das principaisferramentas disponíveis para esse tipo de verificação foram abordadas, destacando-se o tipo de técnica adotada por cada sistema. Diante das principais metodologias de verificação de código, categorizadas em análise estática ou dinâmica, foram realizados testes onde, a partir de programas com diferentes tipos de falha, aefetividade das ferramentas de detecção de vulnerabilidades foi avaliada. Concluiu-se que, apesar de eficaz para alguns tipos específicos de vulnerabilidades, averificação automática ainda é ineficiente devido à geração de falsos-negativos e positivos para códigos com certas características ou que são especialmente complexos.

Anomalies related to incorrect management of memory are amongst the most criticalvulnerabilities that can be found in any kind of software. The exploitation of this typeof flaw allows switching the default control flow of a process, the arbitrary executionof others programs and its consequent privilege escalation, which allows theoperating system compromising. Such properties make the buffer overflow attack oneof the most lethal exploration techniques and, due to the extent of its possibilities,one of the most common. In this work, techniques of automatic verification of codewere studied in order to detect buffer overflows vulnerabilities. Some of the maintools used for this kind of verification were studied, highlighting the type of techniqueadopted by each system. Knowing these methodologies, categorized in static ordynamic analysis, tests were executed where, starting with programs with differenttypes of flaws, the effectiveness of the vulnerability detection tools was evaluated. Itwas concluded that, despite being efficient for some sorts of vulnerabilities, automaticverification is still inefficient due to its false-negatives and positives for codes withcertain specificities or that are specially complex.