O documento discute buffer overflows e técnicas para preveni-los, como hardware e software que marcam áreas de memória como não executáveis e randomização do layout de espaço de endereço. Exemplos demonstram como buffer overflows podem sobrescrever endereços de retorno ou variáveis.

1. Conjunto de Instruções
em Buffer OverFlow
Pedro Filho Leandro Almeida
Universidade Federal da Paraíba
Programa de Pós-graduação em Informática
Arquitetura de Computadores

2. SOFTWARE
INSTRUÇÕES
HARDWARE

3. Instruções de Chamada de
Procedimento

4. Armazenamento do Endereço de
Retorno
Registrador
Início do procedimento chamado
Pilha

5. Pilha

6. Buffer OverFlow
“Ocorre quando uma quantidade
de bytes é copiado para uma área
de memória que não comporta o
mesmo.
Desta forma, os dados excedentes
podem sobrescrever registradores
ou outras variáveis.” [Hugo Reinaldo]

7. EXEMPLO 1
Buffer OverFlow Simples

8. Buffer OverFlow
char nome[4]; int idade;
L E O 0 2 0
Entrada: LEO idade: 20
char nome[4]; int idade;
L E O O A 0
Entrada: LEOOA idade: 65

9. EXEMPLO 2
Buffer OverFlow com escrita
de dados no endereço de
retorno

11. EXEMPLO 3
Buffer OverFlow com escrita
de dados no endereço de
retorno e execução de
comandos arbitrários

12. char buffer[100];
Frame Pointer - FP
Endereço de Retorno
Parâmetros da Função

13. DATA
EXECUTION
PREVENTION

14. DEP
- Hardware
- Marca áreas de memória como
não executável
- Bit NX (No eXecute)
- Software
- Verifica quando uma exceção é
gerada

15. ADDRESS
SPACE
LAYOUT
RANDOMIZATION

16. ASLR
Randomiza as regiões de memória,
dificultando a descoberta para o
atacante
Módulo - GRSECURITY

17. Referências
[1] Aleph1 - Smashing The Stack For Fun And Profit. Acessado em
22/11/2011. Disponível em:
http://www.phrack.org/issues.html?id=14&issue=49
[2] ARANHA, Diego. Tomando o controle de programas vulneráveis a
buffer overflow. Acessado em 22/11/2011. Disponível em:
http://www.cic.unb.br/~pedro/trabs/buffer_overflow.htm
[3] Piromsopa, K.; Enbody, R.J. Buffer-Overflow Protection: The Theory .
Electro/information Technology, 2006 IEEE International Conference on
[4] Chongkyung Kil; et al . Address Space Layout Permutation (ASLP):
Towards Fine-Grained Randomization of Commodity Software. Computer
Security Applications Conference, 2006. ACSAC '06. 22nd Annual
[5] ANLEY, Chris; et al . The Shellcoder's Handbook - Discovering and
Exploiting Security Holes. Second Edition. Wiley Publising - 2007