Algoritmos: Teoria e Prática - 3ª Edição

THOMAS H CORMEN CHARLES E LEISERSON RONALD L RIVEST CLIFFORD STEIN ALGORTIMOS TEORIA E PRÁTICA 3ª TRADUÇÃO DA 3ª EDIÇÃO AMERICANA ELSEVIER Material na WEB THOMAS H CORMEN CHARLES E LEISERSON RONALD L RIVEST CLIFFORD STEIN ALGORTIMOS TEORIA E PRÁTICA TRADUÇÃO Arlete Simille Marques REVISÃO TÉCNICA Arnaldo Mandel Departamento de Ciência da Computação Instituto de Matemática e Estatística da USP ELSEVIER 11ª tiragem Do original Introduction to Algorithms 3rd edition Copyright 2009 by The MIT Press 2012 Elsevier Editora Ltda Todos os direitos reservados e protegidos pela Lei no 9610 de 19021998 Nenhuma parte deste livro sem autorização prévia por escrito da editora poderá ser reproduzida ou transmitida sejam quais forem os meios empregados eletrônicos mecânicos fotográficos gravação ou quaisquer outros Coordenação de produção Silvia Lima Copidesque Ivone Teixeira Revisão Globaltec Editorial Marketing Editoração Eletrônica Globaltec Editorial Marketing Desenvolvimento de eBook Loope design e publicações digitais wwwloopecombr Elsevier Editora Ltda Conhecimento sem Fronteiras Rua Sete de Setembro 111 16º andar 20050006 Centro Rio de Janeiro RJ Brasil Rua Quintana 753 8º andar 04569011 Brooklin São Paulo SP Serviço de Atendimento ao Cliente 08000265340 sacelseviercombr ISBN original 9780262033848 ISBN 9788535236996 Nota Muito zelo e técnica foram empregados na edição desta obra No entanto podem ocorrer erros de digitação impressão ou dúvida conceitual Em qualquer das hipóteses solicitamos a comunicação ao nosso Serviço de Atendimento ao Cliente para que possamos esclarecer ou encaminhar a questão Nem a editora nem o autor assumem qualquer responsabilidade por eventuais danos ou perdas a pessoas ou bens originados do uso desta publicação CIPBRASIL CATALOGAÇÃONAFONTE SINDICATO NACIONAL DOS EDITORES DE LIVROS RJ A385 3 ed Algoritmos Thomas H Cormen et al tradução Arlete Simille Marques Rio de Janeiro Elsevier 2012 il Tradução de Introduction to algorithms 3rd ed Apêndices Inclui bibliografia e índice ISBN 9788535236996 1 Programação Computadores 2 Algoritmos de computador 3 Estruturas de dados Computadores I Cormen Thomas H 113715 CDD 0051 CDU 0044 a i pj 2 8 7 1 3 5 6 4 b pi j 2 8 7 1 3 5 6 4 c pi j 2 8 7 1 3 5 6 4 d pi j 2 8 7 1 3 5 6 4 e 2 1 7 8 3 5 6 4 f p i 2 1 3 8 7 5 6 4 g p i 2 1 3 8 7 5 6 4 h p i 2 1 3 8 7 5 6 4 i p i 2 1 3 4 7 5 6 8 PREFÁCIO Antes de existirem computadores havia algoritmos Mas agora que temos computadores há ainda mais algoritmos e os algoritmos estão no coração da computação Este livro é uma introdução abrangente ao moderno estudo de algoritmos para computadores Apresenta muitos algoritmos e os examina com considerável profundidade embora torne seu projeto e sua análise acessíveis a leitores de todos os níveis Tentamos manter as explicações em um nível elementar sem sacrificar a profundidade do enfoque ou o rigor matemático Cada capítulo apresenta um algoritmo uma técnica de projeto uma área de aplicação ou um tópico relacionado Algoritmos são descritos em linguagem comum e em pseudocódigo projetado para ser fácil de ler por qualquer pessoa que tenha estudado um pouco de programação O livro contém 244 figuras algumas com várias partes que ilustram como os algoritmos funcionam Visto que enfatizamos a eficiência como um critério de projeto incluímos análises cuidadosas dos tempos de execução de todos os nossos algoritmos O texto foi planejado primariamente para uso em cursos de graduação e pósgraduação em algoritmos ou estruturas de dados Como discute questões de engenharia relacionadas ao projeto de algoritmos bem como aspectos matemáticos é igualmente adequado para profissionais técnicos autodidatas Nesta terceira edição mais uma vez atualizamos o livro inteiro As mudanças são abrangentes e incluem novos capítulos revisão de pseudocódigos e um estilo de redação mais ativo Ao professor Este livro foi projetado para ser ao mesmo tempo versátil e completo Você descobrirá sua utilidade para uma variedade de cursos desde graduação em estruturas de dados até pósgraduação em algoritmos Como oferecemos uma quantidade consideravelmente maior de material da que poderia ser abordada em um curso típico de um período você pode considerar o livro como um bufê de vários pratos do qual pode selecionar e extrair o material que melhor atender ao curso que deseja ministrar Você verá que é fácil organizar seu curso usando apenas os capítulos de que precisar Os capítulos são relativamente autônomos de modo que você não precisa se preocupar com uma dependência inesperada e desnecessária de um capítulo em relação a outro Cada capítulo apresenta primeiro o material mais fácil e em seguida o material mais difícil os limites das seções são pontos de parada naturais Em cursos de graduação você poderia utilizar somente as primeiras seções de um capítulo em cursos de pósgraduação o capítulo inteiro Incluímos 957 exercícios e 158 problemas Cada seção termina com exercícios e cada capítulo com problemas Em geral os exercícios são perguntas curtas que testam o domínio básico do assunto Alguns são exercícios simples de autoaferição enquanto outros são mais substanciais e apropriados para o aluno resolver com mais tempo e calma Os problemas são estudos de casos mais elaborados que muitas vezes apresentam novo material frequentemente consistem em várias perguntas que conduzem o aluno pelas etapas exigidas para chegar a uma solução Ao contrário da prática que adotamos em edições anteriores deste livro nesta apresentamos soluções para alguns problemas mas de modo algum para todos os problemas e exercícios Essas soluções estão disponíveis no site da editora wwwelseviercombrcormen Seria interessante você visitar esse site para verificar se ele contém a solução para um exercício ou problema que planeja apresentar a seus alunos Esperamos que o conjunto de soluções reunidos no site aumente ao longo do tempo de modo que você deve visitálo toda vez que ministrar o curso Assinalamos com asteriscos as seções e os exercícios mais adequados para alunos de pósgraduação do que de graduação Uma seção marcada com asterisco não é necessariamente mais difícil que outra que não tenha asterisco mas pode exigir o entendimento de matemática mais avançada De modo semelhante exercícios assinalados por asteriscos podem exigir um conhecimento mais avançado ou criatividade acima da média Ao aluno Esperamos que este livro didático proporcione uma introdução agradável à área de algoritmos Tentamos tornar cada algoritmo acessível e interessante Para ajudálo quando encontrar algoritmos pouco familiares ou difíceis descrevemos cada um deles etapa por etapa Também apresentamos explicações cuidadosas dos fundamentos matemáticos necessários para entender a análise dos algoritmos Se você já tiver alguma familiaridade com um tópico perceberá que os capítulos estão organizados de modo que você possa apenas ler rapidamente as seções introdutórias e passar rapidamente para o material mais avançado Este é um livro extenso e sua turma provavelmente só examinará uma parte de seu material Porém procuramos tornálo útil para você agora como livro didático e também mais tarde em sua carreira como um guia de referência de matemática ou um manual de engenharia Quais são os prérequisitos para a leitura deste livro Você deve ter alguma experiência em programação Em particular deve entender procedimentos recursivos e estruturas de dados simples como arranjos e listas ligadas Você deve ter alguma facilidade com demonstrações matemáticas em especial por indução Algumas partes do livro dependem de algum conhecimento de cálculo diferencial elementar Além disso as Partes I e VIII deste livro ensinam todas as técnicas matemáticas de que você necessitará Apresentamos soluções para alguns deles que estão disponíveis em wwwelseviercombrcormen Você pode consultar o site e comparar suas soluções com as nossas Ao profissional A ampla variedade de tópicos neste livro faz dele um excelente manual sobre algoritmos Como cada capítulo é relativamente autônomo você pode se concentrar nos tópicos que mais o interessem A maioria dos algoritmos que discutimos tem grande utilidade prática Portanto abordamos questões de implementação e outras questões de engenharia Muitas vezes damos alternativas práticas para os poucos algoritmos cujo interesse é primordialmente teórico Se desejar implementar qualquer dos algoritmos verá que a tradução do nosso pseudocódigo para a sua linguagem de programação favorita é uma tarefa razoavelmente direta Projetamos o pseudocódigo para apresentar cada algoritmo de forma clara e sucinta Consequentemente não abordamos tratamento de erros e outras questões de engenharia de software que exigem características específicas do seu ambiente de programação Tentamos apresentar cada algoritmo de modo simples e direto sem permitir que as idiossincrasias de determinada linguagem de programação obscureçam sua essência Se você estiver usando este livro por conta própria sem seguir um curso pode ser que você não consiga ter acesso às soluções de problemas e exercícios No nosso site httpmi tpressmitedualgorithms há links para as respostas de alguns problemas e exercícios para que você possa verificar suas respostas Por favor não nos mande suas respostas Aos nossos colegas Apresentamos indicações e bibliografia extensivas para a literatura corrente Cada capítulo termina com um conjunto de notas do capítulo que dão detalhes e referências históricas Contudo as notas dos capítulos não oferecem uma referência completa para toda a área de algoritmos Embora talvez seja difícil de acreditar dado o tamanho deste livro restrições de espaço nos impediram de incluir muitos algoritmos interessantes Apesar dos inúmeros pedidos dos alunos preferimos manter a nossa política de não apresentar referências para as soluções de problemas e exercícios para evitar que eles cedam à tentação de consultar uma solução dada em vez de determinála Mudanças na terceira edição O que mudou entre a segunda e a terceira edições deste livro Sobre a magnitude das mudanças entre essas duas edições e entre a primeira e a segunda dizemos o mesmo que dissemos na segunda edição dependendo do ponto de vista de cada leitor a mudança pode não ser muito grande ou pode ser bem grande Um rápido exame do sumário mostra que a maior parte dos capítulos e seções da segunda edição aparecem na terceira edição Eliminamos dois capítulos e uma seção mas acrescentamos três novos capítulos e duas novas seções além desses novos capítulos Mantivemos a organização híbrida das duas primeiras edições Em vez de organizar os capítulos só por domínios de problemas ou só de acordo com técnicas este livro tem elementos de ambos Contém capítulos baseados em técnicas de divisão e conquista programação dinâmica algoritmos gulosos análise amortizada NPcompletude e algoritmos de aproximação Mas também traz partes inteiras dedicadas a ordenação estruturas de dados para conjuntos dinâmicos e algoritmos para problemas de grafos Entendemos que embora você precise saber como aplicar técnicas para projetar e analisar algoritmos os problemas raramente informam de antemão quais técnicas são as mais adequadas para resolvêlos Damos a seguir um resumo das mudanças mais significativas para a terceira edição Acrescentamos novos capítulos sobre árvores de van Emde Boas e algoritmos multithread e agora a parte de fundamentos do material sobre matrizes ocupa um dos apêndices Revisamos o capítulo sobre recorrências de modo a dar um tratamento mais abrangente à técnica de divisão e conquista e suas duas primeiras seções aplicam essa técnica para resolver dois problemas A segunda seção desse capítulo apresenta o algoritmo de Strassen para multiplicação de matrizes que transferimos do capítulo sobre operações com matrizes Eliminamos dois capítulos que raramente eram ensinados heaps binomiais e redes de ordenação Uma ideia fundamental no capítulo sobre redes de ordenação o princípio 01 aparece nesta edição dentro do Problema 8 7 como o lema de ordenação 01 para algoritmos de comparação e permutação O tratamento dos heaps de Fibonacci não depende mais do heaps binomiais como precursor Revisamos o tratamento de programação dinâmica e algoritmos gulosos Agora a programação dinâmica começa com um problema mais interessante corte de hastes de aço do que o problema de programação de linha de montagem na segunda edição Além disso enfatizamos a memoização com um pouco mais de intensidade do que o fizemos na segunda edição e apresentamos a noção do grafo de subproblema como um modo de entender o tempo de execução de um algoritmo de programação dinâmica Em nosso exemplo de abertura sobre algoritmos gulosos o problema de seleção de atividades chegamos ao algoritmo guloso mais diretamente do que o fizemos na segunda edição O modo de eliminar um nó em árvores de busca binária que inclui árvores rubronegras agora garante que o nó requisitado para eliminação seja o nó realmente eliminado Nas duas primeiras edições em certos casos algum outro nó seria eliminado e seu conteúdo seria transferido para o nó enviado para o procedimento de eliminação Com o nosso novo modo de eliminar nós se outros componentes de um programa mantiverem ponteiros para os nós na árvore não terminarão erroneamente com ponteiros inativos para nós que já foram eliminados O material sobre redes de fluxo agora baseia os fluxos inteiramente em arestas Essa abordagem é mais intuitiva do que o fluxo em rede usado nas duas primeiras edições Como o material sobre fundamentos de matrizes e o algoritmo de Strassen passou para outros capítulos o capítulo sobre operações com matrizes é menor do que o da segunda edição Modificamos o tratamento do algoritmo de correspondência de cadeias de KnuthMorrisPratt Corrigimos vários erros A maioria deles aparece na errata da segunda edição publicada em nosso site mas outros não Atendendo a muitos pedidos mudamos a sintaxe até certo ponto do nosso pseudocódigo Agora usamos para indicar atribuição e para testar igualdade exatamente como fazem as linguagens C C Java e Python De modo semelhante eliminamos as palavraschave do e then e adotamos como símbolo para comentários de final de linha Agora também usamos a notação de ponto para indicar atributos de objetos Nosso pseudocódigo continua sendo orientado a procedimento e não a objeto Em outras palavras em vez de executar métodos em objetos simplesmente chamamos procedimentos e passamos objetos como parâmetros Adicionamos 100 novos exercícios e 28 novos problemas Além disso atualizamos muitas citações bibliográficas e acrescentamos várias outras novas Finalmente repassamos o livro inteiro e reescrevemos sentenças parágrafos e seções para tornar a linguagem mais clara e mais ativa Agradecimentos para a terceira edição Estamos trabalhando com a MIT Press há mais de duas décadas e que maravilhosa relação é a nossa Agradecemos a Ellen Faran Bob Prior Ada Brunstein e Mary Reilly por sua ajuda e apoio Estávamos em lugares diferentes enquanto produzíamos a terceira edição trabalhando no Dartmouth College Department of Computer Science no MIT Computer Science and Artificial Intelligence Laboratory e no Columbia University Department of Industrial Engineering and Operations Research Agradecemos a nossas respectivas universidades e colegas por proporcionarem tais ambientes de suporte tão estimulantes Mais uma vez Julie Sussman PPA nos salvou como editora técnica Mais de uma vez ficamos pasmados com os erros que deixamos passar mas que Julie percebeu Ela também nos ajudou a melhorar a apresentação em vários lugares do livro Se houvesse uma Calçada da Fama para editores técnicos Julie seria com certeza a nossa candidata número um Ela é nada menos que fenomenal Obrigado obrigado obrigado Julie Priya Natarajan também descobriu alguns erros que pudemos corrigir antes da impressão deste livro Quaisquer erros que restarem e não temos dúvidas de que ainda há alguns são da responsabilidade dos autores e provavelmente foram inseridos depois que Julie leu o material O tratamento para as árvores de van Emde Boas baseiase nas notas de Erik Demaine que por sua vez foram influenciadas por Michael Bender Incorporamos também ideias de Javed Aslam Bradley Kuszmaul e Hui Zha nesta edição O capítulo sobre multithreading foi baseado em notas escritas originalmente em conjunto com Harald Prokop O material foi influenciado pelo de vários outros que trabalharam no projeto Cilk no MIT entre eles Bradley Kuszmaul e Matteo Frigo O projeto do pseudocódigo multithread foi inspirado pelas extensões Cilk do MIT para C e por extensões da Cilk para C pela Cilk Arts Agradecemos também aos muitos leitores da primeira e segunda edições que indicaram erros ou apresentaram sugestões para melhorar este livro Corrigimos todos os erros de boafé indicados e incorporamos o máximo de sugestões possível Ficamos contentes com o grande crescimento do número de tais contribuintes mas tristes porque tornouse impraticável nomear todos eles Finalmente agradecemos a nossas esposas Nicole Cormen Wendy Leiserson Gail Rivest e Rebecca Ivry e a nossos filhos Ricky Will Debby e Katie Leiserson Alex e Christopher Rivest e Molly Noah e Benjamin Stein por seu amor e apoio durante a preparação deste livro A paciência e o estímulo de nossas famílias tornou esse projeto possível Dedicamos este livro afetuosamente a elas THOMAS H CORMEN Lebanon New Hampshire CHARLES E LEISERSON Cambridge Massachusetts RONALD L RIVEST Cambridge Massachusetts CLIFFORD STEIN New York New York Fevereiro de 2009 1 Investigamos vários programas de desenho que são executados sob Mac OS X mas todos apresentaram deficiências significativas em comparação com o MacDraw Pro Por algum tempo tentamos produzir as ilustrações para este livro com um programa de desenho diferente muito conhecido Constatamos que demorava no mínimo cinco vezes mais tempo para produzir cada ilustração do que com o MacDraw Pro e as ilustrações resultantes não eram tão boas Daí a decisão de voltar para o MacDraw Pro executado em Macintoshes mais antigos SUMÁRIO Capa Folha de Rosto Copyright Prefácio Parte I Fundamentos Introdução 1 O papel dos algoritmos na computação 11 Algoritmos 12 Algoritmos como tecnologia 2 Dando a partida 21 Ordenação por inserção 22 Análise de algoritmos 23 Projeto de algoritmos 231 A abordagem de divisão e conquista 232 Análise de algoritmos de divisão e conquista 3 Crescimento de funções 31 Notação assintótica 32 Notações padrão e funções comuns 4 Divisão e conquista 41 O problema do subarranjo máximo 42 Algoritmo de Strassen para multiplicação de matrizes 43 Método de substituição para resolver recorrências 44 Método da árvore de recursão para resolver recorrências 45 Método mestre para resolver recorrências 46 Prova do teorema mestre 461 A prova para potências exatas 462 Pisos e tetos 5 Análise probabilística e algoritmos aleatorizados 51 O problema da contratação 52 Variáveis aleatórias indicadoras 53 Algoritmos aleatorizados 54 Análise probabilística e usos adicionais de variáveis aleatórias indicadoras 541 O paradoxo do aniversário 542 Bolas e caixas 543 Sequências 544 O problema da contratação online Parte II Ordenação e estatísticas de ordem Introdução A estrutura dos dados 6 Ordenação por heap 61 Heaps 62 Manutenção da propriedade de heap 63 Construção de um heap 64 O algoritmo de ordenação por heap 65 Filas de prioridades 7 Quicksort 71 Descrição do quicksort 72 O desempenho do quicksort 73 Uma versão aleatorizada do quicksort 74 Análise do quicksort 741 Análise do pior caso 742 Tempo de execução esperado 8 Ordenação em tempo linear 81 Limites inferiores para ordenação 82 Ordenação por contagem 83 Ordenação digital 84 Ordenação por balde 9 Medianas e estatísticas de ordem 91 Mínimo e máximo 92 Seleção em tempo linear esperado 93 Seleção em tempo linear do pior caso Parte III Estruturas de dados Introdução 10 Estruturas de dados elementares 101 Pilhas e filas 102 Listas ligadas 103 Implementação de ponteiros e objetos 104 Representação de árvores enraizadas 11 Tabelas de espalhamento 111 Tabelas de endereço direto 112 Tabelas de espalhamento 113 Funções hash 1131 O método de divisão 1132 O método de multiplicação 1133 Hashing universal 114 Endereçamento aberto 115 Hashing perfeito 12 Árvores de busca binária 121 O que é uma árvore de busca binária 122 Consultas em uma árvore de busca binária 123 Inserção e eliminação 124 Árvores de busca binária construídas aleatoriamente 13 Árvores vermelhopreto 131 Propriedades de árvores vermelhopreto 132 Rotações 133 Inserção 134 Eliminação 14 Aumentando estruturas de dados 141 Estatísticas de ordem dinâmicas 142 Como aumentar uma estrutura de dados 143 Árvores de intervalos Parte IV Técnicas avançadas de projeto e análise Introdução 15 Programação dinâmica 151 Corte de hastes 152 Multiplicação de cadeias de matrizes 153 Elementos de programação dinâmica 154 Subsequência comum mais longa 155 Árvores de busca binária ótimas 16 Algoritmos gulosos 161 Um problema de seleção de atividades 162 Elementos da estratégia gulosa 163 Códigos de Huffman 164 Matroides e métodos gulosos 165 Um problema de programação de tarefas como um matroide 17 Análise amortizada 171 Análise agregada 172 O método de contabilidade 173 O método do potencial 174 Tabelas dinâmicas 1741 Expansão de tabelas 1742 Expansão e contração de tabelas Parte V Estruturas de dados avançadas Introdução 18 Árvores B 181 Definição de Bárvores 182 Operações básicas em Bárvores 183 Eliminar uma chave em uma Bárvore 19 Heaps de Fibonacci 191 Estrutura de heaps de Fibonacci 192 Operações de heaps intercaláveis 193 Decrementar uma chave e eliminar um nó 194 Limitando o grau máximo 20 Árvores de van Emde Boas 201 Abordagens preliminares 202 Uma estrutura recursiva 2021 Estruturas protovan Emde Boas 2022 Operações em uma estrutura protovan Emde Boas 203 A árvore de van Emde Boas 2031 Árvores de van Emde Boas 2032 Operações em uma árvore de van Emde Boas 21 Estruturas de dados para conjuntos disjuntos 211 Operações em conjuntos disjuntos 212 Representação de conjuntos disjuntos por listas ligadas 213 Florestas de conjuntos disjuntos 214 Análise da união pelo posto com compressão de caminho Parte VI Algoritmos de grafos Introdução 22 Algoritmos elementares em grafos 221 Representações de grafos 222 Busca em largura 223 Busca em profundidade 224 Ordenação topológica 225 Componentes fortemente conexas 23 Árvores geradoras mínimas 231 Desenvolvendo uma árvore geradora mínima 232 Algoritmos de Kruskal e Prim 24 Caminhos minimos de fonte única 241 O algoritmo de BellmanFord 242 Caminhos mínimos de fonte única em grafos acíclicos dirigidos 243 Algoritmo de Dijkstra 244 Restrições de diferença e caminhos mínimos 245 Provas de propriedades de caminhos mínimos 25 Caminhos mínimos entre todos os pares 251 Caminhos mínimos e multiplicação de matrizes 252 O algoritmo de FloydWarshall 253 Algoritmo de Johnson para grafos esparsos 26 Fluxo máximo 261 Redes de fluxo 262 O método FordFulkerson 263 Emparelhamento máximo em grafo bipartido 264 Algoritmos pushrelabel 265 O algoritmo relabeltofront Parte VII Tópicos selecionados Introdução 27 Algoritmos multithread 271 Os fundamentos do multithhread dinâmico 272 Multiplicação multithread de matrizes 273 Ordenação por intercalação multithread 28 Operações com matrizes 281 Resolver sistemas de equações lineares 282 Inversão de matrizes 283 Matrizes simétricas positivas definidas e aproximação de mínimos quadrados 29 Programação linear 291 Formapadrão e forma de folgas 292 Formular problemas como programas lineares 293 O algoritmo simplex 294 Dualidade 295 A solução básica viável inicial 30 Polinômios e a FFT 301 Representação de polinômios 302 DFT e FFT 303 Implementações eficientes de FFT 31 Algoritmos da teoria dos números 311 Noções da teoria elementar dos números 312 Máximo divisor comum 313 Aritmética modular 314 Solução de equações lineares modulares 315 O teorema chinês do resto 316 Potências de um elemento 317 O sistema de criptografia de chave pública RSA 318 Teste de primalidade 319 Fatoração de inteiros 32 Correspondência de cadeias 321 O algoritmo ingênuo de correspondência de cadeias 322 O algoritmo RabinKarp 323 Correspondência de cadeias com autômatos finitos 324 O algoritmo KnuthMorrisPratt 33 Geometria computacional 331 Propriedades de segmentos de reta 332 Determinando se dois segmentos quaisquer se interceptam 333 Determinando a envoltória convexa 334 Localizando o par de pontos mais próximos 34 Problemas NPcompletos 341 Tempo polinomial 342 Verificação em tempo polinomial 343 NPcompletude e redutibilidade 344 Provas da NPcompletude 345 Problemas NPcompletos 3451 O problema do clique 3452 O problema de cobertura de vértices 3453 O problema do ciclo hamiltoniano 3454 O problema do caixeiroviajante 3455 O problema da soma de subconjuntos 35 Algoritmos de aproximação 351 O problema de cobertura de vértices 352 O problema do caixeiroviajante 3521 O problema do caixeiroviajante com a desigualdade triangular 3522 O problema geral do caixeiroviajante 353 O problema de cobertura de conjuntos 354 Aleatorização e programação linear 355 O problema da soma de subconjuntos Parte VIII Apêndice Fundamentos de matemática Introdução A Somatórios A1 Fórmulas e propriedades de somatórios A2 Limitando somatórios B Conjuntos etc B1 Conjuntos B2 Relações B3 Funções B4 Grafos B5 Árvores B51 Árvores livres B52 Árvores enraizadas e árvores ordenadas B53 Árvores binárias e árvores posicionais C Contagem e probabilidade C1 Contagem C2 Probabilidade C3 Variáveis aleatórias discretas C4 Distribuições geométrica e binomial C5 As caudas da distribuição binomial D Matrizes D1 Matrizes e operações com matrizes D2 Propriedades básicas de matrizes Bibliografia Índice Parte I FUNDAMENTOS INTRODUÇÃO Esta parte o fará refletir sobre o projeto e a análise de algoritmos Ela foi planejada para ser uma introdução suave ao modo como especificamos algoritmos a algumas das estratégias de projeto que usaremos ao longo deste livro e a muitas das ideias fundamentais empregadas na análise de algoritmos As partes posteriores deste livro serão elaboradas sobre essa base O Capítulo 1 é uma visão geral de algoritmos e de seu lugar em modernos sistemas de computação Esse capítulo define o que é um algoritmo e dá uma lista com alguns exemplos Além disso traz a tese de que devemos considerar algoritmos como uma tecnologia lado a lado com hardware rápido interfaces gráficas do usuário sistemas orientados a objetos e redes No Capítulo 2 veremos nossos primeiros algoritmos que resolvem o problema de ordenar uma sequência de n números Eles são escritos em um pseudocódigo que embora não possa ser traduzido diretamente para nenhuma linguagem de programação convencional transmite a estrutura do algoritmo com clareza suficiente para que você possa implementála na linguagem de sua preferência Os algoritmos de ordenação que examinamos são a ordenação por inserção que utiliza uma abordagem incremental e a ordenação por intercalação que usa uma técnica recursiva conhecida como divisão e conquista Embora o tempo exigido por esses dois algoritmos aumente com o valor n a taxa de aumento de cada um é diferente Determinamos esses tempos de execução no Capítulo 2 e desenvolvemos uma notação útil para expressálos O Capítulo 3 define com exatidão essa notação que denominamos notação assintótica O capítulo começa definindo várias notações assintóticas que utilizamos para limitar os tempos de execução dos algoritmos por cima e por baixo O restante do Capítulo 3 é primariamente uma apresentação da notação matemática cuja finalidade é mais a de assegurar que o uso que você faz da notação corresponda à que fazemos neste livro do que lhe ensinar novos conceitos matemáticos O Capítulo 4 examina mais a fundo o método de divisão e conquista apresentado no Capítulo 2 Dá exemplos adicionais de algoritmos de divisão e conquista incluindo o surpreendente método de Strassen para multiplicação de duas matrizes quadradas O Capítulo 4 contém métodos para solução de recorrências que são úteis para descrever os tempos de execução de algoritmos recursivos Uma técnica eficiente é o método mestre que frequentemente usamos para resolver recorrências que surgem dos algoritmos de divisão e conquista Embora grande parte do Capítulo 4 seja dedicada a demonstrar a correção do método mestre você pode saltar essa demonstração e ainda assim empregar o método mestre O Capítulo 5 introduz análise probabilística e algoritmos aleatorizados Normalmente usamos análise probabilística para determinar o tempo de execução de um algoritmo em casos em que devido à presença de uma distribuição de probabilidades inerente o tempo de execução pode ser diferente para entradas diferentes do mesmo tamanho Em alguns casos consideramos que as entradas obedecem a uma distribuição de probabilidades conhecida de modo que calculamos o tempo de execução médio para todas as entradas possíveis Em outros casos a distribuição de probabilidades não vem das entradas mas de escolhas aleatórias feitas durante o curso do algoritmo Um algoritmo cujo comportamento seja determinado não apenas por sua entrada mas também pelos valores produzidos por um gerador de números aleatórios é um algoritmo aleatorizado Podemos usar algoritmos aleatorizados para impor uma distribuição de probabilidade às entradas garantindo assim que nenhuma entrada específica sempre cause fraco desempenho ou mesmo para limitar a taxa de erros de algoritmos que têm permissão para produzir resultados incorretos em base limitada Os apêndices AD contêm outro material matemático que você verá que são úteis à medida que ler este livro É provável que você tenha visto grande parte do material dos apêndices antes de ler este livro embora as definições e convenções específicas de notação que usamos possam ser diferentes em alguns casos daquelas que você já viu e portanto você deve considerar os apêndices material de referência Por outro lado é provável que você ainda não tenha visto a maior parte do material contido na Parte I Todos os capítulos da Parte I e os apêndices foram escritos com um toque de tutorial 11 1 O PAPEL DOS ALGORITMOS NA COMPUTAÇÃO O que são algoritmos Por que o estudo dos algoritmos vale a pena Qual é o papel dos algoritmos em relação a outras tecnologias usadas em computadores Neste capítulo responderemos a essas perguntas ALGORITMOS Informalmente um algoritmo é qualquer procedimento computacional bem definido que toma algum valor ou conjunto de valores como entrada e produz algum valor ou conjunto de valores como saída Portanto um algoritmo é uma sequência de etapas computacionais que transformam a entrada na saída Também podemos considerar um algoritmo como uma ferramenta para resolver um problema computacional bem especificado O enunciado do problema especifica em termos gerais a relação desejada entre entrada e saída O algoritmo descreve um procedimento computacional específico para se conseguir essa relação entre entrada e saída Por exemplo poderia ser necessário ordenar uma sequência de números em ordem não decrescente Esse problema surge com frequência na prática e oferece um solo fértil para a apresentação de muitas técnicas de projeto e ferramentas de análise padronizadas Vejamos como definir formalmente o problema de ordenação Entrada Uma sequência de n números a1 a2 an Saída Uma permutação reordenação a1 a2 an da sequência de entrada tal que a1 a2 an Por exemplo dada a sequência de entrada 31 41 59 26 41 58 um algoritmo de ordenação devolve como saída a sequência 26 31 41 41 58 59 Tal sequência de entrada é denominada instância do problema de ordenação Em geral uma instância de um problema consiste na entrada que satisfaz quaisquer restrições impostas no enunciado do problema necessária para calcular uma solução para o problema Como muitos programas a utilizam como etapa intermediária a ordenação é uma operação fundamental em ciência da computação e por isso há um grande número de bons algoritmos de ordenação à nossa disposição O melhor algoritmo para determinada aplicação depende entre outros fatores do número de itens a ordenar do grau de ordenação já apresentado por esses itens das possíveis restrições aos valores dos itens da arquitetura do computador e do tipo de dispositivo de armazenamento que será utilizado memória principal discos ou até mesmo fitas Dizse que um algoritmo é correto se para toda instância de entrada ele parar com a saída correta Dizemos que um algoritmo correto resolve o problema computacional dado Um algoritmo incorreto poderia não parar em algumas instâncias de entrada ou poderia parar com uma resposta incorreta Ao contrário do que se poderia esperar às vezes os algoritmos incorretos podem ser úteis se pudermos controlar sua taxa de erros No Capítulo 31 veremos um exemplo de algoritmo com taxa de erro controlável quando estudarmos algoritmos para encontrar grandes números primos Porém de modo geral nos concentraremos apenas em algoritmos corretos Um algoritmo pode ser especificado em linguagem comum como um programa de computador ou mesmo como um projeto de hardware O único requisito é que a especificação deve fornecer uma descrição precisa do procedimento computacional a ser seguido Que tipos de problemas são resolvidos por algoritmos A ordenação não é de modo algum o único problema computacional para o qual os algoritmos foram desenvolvidos e é provável que você já tenha suspeitado disso quando viu o tamanho deste livro As aplicações práticas de algoritmos estão por toda parte e incluem os exemplos a seguir O Projeto Genoma Humano vem alcançando grande progresso no cumprimento de suas metas de identificar todos os 100000 genes do DNA humano determinar as sequências dos três bilhões de pares de bases químicas que constituem o DNA humano armazenar essas informações em bancos de dados e desenvolver ferramentas para análise de dados Cada uma dessas etapas exige algoritmos sofisticados Embora as soluções para os vários problemas envolvidos estejam fora do escopo deste livro muitos métodos aplicados à resolução desses problemas biológicos usam ideias apresentadas em vários capítulos deste livro permitindo que os cientistas realizem tarefas e ao mesmo tempo utilizem os recursos com eficiência As economias são de tempo tanto humano quanto de máquina e de dinheiro já que mais informações podem ser extraídas de técnicas de laboratório A Internet permite que pessoas em todo o mundo acessem e obtenham rapidamente grande quantidade de informações Com o auxílio de algoritmos engenhosos sites da Internet conseguem gerenciar e manipular esse grande volume de dados Entre os exemplos de problemas que dependem essencialmente da utilização de algoritmos citamos a determinação de boas rotas para a transmissão de dados técnicas para resolver tais problemas são apresentadas no Capítulo 24 e a utilização de um mecanismo de busca para encontrar rapidamente páginas em que estão determinadas informações técnicas relacionadas são apresentadas nos Capítulos 11 e 32 O comércio eletrônico permite que mercadorias e serviços sejam negociados e trocados eletronicamente e depende do sigilo de informações pessoais como números de cartões de crédito senhas e extratos bancários Entre as principais tecnologias utilizadas no comércio eletrônico estão a criptografia de chave pública e as assinaturas digitais estudadas no Capítulo 31 ambas baseadas em algoritmos numéricos e na teoria dos números Na indústria e em outros empreendimentos comerciais muitas vezes é preciso alocar recursos escassos da maneira mais benéfica possível Uma empresa petrolífera talvez deseje saber onde localizar seus poços para maximizar o lucro esperado Um político talvez queira determinar onde gastar dinheiro em publicidade de campanha para maximizar as chances de vencer uma eleição Uma empresa de transporte aéreo poderia querer designar tripulações a voos da forma menos dispendiosa possível garantindo que cada voo seja atendido e que as regulamentações do governo relativas à escala das tripulações sejam obedecidas Um provedor de serviços da Internet talvez queira definir onde alocar recursos adicionais para servir a seus clientes com mais eficiência Todos esses são exemplos de problemas que podem ser resolvidos com a utilização de programação linear que estudaremos no Capítulo 29 Embora alguns dos detalhes desses exemplos estejam fora do escopo deste livro forneceremos técnicas básicas que se aplicam a esses problemas e áreas de problemas Também mostraremos como resolver muitos problemas específicos inclusive os seguintes Temos um mapa rodoviário no qual estão marcadas as distâncias entre cada par de interseções adjacentes e queremos determinar a rota mais curta entre uma interseção e outra O número de rotas possíveis pode ser enorme ainda que sejam descartadas as rotas que se entrecruzam Como escolher a mais curta de todas as rotas possíveis Aqui modelamos o mapa rodoviário que é ele próprio um modelo das estradas reais como um grafo o que veremos na Parte VI e no Apêndice B e desejamos determinar o caminho mais curto de um vértice até outro no grafo Veremos como resolver esse problema com eficiência no Capítulo 24 Temos duas sequências ordenadas de símbolos X x1 x2 xm e Y y1 y2 yn e queremos determinar uma subsequência comum mais longa de X e Y Uma subsequência de X é apenas X com alguns ou possivelmente todos ou nenhum de seus elementos removidos Por exemplo uma subsequência de A B C D E F G seria B C E G O comprimento de uma subsequência comum mais longa de X e Y nos dá uma ideia do grau de semelhança dessas duas sequências Por exemplo se as duas sequências forem pares de base em 1 2 filamentos de DNA poderemos considerálas semelhantes se tiverem uma subsequência comum longa Se X tiver m símbolos e Y tiver n símbolos então X e Y terão 2m e 2n possíveis subsequências respectivamente Selecionar todas as possíveis subsequências de X e Y e então combinálas poderá tomar um tempo proibitivamente longo a menos que m e n sejam muito pequenos No Capítulo 15 veremos como usar uma técnica geral conhecida como programação dinâmica para resolver esse problema com eficiência muito maior Temos um projeto mecânico apresentado como um catálogo de peças no qual cada uma pode incluir instâncias de outras peças e precisamos organizar uma lista ordenada de peças de modo que cada uma apareça antes de qualquer peça que a utilize Se o projeto compreender n peças então haverá n ordenações possíveis onde n denota a função fatorial Como a função fatorial cresce ainda mais rapidamente do que uma função exponential não existe uma possibilidade viável de gerar cada ordenação possível e então verificar se dentro daquela ordenação cada peça aparece antes das peças que a utilizam a menos que tenhamos apenas um pequeno número de peças Esse problema é uma instância de ordenação topológica e estudaremos como resolvêlo com eficiência no Capítulo 22 Temos n pontos no plano e desejamos determinar a envoltória convexa desses pontos A envoltória convexa é o menor polígono convexo que contém os pontos Intuitivamente podemos imaginar que cada ponto seja representado pela cabeça saliente de um prego fixado a uma tábua A envoltória convexa seria representada por um elástico apertado que contorna todos os pregos Cada prego pelo qual o elástico passar é um vértice da envoltória convexa veja um exemplo na Figura 336 Qualquer um dos 2n subconjuntos dos pontos poderia ser os vértices da envoltória convexa Porém saber quais pontos são vértices da envoltória convexa não é suficiente já que também precisamos conhecer a ordem em que eles aparecem Portanto há muitas escolhas para os vértices da envoltória convexa O Capítulo 33 apresenta dois bons métodos para determinar a envoltória convexa Essas listas estão longe de esgotar os exemplos como é provável que você já tenha imaginado de novo pelo peso deste livro mas exibem duas características comuns a muitos problemas algorítmicos interessantes Eles têm muitas soluções candidatas a grande maioria das quais não resolve o problema que temos em mãos Encontrar uma solução que o resolva ou uma solução que seja a melhor pode representar um desafio significativo Eles têm aplicações práticas Dentre os problemas da lista que apresentamos o da determinação do caminho mais curto é o que fornece os exemplos mais fáceis Uma empresa de transporte rodoviário ou ferroviário tem interesse financeiro em determinar os caminhos mais curtos em uma rede rodoviária ou ferroviária porque percursos menores resultam em menores custos de mão de obra e combustível Ou um nó de roteamento na Internet pode precisar encontrar o caminho mais curto através da rede para rotear uma mensagem com rapidez Ou pode ser que alguém que deseje viajar de carro de Nova York a Boston queira encontrar instruções em um site Web adequado ou usar seu GPS durante o percurso Nem todo problema resolvido por algoritmos tem um conjunto de soluções candidatas fáceis de identificar Por exemplo suponha que temos um conjunto de valores numéricos que representam amostras de um sinal e que queremos calcular a transformada discreta de Fourier dessas amostras A transformada discreta de Fourier converte o domínio do tempo para o domínio da frequência produzindo um conjunto de coeficientes numéricos de modo que podemos determinar a força de várias frequências no sinal amostrado Além de estarem no cerne do processamento de sinais as transformadas discretas de Fourier também se aplicam à compressão de dados e à multiplicação de grandes polinômios e inteiros O Capítulo 30 apresenta um algoritmo eficiente para esse problema a transformada rápida de Fourier comumente denominada FFT e também apresenta o esquema de projeto de um circuito de hardware para calcular a FFT Estruturas de dados Este livro também contém várias estruturas de dados Uma estrutura de dados é um modo de armazenar e organizar dados com o objetivo de facilitar acesso e modificações Nenhuma estrutura de dados única funciona bem para todas as finalidades e por isso é importante conhecer os pontos fortes e as limitações de várias delas Técnica Embora você possa usar este livro como um livro de receitas para algoritmos é possível que algum dia encontre um problema cujo algoritmo publicado muitos dos exercícios e problemas deste livro por exemplo não consiga achar imediatiamente Este livro lhe ensinará técnicas de projeto e análise de algoritmos para que você possa desenvolver algoritmos por conta própria mostrar que eles fornecem a resposta correta e entender sua eficiência Capítulos diferentes abordam aspectos diferentes da solução de problemas de algoritmos Alguns abordam problemas específicos como determinar medianas e ordenar dados estatísticos no Capítulo 9 calcular árvores geradoras spanning trees mínimas no Capítulo 23 e determinar um fluxo máximo em uma rede no Capítulo 26 Outros capítulos abordam técnicas como a de divisão e conquista no Capítulo 4 programação dinâmica no Capítulo 15 e análise amortizada no Capítulo 17 Problemas difíceis A maior parte deste livro trata de algoritmos eficientes Nossa medida habitual de eficiência é a velocidade isto é quanto tempo um algoritmo demora para produzir seu resultado Porém existem alguns problemas para os quais não se conhece nenhuma solução eficiente O Capítulo 34 estuda um subconjunto interessante desses problemas conhecidos como NPcompletos Por que os problemas NPcompletos são interessantes Em primeiro lugar embora nenhum algoritmo eficiente para um problema NPcompleto tenha sido encontrado até agora ninguém jamais provou que não é possível existir um algoritmo eficiente para tal problema Em outras palavras ninguém sabe se existem ou não algoritmos eficientes para problemas NPcompletos Em segundo lugar o conjunto de problemas NPcompletos tem a propriedade notável de que se existir um algoritmo eficiente para qualquer um deles então existem algoritmos eficientes para todos eles Essa relação entre os problemas NPcompletos torna a falta de soluções eficientes ainda mais torturante Em terceiro lugar vários problemas NPcompletos são semelhantes mas não idênticos a problemas para os quais sabemos existir algoritmos eficientes Cientistas da computação ficam intrigados com o fato de que uma pequena mudança no enunciado do problema pode provocar uma grande alteração na eficiência do melhor algoritmo conhecido É bom que você conheça os problemas NPcompletos porque alguns deles surgem com frequência surpreendente em aplicações reais Se você tiver de produzir um algoritmo eficiente para um problema NPcompleto é provável que perca muito tempo em uma busca infrutífera Por outro lado se você conseguir mostrar que o problema é NP completo poderá dedicar seu tempo ao desenvolvimento de um algoritmo eficiente que ofereça uma solução boa embora não a melhor possível Como exemplo concreto considere uma empresa transportadora que tenha um depósito central Todo dia cada caminhão é carregado no depósito e enviado a diversos locais para fazer entregas No final do dia cada caminhão tem de estar de volta ao depósito para ser preparado para a carga no dia seguinte Para reduzir custos a empresa quer selecionar uma ordem de pontos de entrega que represente a menor distância total a ser percorrida por cada caminhão Esse problema é o famoso problema do caixeiroviajante e é NPcompleto não tem nenhum algoritmo eficiente conhecido Contudo adotandose certas premissas há algoritmos eficientes que fornecem uma distância total não muito acima da menor possível O Capítulo 35 discute esses algoritmos de aproximação Paralelismo Durante muitos anos pudemos contar com uma taxa regular de aumento da velocidade de relógio dos processadores Porém limitações físicas representam um entrave fundamental ao crescimento constante dessas 111 112 113 114 115 12 velocidades como a densidade de potência aumenta superlinearmente com a velocidade de relógio existe o risco de derretimento dos chips quando essas velocidades atingem um certo nível Portanto para executar mais cálculos por segundo o projeto moderno de chips prevê não apenas um mas vários núcleos de processamento Podemos comparar esses computadores com vários núcleos a vários computadores sequenciais em um único chip em outras palavras eles são um tipo de computador paralelo Para obter o melhor desempenho desses processadores com vários núcleos precisamos produzir algoritmos que considerem o paralelismo O Capítulo 27 apresenta um modelo de algoritmo multithread que tira proveito de núcleos múltiplos Do ponto de vista teórico esse modelo é vantajoso e constitui a base de vários modelos eficientes de programas de computador entre eles um programa para campeonatos de xadrez Exercícios Cite um exemplo real que exija ordenação ou um exemplo real que exija o cálculo de uma envoltória convexa Além da velocidade que outras medidas de eficiência poderiam ser usadas em uma configuração real Selecione uma estrutura de dados que você já tenha visto antes e discuta seus pontos fortes e suas limitações Em que aspectos os problemas anteriores do caminho mais curto e do caixeiroviajante são semelhantes Em que aspectos eles são diferentes Mostre um problema real no qual apenas a melhor solução servirá Em seguida apresente um problema em que baste uma solução que seja aproximadamente a melhor ALGORITMOS COMO TECNOLOGIA Suponha que os computadores fossem infinitamente rápidos e que a memória do computador fosse gratuita Você teria alguma razão para estudar algoritmos A resposta é sim ainda que apenas porque você gostaria de demonstrar que seu método de solução termina e o faz com a resposta correta Se os computadores fossem infinitamente rápidos qualquer método correto para resolver um problema serviria É provável que você quisesse que sua implementação estivesse dentro dos limites da boa prática de engenharia de software isto é que ela fosse bem documentada e projetada mas na maior parte das vezes você utilizaria o método que fosse mais fácil de implementar É claro que os computadores podem ser rápidos mas eles não são infinitamente rápidos A memória pode ser de baixo custo mas não é gratuita Assim o tempo de computação é um recurso limitado bem como o espaço na memória Esses recursos devem ser usados com sensatez e algoritmos eficientes em termos de tempo ou espaço o ajudarão a usálos assim Eficiência Algoritmos diferentes criados para resolver o mesmo problema muitas vezes são muito diferentes em termos de eficiência Essas diferenças podem ser muito mais significativas que as diferenças relativas a hardware e software Como exemplo no Capítulo 2 estudaremos dois algoritmos de ordenação O primeiro conhecido como ordenação por inserção leva um tempo aproximadamente igual a c1n 2 para ordenar n itens onde c1 é uma constante que não depende de n Isto é ele demora um tempo aproximadamente proporcional a n2 O segundo de ordenação por intercalação leva um tempo aproximadamente igual a c2n lg n onde lg n representa log2 n e c2 é outra constante que também não depende de n A ordenação por inserção normalmente tem um fator constante menor que a ordenação por intercalação assim c1 c2 Veremos que os fatores constantes podem causar um impacto muito menor sobre o tempo de execução que a dependência do tamanho da entrada n Se representarmos o tempo de execução da ordenação por inserção por c1n n e o tempo de execução da ordenação por intercalação por c2n lg n veremos que enquanto o fator do tempo de execução da ordenação por inserção é n o da ordenação por intercalação é lg n que é muito menor por exemplo quando n 1000 lg n é aproximadamente 10 e quando n é igual a um milhão lg n é aproximadamente só 20 Embora a ordenação por inserção em geral seja mais rápida que a ordenação por intercalação para pequenos tamanhos de entradas tão logo o tamanho da entrada n se torne grande o suficiente a vantagem da ordenação por intercalação de lg n contra n compensará com sobras a diferença em fatores constantes Independentemente do quanto c1 seja menor que c2 sempre haverá um ponto de corte além do qual a ordenação por intercalação será mais rápida Como exemplo concreto vamos comparar um computador mais rápido computador A que executa a ordenação por inserção com um computador mais lento computador B que executa a ordenação por intercalação Cada um deve ordenar um arranjo de dez milhões de números Embora 10 milhões de números possa parecer muito se os números forem inteiros de oito bytes a entrada ocupará cerca de 80 megabytes e caberá com grande folga até mesmo na memória de um laptop barato Suponha que o computador A execute dez bilhões de instruções por segundo mais rapidamente do que qualquer computador sequencial existente na época da redação deste livro e que o computador B execute apenas dez milhões de instruções por segundo assim o computador A será 1000 vezes mais rápido que o computador B em capacidade bruta de computação Para tornar a diferença ainda mais drástica suponha que o programador mais astucioso do mundo codifique a ordenação por inserção em linguagem de máquina para o computador A e que o código resultante exija 2n2 instruçõespara ordenar n números Suponha ainda que um programador médio implemente a ordenação por intercalação utilizando uma linguagem de alto nível com um compilador ineficiente sendo que o código resultante totaliza 50n lg n instruções Para ordenar 10 milhões de números o computador A leva por outro lado o computador B leva Usando um algoritmo cujo tempo de execução cresce mais lentamente até mesmo com um compilador fraco o computador B funciona mais de 17 vezes mais rapidamente que o computador A A vantagem da ordenação por intercalação é ainda mais evidente quando ordenamos 100 milhões de números onde a ordenação por inserção demora mais de 23 dias a ordenação por intercalação demora menos de quatro horas Em geral à medida que o tamanho do problema aumenta também aumenta a vantagem relativa da ordenação por intercalação Algoritmos e outras tecnologias O exemplo anterior mostra que os algoritmos como o hardware de computadores devem ser considerados como uma tecnologia O desempenho total do sistema depende da escolha de algoritmos eficientes tanto quanto da escolha de hardware rápido Os rápidos avanços que estão ocorrendo em outras tecnologias computacionais também estão sendo observados em algoritmos Você poderia questionar se os algoritmos são verdadeiramente tão importantes para os computadores contemporâneos levando em consideração outras tecnologias avançadas como arquiteturas computacionais e tecnologias de fabricação avançadas interfaces gráficas de usuário GUIs intuitivas e fáceis de usar sistemas orientados a objetos 121 122 123 11 tecnologias integradas da Web e redes de alta velocidade com fio e sem fio A resposta é sim Embora algumas aplicações não exijam explicitamente conteúdo algorítmico no nível da aplicação como algumas aplicações simples baseadas na Web a maioria exige Por exemplo considere um serviço da Web que determina como viajar de um local para outro Sua implementação dependeria de hardware rápido de uma interface gráfica de usuário de redes remotas além de possivelmente orientação a objetos Contudo também exigiria algoritmos para certas operações como descobrir rotas talvez empregando um algoritmo de caminho mais curto apresentar mapas e interpolar endereços Além disso até mesmo uma aplicação que não exija conteúdo algorítmico no nível da aplicação depende muito de algoritmos A aplicação depende de hardware rápido O projeto de hardware utilizou algoritmos A aplicação depende de interfaces gráficas de usuário O projeto de qualquer GUI depende de algoritmos A aplicação depende de rede O roteamento em redes depende muito de algoritmos A aplicação foi escrita em uma linguagem diferente do código de máquina Então ela foi processada por um compilador um interpretador ou um montador e todos fazem uso extensivo de algoritmos Os algoritmos estão no núcleo da maioria das tecnologias usadas em computadores contemporâneos Além disso com a capacidade cada vez maior dos computadores nós os utilizamos mais do que nunca para resolver problemas cada vez maiores Como vimos na comparação anterior entre ordenação por inserção e ordenação por intercalação é nos problemas maiores que as diferenças entre a eficiência dos algoritmos se tornam particularmente notáveis Uma sólida base de conhecimento e técnica de algoritmos é uma das características que separam os programadores verdadeiramente qualificados dos novatos Com a moderna tecnologia de computação você pode executar algumas tarefas sem saber muito sobre algoritmos porém com uma boa base em algoritmos é possível fazer muito muito mais Exercícios Cite um exemplo de aplicação que exige conteúdo algorítmico no nível da aplicação e discuta a função dos algoritmos envolvidos Suponha que estamos comparando implementações de ordenação por inserção e ordenação por intercalação na mesma máquina Para entradas de tamanho n a ordenação por inserção é executada em 8n2 passos enquanto a ordenação por intercalação é executada em 64n lg n passos Para quais valores de n a ordenação por inserção supera a ordenação por intercalação Qual é o menor valor de n tal que um algoritmo cujo tempo de execução é 100n2 funciona mais rapidamente que um algoritmo cujo tempo de execução é 2n na mesma máquina Problemas Comparação entre tempos de execução Para cada função fn e cada tempo t na tabela a seguir determine o maior tamanho n de um problema que pode ser resolvido no tempo t considerando que o algoritmo para resolver o problema demore fn microssegundos 1 segundo 1 minuto 1 hora 1 dia 1 mês 1 ano 1 século lg n n n n lg n n2 n3 2n n NOTAS DO CAPÍTULO Existem muitos textos excelentes sobre o tópico geral de algoritmos entre eles os de Aho Hopcroft e Ullman 5 6 Baase e Van Gelder 28 Brassard e Bratley 54 Dasgupta Papadimitriou e Vazirani 82 Goodrich e Tamassia 148 Hofri 175 Horowitz Sahni e Rajasekaran 181 Johnsonbaugh e Schaefer 193 Kingston 205 Kleinberg e Tardos 208 Knuth 209 210 211 Kozen 220 Levitin 235 Manber 242 Mehlhorn 249 250 251 Purdom e Brown 287 Reingold Nievergelt e Deo 293 Sedgewick 306 Sedgewick e Flajolet 307 Skiena 318 e Wilf 356 Alguns dos aspectos mais práticos do projeto de algoritmos são discutidos por Bentley 42 43 e Gonnet 145 Pesquisas na área de algoritmos também podem ser encontradas no Handbook of Theoretical Computer Science Volume A 342 e no CRC Algorithms and Theory of Computation Handbook 25 Avaliações de algoritmos usados em biologia computacional podem ser encontrados nos livros didáticos de Gusfield 156 Pevzner 275 Setubal e Meidanis 310 e Waterman 350 21 2 DANDO A PARTIDA Este capítulo tem o objetivo de familiarizálo com a estrutura que usaremos em todo o livro para refletir sobre o projeto e a análise de algoritmos Ele é autônomo mas inclui diversas referências ao material que será apresentado nos Capítulos 3 e 4 e também contém diversos somatórios que o Apêndice A mostra como resolver Começaremos examinando o algoritmo de ordenação por inserção para resolver o problema de ordenação apresentado no Capítulo 1 Definiremos um pseudocódigo que deverá ser familiar aos leitores que tenham estudado programação de computadores e o empregaremos com a finalidade de mostrar como serão especificados nossos algoritmos Tendo especificado o algoritmo de ordenação por inserção demonstraremos que ele efetua a ordenação corretamente e analisaremos seu tempo de execução A análise introduzirá uma notação que focaliza o modo como o tempo aumenta com o número de itens a ordenar Seguindo nossa discussão da ordenação por inserção introduziremos a abordagem de divisão e conquista para o projeto de algoritmos e a utilizaremos para desenvolver um algoritmo denominado ordenação por intercalação Terminaremos com uma análise do tempo de execução da ordenação por intercalação ORDENAÇÃO POR INSERÇÃO Nosso primeiro algoritmo o de ordenação por inserção resolve o problema de ordenação apresentado no Capítulo 1 Entrada Uma sequência de n números a1 a2 an Saída Uma permutação reordenação a1 a2 an da sequência de entrada tal que a1 a2 an Os números que desejamos ordenar também são conhecidos como chaves Embora conceitualmente estejamos ordenando uma sequência a entrada é dada na forma de um arranjo com n elementos Neste livro descreveremos tipicamente algoritmos como programas escritos em um pseudocódigo semelhante em vários aspectos a C C Java Python ou Pascal Se você já conhece qualquer dessas linguagens deverá ter pouca dificuldade para ler nossos algoritmos O que distingue o pseudocódigo do código real é que no pseudocódigo empregamos qualquer método expressivo que seja mais claro e conciso para especificar um dado algoritmo Às vezes o método mais claro é a linguagem comum assim não se surpreenda se encontrar uma frase ou sentença em nosso idioma ou em inglês embutida em uma seção de código real Outra diferença entre o pseudocódigo e o código real é que o pseudocódigo em geral não se preocupa com questões de engenharia de software As questões de abstração de dados modularidade e tratamento de erros são frequentemente ignoradas de modo a transmitir a essência do algoritmo de modo mais conciso Figura 21 Ordenando cartas com o uso da ordenação por inserção Começaremos com a ordenação por inserção um algoritmo eficiente para ordenar um número pequeno de elementos A ordenação por inserção funciona da maneira como muitas pessoas ordenam as cartas em um jogo de baralho Iniciamos com a mão esquerda vazia e as cartas viradas para baixo na mesa Em seguida retiramos uma carta de cada vez da mesa e a inserimos na posição correta na mão esquerda Para encontrar a posição correta para uma carta nós a comparamos com cada uma das cartas que já estão na mão da direita para a esquerda como ilustra a Figura 21 Em todas as vezes as cartas que seguramos na mão esquerda são ordenadas e essas cartas eram as que estavam na parte superior da pilha sobre a mesa Nosso pseudocódigo para ordenação por inserção é apresentado como um procedimento denominado Insertion Sort que toma como parâmetro um arranjo A1 n contendo uma sequência de comprimento n que deverá ser ordenada No código o número n de elementos em A é denotado por Acomprimento O algoritmo ordena os números da entrada no lugar reorganiza os números dentro do arranjo A com no máximo um número constante deles armazenado fora do arranjo em qualquer instante O arranjo de entrada A conterá a sequência de saída ordenada quando InsertionSort terminar Invariantes de laço e a correção da ordenação por inserção A Figura 22 mostra como esse algoritmo funciona para A 5 2 4 6 1 3 O índice j indica a carta atual que está sendo inserida na mão No início de cada iteração do laço for indexado por j o subarranjo que consiste nos elementos A1 j 1 constitui a mão ordenada atualmente e o subconjunto remanescente A j 1 n corresponde à pilha de cartas que ainda está sobre a mesa Na verdade os elementos A1 j 1 são os que estavam originalmente nas posições 1 a j 1 mas agora em sequência ordenada Afirmamos essas propriedades de A1 j 1 formalmente como um de invariante de laço Figura 22 A operação de InsertIonsort sobre o arranjo A 5 2 4 6 1 3 Os índices do arranjo aparecem acima dos retângulos e os valores armazenados nas posições do arranjo aparecem dentro dos retângulos ae Iterações do laço for das linhas 1 a 8 Em cada iteração o retângulo preto contém a chave obtida de Aj que é comparada com os valores contidos nos retângulos sombreados à sua esquerda no teste da linha 5 Setas sombreadas mostram os valores do arranjo deslocados uma posição para a direita na linha 6 e setas pretas indicam para onde a chave é deslocada na linha 8 f O arranjo ordenado final No início de cada iteração para o laço for das linhas 18 o subarranjo A1 j 1 consiste nos elementos que estavam originalmente em A1 j 1 porém em sequência ordenada Usamos invariantes de laço para nos ajudar a entender por que um algoritmo é correto Devemos mostrar três detalhes sobre um invariante de laço Inicialização Ele é verdadeiro antes da primeira iteração do laço Manutenção Se ele for verdadeiro antes de uma iteração do laço permanecerá verdadeiro antes da próxima iteração Término Quando o laço termina o invariante nos fornece uma propriedade útil que ajuda a mostrar que o algoritmo é correto Quando as duas primeiras propriedades são válidas o invariante de laço é verdadeiro antes de toda iteração do laço É claro que temos a liberdade de usar fatos confirmados além do invariante de laço em si para provar que ele permanece verdadeiro antes de cada iteração Observe a semelhança com a indução nesta para provar que uma propriedade é válida provamos uma base e um passo de indução Aqui mostrar que o invariante é válido antes da primeira iteração equivale à base e mostrar que o invariante é válido de uma iteração para outra equivale ao passo A terceira propriedade talvez seja a mais importante visto que estamos usando o invariante de laço para mostrar a correção Normalmente usamos o invariante de laço juntamente com a condição que provocou o término do laço O modo de utilização da propriedade de término é diferente do modo de utilização da indução nesta a etapa indutiva é aplicada indefinidamente aqui paramos a indução quando o laço termina Vamos ver como essas propriedades são válidas para ordenação por inserção Inicialização Começamos mostrando que o invariante de laço é válido antes da primeira iteração do laço quando j 21 Então o subarranjo A1 j 1 consiste apenas no único elemento A1 que é de fato o elemento original em A1 Além disso esse subarranjo é ordenado trivialmente é claro e isso mostra que o invariante de laço é válido antes da primeira iteração do laço Manutenção Em seguida abordamos a segunda propriedade mostrar que cada iteração mantém o invariante de laço Informalmente o corpo do laço for funciona deslocando A j 1 A j 2 A j 3 e assim por diante uma posição para a direita até encontrar a posição adequada para Aj linhas 4 a 7 nesse ponto ele insere o valor de A j linha 8 Então o subarranjo A1 j consiste nos elementos presentes originalmente em A1 j mas em sequência ordenada Portanto incrementar j para a próxima iteração do laço for preserva o invariante de laço Um tratamento mais formal da segunda propriedade nos obrigaria a estabelecer e mostrar um invariante para o laço while das linhas 57 Porém nesse momento preferimos não nos prender a tal formalismo e assim contamos com nossa análise informal para mostrar que a segunda propriedade é válida para o laço externo Término Finalmente examinamos o que ocorre quando o laço termina A condição que provoca o término do laço for é que j Acomprimento n Como cada iteração do laço aumenta j de 1 devemos ter j n 1 nesse instante Substituindo j por n 1 no enunciado do invariante de laço temos que o subarranjo A1 n consiste nos elementos originalmente contidos em A1 n mas em sequência ordenada Observando que o subarranjo A1 n é o arranjo inteiro concluímos que o arranjo inteiro está ordenado Portanto o algoritmo está correto Empregaremos esse método de invariantes de laço para mostrar a correção mais adiante neste capítulo e também em outros capítulos Convenções de pseudocódigo Utilizaremos as convenções a seguir em nosso pseudocódigo O recuo indica estrutura de bloco Por exemplo o corpo do laço for que começa na linha 1 consiste nas linhas 2 a 8 e o corpo do laço while que começa na linha 5 contém as linhas 6 e 7 mas não a linha 8 Nosso estilo de recuo também se aplica a instruções ifelse2 O uso de recuo em vez de indicadores convencionais de estrutura de bloco como instruções begin e end reduz bastante a confusão ao mesmo tempo que preserva ou até mesmo aumenta a clareza3 As interpretações das construções de laço while for e repeatuntil e das construções condicionais ifelse são semelhantes às das linguagens C C Java Python e Pascal4 Neste livro o contador do laço mantém seu valor após sair do laço ao contrário de algumas situações que surgem em C Java e Pascal Desse modo logo depois de um laço for o valor do contador de laço é o valor que primeiro excedeu o limite do laço for Usamos essa propriedade em nosso argumento de correção para a ordenação por inserção O cabeçalho do laço for na linha 1 é for j 2 to Acomprimento e assim quando esse laço termina j Acomprimento 1 ou o que é equivalente j n 1 visto que n Acomprimento Usamos a palavrachave to quando um laço for incrementa seu contador do laço a cada iteração e usamos a palavrachave downto quando um laço for decrementa seu contador de laço Quando o contador do laço mudar por uma quantidade maior do que 1 essa quantidade virá após a palavrachave opcional by O símbolo indica que o restante da linha é um comentário Uma atribuição múltipla da forma i j e atribui às variáveis i e j o valor da expressão e ela deve ser tratada como equivalente à atribuição j e seguida pela atribuição i j Variáveis como i j e chave são locais para o procedimento dado Não usaremos variáveis globais sem indicação explícita Elementos de arranjos são acessados especificandose o nome do arranjo seguido pelo índice entre colchetes Por exemplo Ai indica o iésimo elemento do arranjo A A notação é usada para indicar uma faixa de valores dentro de um arranjo Desse modo A1 j indica o subarranjo de A que consiste nos j elementos A1 A2 Aj Dados compostos estão organizados tipicamente em objetos compostos por atributos Acessamos um determinado atributo usando a sintaxe encontrada em muitas linguagens de programação orientadas a objetos o nome do objeto seguido por um ponto seguido pelo nome do atributo Por exemplo tratamos um arranjo como um objeto com o atributo comprimento indicando quantos elementos ele contém Para especificar o número de elementos em um arranjo A escrevemos Acomprimento Uma variável que representa um arranjo ou objeto é tratada como um ponteiro para os dados que representam o arranjo ou objeto Para todos os atributos f de um objeto x definir y x causa yf xf Além disso se definirmos agora xf 3 daí em diante não apenas xf 3 mas também yf 3 Em outras palavras x e y apontarão para o mesmo objeto após a atribuição y x A notação que usamos para atributos pode ser utilizada em cascata Por exemplo suponha que o atributo f seja em si um ponteiro para algum tipo de objeto que tem um atributo g Então a notação xfg estará implicitamente entre parênteses como xf g Em outras palavras se tivéssemos atribuído y xf então xfg é o mesmo que yg Às vezes um ponteiro não fará referência a nenhum objeto Nesse caso daremos a ele o valor especial NIL Parâmetros são passados para um procedimento por valor o procedimento chamado recebe sua própria cópia dos parâmetros e se tal procedimento atribuir um valor a um parâmetro a mudança não será vista pelo procedimento de chamada Quando objetos são passados o ponteiro para os dados que representam o objeto é copiado mas os atributos do objeto não Por exemplo se x é um parâmetro de um procedimento chamado a atribuição x y dentro do procedimento chamado não será visível para o procedimento de chamada Contudo a atribuição xf 3 será visível De maneira semelhante arranjos são passados por apontador assim um apontador para o arranjo é passado em vez do arranjo inteiro e as mudanças nos elementos individuais do arranjo são visíveis para o procedimento de chamada Uma instrução return transfere imediatamente o controle de volta ao ponto de chamada no procedimento de chamada A maioria das instruções return também toma um valor para passar de volta ao chamador Nosso pseudocódigo é diferente de muitas linguagens de programação visto que permite que vários valores sejam devolvidos em uma única instrução return Os operadores booleanos e e ou são operadores com curtocircuito Isto é quando avaliamos a expressão x e y avaliamos primeiro x Se x for avaliado como FALSE a expressão inteira não poderá ser avaliada como TRUE e assim não avaliamos y Se por outro lado x for avaliado como TRUE teremos de avaliar y para determinar o valor da expressão inteira De modo semelhante na expressão x ou y avaliamos a expressão y somente se x for avaliado como FALSE Os operadores de curtocircuito nos permitem escrever expressões booleanas como x NIL e xf y sem nos preocuparmos com o que acontece ao tentarmos avaliar xf quando x é NIL A palavrachave error indica que ocorreu um erro porque as condições para que o procedimento fosse chamado estavam erradas O procedimento de chamada é responsável pelo tratamento do erro portanto não especificamos a ação que deve ser executada 211 212 213 214 22 Exercícios Usando a Figura 22 como modelo ilustre a operação de InsertionSort no arranjo A 31 41 59 26 41 58 Reescreva o procedimento InsertionSort para ordenar em ordem não crescente em vez da ordem não decrescente Considere o problema de busca Entrada Uma sequência de n números A a1 a2 an e um valor v Saída Um índice i tal que v Ai ou o valor especial NIL se v não aparecer em A Escreva o pseudocódigo para busca linear que faça a varredura da sequência procurando por v Usando um invariante de laço prove que seu algoritmo é correto Certifiquese de que seu invariante de laço satisfaz as três propriedades necessárias Considere o problema de somar dois inteiros binários de n bits armazenados em dois arranjos de n elementos A e B A soma dos dois inteiros deve ser armazenada em forma binária em um arranjo de n 1 elementos C Enuncie o problema formalmente e escreva o pseudocódigo para somar os dois inteiros ANÁLISE DE ALGORITMOS Analisar um algoritmo significa prever os recursos de que o algoritmo necessita Ocasionalmente recursos como memória largura de banda de comunicação ou hardware de computador são a principal preocupação porém mais frequentemente é o tempo de computação que desejamos medir Em geral pela análise de vários algoritmos candidatos para um problema podese identificar facilmente um que seja o mais eficiente Essa análise pode indicar mais de um candidato viável porém em geral podemos descartar vários algoritmos de qualidade inferior no processo Antes de podermos analisar um algoritmo devemos ter um modelo da tecnologia de implementação que será usada inclusive um modelo para os recursos dessa tecnologia e seus custos Na maior parte deste livro consideraremos um modelo de computação genérico de máquina de acesso aleatório randomaccess machine RAM com um único processador como nossa tecnologia de implementação e entenderemos que nossos algoritmos serão implementados como programas de computador No modelo de RAM as instruções são executadas uma após outra sem operações concorrentes No sentido estrito deveríamos definir com precisão as instruções do modelo de RAM e seus custos Porém isso seria tedioso e nos daria pouca percepção do projeto e da análise de algoritmos Não obstante devemos ter cuidado para não abusar do modelo de RAM Por exemplo e se uma RAM tivesse uma instrução de ordenação Então poderíamos ordenar com apenas uma instrução Tal RAM seria irreal visto que os computadores reais não têm tais instruções Portanto nosso guia é o modo como os computadores reais são projetados O modelo de RAM contém instruções comumente encontradas em computadores reais instruções aritméticas como soma subtração multiplicação divisão resto piso teto de movimentação de dados carregar armazenar copiar e de controle desvio condicional e incondicional chamada e retorno de subrotinas Cada uma dessas instruções demora uma quantidade de tempo constante Os tipos de dados no modelo de RAM são inteiros e de ponto flutuante para armazenar números reais Embora normalmente não nos preocupemos com a precisão neste livro em algumas aplicações a precisão é crucial Também consideramos um limite para o tamanho de cada palavra de dados Por exemplo ao trabalharmos com entradas de tamanho n em geral consideramos que os inteiros são representados por c lg n bits para alguma constante c 1 Exigimos c 1 para que cada palavra possa conter o valor de n o que nos permite indexar os elementos individuais da entrada e c terá de ser obrigatoriamente uma constante para que o tamanho da palavra não cresça arbitrariamente Se o tamanho da palavra pudesse crescer arbitrariamente seria possível armazenar enorme quantidade de dados em uma única palavra e executar operações com tudo isso em tempo constante claramente um cenário irreal Computadores reais contêm instruções que não citamos e tais instruções representam uma área cinzenta no modelo de RAM Por exemplo a exponenciação é uma instrução de tempo constante No caso geral não são necessárias várias instruções para calcular xy quando x e y são números reais Porém em situações restritas a exponenciação é uma operação de tempo constante Muitos computadores têm uma instrução deslocar para a esquerda shift left que desloca em tempo constante os bits de um inteiro k posições para a esquerda Na maioria dos computadores deslocar os bits de um inteiro uma posição para a esquerda equivale a multiplicar por 2 assim deslocar os bits k posições para a esquerda equivale a multiplicar por 2k Portanto tais computadores podem calcular 2k em uma única instrução de tempo constante deslocando o inteiro 1 k posições para a esquerda desde que k não seja maior que o número de bits em uma palavra de computador Procuraremos evitar essas áreas cinzentas no modelo de RAM mas trataremos o cálculo de 2k como uma operação de tempo constante quando k for um inteiro positivo suficientemente pequeno No modelo de RAM não tentamos modelar a hierarquia da memória que é comum em computadores contemporâneos Isto é não modelamos caches ou memória virtual Vários modelos computacionais tentam levar em conta os efeitos da hierarquia de memória que às vezes são significativos em programas reais em máquinas reais Alguns problemas neste livro examinam os efeitos da hierarquia de memória mas em sua maioria as análises neste livro não os considerarão Os modelos que incluem a hierarquia de memória são bem mais complexos que o modelo de RAM portanto pode ser difícil utilizálos Além disso as análises do modelo de RAM em geral permitem previsões excelentes do desempenho em máquinas reais Até mesmo a análise de um algoritmo simples no modelo de RAM pode ser um desafio As ferramentas matemáticas exigidas podem incluir análise combinatória teoria das probabilidades destreza em álgebra e a capacidade de identificar os termos mais significativos em uma fórmula Tendo em vista que o comportamento de um algoritmo pode ser diferente para cada entrada possível precisamos de um meio para resumir esse comportamento em fórmulas simples de fácil compreensão Embora normalmente selecionemos apenas um único modelo de máquina para analisar determinado algoritmo ainda estaremos diante de muitas opções na hora de decidir como expressar nossa análise Gostaríamos de dispor de um meio de expressão que seja simples de escrever e manipular que mostre as características importantes de requisitos de recursos de um algoritmo e que suprima os detalhes tediosos Análise da ordenação por inserção O tempo despendido pelo procedimento InsertionSort depende da entrada ordenar mil números demora mais que ordenar três números Além disso InsertionSort pode demorar quantidades de tempo diferentes para ordenar duas sequências de entrada do mesmo tamanho dependendo do quanto elas já estejam ordenadas Em geral o tempo gasto por um algoritmo cresce com o tamanho da entrada assim é tradicional descrever o tempo de execução de um programa em função do tamanho de sua entrada Para isso precisamos definir os termos tempo de execução e tamanho da entrada com mais cuidado A melhor noção para tamanho da entrada depende do problema que está sendo estudado No caso de muitos problemas como a ordenação ou o cálculo de transformações discretas de Fourier a medida mais natural é o número de itens na entrada por exemplo o tamanho n do arranjo para ordenação Para muitos outros problemas como a multiplicação de dois inteiros a melhor medida do tamanho da entrada é o número total de bits necessários para representar a entrada em notação binária comum Às vezes é mais apropriado descrever o tamanho da entrada com dois números em vez de um Por exemplo se a entrada para um algoritmo é um grafo o tamanho da entrada pode ser descrito pelos números de vértices e arestas no grafo Indicaremos qual medida de tamanho da entrada está sendo usada com cada problema que estudarmos O tempo de execução de um algoritmo em determinada entrada é o número de operações primitivas ou passos executados É conveniente definir a noção de passo de modo que ela seja tão independente de máquina quanto possível Por enquanto vamos adotar a visão a seguir Uma quantidade de tempo constante é exigida para executar cada linha do nosso pseudo código Uma linha pode demorar uma quantidade de tempo diferente de outra linha mas consideraremos que cada execução da iésima linha leva um tempo ci onde ci é uma constante Esse ponto de vista está de acordo com o modelo de RAM e também reflete o modo como o pseudocódigo seria implementado na maioria dos computadores reais5 Na discussão a seguir nossa expressão para o tempo de execução de InsertionSort evoluirá de uma fórmula confusa que utiliza todos os custos de instrução ci até uma notação muito mais simples que também é mais concisa e mais fácil de manipular Essa notação mais simples também facilitará a tarefa de determinar se um algoritmo é mais eficiente que outro Começaremos apresentando o procedimento InsertionSort com o custo de tempo de cada instrução e o número de vezes que cada instrução é executada Para cada j 2 3 n onde n Acomprimento seja tj o número de vezes que o teste do laço while na linha 5 é executado para aquele valor de j Quando um laço for ou while termina da maneira usual isto é devido ao teste no cabeçalho do laço o teste é executado uma vez mais do que o corpo do laço Consideramos que comentários não são instruções executáveis e portanto não demandam nenhum tempo O tempo de execução do algoritmo é a soma dos tempos de execução para cada instrução executada uma instrução que demanda ci passos para ser executada e é executada n vezes contribuirá com cin para o tempo de execução total6 Para calcular Tn o tempo de execução de InsertionSort de uma entrada de n valores somamos os produtos das colunas custo e vezes obtendo Mesmo para entradas de dado tamanho o tempo de execução de um algoritmo pode depender de qual entrada desse tamanho é dada Por exemplo em InsertionSort o melhor caso ocorre se o arranjo já está ordenado Então para cada j 2 3 n descobrimos que Ai chave na linha 5 quando i tem seu valor inicial j 1 Portanto tj 1 para j 2 3 n e o tempo de execução do melhor caso é Podemos expressar esse tempo de execução como an b para constantes a e b que dependem dos custos de instrução ci assim ele é uma função linear de n Se o arranjo estiver ordenado em ordem inversa ou seja em ordem decrescente resulta o pior caso Devemos comparar cada elemento Aj com cada elemento do subarranjo ordenado inteiro A1 j 1 e então tj j para 2 3 n Observando que o Apêndice A apresenta modos de resolver esses somatórios descobrimos que no pior caso o tempo de execução de InsertionSort é Podemos expressar esse tempo de execução do pior caso como an2 bn c para constantes a b e c que mais uma vez dependem dos custos de instrução ci portanto ele é uma função quadrática de n Em geral como na ordenação por inserção o tempo de execução de um algoritmo é fixo para determinada entrada embora em capítulos posteriores veremos alguns algoritmos aleatorizados interessantes cujo comportamento pode variar até mesmo para uma entrada fixa Análise do pior caso e do caso médio Em nossa análise da ordenação por inserção examinamos tanto o melhor caso no qual o arranjo de entrada já estava ordenado quanto o pior caso no qual o arranjo de entrada estava ordenado em ordem inversa Porém no restante deste livro em geral nos concentraremos em determinar apenas o tempo de execução do pior caso ou seja o tempo de execução mais longo para qualquer entrada de tamanho n Apresentamos três razões para essa orientação O tempo de execução do pior caso de um algoritmo estabelece um limite superior para o tempo de execução para qualquer entrada Conhecêlo nos dá uma garantia de que o algoritmo nunca demorará mais do que esse tempo Não precisamos fazer nenhuma suposição sobre o tempo de execução esperando que ele nunca seja muito pior Para alguns algoritmos o pior caso ocorre com bastante frequência Por exemplo na pesquisa de um banco de dados em busca de determinada informação o pior caso do algoritmo de busca frequentemente ocorre quando a informação não está presente no banco de dados Em algumas aplicações a busca de informações ausentes pode ser frequente Muitas vezes o caso médio é quase tão ruim quanto o pior caso Suponha que escolhemos n números aleatoriamente e aplicamos ordenação por inserção Quanto tempo transcorrerá até que o algoritmo determine o lugar no subarranjo A1 j 1 em que deve ser inserido o elemento Aj Em média metade dos elementos em A1 j 1 é menor que Aj e metade dos elementos é maior Portanto em média verificamos metade do 221 222 223 subarranjo A1 j 1 e portanto tj j2 Resulta que o tempo de execução obtido para o caso médio é uma função quadrática do tamanho da entrada exatamente o que ocorre com o tempo de execução do pior caso Em alguns casos particulares estaremos interessados no tempo de execução do caso médio de um algoritmo veremos neste livro a técnica da análise probabilística aplicada a vários algoritmos O escopo da análise do caso médio é limitado porque pode não ser evidente o que constitui uma entrada média para determinado problema Muitas vezes consideraremos que todas as entradas de um dado tamanho são igualmente prováveis Na prática é possível que essa suposição seja violada mas às vezes podemos utilizar um algoritmo aleatorizado que efetua escolhas ao acaso para permitir uma análise probabilística e produzir um tempo esperado de execução Estudaremos algoritmos randomizados com mais detalhes no Capítulo 5 e em vários outros capítulos subsequentes Ordem de crescimento Usamos algumas abstrações simplificadoras para facilitar nossa análise do procedimento InsertionSort Primeiro ignoramos o custo real de cada instrução usando as constantes ci para representar esses custos Então observamos que até mesmo essas constantes nos dão mais detalhes do que realmente necessitamos expressamos o tempo de execução do pior caso como an2 bn c para algumas constantes a b e c que dependem dos custos de instrução ci Desse modo ignoramos não apenas os custos reais de instrução mas também os custos abstratos ci Agora faremos mais uma abstração simplificadora É a taxa de crescimento ou ordem de crescimento do tempo de execução que realmente nos interessa Portanto consideramos apenas o termo inicial de uma fórmula por exemplo an2 já que os termos de ordem mais baixa são relativamente insignificantes para grandes valores de n Também ignoramos o coeficiente constante do termo inicial visto que fatores constantes são menos significativos que a taxa de crescimento na determinação da eficiência computacional para grandes entradas No caso da ordenação por inserção quando ignoramos os termos de ordem mais baixa e o coeficiente constante do termo inicial resta apenas o fator de n2 do termo inicial Afirmamos que a ordenação por inserção tem um tempo de execução do pior caso igual a Θn2 lido como teta de n ao quadrado Neste capítulo usaremos informalmente a notação Θ e a definiremos com precisão no Capítulo 3 Em geral consideramos que um algoritmo é mais eficiente que outro se seu tempo de execução do pior caso apresentar uma ordem de crescimento mais baixa Devido a fatores constantes e termos de ordem mais baixa um algoritmo cujo tempo de execução tenha uma ordem de crescimento mais alta pode demorar menos tempo para pequenas entradas do que um algoritmo cuja ordem de crescimento seja mais baixa Porém para entradas suficientemente grandes um algoritmo Θn2 por exemplo será executado mais rapidamente no pior caso que um algoritmo Θn3 Exercícios Expresse a função n31000 100n2 100n 3 em termos da notação Θ Considere a ordenação de n números armazenados no arranjo A localizando primeiro o menor elemento de A e permutando esse elemento com o elemento contido em A1 Em seguida determine o segundo menor elemento de A e permuteo com A2 Continue dessa maneira para os primeiros n 1 elementos de A Escreva o pseudocódigo para esse algoritmo conhecido como ordenação por seleção Qual invariante de laço esse algoritmo mantém Por que ele só precisa ser executado para os primeiros n 1 elementos e não para todos os n elementos Forneça os tempos de execução do melhor caso e do pior caso da ordenação por seleção em notação Θ Considere mais uma vez a busca linear veja Exercício 213 Quantos elementos da sequência de entrada precisam ser verificados em média considerando que o elemento que está sendo procurado tenha a mesma probabilidade de ser qualquer elemento no arranjo E no pior caso Quais são os tempos de execução do 224 23 231 caso médio e do pior caso da busca linear em notação Θ Justifique suas respostas Como podemos modificar praticamente qualquer algoritmo para ter um bom tempo de execução no melhor caso PROJETO DE ALGORITMOS Há uma grande variedade de técnicas de projeto de algoritmos à nossa disposição Para a ordenação por inserção utilizamos uma abordagem incremental tendo ordenado o subarranjo A1 j 1 inserimos o elemento isolado Aj em seu lugar apropriado o que produz o subarranjo ordenado A1 j Nesta seção examinaremos uma abordagem de projeto alternativa conhecida como divisão e conquista que estudaremos com mais detalhes no Capítulo 4 Usaremos tal abordagem para projetar um algoritmo de ordenação cujo tempo de execução do pior caso é muito menor que o da ordenação por inserção Uma vantagem dos algoritmos de divisão e conquista é que seus tempos de execução são frequentemente fáceis de determinar com a utilização de técnicas que serão apresentadas no Capítulo 4 A ABORDAGEM DE DIVISÃO E CONQUISTA Muitos algoritmos úteis são recursivos em sua estrutura para resolver um dado problema eles chamam a si mesmos recursivamente uma ou mais vezes para lidar com subproblemas intimamente relacionados Em geral esses algoritmos seguem uma abordagem de divisão e conquista eles desmembram o problema em vários subproblemas que são semelhantes ao problema original mas de menor tamanho resolvem os subproblemas recursivamente e depois combinam essas soluções com o objetivo de criar uma solução para o problema original O paradigma de divisão e conquista envolve três passos em cada nível da recursão Divisão do problema em determinado número de subproblemas que são instâncias menores do problema original Conquista os subproblemas resolvendoos recursivamente Porém se os tamanhos dos subproblemas forem pequenos o bastante basta resolver os subproblemas de maneira direta Combinação as soluções dadas aos subproblemas na solução para o problema original O algoritmo de ordenação por intercalação a seguir obedece rigorosamente ao paradigma de divisão e conquista Intuitivamente ele funciona do modo ilustrado a seguir Divisão Divide a sequência de n elementos que deve ser ordenada em duas subsequências de n2 elementos cada uma Conquista Ordena as duas subsequências recursivamente utilizando a ordenação por intercalação Combinação Intercala as duas subsequências ordenadas para produzir a resposta ordenada A recursão extinguese quando a sequência a ser ordenada tiver comprimento 1 visto que nesse caso não há nenhum trabalho a ser feito já que toda sequência de comprimento 1 já está ordenada A operaçãochave do algoritmo de ordenação por intercalação é a intercalação de duas sequências ordenadas no passo de combinação Para executar a intercalação chamamos um procedimento auxiliar MergeA p q r onde A é um arranjo e p q e r são índices de enumeração dos elementos do arranjo tais que p q r O procedimento considera que os subarranjos Ap q e Aq 1 r estão em sequência ordenada Ele os intercala ou mescla para formar um único subarranjo ordenado que substitui o subarranjo atual Ap r Nosso procedimento Merge leva o tempo Θn onde n r p 1 é o número total de elementos que estão sendo intercalados e funciona como descrito a seguir Retornando ao nosso exemplo do jogo de cartas suponha que temos duas pilhas de cartas com a face para cima sobre uma mesa Cada pilha está ordenada com as cartas de menor valor em cima Desejamos juntar as duas pilhas fazendo a intercalação em uma única pilha de saída ordenada que ficará com a face para baixo na mesa Nosso passo básico consiste em escolher a menor das duas cartas superiores nas duas pilhas viradas para cima removêla de sua pilha o que exporá uma nova carta superior e colocar essa carta com a face voltada para baixo sobre a pilha de saída Repetimos esse passo até uma pilha de entrada se esvaziar e então simplesmente pegamos a pilha de entrada restante e a colocamos virada para baixo sobre a pilha de saída Em termos computacionais cada passo básico demanda um tempo constante já que estamos comparando apenas as duas cartas superiores Considerando que executamos no máximo n passos básicos a intercalação demorará um tempo Θn O pseudocódigo a seguir implementa essa ideia mas tem uma variação que evita a necessidade de verificar se qualquer das duas pilhas está vazia em cada passo básico Colocamos na parte inferior de cada pilha uma carta sentinela que contém um valor especial que empregamos para simplificar nosso código Aqui usamos como valor de sentinela de modo que sempre que uma carta com for exposta ela não poderá ser a menor carta a menos que as cartas sentinelas de ambas as pilhas estejam expostas Porém assim que isso ocorre todas as cartas que não são sentinelas já terão sido colocadas sobre a pilha de saída Como sabemos com antecedência que exatamente r p 1 cartas serão colocadas sobre a pilha de saída podemos parar após a execução desse mesmo número de etapas básicas Em detalhe o procedimento Merge funciona da maneira ilustrada a seguir A linha 1 calcula o comprimento n1 do subarranjo Ap q e a linha 2 calcula o comprimento n2 do subarranjo Aq 1 r Criamos os arranjos L e R de left e right em inglês ou esquerda e direita de comprimentos n1 1 e n2 1 respectivamente na linha 3 a posição extra em cada arranjo conterá a sentinela O laço for das linhas 4 e 5 copia o subarranjo Ap q em L1 n1 e o laço for das linhas 6 e 7 copia o subarranjo Aq 1 r em R1 n2 As linhas 8 e 9 colocam as sentinelas nas extremidades dos arranjos L e R As linhas 10 a 17 ilustradas na Figura 23 executam os r p 1 passos básicos mantendo o invariante de laço a seguir Figura 23 Operação das linhas 10 a 17 na chamada MergeA 9 12 16 quando o subarranjo A9 16 contém a sequência 2 4 5 7 1 2 3 6 Depois de copiar e inserir sentinelas o arranjo L contém 2 4 5 7 e o arranjo R contém 1 2 3 6 Posições sombreadas em tom mais claro em A contêm seus valores finais e posições sombreadas em tom mais claro em L e R contêm valores que ainda têm de ser copiados de volta em A Juntas as posições sombreadas em tom mais claro sempre incluem os valores contidos originalmente em A 9 16 além das duas sentinelas Posições sombreadas em tom mais escuro em A contêm valores que serão copiados e posições em tom mais escuro em L e R contêm valores que já foram copiados de volta em A ah Os arranjos A L e R e seus respectivos índices k i e j antes de cada iteração do laço das linhas 12 a 17 No início de cada iteração do laço for das linhas 12 a 17 o subarranjo Ap k 1 contém os k p menores elementos de L1 n1 1 e R1 n2 1 em sequência ordenada Além disso Li e Rj são os menores elementos de seus arranjos que não foram copiados de volta em A 232 Devemos mostrar que esse invariante de laço é válido antes da primeira iteração do laço for das linhas 12 a 17 que cada iteração do laço mantém o invariante e que o invariante fornece uma propriedade útil para mostrar correção quando o laço termina Inicialização Antes da primeira iteração do laço temos k p de modo que o subarranjo Ap k 1 está vazio Esse subarranjo vazio contém os k p 0 menores elementos de L e R e uma vez que i j 1 tanto Li quanto Rj são os menores elementos de seus arranjos que não foram copiados de volta em A Manutenção Para ver que cada iteração mantém o invariante de laço vamos supor primeiro que Li Rj Então Li é o menor elemento ainda não copiado de volta em A Como Ap k 1 contém os k p menores elementos depois de a linha 14 copiar Li em Ak o subarranjo Ap k conterá os k p 1 menores elementos O incremento de k na atualização do laço for e de i na linha 15 restabelece o invariante de laço para a próxima iteração Se em vez disso Li Rj então as linhas 16 e 17 executam a ação apropriada para manter o invariante de laço Término No término k r 1 Pelo invariante de laço o subarranjo Ap k 1 que é Ap r contém os k p r p 1 menores elementos de L1 n1 1 e R1 n2 1 em sequência ordenada Os arranjos L e R juntos contêm n1 n2 2 r p 3 elementos Todos os elementos exceto os dois maiores foram copiados de volta em A e esses dois maiores elementos são as sentinelas Para ver que o procedimento Merge é executado no tempo Θn onde n r p 1 observe que cada uma das linhas 1 a 3 e 8 a 11 demora um tempo constante que os laços for das linhas 4 a 7 demoram o tempo Θn1 n2 Θn7 e que há n iterações do laço for das linhas 12 a 17 cada uma demorando um tempo constante Agora podemos usar o procedimento Merge como uma subrotina no algoritmo de ordenação por intercalação O procedimento MergeSortA p r ordena os elementos do subarranjo Ap r Se p r o subarranjo tem no máximo um elemento e portanto já está ordenado Caso contrário a etapa de divisão simplesmente calcula um índice q que subdivide Ap r em dois subarranjos Ap q contendo n2 elementos e Aq 1 r contendo n2 elementos8 Para ordenar a sequência A A1 A2 An inteira efetuamos a chamada inicial MergeSortA 1 Acomprimento onde mais uma vez Acomprimento n A Figura 24 ilustra a operação do procedimento de baixo para cima quando n é uma potência de 2 O algoritmo consiste em intercalar pares de sequências com 1 item para formar sequências ordenadas de comprimento 2 intercalar pares de sequências de comprimento 2 para formar sequências ordenadas de comprimento 4 e assim por diante até que duas sequências de comprimento n2 sejam intercaladas para formar a sequência ordenada final de comprimento n ANÁLISE DE ALGORITMOS DE DIVISÃO E CONQUISTA Quando um algoritmo contém uma chamada recursiva a si próprio seu tempo de execução pode ser descrito frequentemente por uma equação de recorrência ou recorrência que descreve o tempo de execução global para um problema de tamanho n em termos do tempo de execução para entradas menores Então podemos usar ferramentas matemáticas para resolver a recorrência e estabelecer limites para o desempenho do algoritmo Uma recorrência para o tempo de execução de um algoritmo de divisão e conquista resulta dos três passos do paradigma básico Como antes consideramos Tn o tempo de execução para um problema de tamanho n Se o tamanho do problema for pequeno o bastante digamos n c para alguma constante c a solução direta demorará um tempo constante que representamos por Θ1 Vamos supor que a subdivisão que adotamos para o problema produza subproblemas cada um deles com 1b do tamanho do problema original No caso da ordenação por intercalação a e b são 2 mas veremos muitos algoritmos de divisão e conquista nos quais a b O algoritmo leva o tempo T nb para resolver um subproblema de tamanho nb e portanto leva o tempo aTnb para resolver um número a desses problemas Se o algoritmo levar o tempo Dn para dividir o problema em subproblemas e o tempo Cn para combinar as soluções dadas aos subproblemas na solução para o problema original obteremos a recorrência No Capítulo 4 veremos como resolver recorrências comuns que tenham essa forma Figura 24 A operação de ordenação por intercalação sobre o arranjo A 5 2 4 7 1 3 2 6 Os comprimentos das sequências ordenadas que estão sendo intercaladas aumentam com a progressão do algoritmo da parte inferior até a parte superior Análise da ordenação por intercalação Embora o pseudocódigo para MergeSort funcione corretamente quando o número de elementos não é par nossa análise baseada na recorrência será simplificada se considerarmos que o tamanho do problema original é uma potência de 2 Então cada passo de dividir produzirá duas subsequências de tamanho exatamente n2 No Capítulo 4 veremos que essa premissa não afeta a ordem de crescimento da solução para a recorrência Apresentamos a seguir o raciocínio usado para configurar a recorrência para Tn o tempo de execução do pior caso da ordenação por intercalação para n números A ordenação por intercalação para um único elemento demora um tempo constante Quando temos n 1 elementos desmembramos o tempo de execução do modo explicado a seguir Divisão A etapa de divisão simplesmente calcula o ponto médio do subarranjo o que demora um tempo constante Portanto Dn Θ1 Conquista Resolvemos recursivamente dois subproblemas cada um de tamanho n2 o que contribui com 2Tn2 para o tempo de execução Combinação Já observamos que o procedimento Merge em um subarranjo de n elementos leva o tempo Θn assim Cn Θn Quando somamos as funções Dn e Cn para a análise da ordenação por intercalação estamos somando uma função que é Θn a uma função que é Θ1 Essa soma é uma função linear de n ou seja Θn A adição dessa função ao termo 2Tn2 da etapa de conquistar fornece a recorrência para o tempo de execução do pior caso Tn da ordenação por intercalação No Capítulo 4 veremos o teorema mestre que podemos utilizar para mostrar que Tn é Θn lg n onde lg n significa log2 n Como a função logarítmica cresce mais lentamente do que qualquer função linear para entradas suficientemente grandes o desempenho da ordenação por intercalação com seu tempo de execução Θn lg n supera o da ordenação por inserção cujo tempo de execução é Θn2 no pior caso Não precisamos do teorema mestre para entender intuitivamente por que a solução para a recorrência 21 é Tn Θn lg n Vamos reescrever a recorrência 21 como onde a constante c representa o tempo exigido para resolver problemas de tamanho 1 bem como o tempo por elemento do arranjo para as etapas de dividir e combinar9 A Figura 25 mostra como podemos resolver a recorrência 22 Por conveniência consideramos que n é uma potência exata de 2 A parte a da figura mostra Tn que na parte b é expandida em uma árvore equivalente que representa a recorrência O termo cn é a raiz o custo incorrido no nível superior da recursão e as duas subárvores da raiz são as duas recorrências menores Tn2 A parte c mostra esse processo levado uma etapa adiante pela expansão de Tn2 O custo incorrido em cada um dos dois subnós no segundo nível de recursão é cn2 Continuamos a expandir cada nó na árvore desmembrandoo em suas partes constituintes como determinado pela recorrência até que os tamanhos de problemas se reduzam a 1 cada qual com o custo c A parte d mostra a árvore de recursão resultante Figura 25 Como construir uma árvore de recursão para a recorrência T n 2T n2 cn A parte a mostra T n que expandese progressivamente em bd para formar a árvore de recursão A árvore completamente expandida da parte d tem lg n 1 níveis isto é tem altura lg n como indicado e cada nível contribui com o custo total cn Então o custo total é cn lg n cn que é Θn lg n Em seguida somamos os custos em cada nível da árvore O nível superior tem custo total cn o próximo nível abaixo tem custo total cn2 cn2 cn o nível após esse tem custo total cn4 cn4 cn4 cn4 cn e 231 232 233 234 235 236 237 assim por diante Em geral o nível i abaixo do topo tem 2i nós cada qual contribuindo com um custo cn2i de modo que o iésimo nível abaixo do topo tem custo total 2i cn2i cn O nível inferior tem n nós cada um contribuindo com um custo c para um custo total cn O número total de níveis da árvore de recursão da Figura 25 é lg n 1 onde n é o número de folhas correspondente ao tamanho da entrada Um argumento indutivo informal justifica essa afirmação O caso básico ocorre quando n 1 e nesse caso a árvore tem só um nível Como lg 1 0 temos que lg n 1 dá o número correto de níveis Agora suponha como hipótese indutiva que o número de níveis de uma árvore de recursão com 2i folhas seja lg 2i 1 i 1 visto que para qualquer valor de i temos que lg 2i i Como estamos supondo que o tamanho da entrada é uma potência de 2 o tamanho da próxima entrada a considerar é 2i1 Uma árvore com 2i1 folhas tem um nível a mais que uma árvore de 2i folhas e então o número total de níveis é i 1 1 lg 2i1 1 Para calcular o custo total representado pela recorrência 22 simplesmente somamos os custos de todos os níveis A árvore de recursão tem lg n 1 níveis cada um com custo cn o que nos dá o custo total cn lg n 1 cn lg n cn Ignorando o termo de ordem baixa e a constante c obtemos o resultado desejado Θn lg n Exercícios Usando a Figura 24 como modelo ilustre a operação de ordenação por intercalação para o arranjo A 3 41 52 26 38 57 9 49 Reescreva o procedimento Merge de modo que ele não utilize sentinelas e em vez disso pare tão logo todos os elementos do arranjo L ou do arranjo R tenham sido copiados de volta em A e então copie o restante do outro arranjo de volta em A Use indução para mostrar que quando n é uma potência exata de 2 a solução da recorrência é Tn n lg n A ordenação por inserção pode ser expressa como um procedimento recursivo da maneira descrita a seguir Para ordenar A1 n ordenamos recursivamente A1 n 1 e depois inserimos An no arranjo ordenado A1 n 1 Escreva uma recorrência para o tempo de execução de pior caso dessa versão recursiva da ordenação por inserção Voltando ao problema da busca ver Exercício 213 observe que se a sequência A for ordenada poderemos comparar o ponto médio da sequência com v e não mais considerar metade da sequência O algoritmo de busca binária repete esse procedimento dividindo ao meio o tamanho da porção restante da sequência a cada vez Escreva pseudocódigo iterativo ou recursivo para busca binária Demonstre que o tempo de execução do pior caso da busca binária é Θlg n Observe que o laço while das linhas 5 a 7 do procedimento InsertionSort na Seção 21 utiliza uma pesquisa linear para varrer no sentido inverso o subarranjo ordenado A1 j 1 Podemos usar em vez disso uma busca binária veja Exercício 235 para melhorar o tempo de execução global do pior caso da ordenação por inserção para Θn lg n Descreva um algoritmo de tempo Θn lg n que dado um conjunto S de n inteiros e um outro inteiro x determine se existem ou não dois elementos em S cuja soma seja exatamente x 21 a b c d 22 a b c Problemas Ordenação por inserção para arranjos pequenos na ordenação por intercalação Embora a ordenação por intercalação funcione no tempo de pior caso Θn lg n e a ordenação por inserção funcione no tempo de pior caso Θn2 os fatores constantes na ordenação por inserção podem tornála mais rápida para n pequeno em algumas máquinas Assim faz sentido adensar as folhas da recursão usando a ordenação por inserção dentro da ordenação por intercalação quando os subproblemas se tornam suficientemente pequenos Considere uma modificação na ordenação por intercalação na qual nk sublistas de comprimento k são ordenadas usandose a ordenação por inserção e depois intercaladas com a utilização do mecanismopadrão de intercalação onde k é um valor a ser determinado Mostre que a ordenação por inserção pode ordenar as nk sublistas cada uma de comprimento k em Θnk tempo do pior caso Mostre como intercalar as sublistas em tempo do pior caso Θn lgnk Dado que o algoritmo modificado é executado em tempo do pior caso Θnk n lgnk qual é o maior valor de k em função de n para o qual o algoritmo modificado tem o mesmo tempo de execução que a ordenação por intercalaçãopadrão em termos da notação Θ Como k deve ser escolhido na prática Correção do bubblesort O bubblesort é um algoritmo de ordenação popular porém ineficiente Ele funciona permutando repetidamente elementos adjacentes que estão fora de ordem Seja A um valor que denota a saída de BubblesortA Para provar que Bubblesort é correto precisamos provar que ele termina e que onde n Acomprimento O que mais deve ser provado para mostrar que Bubblesort realmente realiza a ordenação As duas partes seguintes provarão a desigualdade 23 Enuncie com precisão um invariante de laço para o laço for das linhas 2 a 4 e prove que esse invariante de laço é válido Sua prova deve usar a estrutura da prova do invariante de laço apresentada neste capítulo Usando a condição de término do invariante de laço demonstrado na parte b enuncie um invariante de laço para o laço for das linhas 1 a 4 que permita provar a desigualdade 23 Sua prova deve empregar a estrutura da prova do invariante de laço apresentada neste capítulo d 23 a b c d 24 a b Qual é o tempo de execução do pior caso de bubblesort Como ele se compara com o tempo de execução da ordenação por inserção Correção da regra de Horner O fragmento de código a seguir implementa a regra de Horner para avaliar um polinômio dados os coeficientes a0 a1 an e um valor para x Qual é o tempo de execução desse fragmento de código em termos da notação Θ para a regra de Horner Escreva pseudocódigo para implementar o algoritmo ingênuo de avaliação polinomial que calcula cada termo do polinômio desde o início Qual é o tempo de execução desse algoritmo Como ele se compara com a regra de Horner Considere o seguinte invariante de laço No início de cada iteração do laço for nas linhas 23 Interprete como igual a zero um somatório que não tenha nenhum termo Seguindo a estrutura do invariante de laço apresentado neste capítulo use esse invariante de laço para mostrar que no término Conclua demonstrando que o fragmento de código dado avalia corretamente um polinômio caracterizado pelos coeficientes a0 a1 an Inversões Seja A1n um arranjo de n números distintos Se i j e Ai Aj então o par i j é denominado inversão de A Apresente uma lista com as cinco inversões do arranjo 2 3 8 6 1 Qual arranjo com elementos do conjunto 1 2 n tem o maior número de inversões Quantas inversões ele tem c d Qual é a relação entre o tempo de execução da ordenação por inserção e o número de inversões no arranjo de entrada Justifique sua resposta Dê um algoritmo que determine o número de inversões em qualquer permutação com os n elementos em tempo do pior caso Θn lg n Sugestão Modifique a ordenação por intercalação NOTAS DO CAPÍTULO Em 1968 Knuth publicou o primeiro de três volumes com o título geral The Art of Computer Programming 209 210 211 O primeiro volume introduziu o estudo moderno de algoritmos de computação com foco na análise do tempo de execução e a série inteira continua a ser uma referência valiosa e interessante para muitos dos tópicos apresentados aqui De acordo com Knuth a palavra algoritmo é derivada do nome alKhowârizmî um matemático persa do século IX Aho Hopcroft e Ullman 5 divulgaram a análise assintótica dos algoritmos utilizando notações apresentadas no Capítulo 3 incluindo a notação Θ como meio de comparar o desempenho relativo Eles também popularizaram a utilização de relações de recorrência para descrever os tempos de execução de algoritmos recursivos Knuth 211 oferece um tratamento enciclopédico de muitos algoritmos de ordenação Sua comparação de algoritmos de ordenação página 381 inclui análises exatas de contagem de passos como a que realizamos aqui para a ordenação por inserção A discussão por Knuth da ordenação por inserção engloba diversas variações do algoritmo A mais importante delas é a ordenação de Shell introduzida por D L Shell que utiliza a ordenação por inserção em subsequências periódicas da entrada para produzir um algoritmo de ordenação mais rápido A ordenação por intercalação também é descrita por Knuth Ele menciona que um cotejador comparador mecânico capaz de intercalar dois conjuntos de cartões perfurados em uma única passagem foi inventado em 1938 J von Neumann um dos pioneiros da ciência da computação aparentemente escreveu um programa para ordenação por intercalação no computador EDVAC em 1945 A história da prova de correção de programas é descrita por Gries 153 que credita a P Naur o primeiro artigo nessa área Gries atribui invariantes de laço a R W Floyd O livro de Mitchell 256 descreve o progresso mais recente na prova da correção de programas 1 Quando o laço for um laço for o momento no qual verificamos o invariante de laço logo antes da primeira iteração é imediatamente após a atribuição inicial à variável do contador do laço e logo antes do primeiro teste no cabeçalho do laço No caso de InsertionSort esse tempo é após atribuir 2 à variável j mas antes do primeiro teste de j Acomprimento 2 Em uma instrução ifelse o recuo de else estará no mesmo nível do if que a acompanha Embora a palavrachave then seja omitida ocasionalmente nos referiremos à porção executada quando o teste que vem após if for válido como uma cláusula then Para testes múltiplos utilizaremos elseif para os testes que vêm após o primeiro 3 Cada procedimento de pseudocódigo neste livro aparece em uma única página assim você não terá que discernir níveis de identação em códigos que ocupam mais de uma página referente à edição original 4 A maioria das linguagens estruturadas em blocos tem constructos equivalentes embora a sintaxe exata possa ser diferente A linguagem Python não tem laços repeatuntil e seus laços for funcionam de um modo um pouco diferente dos laços for utilizados neste livro 5 Há algumas sutilezas aqui As etapas computacionais que especificamos em linguagem comum frequentemente são variantes de um procedimento que exige mais que apenas uma quantidade constante de tempo Por exemplo mais adiante neste livro poderíamos dizer ordene os pontos pela coordenada x que como veremos demora mais que uma quantidade constante de tempo Além disso observe que uma instrução que chama uma subrotina demora um tempo constante embora a subrotina uma vez invocada possa durar mais Ou seja separamos o processo de chamar a subrotina passar parâmetros a ela etc do processo de executar a subrotina 6 Essa característica não se mantém necessariamente para um recurso como memória Uma instrução que referencia m palavras de memória e é executada n vezes não referencia necessariamente mn palavras de memória distintas 7 Veremos no Capítulo 3 como interpretar formalmente equações contendo notação Θ 8 A expressão x denota o menor inteiro maior ou igual a x e x denota o maior inteiro menor ou igual a x Essas notações são definidas no Capítulo 3 O modo mais fácil para verificar que definir q como p r2 produz os subarranjos Ap q e Aq 1 r de tamanhosn2 e n2 respectivamente é examinar os quatro casos que surgem dependendo de cada valor de p e r ser ímpar ou par 9 É improvável que a mesma constante represente exatamente o tempo para resolver problemas de tamanho 1 e também o tempo por elemento do arranjo para as etapas de dividir e combinar Podemos contornar esse problema tomando c como o maior desses tempos e entendendo que nossa recorrência impõe um limite superior ao tempo de execução ou tomando c como o menor desses tempos e entendendo que nossa recorrência impõe um limite inferior ao tempo de execução Ambos os limites valem para a ordem de n lg n e tomados juntos corresponderão ao tempo de execução Θn lg n 31 3 CRESCIMENTO DE FUNÇÕES A ordem de crescimento do tempo de execução de um algoritmo definida no Capítulo 2 dá uma caracterização simples da eficiência do algoritmo e também nos permite comparar o desempenho relativo de algoritmos alternativos Tão logo o tamanho da entrada n se torne suficientemente grande a ordenação por intercalação com seu tempo de execução do pior caso Θn lg n vence a ordenação por inserção cujo tempo de execução do pior caso é Θn2 Embora às vezes seja possível determinar o tempo exato de execução de um algoritmo como fizemos no caso da ordenação por inserção no Capítulo 2 o que ganhamos em precisão em geral não vale o esforço do cálculo Para entradas suficientemente grandes as constantes multiplicativas e os termos de ordem mais baixa de um tempo de execução exato são dominados pelos efeitos do próprio tamanho da entrada Quando observamos tamanhos de entrada suficientemente grandes para tornar relevante apenas a ordem de crescimento do tempo de execução estamos estudando a eficiência assintótica dos algoritmos Isto é estamos preocupados com o modo como o tempo de execução de um algoritmo aumenta com o tamanho da entrada no limite à medida que o tamanho da entrada aumenta sem limitação Em geral um algoritmo que é assintoticamente mais eficiente será a melhor escolha para todas as entradas exceto as muito pequenas Este capítulo oferece vários métodos padrões para simplificar a análise assintótica de algoritmos A próxima seção começa definindo diversos tipos de notação assintótica da qual já vimos um exemplo na notação Θ Então apresentaremos várias convenções de notação usadas em todo este livro e por fim faremos uma revisão do comportamento de funções que surgem comumente na análise de algoritmos NOTAÇÃO ASSINTÓTICA As notações que usamos para descrever o tempo de execução assintótico de um algoritmo são definidas em termos de funções cujos domínios são o conjunto dos números naturais 0 1 2 Tais notações são convenientes para descrever a função Tn do tempo de execução do pior caso que em geral é definida somente para tamanhos de entrada inteiros Contudo às vezes consideramos que é conveniente abusar da notação assintótica de vários modos Por exemplo poderíamos estender a notação ao domínio dos números reais ou como alternativa restringila a um subconjunto dos números naturais Porém é importante entender o significado preciso da notação para que quando abusarmos ela não seja mal utilizada Esta seção define as notações assintóticas básicas e também apresenta alguns abusos comuns Notação assintótica funções e tempos de execução Usaremos a notação assintótica primariamente para descrever o tempo de execução de algoritmos como fizemos quando escrevemos que o tempo de execução do pior caso para a ordenação por inserção é Θn2 Todavia na realidade a notação assintótica aplicase a funções Lembrese de que caracterizamos o tempo de execução do pior caso da ordenação por inserção como an2 bn c para algumas constantes a b e c Quando afirmamos que o tempo de execução da ordenação por inserção é Θn2 abstraímos alguns detalhes dessa função Como a notação assintótica aplicase a funções o que quisemos dizer é que Θn2 era a função an2 bn c que aqui por acaso caracteriza o tempo de execução do pior caso da ordenação por inserção Neste livro as funções às quais aplicamos a notação assintótica normalmente caracterizarão os tempos de execução de algoritmos Porém a notação assintótica pode se aplicar a funções que caracterizam algum outro aspecto dos algoritmos a quantidade de espaço que eles usam por exemplo ou até mesmo a funções que absolutamente nada têm a ver com algoritmos Mesmo quando utilizamos a notação assintótica para o tempo de execução de um algoritmo precisamos entender a qual tempo de execução estamos nos referindo Às vezes estamos interessados no tempo de execução do pior caso Porém frequentemente queremos caracterizar o tempo de execução seja qual for a entrada Em outras palavras muitas vezes desejamos propor um enunciado abrangente que se aplique a todas as entradas e não apenas ao pior caso Veremos que as notações assintóticas prestamse bem à caracterização de tempos de execução não importando qual seja a entrada Notação Θ No Capítulo 2 vimos que o tempo de execução do pior caso da ordenação por inserção é Tn Θn2 Vamos definir o que significa essa notação Para uma dada função gn denotamos por Θ gn o conjunto de funções Uma função fn pertence ao conjunto Θ gn se existirem constantes positivas c1 e c2 tais que ela possa ser encaixada entre c1gn e c2 gn para um valor de n suficientemente grande Como Θ gn é um conjunto poderíamos escrever fn Θ gn para indicar que fn é um membro de ou pertence a Θ gn Em vez disso em geral escreveremos fn Θ gn para expressar a mesma noção Esse abuso da igualdade para denotar a condição de membro de um conjunto pertinência pode parecer confuso mas veremos mais adiante nesta seção que ele tem suas vantagens A Figura 31a apresenta um quadro intuitivo de funções fn e gn onde fn Θ gn Para todos os valores de n em n0 ou à direita de n0 o valor de fn encontrase em c1 gn ou acima dele e em c2 gn ou abaixo desse valor Em outras palavras para todo n n0 a função fn é igual a gn dentro de um fator constante Dizemos que gn é um limite assintoticamente restrito para fn A definição de Θgn exige que todo membro fn Θgn seja assintoticamente não negativo isto é que fn seja não negativa sempre que n for suficientemente grande Uma função assintoticamente positiva é uma função positiva para todo n suficientemente grande Por consequência a própria função gn deve ser assintoticamente não negativa senão o conjunto Θ gn é vazio Por isso consideraremos que toda função usada dentro da notação Θ é assintoticamente não negativa Essa premissa também se mantém para as outras notações assintóticas definidas neste capítulo No Capítulo 2 introduzimos uma noção informal da notação Θ que consistia em descartar os termos de ordem mais baixa e ignorar o coeficiente inicial do termo de ordem mais alta Vamos justificar brevemente essa intuição usando a definição formal para mostrar que 1 2 n2 3n Θ n2 Para isso devemos definir constantes positivas c c e n tais que Figura 31 Exemplos gráficos das notações Θ O e Ω Em cada parte o valor de n0 mostrado é o mínimo valor possível qualquer valor maior também funcionaria a A notação Θ limita uma função entre fatores constantes Escrevemos fn Θgn se existirem constantes positivas n0 c1 e c2 tais que em n0 e à direita de n0 o valor de fn sempre encontrarse entre c1 gn e c2 gn inclusive b A notação O dá um limite superior para uma função dentro de um fator constante Escrevemos fn Ogn se existirem constantes positivas n0 e c tais que em n0 e à direita de n0 o valor de fn sempre estiver abaixo de cg n c A notação Ω dá um limite inferior para uma função dentro de um fator constante Escrevemos fn Ωgn se existirem constantes positivas n0 e c tais que em n0 e à direita de n0 o valor de fn sempre estiver acima de cgn para todo n n0 Dividindo por n2 temos A desigualdade do lado direito pode ser considerada válida para qualquer valor de n 1 se escolhermos qualquer constante c2 12 Do mesmo modo a desigualdade da esquerda pode ser considerada válida para qualquer valor de n 7 se escolhermos qualquer constante c1 114 Assim escolhendo c 1 114 c 2 12 e n 0 7 podemos verificar que 1 2 n2 3n Θn2 Certamente existem outras opções para as constantes mas o importante é que existe alguma opção Observe que essas constantes dependem da função 1 2 n2 3n uma função diferente pertencente a Θn2 normalmente exigiria constantes diferentes Também podemos usar a definição formal para verificar que 6n3 Θn2 A título de contradição suponha que existam c2 e n0 tais que 6n3 c2n2 para todo n n0 Mas então divisão por n2 dá n c26 o que não pode ser válido para um valor de n arbitrariamente grande já que c2 é constante Intuitivamente os termos de ordem mais baixa de uma função assintoticamente positiva podem ser ignorados na determinação de limites assintoticamente restritos porque eles são insignificantes para grandes valores de n Quando n é grande até uma minúscula fração do termo de ordem mais alta é suficiente para dominar os termos de ordem mais baixa Desse modo definir c1 como um valor ligeiramente menor que o coeficiente do termo de ordem mais alta e definir c2 como um valor ligeiramente maior permite que as desigualdades na definição da notação Θ sejam satisfeitas Da mesma maneira o coeficiente do termo de ordem mais alta pode ser ignorado já que ele só muda c1 e c2 por um fator constante igual ao coeficiente Como exemplo considere qualquer função quadrática fn an2 bn c onde a b e c são constantes e a 0 Descartando os termos de ordem mais baixa e ignorando a constante produzimos fn Θn2 Formalmente para mostrar a mesma coisa tomamos as constantes c1 a4 c2 7a4 e n0 2 max ba ca O leitor poderá verificar que 0 c1n2 an2 bn c c2n2 para todo n n0 Em geral para qualquer polinômio onde ai são constantes e ad 0 temos pn Θnd veja Problema 31 Tendo em vista que qualquer constante é um polinômio de grau 0 podemos expressar qualquer função constante como Θn0 ou Θ1 Porém esta última notação é um pequeno abuso porque a expressão não indica qual variável está tendendo a infinito2 Usaremos com frequência a notação Θ1 para indicar uma constante ou uma função constante em relação a alguma variável Notação O A notação Θ limita assintoticamente uma função acima e abaixo Quando temos apenas um limite assintótico superior usamos a notação O Para uma dada função gn denotamos por O gn lêse Ó grande de g de n ou às vezes apenas ó de g de n o conjunto de funções Usamos a notação O para dar um limite superior a uma função dentro de um fator constante A Figura 31b mostra a intuição por trás da notação O Para todos os valores n em n0 ou à direita de n0 o valor da função fn está abaixo de cgn Escrevemos fn O gn para indicar que uma função fn é um membro do conjunto O gn Observe que fn Θ gn implica fn O gn já que a notação Θ é uma noção mais forte que a notação O Em termos da teoria de conjuntos escrevemos Θ gn O gn Assim nossa prova de que qualquer função quadrática an2 bn c onde a 0 está em Θn2 também mostra que qualquer função quadrática desse tipo está em On2 O que pode ser mais surpreendente é que quando a 0 qualquer função linear an b está em On2 o que é facilmente verificado fazendo c a b e n0 max1 ba Se você já viu a notação O antes poderá achar estranho que escrevamos por exemplo n On2 Na literatura verificamos que às vezes a notação O é utilizada informalmente para descrever limites assintoticamente justos isto é aquilo que definimos usando a notação Θ Contudo neste livro quando escrevermos fn Ogn estaremos simplesmente afirmando que algum múltiplo constante de gn é um limite assintótico superior para fn sem qualquer menção de precisão A distinção entre limites assintóticos superiores e limites assintoticamente justos é padrão na literatura de algoritmos Usando a notação O podemos descrever frequentemente o tempo de execução de um algoritmo apenas inspecionando a estrutura global do algoritmo Por exemplo a estrutura de loop duplamente aninhado do algoritmo de ordenação por inserção vista no Capítulo 2 produz imediatamente um limite superior On2 para o tempo de execução do pior caso o custo de cada iteração do loop interno é limitado na parte superior por O1 constante os índices i e j são no máximo n e o loop interno é executado no máximo uma vez para cada um dos n2 pares de valores para i e j Tendo em vista que a notação O descreve um limite superior quando a empregamos para limitar o tempo de execução do pior caso de um algoritmo temos um limite para o tempo de execução do algoritmo em cada entrada o enunciado abrangente do qual falamos anteriormente Desse modo o limite On2 para o tempo de execução do pior caso da ordenação por inserção também se aplica a seu tempo de execução para toda entrada Porém o limite Θn2 para o tempo de execução do pior caso da ordenação por inserção não implica um limite Θn2 para o tempo de execução da ordenação por inserção em toda entrada Por exemplo vimos no Capítulo 2 que quando a entrada já está ordenada a ordenação por inserção funciona no tempo Θn Tecnicamente é um abuso dizer que o tempo de execução da ordenação por inserção é On2 visto que para um dado n o tempo de execução real varia dependendo da entrada específica de tamanho n Quando afirmamos que o tempo de execução é On2 queremos dizer que existe uma função fn que é On2 tal que para qualquer valor de n não importando qual entrada específica de tamanho n seja escolhida o tempo de execução para essa entrada tem um limite superior determinado pelo valor fn De modo equivalente dizemos que o tempo de execução do pior caso é On2 Notação Ω Da mesma maneira que a notação O fornece um limite assintótico superior para uma função a notação Ω nos dá um limite assintótico inferior Para uma determinada função gn denotamos por Ω gn lêse ômega grande de g de n ou às vezes ômega de g de n o conjunto de funções A Figura 31c mostra a intuição por trás da notação Ω Para todos os valores n em n0 ou à direita de n0 o valor de fn encontrase em gn ou acima de gn Pelas definições das notações assintóticas que vimos até agora é fácil demonstrar o importante teorema a seguir veja Exercício 315 Teorema 31 Para quaisquer duas funções fn e gn temos fn Θ gn se e somente se fn O gn e fn Ωgn Como exemplo de aplicação desse teorema nossa demonstração de que an2 bn c Θn2 para quaisquer constantes a b e c onde a 0 implica imediatamente que an2 bn c Ωn2 e an2 bn c On2 Na prática em vez de usar o Teorema 31 para obter limites assintóticos superiores e inferiores a partir de limites assintoticamente precisos como fizemos nesse exemplo nós o utilizamos normalmente para demonstrar limites assintoticamente precisos a partir de limites assintóticos superiores e inferiores Quando dizemos que o tempo de execução sem modificador de um algoritmo é Ω gn queremos dizer que não importando qual entrada específica de tamanho n seja escolhida para cada valor de n o tempo de execução para essa entrada é no mínimo uma constante vezes gn para n suficientemente grande De modo equivalente estamos dando um limite inferior para o tempo de execução do melhor caso de um algoritmo Por exemplo o tempo de execução para o melhor caso da ordenação por inserção é Ωn o que implica que o tempo de execução da ordenação por inserção é Ωn Portanto o tempo de execução da ordenação por inserção pertence às funções Ωn e On2 já que ele se encontra em qualquer lugar entre uma função linear de n e uma função quadrática de n Além disso esses limites são tão justos assintoticamente quanto possível por exemplo o tempo de execução da ordenação por inserção não é Ωn2 visto que existe uma entrada para a qual a ordenação por inserção é executada no tempo Θn por exemplo quando a entrada já está ordenada Entretanto não é contraditório dizer que o tempo de execução do pior caso da ordenação por inserção é Ωn2 visto que existe uma entrada que faz o algoritmo demorar o tempo Ωn2 Notação assintótica em equações e desigualdades Já vimos como a notação assintótica pode ser usada dentro de fórmulas matemáticas Por exemplo quando apresentamos a notação O escrevemos n On2 Também poderíamos escrever 2n2 3n 1 2n2 Θn Como interpretaremos tais fórmulas Quando a notação assintótica está sozinha isto é não está dentro de uma fórmula maior no lado direito de uma equação ou desigualdade como em n On2 já definimos que o sinal de igualdade significa pertinência a um conjunto n On2 Porém em geral quando a notação assintótica aparece em uma fórmula interpretamos que ela representa alguma função anônima que não nos preocupamos em nomear Por exemplo a fórmula 2n2 3n 1 2n2 Θn significa que 2n2 3n 1 2n2 fn onde fn é alguma função no conjunto Θn Nesse caso vale fn 3n 1 que de fato está em Θn Utilizar a notação assintótica dessa maneira pode ajudar a eliminar detalhes não essenciais e confusos em uma equação Por exemplo no Capítulo 2 expressamos o tempo de execução do pior caso da ordenação por intercalação como a recorrência Se estivermos interessados apenas no comportamento assintótico de Tn não há sentido em especificar exatamente todos os termos de ordem mais baixa entendemos que todos eles estão incluídos na função anônima denotada pelo termo Θn Entendemos também que o número de funções anônimas em uma expressão é igual ao número de vezes que a notação assintótica aparece Por exemplo na expressão há apenas uma função anônima uma função de i Portanto essa expressão não é o mesmo que O1 O2 On que na realidade não tem uma interpretação clara Em alguns casos a notação assintótica aparece no lado esquerdo de uma equação como em 2n2 Θn Θn2 Interpretamos tais equações usando a seguinte regra independentemente de como as funções anônimas são escolhidas no lado esquerdo do sinal de igualdade existe um modo de escolher as funções anônimas no lado direito do sinal de igualdade para tornar a equação válida Assim nosso exemplo significa que para qualquer função fn Θn existe alguma função gn Θn2 tal que 2n2 fn gn para todo n Em outras palavras o lado direito de uma equação fornece um nível mais grosseiro de detalhes que o lado esquerdo Podemos encadear várias dessas relações como em Podemos interpretar cada equação separadamente pelas regras citadas A primeira equação diz que existe alguma função fn Θn tal que 2n2 3n 1 2n2 fn para todo n A segunda equação afirma que para qualquer função gn Θn como a função fn que acabamos de mencionar existe alguma função hn Θn2 tal que 2n2 gn hn para todo n Observe que essa interpretação implica que 2n2 3n 1 Θn2 que é aquilo que o encadeamento de equações nos dá intuitivamente Notação O O limite assintótico superior fornecido pela notação O pode ser ou não assintoticamente justo O limite 2n2 On2 é assintoticamente justo mas o limite 2n On2 não é Usamos a notação o para denotar um limite superior que não é assintoticamente justo Definimos formalmente ogn lêse ó pequeno de g de n como o conjunto Por exemplo 2n on2 mas 2n2 on2 As definições da notação O e da notação o são semelhantes A principal diferença é que em fn Ogn o limite 0 fn cgn se mantém válido para alguma constante c 0 mas em fn ogn o limite 0 fn cgn é válido para todas as constantes c 0 Intuitivamente na notação o a função fn tornase insignificante em relação a gn à medida que n se aproxima do infinito isto é Alguns autores usam esse limite como uma definição da notação o a definição neste livro também restringe as funções anônimas a assintoticamente não negativas Notação ω Por analogia a notação ω está para a notação Ω como a notação o está para a notação O Usamos a notação ω para denotar um limite inferior que não é assintoticamente preciso Um modo de definilo é fn ω gn se e somente se gn o fn Porém formalmente definimos ω gn lêse ômega pequeno de g de n como o conjunto ω gn fn para qualquer constante positiva c 0 existe uma constante n0 0 tal que 0 cgn fn para todo n n0 Por exemplo n22 ωn mas n22 ωn2 A relação fn ωgn implica que se o limite existir Isto é fn se torna arbitrariamente grande em relação a gn à medida que n se aproxima do infinito Comparação de funções Muitas das propriedades relacionais de números reais também se aplicam às comparações assintóticas No caso das propriedades seguintes considere que fn e gn são assintoticamente positivas Transitividade fn Θ gn e gn Θhn implicam fn Θhn fn O gn e gn Ohn implicam fn Ohn fn Ω gn e gn Ωhn implicam fn Ωhn fn o gn e gn ohn implicam fn ohn fn gn e gn hn implicam fn hn Reflexividade fn Θfn fn Ofn fn Ωfn 311 312 313 314 315 316 317 Simetria fn Θ gn se e somente se gn Θ fn Simetria de transposição fn O gn se e somente se gn Ω fn fn o gn se e somente se gn ω fn Como essas propriedades se mantêm válidas para notações assintóticas podemos traçar uma analogia entre a comparação assintótica de duas funções f e g e a comparação de dois números reais a e b fn O gn é como a b fn Ω gn é como a b fn Θ gn é como a b fn o gn é como a b fn gn é como a b Dizemos que fn é assintoticamente menor que gn se fn ogn e que fn é assintoticamente maior que gn se fn ω gn Contudo uma das propriedades de números reais não é transportada para a notação assintótica Tricotomia Para quaisquer dois números reais a e b exatamente uma das propriedades a seguir deve ser válida a b a b ou a b Embora quaisquer dois números reais possam ser comparados nem todas as funções são assintoticamente comparáveis Isto é para duas funções fn e gn pode acontecer que nem fn Ogn nem fn Ωgn sejam válidas Por exemplo não podemos comparar as funções n e n1 sen n utilizando a notação assintótica visto que o valor do expoente em n1 sen n oscila entre 0 e 2 assumindo todos os valores intermediários Exercícios Sejam fn e gn funções assintoticamente não negativas Usando a definição básica da notação Θ prove que maxfn gn Θfn gn Mostre que para quaisquer constantes reais a e b onde b 0 Explique por que a declaração O tempo de execução no algoritmo A é no mínimo On2 não tem sentido É verdade que 2n1 O2n É verdade que 22n O2n Demonstre o Teorema 31 Prove que o tempo de execução de um algoritmo é Θ gn se e somente se seu tempo de execução do pior caso é O gn e seu tempo de execução do melhor caso é Ω gn Prove que o gn ω gn é o conjunto vazio 318 32 Podemos estender nossa notação ao caso de dois parâmetros n e m que podem tender a infinito independentemente a taxas distintas Para uma dada função gn m denotamos por O gn m o conjunto de funções Forneça definições correspondentes para Ωgn m e Θgn m NOTAÇÕES PADRÃO E FUNÇÕES COMUNS Esta seção revê algumas funções e notações matemáticas padrões e explora as relações entre elas A seção também ilustra o uso das notações assintóticas Monotonicidade Uma função fn é monotonicamente crescente se m n implica fm fn De modo semelhante ela é monotonicamente decrescente se m n implica fm fn Uma função fn é estritamente crescente se m n implica fm fn e estritamente decrescente se m n implica fm fn Pisos e tetos Para qualquer número real x denotamos o maior inteiro menor ou igual a x por x lêse o piso de x e o menor inteiro maior ou igual a x por x lêse o teto de x Para todo x real Para qualquer inteiro n n2 n2 n e para qualquer número real n 0 e inteiros a b 0 A função piso fx x é monotonicamente crescente como também a função teto fx x Aritmética modular Para qualquer inteiro a e qualquer inteiro positivo n o valor a mod n é o resto do quociente an a mod n a an n 38 Seguese que Dada uma noção bem definida do resto da divisão de um inteiro por outro é conveniente providenciar notação especial para indicar a igualdade de restos Se a mod n b mod n escrevemos a b mod n e dizemos que a é equivalente a b módulo n Em outras palavras a b mod n se a e b têm o mesmo resto quando divididos por n De modo equivalente a b mod n se e somente se n é um divisor de b a Escrevemos a b mod n se a não é equivalente a b módulo n Polinômios Dado um inteiro não negativo d um polinômio em n de grau d é uma função pn da forma onde as constantes a0 a1 ad são os coeficientes do polinômio e ad 0 Um polinômio é assintoticamente positivo se e somente se ad 0 No caso de um polinômio assintoticamente positivo pn de grau d temos pn Θnd Para qualquer constante real a 0 a função na é monotonicamente crescente e para qualquer constante real a 0 a função na é monotonicamente decrescente Dizemos que uma função fn é polinomialmente limitada se fn Onk para alguma constante k Exponenciais Para todos os valores a 0 m e n reais temos as seguintes identidades Para todo n e a 1 a função an é monotonicamente crescente em n Quando conveniente consideraremos 00 1 Podemos relacionar as taxas de crescimento de polinômios e exponenciais pelo fato a seguir Para todas as constantes reais a e b tais que a 1 da qual podemos concluir que Portanto qualquer função exponencial com uma base estritamente maior que 1 cresce mais rapidamente que qualquer função polinomial Usando e para denotar 271828 a base da função logaritmo natural temos para todo x real onde denota a função fatorial definida mais adiante nesta seção Para todo x real temos a desigualdade onde a igualdade vale somente quando x 0 Quando x 1 temos a aproximação Quando x 0 a aproximação de ex por 1 x é bastante boa Nessa equação a notação assintótica é usada para descrever o comportamento limitante como x 0 em vez de x Temos para todo x Logaritmos Utilizaremos as seguintes notações lg n log2 n logaritmo binário ln n loge n logaritmo natural lgk n lg nk exponenciação lg lg n lglg n composição Uma importante convenção de notação que adotaremos é que funções logarítmicas se aplicarão apenas ao próximo termo na fórmula assim lg n k significará lg n k e não lgn k Se mantivermos b 1 constante então para n 0 a função logb n será estritamente crescente Para todo a 0 b 0 c 0 e n real onde em cada uma dessas equações nenhuma das bases de logaritmos é 1 Pela equação 315 mudar a base de um logaritmo de uma constante para outra altera o valor do logaritmo somente por um fator constante portanto usaremos frequentemente a notação lg n quando não nos importarmos com fatores constantes como na notação O Os cientistas da computação consideram que 2 é a base mais natural para logaritmos porque muitos algoritmos e estruturas de dados envolvem a divisão de um problema em duas partes Existe uma expansão de série simples para ln1 x quando x 1 Também temos as seguintes desigualdades para x 1 onde a igualdade é válida somente para x 0 Dizemos que uma função fn é polilogaritmicamente limitada se fn Olgk n para alguma constante k Podemos relacionar o crescimento de polinômios e polilogaritmos substituindo Desse limite podemos concluir que lgb n ona para qualquer constante a 0 Desse modo qualquer função polinomial positiva cresce mais rapidamente que qualquer função polilogarítmica Fatoriais A notação n lêse n fatorial é definida para inteiros n 0 como Assim n 1 2 3 n Um limite superior fraco para a função fatorial é n nn visto que cada um dos n termos no produto do fatorial é no máximo n A aproximação de Stirling onde e é a base do logaritmo natural dá um limitante superior mais preciso e também um limitante inferior O Exercício 323 pede para provar onde a aproximação de Stirling é útil na demonstração da equação 319 A equação a seguir também é válida para todo n 1 onde Iteração funcional Usamos a notação f in para denotar a função fn aplicada iterativamente i vezes a um valor inicial de n Formalmente seja fn uma função no domínio dos números reais Para inteiros não negativos i definimos recursivamente Por exemplo se fn 2n então f in 2i n A função logaritmo iterado Usamos a notação lg n lêse log estrela de n para denotar o logaritmo iterado que é definido da seguinte maneira seja lgi n definida da maneira anterior com fn lg n Como o logaritmo de um número não positivo é indefinido lgi n só é definido se lgi1 n 0 Certifiquese de distinguir lgi n a função logaritmo aplicada i vezes em sucessão começando com o argumento n de lgi n o logaritmo de n elevado à iésima potência Então definimos a função logaritmo iterado como O logaritmo iterado é uma função que cresce muito lentamente Tendo em vista que o número de átomos no universo visível é estimado em cerca 1080 que é muito menor que 265536 raramente encontraremos uma entrada de tamanho n tal que lg n 5 Números de Fibonacci Definimos os números de Fibonacci pela seguinte recorrência Portanto cada número de Fibonacci é a soma dos dois números anteriores produzindo a sequência 0 1 1 2 3 5 8 13 21 34 55 Os números de Fibonacci estão relacionados com a razão áurea φ e com seu conjugado φˆ que são as duas raízes da equação 321 322 323 324 325 326 327 e são dados pelas seguintes fórmulas veja Exercício 326 Especificamente temos que podemos provar por indução Exercício 326 Como φˆ 1 temos o que implica que o que equivale a dizer que o iésimo número de Fibonacci Fφi é igual a 5 arredondado para o inteiro mais próximo Portanto os números de Fibonacci crescem exponencialmente Exercícios Mostre que se fn e gn são funções monotonicamente crescentes então as funções fn gn e f gn também são e se além disso fn e gn são não negativas então fn gn é monotonicamente crescente Prove a equação 316 Prove a equação 319 Prove também que n ω2n e que n onn A função lg n é polinomialmente limitada A função lg lg n é polinomialmente limitada Qual é assintoticamente maior lglg n ou lg lg n Prove que a razão áurea φ e seu conjugado φˆ satisfazem a equação x2 x 1 Prove por indução que o iésimo número de Fibonacci satisfaz à igualdade 328 31 a b c d e 32 onde φ é a razão áurea e φˆ é seu conjugado Prove que k ln k Θn implica k Θnln n Problemas Comportamento assintótico de polinômios Seja onde ad 0 um polinômio de grau d em n e seja k uma constante Use as definições das notações assintóticas para provar as propriedades a seguir Se k d então pn Onk Se k d então pn Ωnk Se k d então pn Θnk Se k d então pn onk Se k d então pn nk Crescimentos assintóticos relativos Indique para cada par de expressões A B na tabela a seguir se A é O o Ω ω ou Θ de B Considere que k 1 ε 0 e c 1 são constantes Sua resposta deve estar na forma da tabela com sim ou não escrito em cada retângulo 33 a b 34 a b c d e f g Ordenação por taxas de crescimento assintóticas Classifique as funções a seguir por ordem de crescimento isto é determine um arranjo g1 g2 g30 das funções que satisfazem a g1 Ω g2 g2 Ω g3 g29 Ω g30 Subdivida sua lista em classes de equivalência tais que fn e gn estejam na mesma classe se e somente se fn Θgn Dê um exemplo de uma função não negativa fn tal que para todas as funções gin da parte a fn não seja nem Ogin nem Ωgin Propriedades da notação assintótica Sejam fn e gn funções assintoticamente positivas Prove ou desprove cada uma das seguintes conjeturas fn O gn implica gn Ofn fn gn Θminfn gn fn O gn implica lgfn Olg gn onde lg gn 1 e fn 1 para todo n suficientemente grande fn O gn implica 2fn O2gn fn O fn2 fn O gn implica gn Ω fn fn Θ fn2 h 35 a b c d 36 fn o fn Θ fn Variações para O e Ω Alguns autores definem Ω de modo ligeiramente diferente de nós vamos usar lêse ômega infinito para essa definição alternativa Dizemos que fn gn se existe uma constante positiva c tal que fn cgn 0 para infinitos inteiros n Mostre que para quaisquer duas funções fn e gn que são assintoticamente não negativas fn Ogn ou fn gn ou ambas enquanto isso não é verdade se usarmos Ω em vez de Descreva as vantagens e as desvantagens potenciais de se usar em vez de Ω para caracterizar os tempos de execução de programas Alguns autores também definem O de um modo ligeiramente diferente vamos usar O para a definição alternativa Dizemos que fn Ogn se e somente se fn Ogn O que acontece para cada direção de se e somente se no Teorema 31 se substituirmos O por O mas ainda usarmos Ω Alguns autores definem Õ lêse ó suave para indicar O com fatores logarítmicos ignorados Defina Ω e Θ de maneira semelhante Prove a analogia correspondente ao Teorema 31 Funções iteradas Podemos aplicar o operador de iteração usado na função lg a qualquer função monotonicamente crescente fn no domínio dos números reais Para uma dada constante c definimos a função iterada ou repetida por que não necessita ser bem definida em todos os casos Em outras palavras a quantidade f cn é o número de aplicações iteradas da função f necessárias para reduzir seu argumento a c ou menos Para cada uma das funções fn e constantes c a seguir forneça um limite tão justo quanto possível para f cn NOTAS DO CAPÍTULO Knuth 182 traça a origem da notação O em texto de teoria dos números escrito por P Bachmann em 1892 A notação o foi criada por E Landau em 1909 para sua discussão da distribuição de números primos As notações Ω e Θ foram defendidas por Knuth 213 para corrigir a prática popular mas tecnicamente descuidada de se usar na literatura a notação O para os limites superiores e inferiores Muitas pessoas continuam a usar a notação O onde a notação Θ é mais precisa tecnicamente Uma discussão adicional da história e do desenvolvimento de notações assintóticas pode ser encontrada em obras de Knuth 209 213 e em Brassard e Bratley 54 Nem todos os autores definem as notações assintóticas do mesmo modo embora as várias definições concordem na maioria das situações comuns Algumas das definições alternativas abrangem funções que não são assintoticamente não negativas desde que seus valores absolutos sejam adequadamente limitados A equação 320 se deve a Robbins 297 Outras propriedades de funções matemáticas elementares podem ser encontradas em qualquer bom livro de referência de matemática como Abramowitz e Stegun 1 ou Zwillinger 362 ou em um livro de cálculo como Apostol 18 ou Thomas et al 334 Knuth 209 e Graham Knuth e Patashnik 152 contêm grande quantidade de material sobre matemática discreta tal como utilizada em ciência da computação 1 Na notação de conjuntos um sinal de doispontos deve ser lido como tal que 2 O problema real é que nossa notação comum para funções não distingue entre funções e valores Em cálculo os parâmetros para uma função são claramente especificados a função n2 poderia ser escrita como nn2 ou até mesmo rr2 Porém a adoção de uma notação mais rigorosa complicaria manipulações algébricas e assim optamos por tolerar o abuso 4 DIVISÃO E CONQUISTA Na Seção 231 vimos como a ordenação por intercalação serve como exemplo do paradigma divisão e conquista Lembrese de que segundo esse paradigma resolvemos um problema recursivamente aplicando três etapas em cada nível da recursão Divisão o problema em certo número de subproblemas que são instâncias menores do mesmo problema Conquista os subproblemas resolvendoos recursivamente Entretanto se os tamanhos dos subproblemas forem suficientemente pequenos basta resolvêlos de modo direto Combinação as soluções dos subproblemas na solução para o problema original Quando os subproblemas são suficientemente grandes para serem resolvidos recursivamente tratase de um caso recursivo Logo que os subproblemas se tornam suficientemente pequenos que não mais recorremos à recursão dizemos que a recursão se esgotou e que chegamos ao casobase Às vezes além de subproblemas que são instâncias menores do mesmo problema temos de resolver subproblemas que não são exatamente iguais ao problema original Consideramos a solução de tais problemas como parte da etapa combinar Neste capítulo veremos mais algoritmos baseados em divisão e conquista O primeiro resolve o problema do subarranjo máximo toma como entrada um arranjo de números e determina o subarranjo contíguo cujos valores resultem na maior soma Então estudaremos dois algoritmos de divisão e conquista para multiplicar matrizes n n O tempo de execução de um deles é Θn3 o que não é melhor do que o método direto da multiplicação de matrizes quadradas Porém o tempo de execução do outro o algoritmo de Strassen é On281 que supera assintoticamente o método direto Recorrências As recorrências andam de mãos dadas com o paradigma divisão e conquista porque nos dão um modo natural de caracterizar os tempos de execução de algoritmos de divisão e conquista Uma recorrência é uma equação ou desigualdade que descreve uma função em termos de seu valor para entradas menores Por exemplo na Seção 232 descrevemos o tempo de execução do pior caso Tn do procedimento MERGESORT pela recorrência cuja solução afirmamos ser Tn Θn lg n As recorrências podem tomar muitas formas Por exemplo um algoritmo recursivo poderia dividir problemas em tamanhos desiguais como uma subdivisão 23 para 13 Se as etapas de divisão e combinação levarem tempo linear tal algoritmo dará origem à recorrência Tn T 2n3 Tn3 Θn Os subproblemas não estão necessariamente restritos a ser uma fração constante do tamanho do problema original Por exemplo uma versão recursiva da busca linear veja Exercício 213 criaria apenas um subproblema contendo somente um elemento a menos do que o problema original Cada chamada recursiva levaria tempo constante mais o tempo das chamadas recursivas que fizer o que produz a recorrência Tn Tn 1 Θ1 Este capítulo apresenta três métodos para resolver recorrências isto é para obter limites assintóticos Θ ou O para a solução No método de substituição arriscamos um palpite para um limite e então usamos indução matemática para provar que nosso palpite estava correto O método da árvore de recursão converte a recorrência em uma árvore cujos nós representam os custos envolvidos em vários níveis da recursão Usamos técnicas para limitar somatórios para resolver a recorrência O método mestre dá limites para recorrências da forma onde a 1 b 1 e fn é uma função dada Tais recorrências ocorrem frequentemente Uma recorrência da forma da equação 42 caracteriza um algoritmo de divisão e conquista que cria a subproblemas cada um com 1b do tamanho do problema original e no qual as etapas de divisão e conquista juntas levam o tempo fn Para utilizar o método mestre você terá de memorizar três casos porém com isso será fácil determinar limites assintóticos para muitas recorrências simples Usaremos o método mestre para determinar os tempos de execução de algoritmos de divisão e conquista para o problema do subarranjo máximo e para a multiplicação de matrizes bem como para outros algoritmos baseados no método de divisão e conquista em outros lugares neste livro Ocasionalmente veremos recorrências que não são igualdades porém mais exatamente desigualdades como Tn 2Tn2 Θn Como tal recorrência declara somente um limite superior para Tn expressaremos sua solução usando a notação O em vez da notação Θ De modo semelhante se a desigualdade for invertida para Tn 2T n2 Θn então como a recorrência dá apenas um limite inferior para Tn usaríamos a notação Ω em sua solução Detalhes técnicos Na prática negligenciamos certos detalhes técnicos quando enunciamos e resolvemos recorrências Por exemplo se chamarmos MERGESORT para n elementos quando n é ímpar terminaremos com subproblemas de tamanho n2 e n2 Nenhum dos tamanhos é realmente n2 porque n2 não é um inteiro quando n é ímpar Tecnicamente a recorrência que descreve o tempo de execução de MERGESORT é na realidade As condições de contorno representam uma outra classe de detalhes que em geral ignoramos Visto que o tempo de execução de um algoritmo para uma entrada de tamanho constante é uma constante as recorrências que surgem dos tempos de execução de algoritmos geralmente têm Tn Θ1 para n suficientemente pequeno Em consequência disso por conveniência em geral omitiremos declarações sobre as condições de contorno de recorrências e consideraremos que Tn é constante para n pequeno Por exemplo normalmente enunciamos a recorrência 41 como sem atribuir explicitamente valores para n pequeno A razão é que embora mudar o valor de T1 altere a solução exata para a recorrência normalmente a solução não muda por mais de um fator constante e assim a ordem de crescimento não é alterada Quando enunciamos e resolvemos recorrências muitas vezes omitimos pisos tetos e condições de contorno Seguimos em frente sem esses detalhes e mais tarde determinamos se eles têm importância ou não Em geral não têm mas é importante saber quando têm A experiência ajuda e também alguns teoremas que afirmam que esses detalhes 41 não afetam os limites assintóticos de muitas recorrências que caracterizam os algoritmos de divisão e conquista veja o Teorema 41 Porém neste capítulo examinaremos alguns desses detalhes e ilustraremos os bons aspectos de métodos de solução de recorrência O PROBLEMA DO SUBARRANJO MÁXIMO Suponha que lhe tenha sido oferecida a oportunidade de investir na Volatile Chemical Corporation Assim como os produtos químicos que a empresa produz o preço da ação da Volatile Chemical Corporation também é bastante volátil Você só pode comprar uma única unidade de ação somente uma vez e então vendêla em data posterior Além disso as operações de compra e venda só podem ser executadas após o fechamento do pregão do dia Para compensar essa restrição você pode saber qual será o preço da ação no futuro Sua meta é maximizar seu lucro A Figura 41 mostra o preço da ação durante um período de 17 dias Você pode comprar a ação a qualquer tempo começando depois do dia 0 quando o preço é 100 por ação Claro que você gostaria de comprar na baixa e vender na alta comprar ao preço mais baixo possível e mais tarde vender ao preço mais alto possível para maximizar seu lucro Infelizmente pode ser que você não consiga comprar ao preço mais baixo e vender ao preço mais alto dentro de um determinado período Na Figura 41 o preço mais baixo ocorre depois do dia 7 que ocorre após o preço mais alto depois do dia 1 Você poderia achar que sempre pode maximizar o lucro comprando ao preço mais baixo ou vendendo ao preço mais alto Por exemplo na Figura 41 maximizaríamos o lucro comprando ao preço mais baixo após o dia 7 Se essa estratégia sempre funcionasse seria fácil determinar como maximizar o lucro localizar o preço mais alto de todos e o preço mais baixo de todos e então percorrer os dados começando na esquerda a partir do preço mais alto para achar o preço mais baixo anterior e examinar os dados começando na direita a partir do preço mais baixo para achar o último preço mais alto e escolher o par que apresentasse a maior diferença A Figura 42 apresenta um contraexemplo simples que demonstra que às vezes o lucro máximo não ocorre quando compramos ao preço mais baixo nem quando vendemos ao preço mais alto Figura 41 Informações sobre o preço da ação da Volatile Chemical Corporation ao final do pregão diário durante um período de 17 dias O eixo horizontal do diagrama indica o dia e o eixo vertical mostra o preço A linha inferior da tabela dá a mudança no preço ocorrida no dia anterior Figura 42 Um exemplo que mostra que o lucro máximo nem sempre começa no preço mais baixo ou termina no preço mais alto Novamente o eixo horizontal indica o dia e o eixo vertical mostra o preço Aqui o lucro máximo de 3 por ação seria auferido comprando após o dia 2 e vendendo após o dia 3 No global o preço de 7 após o dia 2 não é o mais baixo e o preço de 10 após o dia 3 não é o mais alto Uma solução de força bruta Podemos propor facilmente uma solução de força bruta para esse problema experimente todo par possível de datas de compra e venda no qual a data de compra seja anterior à data de venda Um período de n dias tem n2 de tais pares de dados Visto que n2 é Θn2 e o melhor que podemos esperar é avaliar cada par de dados em tempo constante essa abordagem levaria um tempo de Ωn2 Poderíamos conseguir algo melhor Uma transformação Para projetar um algoritmo com tempo de execução on2 vamos considerar os dados de entrada de um modo ligeiramente diferente Queremos determinar uma sequência de dias durante a qual a mudança líquida desde o primeiro dia até o último é máxima Em vez de examinar os preços diários vamos considerar a alteração diária nos preços sendo que a mudança no dia i é a diferença entre os preços após o dia i 1 e após o dia i A tabela na Figura 41 mostra essas mudanças diárias na última linha Se tratarmos essa linha como um arranjo A mostrado na Figura 43 vamos querer determinar o subarranjo não vazio contíguo a A cujos valores tenham a maior soma Denominamos esse subarranjo contíguo subarranjo máximo Por exemplo no arranjo da Figura 43 o subarranjo máximo de A1 16 é A8 11 com soma 43 Assim o mais interessante seria você comprar a ação imediatamente antes do dia 8 isto é após o dia 7 e vendêla depois do dia 11 auferindo um lucro de 43 por ação À primeira vista essa transformação não ajuda Ainda precisamos verificar n 1 2 Θn2 subarranjos para um período de n dias O Exercício 412 pede que você mostre que embora o cálculo de um único subarranjo possa levar tempo proporcional ao comprimento do subarranjo quando calculamos todas as Θn2 somas de subarranjos podemos organizar o cálculo de modo que cada soma de subarranjo leve o tempo O1 dados os valores de somas de subarranjos calculados anteriormente de modo que a solução de força bruta leva o tempo Θn2 Figura 43 A mudança nos preços da ação como um problema de subarranjo máximo Aqui o subarranjo A8 11 com soma 43 tem a maior soma de qualquer subarranjo contíguo do arranjo A Portanto vamos procurar uma solução mais eficiente para o problema do subarranjo máximo Nesse processo normalmente falaremos de um subarranjo máximo em vez de o subarranjo máximo já que poderia haver mais de um subarranjo que alcance a soma máxima O problema do subarranjo máximo é interessante somente quando o arranjo contém alguns números negativos Se todas as entradas do arranjo fossem não negativas o problema do subarranjo máximo não representaria nenhum desafio já que o arranjo inteiro daria a maior soma Uma solução utilizando divisão e conquista Vamos pensar em como poderíamos resolver o problema do subarranjo máximo usando a técnica de divisão e conquista Suponha que queiramos determinar um subarranjo máximo do subarranjo Alow high O método de divisão e conquista sugere que dividamos o subarranjo em dois subarranjos com tamanhos mais iguais dentro do possível Isto é determinamos o ponto médio digamos mid do subarranjo e consideramos os subarranjos Alow mid e Amid 1 high Como mostra a Figura 44a qualquer subarranjo contíguo Ai j de Alow high deve encontrarse exatamente em um dos seguintes lugares inteiramente no subarranjo Alow mid de modo que low i j mid inteiramente no subarranjo Amid 1 high de modo que mid i j high ou cruzando o ponto médio de modo que low i mid j high Portanto um subarranjo máximo de Alow high deve encontrarse exatamente em um desses lugares Na verdade um subarranjo máximo de Alow high deve ter a maior soma de todos os subarranjos inteiramente em Alow mid inteiramente em Amid 1 high ou cruzando o ponto médio Podemos determinar subarranjos máximos de Alow mid e Amid1 high recursivamente porque esses dois subproblemas são instâncias menores do problema da determinação de um subarranjo máximo Assim resta apenas encontrar um subarranjo máximo que cruze o ponto médio e tomar um subarranjo que tenha a maior soma dos três Podemos encontrar facilmente um subarranjo máximo que cruze o ponto médio em tempo linear do tamanho do subarranjo Alow high Esse problema não é uma instância menor de nosso problema original porque há a restrição adicional de que o subarranjo que ele escolher deve cruzar o ponto médio Como mostra a Figura 44b qualquer subarranjo que cruze o ponto médio é composto por dois subarranjos Ai mid e Amid 1 j onde low i mid e mid j high Portanto precisamos apenas encontrar subarranjos máximos da forma Ai mid e Amid 1 j e então combinálos O procedimento FINDMAXCROSSINGSUBARRAY toma como entrada o arranjo A e os índices low mid e high e retorna uma tupla que contém os índices que demarcam um subarranjo máximo que cruza o ponto médio juntamente com a soma dos valores em um subarranjo máximo Figura 44 a Possíveis localizações de subarranjos de Alow high inteiramente em Alow mid inteiramente em Amid 1 high ou cruzando o ponto médio mid b Qualquer subarranjo de Alow high que cruze o ponto médio compreende dois subarranjos Ai mid e Amid 1 j onde low i mid e mid j high Esse procedimento funciona da seguinte maneira as linhas 17 acham um subarranjo máximo da metade esquerda Alow mid Visto que esse subarranjo deve conter Amid o laço for das linhas 37 inicia o índice i em mid e prossegue até low de modo que todo subarranjo que ele considera é da forma Ai mid As linhas 12 inicializam as variáveis leftsum que contêm a maior soma encontrada até então e sum que contém as somas das entradas em Ai mid Sempre que encontrarmos na linha 5 um subarranjo Ai mid com uma soma de valores maior do que left sum atualizaremos leftsum para a soma desse subarranjo na linha 6 e na linha 7 atualizaremos a variável maxleft para registrar esse índice i As linhas 814 funcionam de modo análogo para a metade direita Amid1 high Aqui o laço for das linhas 1014 inicia o índice j em mid1 e prossegue até high de modo que todo subarranjo que ele considera é da forma Amid 1 j Finalmente a linha 15 retorna os índices maxleft e maxright que demarcam um subarranjo máximo que cruza o ponto médio juntamente com a soma leftsumrightsum dos valores no subarranjo Amaxleft maxright Se o subarranjo Alow high contiver n entradas de modo que n high low 1 afirmamos que a chamada FINDMAXCROSSINGSUBARRAYA low mid high leva o tempo Θn Visto que cada iteração de cada um dos dois laços for leva o tempo Θ1 precisamos apenas contar quantas iterações há no total O laço for das linhas 37 faz mid low 1 iterações e o laço for das linhas 1014 faz high mid iterações e assim o número total de iterações é Com um procedimento FINDMAXCROSSINGSUBARRAY de tempo linear à mão podemos escrever pseudocódigo para um algoritmo de divisão e conquista para resolver o problema do arranjo máximo A chamada inicial FINDMAXIMUMSUBARRAYA 1 A length encontrará um subarranjo máximo de A1 n Assim como FINDMAXCROSSINGSUBARRAY o procedimento recursivo FINDMAXIMUMSUBARRAY retorna uma tupla que contém os índices que demarcam um subarranjo máximo juntamente com a soma dos valores em um subarranjo máximo A linha 1 testa o casobase no qual o subarranjo tem apenas um elemento Um subarranjo que tenha apenas um elemento tem somente um subarranjo ele mesmo e assim a linha 2 retorna uma tupla com os índices de início e fim daquele único elemento juntamente com seu valor As linhas 311 tratam o caso recursivo A linha 3 executa a parte da divisão calculando o índice mid do ponto médio Vamos nos referir ao subarranjo Alow mid como o subarranjo da esquerda e o subarranjo Amid 1 high como o subarranjo da direita Como sabemos que o subarranjo Alow high contém no mínimo dois elementos cada um dos subarranjos o da direita e o da esquerda deve ter no mínimo um elemento As linhas 4 e 5 conquistam por encontrarem recursivamente subarranjos máximos dentro dos subarranjos da esquerda e da direita respectivamente As linhas 611 formam a parte de combinar A linha 6 encontra um subarranjo máximo que cruza o ponto médio Lembrese de que como a linha 6 resolve um subproblema que não é uma instância menor do problema original consideramos que ela está na parte de combinar A linha 7 testa se o subarranjo da esquerda contém um subarranjo que tenha a soma máxima e a linha 8 retorna esse subarranjo máximo Senão a linha 9 testa se o subarranjo da direita contém um subarranjo que tenha a soma máxima e a linha 10 retorna esse subarranjo máximo Se nenhum dos subarranjos o da direita ou o da esquerda contiver um subarranjo que atinja a soma máxima então um subarranjo máximo deve cruzar o ponto médio e a linha 11 o retorna Análise do algoritmo de divisão e conquista A seguir montaremos uma recorrência que descreve o tempo de funcionamento do procedimento recursivo FIND MAXIMUMSUBARRAY Assim como fizemos na Seção 232 quando analisamos a ordenação por intercalação adotamos aqui a premissa simplificadora de que o tamanho do problema original é uma potência de 2 de modo que os tamanhos de todos os subproblemas são números inteiros Denotamos por Tn o tempo de execução de FINDMAXIMUMSUBARRAY para um subarranjo de n elementos Para começar a linha 1 adota tempo constante O casobase quando n 1 é fácil a linha 2 leva tempo constante e assim O caso recursivo ocorre quando n 1 As linhas 1 e 3 levam tempo constante Cada um dos subproblemas resolvidos nas linhas 4 e 5 trata de um subarranjo de n2 elementos visto que a premissa adotada é que o tamanho original do problema é uma potência de 2 fica garantido que n2 é um inteiro e por isso despendemos o tempo Tn2 411 412 413 414 415 para resolver cada um deles Como temos de resolver dois subproblemas para o subarranjo da esquerda e para o subarranjo da direita a contribuição para o tempo de execução dada pelas linhas 4 e 5 chega a 2Tn2 Como já vimos a chamada a FINDMAXCROSSINGSUBARRAY na linha 6 leva o tempo Θn As linhas 711 levam somente o tempo Θ1 Portanto para o caso recursivo temos Combinando as equações 45 e 46 obtemos uma recorrência para o tempo de execução Tn de FINDMAX CROSSINGSUBARRAY Essa recorrência é igual à recorrência 41 para a ordenação por intercalação Como veremos pelo método mestre na Seção 45 a solução dessa recorrência é Tn Θn lg n Também seria bom você rever a árvore de recursão na Figura 25 para entender por que a solução deve ser Tn Θn lg n Assim vemos que o método de divisão e conquista produz um algoritmo que é assintoticamente mais rápido do que o método da força bruta Com a ordenação por intercalação e agora o problema do subarranjo máximo começamos a ter uma ideia do poder do método de divisão e conquista Às vezes ele produzirá o algoritmo assintoticamente mais rápido para um problema e outras vezes podemos nos sair ainda melhor Como mostra o Exercício 415 na verdade existe um algoritmo de tempo linear para o problema do subarranjo máximo e esse algoritmo não usa o método de divisão e conquista Exercícios O que FINDMAXIMUMSUBARRAY retorna quando todos os elementos de A são negativos Escreva pseudocódigo para o método da força bruta de solução do problema do subarranjo máximo Seu procedimento deve ser executado no tempo Θn2 Implemente em seu computador o algoritmo da força bruta e também o algoritmo recursivo para o problema do subarranjo máximo Qual é o tamanho de problema n0 que dá o ponto de cruzamento no qual o algoritmo recursivo supera o algoritmo da força bruta Em seguida mude o casobase do algoritmo recursivo para usar o algoritmo de força bruta sempre que o tamanho do problema for menor que n0 Isso muda o ponto de cruzamento Suponha que mudamos a definição do problema do subarranjo máximo para permitir que o resultado seja um subarranjo vazio no qual a soma dos valores de um subarranjo vazio é 0 Como você mudaria qualquer dos algoritmos que não aceitam subarranjos vazios de modo a permitir que o resultado seja um subarranjo vazio Use as seguintes ideias para desenvolver um algoritmo não recursivo de tempo linear para o problema do subarranjo máximo Comece na extremidade esquerda do arranjo e prossiga em direção à extremidade direita sem perder de vista o subarranjo máximo visto até aqui Conhecendo um subarranjo máximo de A1 j estenda a resposta para achar um subarranjo máximo que termine no índice j 1 usando a seguinte observação um subarranjo máximo de A1 j 1 é um subarranjo máximo de A1 j ou um subarranjo Ai j 1 para algum 1 i j 1 Determine um subarranjo máximo da forma Ai j 1 em tempo constante com base no conhecimento de um subarranjo máximo que termine no índice j 42 ALGORITMO DE STRASSEN PARA MULTIPLICAÇÃO DE MATRIZES Se você já viu matrizes antes provavelmente sabe como multiplicálas Caso contrário deve ler a Seção D1 no Apêndice D Se A aij e B bij são matrizes quadradas n n então no produto C A B definimos a entrada cij para i j 1 2 n por Temos de calcular n2 entradas de matrizes e cada uma é a soma de n valores O procedimento descrito a seguir toma as matrizes n n A e B e as multiplica retornando seu produto C Consideramos que cada matriz tem um atributo rows linhas que dá o número de linhas na matriz O procedimento SQUAREMATRIXMULTIPLY funciona da seguinte maneira o laço for das linhas 37 calcula as entradas de cada linha i e dentro de uma linha i dada o laço for das linhas 47 calcula cada uma das entradas cij para cada coluna j A linha 5 inicializa cij em 0 quando começamos a calcular a soma dada na equação 48 e cada iteração do laço for das linhas 67 acrescenta mais um termo da equação 48 Como cada um dos laços for triplamente aninhados executa exatamente n iterações e cada execução da linha 7 leva tempo constante o procedimento SQUAREMATRIXMULTIPLY leva o tempo Θn3 É possível que a princípio você pense que qualquer algoritmo de multiplicação de matrizes tem de levar o tempo n3 já que a definição natural de multiplicação de matrizes requer aquele mesmo tanto de multiplicações Porém você estaria errado temos um modo de multiplicar matrizes no tempo on3 Nesta seção veremos o notável algoritmo recursivo de Strassen para multiplicar matrizes n n O tempo de execução desse algoritmo é Θnlg 7 que demonstraremos na Seção 45 Visto que lg 7 encontrase entre 280 e 281 o algoritmo de Strassen é executado no tempo On281 que é assintoticamente melhor do que o procedimento simples SQUAREMATRIXMULTIPLY Um algoritmo simples de divisão e conquista Por questão de simplicidade quando usamos um algoritmo de divisão e conquista para calcular o produto de matrizes C A B supomos que n é uma potência exata de 2 em cada uma das matrizes n n Adotamos essa premissa porque em cada etapa da divisão dividiremos matrizes n n em quatro matrizes n2 n2 e considerando que n é uma potência exata de 2 fica garantido que desde que n 2 a dimensão n2 é um número inteiro Suponha que repartimos cada uma das matrizes A B e C em quatro matrizes n2 n2 de modo que reescrevemos a equação C A B como A equação 410 corresponde às quatro equações Cada uma dessas quatro equações especifica duas multiplicações de matrizes n2 n2 e a soma de seus produtos n2 n2 Podemos usar essas equações para criar um algoritmo de divisão e conquista recursivo e direto Esse pseudocódigo camufla um detalhe de implementação sutil porém importante Como repartimos as matrizes na linha 5 Se fôssemos criar 12 novas matrizes n2 n2 gastaríamos o tempo Θn2 copiando entradas Na verdade podemos repartir matrizes sem copiar entradas O truque é usar cálculos de índices Identificamos uma submatriz por uma faixa de índices de linha e uma faixa de índices de colunas da matriz original Terminamos por representar uma submatriz de um modo um pouco diferente daquele que utilizamos para representar a matriz original que é a sutileza que estamos camuflando A vantagem é que visto que podemos especificar matrizes por cálculo de índices a execução da linha 5 leva apenas o tempo Θ1 embora veremos que para o tempo de execução global não faz diferença assintoticamente se copiamos ou repartimos no lugar Agora derivaremos uma recorrência para caracterizar o tempo de execução de SQUAREMATRIXMULTIPLYRECURSIVE Seja Tn o tempo para multiplicar duas matrizes n n usando esse procedimento No casobase quando n 1 executamos apenas a única multiplicação escalar na linha 4 e assim O caso recursivo ocorre quando n 1 Como já discutimos repartir as matrizes na linha 5 leva o tempo Θ1 usando cálculo de índices Nas linhas 69 chamamos recursivamente SQUAREMATRIXMULTIPLYRECURSIVE um total de oito vezes Como cada chamada recursiva multiplica duas matrizes n2 n2 o que contribui com Tn2 para o tempo de execução global o tempo que leva para todas as oito chamadas recursivas é 8Tn2 Também temos de levar em conta as quatro adições de matrizes nas linhas 69 Cada uma dessas matrizes contém n24 entradas e portanto cada uma das quatro adições de matrizes leva o tempo de Θn2 Visto que o número de adições de matrizes é uma constante o tempo total gasto na soma das matrizes nas linhas 69 é Θn2 Novamente usamos o cálculo de índices para colocar os resultados das adições de matizes nas posições corretas da matriz C com um acréscimo de tempo Θ1 por entrada Portanto o tempo total para o caso recursivo é a soma do tempo de partição do tempo para todas as chamadas recursivas e do tempo de adição de matrizes resultantes das chamadas recursivas Note que se implementássemos a partição copiando matrizes o que custaria o tempo Θn2 a recorrência não mudaria e por consequência o tempo de execução global aumentaria somente por um fator constante Combinando as equações 415 e 416 obtemos a recorrência para o tempo de execução de SQUAREMATRIX MULTIPLYRECURSIVE Como veremos pelo método mestre na Seção 45 a solução da recorrência 417 é Tn Θn3 Assim essa abordagem simples do método de divisão e conquista não é mais rápida do que o procedimento direto SQUAREMATRIX MULTIPLY Antes de passarmos para o exame do algoritmo de Strassen vamos revisar de onde vieram os componentes da equação 416 A partição de cada matriz n n por cálculo de índice leva o tempo Θ1 mas temos duas matrizes para repartir Se bem que poderíamos dizer que a partição das duas matrizes leva o tempo Θ2 a constante de 2 está incorporada na notação Θ A soma de duas matrizes cada uma digamos com k entradas leva o tempo Θk Visto que cada uma das matrizes que somamos tem n24 entradas poderíamos dizer que a soma de cada par leva o tempo Θn24 Entretanto novamente a notação Θ incorpora o valor constante de 14 e dizemos que somar duas matrizes n4 n4 leva o tempo Θn2 Temos quatro dessas adições de matrizes e mais uma vez em vez de dizermos que elas levam o tempo Θ4n2 dizemos que levam o tempo Θn2 Uma observação óbvia é que poderíamos dizer que as quatro adições de matrizes levam o tempo Θ4n24 e que 4n24 n2 mas aqui o ponto a ressaltar é que a notação Θ incorpora fatores constantes sejam quais forem Assim terminamos com dois termos de Θn2 que podemos combinar em um só Todavia quando levamos em conta as oito chamadas recursivas não podemos apenas incorporar o fator constante de 8 Em outras palavras temos de dizer que juntas elas levam o tempo 8Tn2 em vez de apenas Tn2 Podemos ter uma ideia do porquê examinando na árvore de recursão da Figura 25 a recorrência 21 que é idêntica à recorrência 47 com o caso recursivo Tn 2Tn2 Θn O fator de 2 determinou quantos filhos cada nó da 1 2 3 4 árvore tem o que por sua vez determinou quantos termos contribuíram para a soma em cada nível da árvore Caso ignorássemos o fator de 8 na equação 416 ou o fator de 2 na recorrência 41 a árvore de recursão seria apenas linear em vez de frondosa e cada nível contribuiria com apenas um termo para a soma Portanto tenha sempre em mente que embora a notação assintótica incorpore fatores multiplicativos constantes o mesmo não acontece com notação recursiva como Tn2 O método de Strassen A chave para o método de Strassen é tornar a árvore de recursão ligeiramente menos frondosa Isto é em vez de efetuar oito multiplicações recursivas de n2 n2 matrizes ele efetua somente sete O custo de eliminar uma multiplicação de matrizes será várias novas somas de matrizes n2 n2 porém ainda assim somente um número constante de somas Como antes o número constante de somas de matrizes será incorporado pela notação Θ quando montarmos a equação de recorrência para caracterizar o tempo de execução O método de Strassen não é de modo algum óbvio Esse talvez seja o maior eufemismo neste livro Ele tem quatro etapas Dividir as matrizes de entrada A e B e a matriz de saída C em submatrizes n2 n2 como na equação 49 Essa etapa leva um tempo Θ1 por cálculo de índices exatamente como o procedimento SQUAREMATRIXMULTIPLY RECURSIVE Criar 10 matrizes S1 S2 S10 cada uma das quais é n2 n2 e é a soma ou diferença de duas matrizes criadas na etapa 1 Podemos criar todas as 10 matrizes no tempo Θn2 Usando as submatrizes criadas na etapa 1 e as 10 matrizes criadas na etapa 2 calcular recursivamente sete produtos de matrizes P1 P2 P7 Cada matriz Pi é n2 n2 Calcular as submatrizes desejadas C11 C12 C21 C22 da matriz resultado C somando e subtraindo várias combinações das Pi matrizes Podemos calcular todas as quatro submatrizes no tempo Θn2 Veremos os detalhes das etapas 24 em instantes mas já temos informações suficientes para montar uma recorrência para o tempo de execução do método de Strassen Vamos considerar que tão logo o tamanho n da matriz atinja 1 efetuamos uma multiplicação escalar simples exatamente como na linha 4 de SQUAREMATRIXMULTIPLYRECURSIVE Quando n 1 as etapas 1 2 e 4 levam um tempo total de Θn2e a etapa 3 requer que efetuemos sete multiplicações de matrizes n2 n2 Por consequência obtermos a seguinte recorrência para o tempo de execução Tn do algoritmo de Strassen Trocamos uma multiplicação de matrizes por um número constante de soma de matrizes Assim que entendermos recorrências e suas soluções veremos que na verdade essa troca resulta em um tempo de execução assintótico mais baixo Pelo método mestre na Seção 45 a solução da recorrência 418 é Tn Θnlg 7 Agora passamos para a descrição dos detalhes Na etapa 2 criamos as 10 matrizes a seguir Visto que devemos somar ou subtrair matrizes n2 n2 10 vezes essa etapa leva realmente o tempo Θn2 Na etapa 3 multiplicamos recursivamente matrizes n2 n2 sete vezes para calcular as seguintes matrizes n2 n2 cada uma das quais é a soma ou a diferença de produtos de submatrizes A e B Observe que as únicas multiplicações que precisamos executar são as que se encontram na coluna do meio dessas equações A coluna do lado direito mostra apenas em quê esses produtos são iguais em termos das submatrizes originais criadas na etapa 1 A etapa 4 soma e subtrai as Pi matrizes criadas na etapa 3 para construir as quatro submatrizes n2 n2 do produto C Começamos com Expandindo o lado direito com a expansão de cada Pi em sua própria linha e alinhando na vertical os termos cancelados vemos que C11 é igual a que corresponde à equação 411 De modo semelhante fazemos e portanto C12 é igual a correspondendo à equação 412 Fazer torna C21 igual a correspondente à equação 413 Finalmente fazemos de modo que C22 seja igual a que corresponde à equação 414 No total somamos ou subtraímos matrizes n2 n2 oito vezes na etapa 4 e portanto essa etapa leva de fato o tempo Θn2 Assim vemos que o algoritmo de Strassen que compreende as etapas 14 produz o produto correto de matrizes e que a recorrência 418 caracteriza seu tempo de execução Como veremos na Seção 45 que a solução dessa 421 422 423 424 425 426 427 43 1 2 recorrência é Tn Θnlg 7 o método de Strassen é assintoticamente mais rápido do que o procedimento direto SQUAREMATRIXMULTIPLY As notas ao final deste capítulo discutem alguns dos aspectos práticos do algoritmo de Strassen Exercícios Observação Embora os Exercícios 423 424 e 425 tratem de variantes do algoritmo de Strassen você deve ler a Seção 45 antes de tentar resolvêlos Use o algoritmo de Strassen para calcular o produto de matrizes Mostre o seu trabalho Escreva pseudocódigo para o algoritmo de Strassen Como você modificaria o algoritmo de Strassen para multiplicar matrizes n n nas quais n não é uma potência exata de 2 Mostre que o algoritmo resultante é executado no tempo Θnlg 7 Qual é o maior k tal que se você puder multiplicar matrizes 3 3 usando k multiplicações sem considerar comutatividade de multiplicação poderá multiplicar matrizes n n no tempo Onlg 7 Qual seria o tempo de execução desse algoritmo V Pan descobriu um modo de multiplicar matrizes 68 68 usando 132464 multiplicações um modo de multiplicar matrizes 70 70 usando 143640 multiplicações e um modo de multiplicar matrizes 72 72 usando 155424 multiplicações Qual é o método que produz o melhor tempo de execução assintótico quando usado em um algoritmo de divisão e conquista para multiplicação de matrizes Compareo com o tempo do algoritmo de Strassen Com que rapidez é possível multiplicar uma matriz kn n por uma matriz n kn usando o algoritmo de Strassen como subrotina Responda à mesma pergunta invertendo a ordem das matrizes de entrada Mostre como multiplicar os números complexos a bi e c di usando apenas três multiplicações de números reais O algoritmo deve tomar a b c e d como entrada e produzir o componente real ac bd e o componente imaginário ad bc separadamente MÉTODO DE SUBSTITUIÇÃO PARA RESOLVER RECORRÊNCIAS Agora que já vimos como as recorrências caracterizam os tempos dos algoritmos de divisão e conquista aprenderemos como resolver recorrências Começamos esta seção com o método de substituição O método de substituição para resolver recorrências envolve duas etapas Arriscar um palpite para a forma da solução Usar indução para determinar as constantes e mostrar que a solução funciona Substituímos a função pela solução suposta na primeira etapa quando aplicamos a hipótese indutiva a valores menores daí o nome método de substituição Esse método é poderoso mas temos de adivinhar a forma da resposta para aplicálo Podemos usar o método de substituição para estabelecer limites superiores ou inferiores para uma recorrência Como exemplo vamos determinar um limite superior para a recorrência que é semelhante às recorrências 43 e 44 Arriscamos o palpite de que a solução é Tn On lg n O método de substituição requer que provemos que Tn cn lg n para uma escolha apropriada da constante c 0 Começamos considerando que esse limite se mantém válido para todo m n positivo em particular para n2 o que produz T n2 c n2 lgn2 Substituindo na recorrência obtemos onde a última etapa é válida desde que c 1 Agora a indução exige que mostremos que nossa solução se mantém válida para as condições de contorno Normalmente fazemos isso mostrando que as condições de contorno são adequadas como casosbase para a prova indutiva No caso da recorrência 419 devemos mostrar que podemos escolher a constante c suficientemente grande de modo que o limite Tn cn lg n também funcione para as condições de contorno Às vezes essa exigência pode gerar problemas Vamos supor como argumento que T1 1 seja a única condição de contorno da recorrência Então para n 1 o limite Tn cn lg n produz T1 c 1 lg 1 0 o que está em desacordo com T1 1 Consequentemente o casobase de nossa prova indutiva deixa de ser válido Podemos superar esse obstáculo para provar uma hipótese indutiva para uma condição de contorno específica com apenas um pouco mais de esforço Por exemplo na recorrência 419 tiramos proveito de notação assintótica que só exige que provemos que Tn cn lg n para n n0 onde n0 é uma constante de nossa escolha Mantemos a importuna condição de contorno T1 1 mas não a consideramos na prova indutiva Fazemos isso primeiro observando que para n 3 a recorrência não depende diretamente de T1 Desse modo podemos substituir T1 por T2 e T3 como os casosbase na prova indutiva fazendo n0 2 Observe que fazemos uma distinção entre o caso base da recorrência n 1 e os casosbase da prova indutiva n 2 e n 3 Com T1 1 derivamos da recorrência que T2 4 e T3 5 Agora podemos concluir a prova indutiva de Tn cn lg n para alguma constante c 1 escolhendo c suficientemente grande de modo que T2 c 2 lg 2 e T3 c 3 lg 3 Como observamos qualquer valor de c 2 é suficiente para que os casosbase de n 2 e n 3 sejam válidos Para a maioria das recorrências que examinaremos estender as condições de contorno para fazer a hipótese indutiva funcionar para n pequeno é um procedimento direto e nem sempre elaboraremos explicitamente os detalhes Como dar um bom palpite Infelizmente não há nenhum modo geral para adivinhar as soluções corretas para recorrências Arriscar um palpite para uma solução exige experiência e ocasionalmente criatividade Entretanto por sorte você pode usar a heurística para ajudálo a se tornar um bom adivinhador Além disso poderá também usar árvores de recursão que veremos na Seção 44 para gerar bons palpites Se uma recorrência for semelhante a alguma que você já tenha visto antes será razoável supor uma solução semelhante Como exemplo considere a recorrência Tn 2Tn2 17 n que parece difícil devido ao 17 acrescentado ao argumento de T no lado direito Porém intuitivamente esse termo adicional não pode afetar substancialmente a solução para a recorrência Quando n é grande a diferença entre n2 e n2 17 não é tão grande ambos cortam n quase uniformemente pela metade Em consequência disso arriscamos Tn On lg n o que você pode verificar que é correto usando o método de substituição veja Exercício 436 Um outro modo de dar um bom palpite é comprovar limites superiores e inferiores frouxos para a recorrência e então reduzir a faixa de incerteza Por exemplo poderíamos começar com um limite inferior de Tn n para a recorrência 419 já que temos o termo n na recorrência e podemos comprovar um limite superior inicial de Tn On2 Então podemos diminuir gradualmente o limite superior e elevar o limite inferior até convergirmos na solução correta assintoticamente justa Tn Θn lg n Sutilezas Às vezes você pode dar um palpite correto para um limite assintótico para a solução de uma recorrência mas por alguma razão a matemática não consegue funcionar na indução Em geral observamos que a hipótese indutiva não é suficientemente forte para comprovar o limite apontado Se você revisar seu palpite subtraindo um termo de ordem mais baixa quando chegar a um impasse como esse a matemática frequentemente funcionará Considere a recorrência Adivinhamos que a solução é Tn On e tentamos mostrar que Tn cn para uma escolha adequada da constante c Substituindo nosso palpite na recorrência obtemos o que não implica Tn cn para qualquer escolha de c Poderíamos ficar tentados a experimentar um palpite maior digamos Tn On2 Embora possamos fazer esse palpite maior funcionar nosso palpite original Tn On é correto Porém para mostrar que ele é correto temos de fazer uma hipótese indutiva mais forte Intuitivamente nosso palpite quase correto é a única diferença é a constante 1 um termo de ordem mais baixa Apesar disso a indução não funciona a menos que provemos a forma exata da hipótese indutiva Superamos nossa dificuldade subtraindo um termo de ordem mais baixa de nosso palpite anterior Nosso novo palpite é Tn cn d onde d 0 é uma constante Agora temos desde que d 1 Como antes devemos escolher a constante c suficientemente grande para lidar com as condições de contorno Você pode achar que a ideia de subtrair um termo de ordem mais baixa é antiintuitiva Afinal se a matemática não funciona o certo não seria aumentar nosso palpite Não necessariamente Quando queremos provar um limite superior por indução na verdade pode ser mais difícil provar que um limite inferior mais fraco é válido porque para provar um limite mais fraco temos de usar na prova indutivamente o mesmo limite mais fraco Nesse nosso exemplo quando a recorrência tem mais de um termo recursivo temos de subtrair o termo de ordem mais baixa do limite proposto uma vez por termo recursivo No exemplo anterior subtraímos a constante d duas vezes uma vez para o termo Tn2 e uma vez para o termo Tn2 Terminamos com a desigualdade Tn cn 2d 1 e foi fácil encontrar valores de d que tornassem cn 2d 1 menor ou igual a cn d 431 432 433 434 435 436 437 Como evitar armadilhas É fácil errar na utilização da notação assintótica Por exemplo na recorrência 419 podemos provar falsamente que Tn On supondo Tn cn e então argumentando que visto que c é uma constante O erro é que não provamos a forma exata da hipótese indutiva isto é que Tn cn Portanto provaremos explicitamente que Tn cn quando quisermos mostrar que Tn On Como trocar variáveis Às vezes um pouco de manipulação algébrica pode tornar uma recorrência desconhecida semelhante a alguma que você já viu antes Como exemplo considere a recorrência que parece difícil Entretanto podemos simplificar essa recorrência com uma troca de variáveis Por conveniência não nos preocuparemos com arredondar valores como n para que fiquem inteiros Renomear m lg n produz Agora podemos renomear Sm T2m para produzir a nova recorrência que é muito semelhante à recorrência 419 De fato essa nova recorrência tem a mesma solução Sm Om lg m Voltando a trocar Sm por Tn obtemos Tn T2m Sm Om lg m Olg n lg lg n Exercícios Mostre que a solução de Tn Tn 1 n é On2 Mostre que a solução de Tn T n2 1 é Olg n Vimos que a solução de Tn 2Tn2 n é On lg n Mostre que a solução dessa recorrência é também n lg n Conclua que a solução é Θn lg n Mostre que formulando uma hipótese indutiva diferente podemos superar a dificuldade com a condição de contorno T1 1 para a recorrência 419 sem ajustar as condições de contorno para a prova indutiva Mostre que Θn lg n é a solução para a recorrência exata 43 para a ordenação por intercalação Mostre que a solução para Tn 2Tn2 17 n é On lg n Usando o método mestre da Seção 45 você pode mostrar que a solução para a recorrência Tn 4Tn3 n é Tn Θnlog 34 Mostre que uma prova de substituição que considere Tn cnlog 4 falha Então mostre como subtrair um termo de ordem mais baixa para fazer com que uma prova de substituição funcione 438 439 44 Usando o método mestre da Seção 45 você pode mostrar que a solução para a recorrência Tn 4Tn2 n é Tn Θn2 Mostre que uma prova de substituição que considere Tn cn2 falha Então mostre como subtrair um termo de ordem mais baixa para fazer com que uma prova de substituição funcione Resolva a recorrência Tn 3Tn log n fazendo uma troca de variáveis Sua solução deve ser assintoticamente justa Não se preocupe com saber se os valores são inteiros MÉTODO DA ÁRVORE DE RECURSÃO PARA RESOLVER RECORRÊNCIAS Embora você possa usar o método de substituição para obter uma prova sucinta de que uma solução para uma recorrência é correta às vezes é difícil apresentar um bom palpite Traçar uma árvore de recursão como fizemos em nossa análise da recorrência da ordenação por intercalação na Seção 232 é um modo direto para dar um bom palpite Em uma árvore de recursão cada nó representa o custo de um único subproblema em algum lugar no conjunto de invocações de função recursiva Somamos os custos em cada nível da árvore para obter um conjunto de custos por nível e depois somamos todos os custos por nível para determinar o custo total de todos os níveis da recursão Uma árvore de recursão é mais bem usada para gerar um bom palpite que é então verificado pelo método de substituição Ao usar uma árvore de recursão para gerar um bom palpite muitas vezes você pode tolerar um pouco de desleixo já que verificará seu palpite mais tarde Porém se você for muito cuidadoso ao desenhar uma árvore de recursão e somar os custos poderá usar uma árvore de recursão como prova direta de uma solução para uma recorrência Nesta seção usaremos árvores de recursão para gerar bons palpites e na Seção 46 utilizaremos árvores de recursão diretamente para provar o teorema que forma a base do método mestre Por exemplo vejamos como uma árvore de recursão daria um bom palpite para a recorrência Tn 3Tn4 Θn2 Começamos focalizando a determinação de um limite superior para a solução Como sabemos que pisos e tetos normalmente não têm importância na solução de recorrências esse é um exemplo de desleixo que podemos tolerar criamos uma árvore de recursão para a recorrência Tn 3Tn4 cn2 tendo explicitado o coeficiente constante implícito c 0 A Figura 45 mostra como derivamos a árvore de recursão para Tn 3Tn4 cn2 Por conveniência supomos que n é uma potência exata de 4 outro exemplo de desleixo tolerável de modo que os tamanhos de todos os subproblemas são inteiros A parte a da figura mostra Tn que na parte b expandimos para uma árvore equivalente que representa a recorrência O termo cn2 na raiz representa o custo no nível superior da recursão e as três subárvores da raiz representam os custos incorridos pelos subproblemas de tamanho n4 A parte c mostra a continuação desse processo em uma etapa posterior representada pela expansão de cada nó com custo Tn4 da parte b O custo para cada um dos três filhos da raiz é cn42 Continuamos a expandir cada nó na árvore desmembrandoo em suas partes constituintes conforme determinado pela recorrência Visto que os tamanhos dos subproblemas diminuem por um fator de 4 toda vez que descemos um nível a certa altura devemos alcançar uma condição de contorno A que distância da raiz nós a encontramos O tamanho do subproblema para um nó na profundidade i é n4i Desse modo o tamanho do subproblema chega a n 1 quando n4i 1 ou o que é equivalente quando i log4 n Assim a árvore tem log4 n 1 níveis nas profundidades 0 1 2 log4 n Em seguida determinamos o custo em cada nível da árvore Cada nível tem três vezes mais nós que o nível acima dele portanto o número de nós na profundidade i é 3i Como os tamanhos dos subproblemas se reduzem por um fator de 4 para cada nível que descemos a partir da raiz cada nó na profundidade i para i 0 1 2 log4 n 1 tem o custo de cn4i2 Multiplicando vemos que o custo total para todos os nós na profundidade i para i 0 1 2 log4 n 1 é 3icn4i2 316icn2 O nível inferior na profundidade log4 n tem 3log4n nlog43 nós e cada um deles contribui com o custo T1 para um custo total de nlog43T1 que é Θnlog43 já que supomos que T1 é uma constante Figura 45 Construção de uma árvore de recursão para a recorrência Tn 3Tn4 cn2 A parte a mostra T n que expandese progressivamente em bd para formar a árvore de recursão A árvore completamente expandida na parte d tem altura log4 n ela tem log4 n 1 níveis Agora somamos os custos em todos os níveis para determinar o custo da árvore inteira Esta última fórmula parece um pouco confusa até percebermos que mais uma vez é possível tirar proveito de uma certo desleixo e usar uma série geométrica decrescente infinita como um limite superior Retrocedendo uma etapa e aplicando a equação A6 temos Assim derivamos um palpite de TnOn2 para nossa recorrência original Tn3Tn4 Θn2 Nesse exemplo os coeficientes de cn2 formam uma série geométrica decrescente e pela equação A6 a soma desses coeficientes é limitada na parte superior pela constante 1613 Visto que a contribuição da raiz para o custo total é cn2 a raiz contribui com uma fração constante do custo total Em outras palavras o custo da raiz domina o custo total da árvore De fato se On2 é realmente um limite superior para a recorrência como verificaremos em breve ele deve ser um limite justo Por quê A primeira chamada recursiva contribui com o custo Θn2 então n2 deve ser um limite inferior para a recorrência Agora podemos usar o método de substituição para verificar que nosso palpite era correto isto é Tn On2 é um limite superior para a recorrência Tn 3Tn4 Θn2 Queremos mostrar que Tn dn2 para alguma constante d 0 Usando a mesma constante c 0 de antes temos onde a última etapa é válida desde que d 1613c Em outro exemplo mais complicado a Figura 46 mostra a árvore de recursão para Novamente omitimos as funções piso e teto por simplicidade Como antes c representa o fator constante no termo On Quando somamos os valores em todos os níveis da árvore de recursão obtemos um valor de cn para cada nível O caminho simples mais longo da raiz até uma folha é n 23n 232n 1 Visto que 23kn 1 quando k log32 n a altura da árvore é log32 n Intuitivamente esperamos que a solução para a recorrência seja no máximo o número de níveis vezes o custo de cada nível ou Ocn log32 n On lg n Entretanto a Figura 46 mostra apenas os níveis superiores da árvore de recursão e nem todo nível da árvore contribui com um custo cn Considere o custo das folhas Se essa árvore de recursão fosse uma árvore binária completa de altura log32 n haveria 2log32 n n log32 2 folhas Como o custo de cada folha é uma constante o custo total de todas as folhas será Θnlog 32 2 que visto que log32 2 é uma constante estritamente maior do que 1 é n lg n Contudo essa árvore de recursão não é uma árvore binária completa e por isso ela tem menos de nlog32 2 folhas Além do mais à medida que descemos em relação à raiz mais e mais nós internos estão ausentes Consequentemente níveis mais próximos da parte inferior da árvore de recursão contribuem com menos de cn para o custo total Poderíamos desenvolver uma contabilidade precisa de todos os custos mas lembrese de que estamos apenas tentando propor um palpite para usar no método de substituição Vamos tolerar o desleixo e tentar mostrar que um palpite On lg n para o limite superior é correto Figura 46 Uma árvore de recursão para a recorrência T n T n3 T 2n3 cn De fato podemos usar o método de substituição para verificar que On lg n é um limite superior para a solução da recorrência Mostramos que Tn dn lg n onde d é uma constante positiva adequada Temos 441 442 443 444 445 446 447 448 449 45 desde que d clg 3 23 Assim não tivemos de executar uma contabilidade de custos mais precisa na árvore de recursão Exercícios Use uma árvore de recursão para determinar um bom limite superior assintótico para a recorrência Tn 3Tn2 n Use o método de substituição para verificar sua resposta Use uma árvore de recursão para determinar um bom limite superior assintótico para a recorrência Tn Tn2 n2 Use o método de substituição para verificar sua resposta Use uma árvore de recursão para determinar um bom limite superior assintótico para a recorrência Tn 4Tn2 2 n Use o método de substituição para verificar sua resposta Use uma árvore de recursão para determinar um bom limite superior assintótico para a recorrência Tn 2Tn 1 1 Use o método de substituição para verificar sua resposta Use uma árvore de recursão para determinar um bom limite superior assintótico para a recorrência Tn Tn 1 Tn2 n Use o método de substituição para verificar sua resposta Demonstre que a solução para a recorrência Tn Tn3 T2n3 cn onde c é uma constante é n lg n apelando para uma árvore de recursão Trace a árvore de recursão para Tn 4Tn2 cn onde c é uma constante e forneça um limite assintótico restrito para a sua solução Verifique o limite pelo método de substituição Use uma árvore de recursão para dar uma solução assintoticamente justa para a recorrência Tn Tn a Ta cn onde a 1 e c 0 são constantes Use uma árvore de recursão para dar uma solução assintoticamente justa para a recorrência Tn Tn T1 αn cn onde a é uma constante no intervalo 0 α 1 e c 0 também é uma constante MÉTODO MESTRE PARA RESOLVER RECORRÊNCIAS O método mestre fornece uma receita para resolver recorrências da forma onde a 1 e b 1 são constantes e fn é uma função assintoticamente positiva Para utilizar o método mestre você terá de memorizar três casos mas poderá resolver muitas recorrências com grande facilidade muitas vezes sem lápis e papel 1 2 3 A recorrência 420 descreve o tempo de execução de um algoritmo que divide um problema de tamanho n em a subproblemas cada um de tamanho nb onde a e b são constantes positivas Os a subproblemas são resolvidos recursivamente cada um no tempo Tnb A função fn abrange o custo de dividir o problema e combinar os resultados dos subproblemas Por exemplo a recorrência que surge do algoritmo de Strassen tem a 7 b 2 e fn Θn2 Por questão de correção técnica na realidade a recorrência não está bem definida porque nb poderia não ser um inteiro Porém substituir cada um dos a termos Tnb por T nb ou T nb não afetará o comportamento assintótico da recorrência Provaremos essa afirmação na próxima seção Portanto normalmente consideramos conveniente omitir as funções piso e teto quando escrevemos recorrências de divisão e conquista dessa forma O teorema mestre O método mestre depende do teorema a seguir Teorema 41 Teorema mestre Sejam a 1 e b 1 constantes seja fn uma função e seja Tn definida no domínio dos números inteiros não negativos pela recorrência Tn aTnb fn onde interpretamos que nb significa nb ounb Então Tn tem os seguintes limites assintóticos Se fn Onlogb a para alguma constante 0 então Tn Θnlogb a Se fn Θnlogb a então Tn Θnlogb a lg n Se fn nlogb a para alguma constante 0 e se afnb cfn para alguma constante c 1 e todos os n suficientemente grandes então Tn Θfn Antes de aplicar o teorema mestre a alguns exemplos vamos dedicar algum tempo tentando entender o que ele significa Em cada um dos três casos comparamos a função fn com a função nlogb a Intuitivamente a maior das duas funções determina a solução para a recorrência Se como no caso 1 a função nlogb a for a maior então a solução é Tn Θnlogb a Se como no caso 3 a função fn for a maior então a solução é Tn Θfn Se como no caso 2 as duas funções tiverem o mesmo tamanho multiplicamos por um fator logarítmico e a solução é Tn Θnlogb a lg n Θ fn lg n Além dessa intuição você precisa estar ciente de alguns detalhes técnicos No primeiro caso fn não só tem de ser menor que nlogb a mas deve ser polinomialmente menor Isto é fn deve ser assintoticamente menor que nlogb a por um fator n para alguma constante 0 No terceiro caso fn não apenas deve ser maior que nlogb a ela tem de ser polinomialmente maior e além disso satisfazer à condição de regularidade expressa por afnb cfn Essa condição é satisfeita pela maioria das funções polinomialmente limitadas que encontraremos Observe que os três casos não abrangem todas as possibilidades para fn Existe uma lacuna entre os casos 1 e 2 quando fn é menor que nlogb a mas não polinomialmente menor De modo semelhante há uma lacuna entre os casos 2 e 3 quando fn é maior que nlogb a mas não polinomialmente maior Se a função fn cair em uma dessas lacunas ou se a condição de regularidade no caso 3 deixar de ser válida o método mestre não poderá ser usado para resolver a recorrência Como usar o método mestre Para usar o método mestre simplesmente determinamos qual caso se houver algum do teorema mestre se aplica e anotamos a resposta Como primeiro exemplo considere Tn 9Tn3 n Para essa recorrência temos a 9 b 3 fn n e portanto temos que nlogb a nlog3 9 Θn2 Visto que fn onde 1 podemos aplicar o caso 1 do teorema mestre e concluir que a solução é Tn Θn2 Agora considere Tn T2n3 1 na qual a 1 b 32 fn 1 e nlogb a nlog32 1 n0 1 Aplicase o caso 2 já que fn Θnlogb a Θ1 e assim a solução para a recorrência é Tn Θlg n Para a recorrência Tn 3Tn4 n lg n temos a 3 b 4 fn n lg n e nlogb a nlog4 3 On0793 Visto que fn nlog4 3 onde 02 aplicamos o caso 3 se pudermos mostrar que a condição de regularidade é válida para fn Para n suficientemente grande temos que afnb 3n4 lgn4 34n lg n cfn para c 34 Consequentemente pelo caso 3 a solução para a recorrência é Tn Θn lg n O método mestre não se aplica à recorrência Tn 2Tn2 n lg n ainda que aparentemente ela tenha a forma apropriada a 2 b 2 fn n lg n e nlogb a n Você poderá se enganar e achar que o caso 3 deve se aplicar já que fn n lg n é assintoticamente maior que nlogb a n O problema é que ela não é polinomialmente maior A razão fnnlogb a n lg nn lg n é assintoticamente menor que n para qualquer constante positiva Consequentemente a recorrência cai na lacuna entre o caso 2 e o caso 3 Veja uma solução no Exercício 462 Vamos usar o método mestre para resolver as recorrências que vimos nas Seções 41 e 42 A recorrência 47 Tn 2Tn2 Θn caracteriza os tempos de execução do algoritmo de divisão e conquista para o problema do subarranjo máximo e também para a ordenação por intercalação Como de praxe omitiremos a declaração do casobase na recorrência Aqui temos a 2 b 2 fn Θn e assim temos que nlogb a nlog2 2 n O caso 2 se aplica visto que fn Θn e portanto temos a solução Tn Θn lg n A recorrência 417 Tn 8Tn2 Θn2 descreve o tempo de execução do primeiro algoritmo de divisão e conquista que vimos para multiplicação de matrizes Agora temos a 8 b 2 e fn Θn2 e assim nlogb a nlog2 8 n3 Visto que n3 é polinomialmente maior que fn isto é fn On3 para 1 o caso 1 se aplica e Tn Θn3 Finalmente considere a recorrência 418 Tn 7Tn2 Θn2 que descreve o tempo de execução do algoritmo de Strassen Aqui temos a 7 b 2 fn Θ n2 e assim nlogb a nlog2 7 Reescrevendo log2 7 como lg 7 e lembrando que 280 lg 7 281 vemos que fn Onlg 7 para 08 Novamente o caso 1 se aplica e temos a solução Tn Θnlg 7 451 a b c d 452 453 454 46 455 Exercícios Use o método mestre para fornecer limites assintóticos restritos para as recorrências a seguir Tn 2Tn4 1 Tn 2Tn4 n Tn 2Tn4 n Tn 2Tn4 n2 O professor César quer desenvolver um algoritmo para multiplicação de matrizes que seja assintoticamente mais rápido do que o algoritmo de Strassen Seu algoritmo usará o método de divisão e conquista repartindo cada matriz em pedaços de tamanho n4 n4 e juntas as etapas de dividir e combinar levarão o tempo Θn2 Ele precisa determinar quantos subproblemas tal algoritmo tem de criar para superar o algoritmo de Strassen Se o algoritmo criar α subproblemas a recorrência para o tempo de execução Tn se tornará Tn aTn4 Θn2 Qual é o maior valor inteiro de a para o qual o algoritmo do professor César seria assintoticamente mais rápido que o algoritmo de Strassen Use o método mestre para mostrar que a solução para a recorrência de busca binária Tn Tn2 Θ1 é Tn Θlg n Veja no Exercício 235 uma descrição da busca binária O método mestre pode ser aplicado à recorrência Tn 4Tn2 n2 lg n Justifique sua resposta Dê um limite superior assintótico para essa recorrência Considere a condição de regularidade afnb cfn para alguma constante c 1 que faz parte do caso 3 do teorema mestre Dê um exemplo de constantes a 1 e b 1 e uma função fn que satisfaçam todas as condições no caso 3 do teorema mestre exceto a condição de regularidade PROVA DO TEOREMA MESTRE Esta seção contém uma prova do teorema mestre Teorema 41 A prova não precisa ser entendida para se aplicar o teorema mestre A prova tem duas partes A primeira parte analisa a recorrência mestre 420 adotando a premissa simplificadora de que Tn é definida apenas para potências exatas de b 1 isto é para n 1 b b2 Essa parte nos dá toda a intuição necessária para entender por que o teorema mestre é verdadeiro A segunda parte mostra como estender a análise a todos os inteiros positivos n trata com técnica matemática o problema do tratamento de pisos e tetos Nesta seção algumas vezes abusaremos um pouco de nossa notação assintótica usandoa para descrever o comportamento de funções que são definidas somente para potências exatas de b Lembrese de que as definições de notações assintóticas exigem que os limites sejam provados para todos os números suficientemente grandes não apenas para aqueles que são potências de b Visto que poderíamos produzir novas notações assintóticas que se aplicassem somente ao conjunto bi i 0 1 em vez de aos números não negativos esse abuso é de menor importância Apesar disso sempre deveremos estar atentos quando usarmos a notação assintótica em um domínio limitado para não chegarmos a conclusões inadequadas Por exemplo provar que Tn On quando n é uma potência exata de 2 não garante que Tn On A função Tn poderia ser definida como 461 e nesse caso o melhor limite superior que se aplica a todos os valores de n é Tn On2 Devido a esse tipo de consequência drástica nunca empregaremos a notação assintótica a um domínio restrito sem deixar absolutamente claro pelo contexto que estamos fazendo isso A PROVA PARA POTÊNCIAS EXATAS A primeira parte da prova do teorema mestre analisa a recorrência 420 para o método mestre adotando a premissa de que n é uma potência exata de b 1 onde b não precisa ser um inteiro Dividimos a análise em três lemas O primeiro reduz o problema de resolver a recorrência mestre ao problema de avaliar uma expressão que contém um somatório O segundo determina limites para esse somatório O terceiro lema reúne os dois primeiros para provar uma versão do teorema mestre para o caso em que n é uma potência exata de b Lema 42 Sejam a 1 e b 1 constantes e seja fn uma função não negativa definida para potências exatas de b Defina Tn para potências exatas de b pela recorrência onde i é um inteiro positivo Então Figura 47 A árvore de recursão gerada por T n aT nb fn Essa é uma árvore aária completa com nlog a folhas e altura logb n O custo dos nós em cada profundidade é mostrado à direita e sua soma é dada na equação 421 Prova Usamos a árvore de recursão da Figura 47 A raiz da árvore tem custo fn e ela tem a filhas cada uma com custo fnb É conveniente imaginar a como um inteiro especialmente se visualizamos a árvore de recursão mas a matemática não o exige Cada uma dessas filhas tem a filhas o que resulta em a2 nós na profundidade 2 e cada uma das a filhas tem custo fn b2 Em geral há aj nós à profundidade j e cada um tem o custo fnbj O custo de cada folha é T1 Θ1 e cada folha está a uma profundidade logb n da raiz visto que nb alogb n 1 Há a logb n nlogb a folhas na árvore Podemos obter a equação 421 somando os custos dos nós em cada profundidade da árvore como mostra a figura O custo de todos os nós internos à profundidade j é aj fnb j e assim o total de todos os níveis de nós internos é No algoritmo de divisão e conquista subjacente essa soma representa os custos de dividir problemas em subproblemas e depois recombinar os subproblemas O custo de todas as folhas que é o custo de fazer com que todos os nlogb a subproblemas tenham tamanho 1 é Θnlogb a Em termos da árvore de recursão os três casos do teorema mestre correspondem a casos nos quais o custo total da árvore é 1 dominado pelos custos nas folhas 2 distribuído uniformemente entre os níveis da árvore ou 3 dominado pelo custo da raiz O somatório na equação 421 descreve o custo das etapas de divisão e combinação no algoritmo de divisão e conquista subjacente O lema seguinte dá limites assintóticos para o crescimento do somatório 1 2 3 Lema 43 Sejam a 1 e b 1 constantes e seja fn uma função não negativa definida para potências exatas de b Uma função gn definida para potências exatas de b por tem os seguintes limites assintóticos para potências exatas de b Se fn Onlogb a para alguma constante 0 então gn Onlogb a Se fn Θnlogb a então gn Θnlogb a lg n Se afnb cfn para alguma constante c 1 e para todo n suficientemente grande então gn Θ fn Prova Para o caso 1 temos fn Onlogb a o que implica que fnbj Onbj logb a Substituindo na equação 422 temos Limitamos o somatório dentro da notação O fatorando termos e simplificando o que resulta em uma série geométrica crescente Visto que b e são constantes podemos reescrever a última expressão como nlogb aOn Onlogb a Substituindo o somatório na equação 48 por essa expressão temos e o caso 1 fica provado Como o caso 2 considera que fn Θ nlogb a para o caso 2 temos que fnbj Θ nb j logb a Substituindo na equação 422 temos Limitamos o somatório dentro da notação Θ como no caso 1 mas dessa vez não obtemos uma série geométrica Em vez disso descobrimos que todos os termos do somatório são iguais Substituindo o somatório da equação 424 por essa expressão obtemos o que prova o caso 2 Provamos o caso 3 de modo semelhante Como fn aparece na definição 422 de gn e todos os termos de gn são não negativos podemos concluir que gn fn para potências exatas de b No enunciado do lema consideramos que afnb cfn para alguma constante c 1 e todo n suficientemente grande Reescrevemos essa expressão como fnb ca fn e iteramos j vezes o que produz fnbj caj fn ou o que é equivalente aj fnbj c j fn onde consideramos que os valores para os quais efetuamos a iteração são suficientemente grandes Visto que o último e menor desses valores é nbj1 basta para considerarmos que nbj1 é suficientemente grande Substituindo na equação 422 e simplificando obtemos uma série geométrica mas ao contrário da série no caso 1 essa tem termos decrescentes Usamos um termo O1 para capturar os termos que não são abrangidos pela premissa que adotamos isto é n é suficientemente grande 1 2 3 462 visto que c é uma constante Assim podemos concluir que gn Θ fn para potências exatas de b Com a prova do caso 3 concluímos a prova do lema Agora podemos provar uma versão do teorema mestre para o caso em que n é uma potência exata de b Lema 44 Sejam a 1 e b 1 constantes e seja fn uma função não negativa definida para potências exatas de b Defina Tn para potências exatas de b pela recorrência onde i é um inteiro positivo Então Tn tem os seguintes limites assintóticos para potências exatas de b Se fn Onlogb a para alguma constante 0 então Tn Θnlogb a Se fn Θnlogb a então Tn Θnlogb a lg n Se fn nlogb a para alguma constante 0 e se afnb cfn para alguma constante c 1 e todo n suficientemente grande então Tn Θfn Prova Empregamos os limites do Lema 43 para avaliar o somatório 421 do Lema 42 Para o caso 1 temos e para o caso 2 Para o caso 3 PISOS E TETOS Para concluir a prova do teorema mestre devemos agora estender nossa análise à situação na qual pisos e tetos aparecem na recorrência mestre de modo que a recorrência é definida para todos os inteiros não apenas para potências exatas de b Obter um limite inferior para e um limite superior para é rotina visto que podemos usar a limitação nb nb no primeiro caso para produzir o resultado desejado e usar a limitação nb nb no segundo caso Para impor um limite inferior para a recorrência 426 utilizamos praticamente a mesma técnica usada para impor um limite superior para a recorrência 425 portanto apresentaremos somente este último limite Modificamos a árvore de recursão da Figura 47 para produzir a árvore de recursão da Figura 48 À medida que descemos pela árvore de recursão obtemos uma sequência de invocações recursivas para os argumentos Vamos denotar o jésimo elemento na sequência por nj onde Nossa primeira meta é determinar a profundidade k tal que nk é uma constante Usando a desigualdadex x 1 obtemos Figura 48 Árvore de recursão gerada por Tn aTnb fn O argumento recursivo nj é dado pela equação 427 Em geral temos e assim vemos que à profundidade logb n o tamanho do problema é limitado por uma constante Pela Figura 48 observamos que que é quase igual à equação 421 exceto que n é um inteiro arbitrário e não está restrito a ser uma potência exata de b Agora podemos avaliar o somatório pela equação 428 de modo análogo à prova do Lema 43 Começando com o caso 3 se a f nb c f n para n b bb 1 onde c 1 é uma constante então seguese que aj fn c j fn Portanto podemos avaliar a soma na equação 429 exatamente como no Lema 43 Para o caso 2 temos fn Θnlogb a Se pudermos mostrar que fn 41 461 462 463 Onlogb aaj Onbj logb a então a prova para o caso 2 do Lema 43 funcionará Observe que j logb n implica b n 1 O limite fn Onlogb a implica que existe uma constante c 0 tal que para todo n suficientemente grande visto que c1 bb 1logb a é uma constante Assim provamos o caso 2 A prova do caso 1 é quase idêntica A chave é provar o limite fnj On log bae que é semelhante à prova correspondente do caso 2 embora a álgebra seja mais complicada Agora provamos os limites superiores no teorema mestre para todos os inteiros n A prova dos limites inferiores é semelhante Exercícios Dê uma expressão simples e exata para ni na equação 427 para o caso em que b é um inteiro positivo em vez de um número real arbitrário Mostre que se fn Θnlogb a lgk n onde k 0 então a recorrência mestre tem solução Tn Θnlogb a lgk 1 n Por simplicidade restrinja sua análise a potências exatas de b Mostre que o caso 3 do teorema mestre é exagerado no sentido de que a condição de regularidade afnb cfn para alguma constante c 1 implica que existe uma constante 0 tal que fn nlogb a Problemas Exemplos de recorrência a b c d e f g 42 1 2 3 a b 43 a b c d Dê limites assintóticos superiores e inferiores para Tn em cada uma das recorrências a seguir Considere que Tn é constante para n 2 Torne seus limites tão restritos quanto possível e justifique suas respostas Tn 2Tn2 n4 Tn T7n10 n Tn 16Tn4 n2 Tn 7Tn3 n2 Tn 7Tn2 n2 Tn 2Tn4 n Tn Tn 2 n2 Custos da passagem de parâmetros Em todo este livro supomos que a passagem de parâmetros durante chamadas de procedimento demora um tempo constante mesmo para passar um arranjo de N elementos Essa premissa é válida na maioria dos sistemas porque é passado um ponteiro para o arranjo e não o próprio arranjo Este problema examina as implicações de três estratégias de passagem de parâmetros Um arranjo é passado por ponteiro Tempo Θ1 Um arranjo é passado por cópia Tempo ΘN onde N é o tamanho do arranjo Um arranjo é passado por cópia somente da subfaixa que poderia ser acessada pelo procedimento chamado Tempo Θq p 1 se o subarranjo Ap q for passado Considere o algoritmo de busca binária recursiva para localizar um número em um arranjo ordenado veja Exercício 235 Dê recorrências para os tempos de execução do pior caso de busca binária quando os arranjos são passados com a utilização de cada um dos três métodos citados e dê bons limites superiores para as soluções das recorrências Seja N o tamanho do problema original e n o tamanho de um subproblema Faça novamente a parte a para o algoritmo MERGESORT da Seção 231 Outros exemplos de recorrência Dê limites assintóticos superiores e inferiores para Tn em cada uma das recorrências a seguir Considere que Tn é constante para n suficientemente pequeno Torne seus limites tão justos quanto possível e justifique suas respostas Tn 4Tn3 n lg n Tn 3Tn3 nlg n Tn 4Tn2 n2 n Tn 3Tn3 2 n2 e f g h i j 44 a b Tn 2Tn2 nlg n Tn Tn2 Tn4 Tn8 n Tn Tn 1 1n Tn Tn 1 lg n Tn Tn 2 1lg n Tn nTn n Números de Fibonacci Este problema desenvolve propriedades dos números de Fibonacci que são definidos pela recorrência 322 Usaremos a técnica de gerar funções para resolver a recorrência de Fibonacci Defina a função geradora ou série formal de potências F por onde Fi é o iésimo número de Fibonacci Mostre que Fz z zFz z2Fz Mostre que onde c d 45 a b c 17 Mostre que Use a parte c para provar que F φi 5 para i 0 arredondado até o inteiro mais próximo Sugestão Observe que φˆ 1 Testes de chips O professor Diógenes tem n chips de circuito integrado supostamente idênticos que em princípio são capazes de testar uns aos outros O aparelho de teste do professor acomoda dois chips de cada vez Quando o aparelho é carregado cada chip testa o outro e informa se este está bom ou ruim Um chip bom sempre informa com precisão se o outro chip está bom ou ruim mas o professor não pode confiar na resposta de um chip ruim Portanto os quatro resultados possíveis de um teste são Chip A informa Chip B informa Conclusão B está bom A está bom Ambos estão bons ou ambos estão ruins B está bom A está ruim Ao menos um está ruim B está ruim A está bom Ao menos um está ruim B está ruim A está ruim Ao menos um está ruim Mostre que se mais de n2 chips estiverem ruins o professor não pode necessariamente determinar quais chips estão bons usando qualquer estratégia baseada nessa espécie de teste aos pares Admita que os chips ruins possam conspirar para enganar o professor Considere o problema de descobrir um único chip bom entre n chips considerando que mais de n2 dos chips estejam bons Mostre que n2 testes de pares são suficientes para reduzir o problema a um outro com aproximadamente metade do tamanho Mostre que os chips bons podem ser identificados com Θn testes de pares considerando que mais de n2 dos chips estão bons Dê e resolva a recorrência que descreve o número de testes Arranjos de Monge a b c d Um arranjo m n de números reais representado por A é um arranjo de Monge se para todo i j k e l tais que 1 i k m e 1 j l n temos Ai j Ak l Ai l Ak j Em outras palavras sempre que escolhemos duas linhas e duas colunas de um arranjo de Monge e consideramos os quatro elementos nas interseções das linhas e das colunas a soma dos elementos na parte superior esquerda e na parte inferior direita é menor ou igual à soma dos elementos na parte inferior esquerda e na parte superior direita Por exemplo o arranjo a seguir é um arranjo de Monge Prove que um arranjo é de Monge se e somente se para todo i 1 2 m 1 e j 1 2 n 1 temos Ai j Ai 1 j 1 Ai j 1 Ai 1 j Sugestão Para a parte se aplique indução às linhas e colunas separadamente O arranjo a seguir não é de Monge Troque a ordem de um elemento para transformálo em um arranjo de Monge Sugestão Use a parte a Seja fi o índice da coluna que contém o elemento mínimo da extrema esquerda da linha i Prove que f1 f2 fm para qualquer arranjo de Monge m n Apresentamos a seguir a descrição de um algoritmo de divisão e conquista que calcula o elemento mínimo da extrema esquerda em cada linha de um arranjo de Monge m n A Construa uma submatriz A de A composta pelas linhas de numeração par de A Determine recursivamente o mínimo da extrema esquerda para cada linha de A Em seguida calcule o mínimo da extrema esquerda nas linhas de numeração ímpar de A Explique como calcular o mínimo da extrema esquerda nas linhas de numeração ímpar de A dado que o mínimo da extrema esquerda das linhas de numeração par seja conhecido no tempo Om n e 1 2 3 4 Escreva a recorrência que descreve o tempo de execução do algoritmo descrito na parte d Mostre que sua solução é Om n log m NOTAS DO CAPÍTULO O método de divisão e conquista como técnica para projeto de algoritmos data no mínimo de 1962 com a publicação de um artigo por Karatsuba e Ofman 194 Todavia é possível que ele tenha sido usado bem antes disso de acordo com Heideman Johnson e Burrus 163 C FGauss inventou o primeiro algoritmo de transformada rápida de Fourier em 1805 e a formulação de Gauss desmembra o problema em subproblemas menores cujas soluções são combinadas O problema do subarranjo mínimo na Seção 41 é uma pequena variação de um problema estudado por Bentley 43 Capítulo 7 O algoritmo de Strassen 325 causou grande sensação quando foi publicado em 1969 Antes dessa data poucos imaginavam a possibilidade de um algoritmo assintoticamente mais rápido do que o procedimento básico SQUAREMATRIX MULTIPLY O limite superior assintótico para multiplicação de matrizes foi melhorado desde então Até agora o algoritmo mais assintoticamente eficiente para multiplicar matrizes n n proposto por Coppersmith e Winograd 79 tem tempo de execução de On2376 O melhor limite inferior conhecido é apenas o óbvio limite inferior n2 óbvio porque temos de preencher n2 elementos da matriz do produto De um ponto de vista prático muitas vezes o algoritmo de Strassen não é o método de preferência para multiplicação de matrizes por quatro razões O fator constante oculto no tempo de execução Θnlg 7 do algoritmo de Strassen é maior do que o fator constante no tempo Θn3 do procedimento SQUAREMATRIXMULTIPLY Quando as matrizes são esparsas os métodos específicos para matrizes esparsas são mais rápidos O algoritmo de Strassen não é tão numericamente estável quanto o procedimento SQUAREMATRIXMULTIPLY Em outras palavras em razão da utilização de aritmética de computador de precisão limitada para tratar valores não inteiros acumulamse erros maiores no algoritmo de Strassen do que no procedimento SQUAREMATRIXMULTIPLY As submatrizes formadas nos níveis de recursão consomem espaço As duas últimas razões foram atenuadas por volta de 1990 Higham 167 demonstrou que a diferença em estabilidade numérica tinha sido alvo de excessiva ênfase embora o algoritmo de Strassen seja demasiadamente instável numericamente para algumas aplicações essa instabilidade está dentro de limites aceitáveis para outras Bailey Lee e Simon 32 discutem técnicas para reduzir os requisitos de memória para o algoritmo de Strassen Na prática implementações de multiplicação rápida de matrizes para matrizes densas usam o algoritmo de Strassen para tamanhos de matrizes acima de um ponto de passagem e trocam para um método mais simples tão logo o tamanho do subproblema se reduza a uma dimensão abaixo do ponto de passagem O valor exato do ponto de passagem depende muito do sistema As análises que contam operações mas ignoram os efeitos de caches e pipelines produziram pontos de passagem baixos de até n 8 por Higham 167 ou n 12 por HussLederman et al 186 DAlberto e Nicolau 81 desenvolveram um esquema adaptativo que determina o ponto de passagem por comparação com paradigmas estabelecidos quando da instalação de seu pacote de software Eles encontraram pontos de passagem em vários sistemas na faixa de n 400 a n 2150 e não conseguiram determinar um ponto de passagem para alguns sistemas Recorrências já eram estudadas em 1202 por L Fibonacci e é a ele que os números de Fibonacci devem sua denominação A De Moivre introduziu o método de funções geradoras veja Problema 44 para resolver recorrências O método mestre foi adaptado de Bentley Haken e Saxe 44 que fornece o método estendido justificado pelo Exercício 462 Knuth 209 e Liu 237 mostram como resolver recorrências lineares usando o método de funções geradoras Purdom e Brown 287 e Graham Knuth e Patashnik 152 contêm discussões extensas da solução de recorrências Vários pesquisadores entre eles Akra e Bazzi 13 Roura 299 Verma 346 e Yap 306 propuseram métodos para resolver recorrências de divisão e conquista mais gerais do que as que são resolvidas pelo método mestre Descrevemos aqui o resultado de Akra e Bazzi como modificado por Leighton 228 O método de AkraBazzi funciona para recorrências da forma onde x 1 é um número real x0 é uma constante tal que x0 1bi e x0 11 bi para i 1 2 k ai é uma constante positiva para i 1 2 k bi é uma constante na faixa 0 bi 1 para i 1 2 k k 1 é uma constante inteira e fx é uma função não negativa que satisfaz a condição de crescimento polinomial existem constantes positivas c1 e c2 tais que para todo x 1 para i 1 2 k e para todo u tal que bix u x temos c1 fx fu c2 fx Se f x tiver como limite superior algum polinômio em x então fx satisfaz a condição de crescimento polinomial Por exemplo fx xa lgb x satisfaz essa condição para quaisquer constantes reais a e b Embora o método mestre não se aplique a um recorrência como Tn Tn3 T2n3 On o método de AkraBazzi se aplica Para resolver a recorrência 430 em primeiro lugar determine o único número real p tal que Tal p sempre existe Então a solução para a recorrência é O método de AkraBazzi pode ser um pouco difícil de usar mas serve para resolver recorrências que modelam a divisão do problema em subproblemas de tamanhos substancialmente desiguais O método mestre é mais simples de usar mas só se aplica quando os tamanhos dos subproblemas são iguais 51 5 ANÁLISE PROBABILÍSTICA E ALGORITMOS ALEATORIZADOS Este capítulo introduz a análise probabilística e os algoritmos aleatorizados Se você não estiver familiarizado com os fundamentos da teoria das probabilidades leia o Apêndice C que apresenta uma revisão desse assunto A análise probabilística e os algoritmos aleatorizados serão revistos várias vezes ao longo deste livro O PROBLEMA DA CONTRATAÇÃO Suponha que você precise contratar um novo auxiliar de escritório Suas tentativas anteriores de contratação foram malsucedidas e você decidiu usar uma agência de empregos A agência de empregos lhe envia um candidato por dia e você o entrevista e depois decide contratálo ou não Você terá de pagar à agência de empregos uma pequena taxa para entrevistar um candidato Porém a contratação de um candidato é mais onerosa já que você tem de demitir seu auxiliar de escritório atual e pagar uma taxa de contratação substancial à agência de empregos A política de sua empresa é ter sempre a melhor pessoa possível para o cargo Portanto você decide que depois de entrevistar cada candidato se esse candidato for mais bem qualificado que o auxiliar de escritório atual o auxiliar de escritório atual será demitido e o novo candidato será contratado Você está disposto a pagar o preço resultante dessa estratégia mas deseja avaliar qual será esse preço O procedimento HIREASSISTANT dado a seguir expressa essa estratégia de contratação em pseudocódigo Tal procedimento considera que os candidatos ao emprego de auxiliar de escritório são numerados de 1 a n e também que depois de entrevistar o candidato i você poderá determinar se esse candidato i é o melhor que viu até então Para inicializar o procedimento cria um candidato fictício de número 0 menos qualificado que cada um dos outros candidatos O modelo de custo para esse problema é diferente do modelo descrito no Capítulo 2 Não estamos preocupados com o tempo de execução de HIREASSISTANT mas com os custos incorridos na entrevista e na contratação À primeira vista analisar o custo desse algoritmo pode parecer muito diferente de analisar o tempo de execução digamos da ordenação por intercalação Porém as técnicas analíticas usadas são idênticas quer estejamos analisando custo ou tempo de execução Em um ou outro caso estamos contando o número de vezes que certas operações básicas são executadas Entrevistar tem um custo baixo digamos ci enquanto contratar é caro e custa ch Se m for o número de pessoas contratadas o custo total associado a esse algoritmo é Ocin chm Independentemente de quantas pessoas contratarmos sempre entrevistaremos n candidatos e portanto sempre incorreremos no custo cin associado a entrevistar Assim nos concentraremos na análise de chm o custo de contratação Essa quantidade varia com cada execução do algoritmo Esse cenário serve como modelo para um paradigma computacional bem comum Muitas vezes precisamos determinar o valor máximo ou mínimo em uma sequência examinando cada elemento da sequência e mantendo um vencedor atual O problema da contratação modela a frequência com que atualizamos nossa noção de qual elemento está vencendo no momento em questão Análise do pior caso No pior caso contratamos cada candidato que entrevistamos Essa situação ocorre se os candidatos vierem em ordem estritamente crescente de qualidade e nesse caso contratamos n vezes para um custo total de contratação Ochn Porém é claro que os candidatos nem sempre vêm em ordem crescente de qualidade De fato não temos nenhuma ideia da ordem em que eles chegam nem temos qualquer controle sobre essa ordem Portanto é natural perguntar o que esperamos que aconteça em um caso típico ou médio Análise probabilística A análise probabilística é a utilização da probabilidade na análise de problemas Na maior parte das vezes usamos análise probabilística para analisar o tempo de execução de um algoritmo Às vezes nós a usamos para analisar outras quantidades como o custo da contratação no procedimento HIREASSISTANT Para efetuar uma análise probabilística temos de conhecer ou supor a distribuição das entradas Em seguida analisamos nosso algoritmo calculando o tempo de execução para o caso médio e tomamos a média sobre a distribuição das entradas possíveis Assim na verdade estamos calculando a média do tempo de execução de todas as entradas possíveis Quando informarmos esse tempo de execução nós o denominaremos tempo de execução do caso médio Temos de tomar muito cuidado quando decidirmos a distribuição das entradas Em alguns problemas é possível inferir razoavelmente alguma coisa sobre o conjunto de todas as entradas possíveis então poderemos usar a análise probabilística como técnica para projetar um algoritmo eficiente e como um meio de compreender melhor um problema Em outros problemas não é possível descrever uma distribuição de entradas razoável e nesses casos não podemos utilizar a análise probabilística No caso do problema da contratação podemos considerar que os candidatos vêm em uma ordem aleatória O que isso significa para esse problema Supomos que podemos comparar dois candidatos quaisquer e decidir qual é o mais bem qualificado isto é existe uma ordem total para os candidatos Consulte o Apêndice B para ver a definição de uma ordem total Assim podemos classificar cada candidato com um número exclusivo de 1 a n usando ordenaçãoi para denotar o posto do candidato i adotando a convenção de que um posto mais alto corresponde a um candidato mais bem qualificado A lista ordenada ordenação1 ordenação2 ordenaçãon é uma permutação da lista 1 2 n Dizer que os candidatos chegam em ordem aleatória equivale a dizer que essa lista de classificações tem igual probabilidade de ser qualquer uma das n permutações dos números 1 a n Alternativamente dizemos que as classificações formam uma permutação aleatória uniforme isto é cada uma das n permutações possíveis aparece com igual probabilidade A Seção 52 contém uma análise probabilística do problema da contratação 511 512 513 Algoritmos aleatorizados Para utilizar a análise probabilística precisamos saber alguma coisa sobre a distribuição das entradas Em muitos casos sabemos bem pouco sobre tal distribuição Mesmo que saibamos algo sobre a distribuição talvez não possamos modelar esse conhecimento em termos computacionais Ainda assim muitas vezes podemos usar probabilidade e aleatoriedade como ferramentas para projeto e análise de algoritmos aleatorizando o comportamento de parte do algoritmo No problema da contratação pode parecer que os candidatos estão sendo apresentados em ordem aleatória mas não temos nenhum meio de saber se isso realmente acontece ou não Portanto para desenvolver um algoritmo aleatorizado para o problema da contratação devemos ter maior controle sobre a ordem em que entrevistamos os candidatos Portanto vamos alterar um pouco o modelo Dizemos que a agência de empregos tem n candidatos e que ela nos envia uma lista dos candidatos com antecedência A cada dia escolhemos aleatoriamente qual candidato entrevistar Embora não saibamos nada sobre os candidatos além de seus nomes fizemos uma mudança significativa Em vez de confiar em uma suposição de que os candidatos virão em ordem aleatória obtivemos o controle do processo e impusemos uma ordem aleatória De modo mais geral dizemos que um algoritmo é aleatorizado se seu comportamento for determinado não apenas por sua entrada mas também por valores produzidos por um gerador de números aleatórios Consideraremos que temos à nossa disposição um gerador de números aleatórios RANDOM Uma chamada a RANDOMa b retorna um inteiro entre a e b inclusive sendo cada inteiro igualmente provável Por exemplo RANDOM0 1 produz 0 com probabilidade 12 e produz 1 com probabilidade 12 Uma chamada a RANDOM3 7 retorna 3 4 5 6 ou 7 cada um com probabilidade 15 Cada inteiro retornado por RANDOM é independente dos inteiros retornados em chamadas anteriores Você pode imaginar RANDOM como o lançamento de um dado de b a 1 lados para obter sua saída Na prática a maioria dos ambientes de programação oferece um gerador de números pseudoaleatórios um algoritmo determinístico que retorna números que parecem aleatórios estatisticamente Quando analisamos o tempo de execução de um algoritmo aleatorizado adotamos a expectativa do tempo de execução para a distribuição de valores retornada pelo gerador de números aleatórios Distinguimos esses algoritmos daqueles cuja entrada é aleatória referindonos ao tempo de execução de um algoritmo aleatorizado como um tempo de execução esperado Em geral discutimos o tempo de execução do caso médio quando a distribuição de probabilidade referese às entradas do algoritmo e discutimos o tempo de execução esperado quando o próprio algoritmo faz escolhas aleatórias Exercícios Mostre que a suposição de que sempre somos capazes de determinar qual candidato é o melhor na linha 4 do procedimento HIREASSISTANT implica que conhecemos uma ordem total para as classificações dos candidatos Descreva uma implementação do procedimento RANDOMa b que só faça chamadas a RAN DOM0 1 Qual é o tempo de execução esperado de seu procedimento em função de a e b Suponha que você queira que saia 0 com probabilidade 12 e 1 com probabilidade 12 Há um procedimento BIASEDRANDOM à sua disposição que produz como saída 0 ou 1 A saída é 1 com alguma probabilidade p e 0 com probabilidade 1 p onde 0 p 1 mas você não sabe qual é o valor de p Dê um algoritmo que utilize BIASEDRANDOM como uma subrotina e retorne uma resposta não enviesada retornando 0 com probabilidade 12 e 1 com probabilidade 12 Qual é o tempo de execução esperado de seu algoritmo em função de p 52 VARIÁVEIS ALEATÓRIAS INDICADORAS Para analisar muitos algoritmos inclusive o problema da contratação usamos variáveis aleatórias indicadoras Variáveis aleatórias indicadoras nos dão um método conveniente para converter probabilidades em expectativas Suponha que temos um espaço amostral S e um evento A Então a variável aleatória indicadora IA associada ao evento A é definida como Como um exemplo simples vamos determinar o número esperado de caras que obtemos quando lançamos uma moeda não viciada Nosso espaço amostral é S H T com Pr H Pr T 12 Então podemos definir uma variável aleatória indicadora XH associada ao resultado cara do lançamento da moeda que é o evento H Essa variável conta o número de caras obtidas nesse lançamento e é 1 se a moeda der cara caso contrário é 0 Escrevemos O número esperado de caras obtidas em um lançamento da moeda é simplesmente o valor esperado de nossa variável indicadora XH Desse modo o número esperado de caras obtidas por um lançamento de uma moeda não viciada é 12 Como mostra o lema a seguir o valor esperado de uma variável aleatória indicadora associada a um evento A é igual à probabilidade de A ocorrer Lema 51 Dado um espaço amostral S e um evento A no espaço amostral S seja XA IA Então EXA PrA Prova Pela definição de variável aleatória indicadora da equação 51 e pela definição de valor esperado temos Embora variáveis aleatórias indicadoras possam parecer incômodas para uma aplicação como a contagem do número esperado de caras no lançamento de uma única moeda elas são úteis para analisar situações em que realizamos testes aleatórios repetidos Por exemplo as variáveis aleatórias indicadoras nos dão um caminho simples para chegar ao resultado da equação C37 Nessa equação calculamos o número de caras em n lançamentos da moeda considerando separadamente a probabilidade de obter 0 cara 1 cara 2 caras etc Ao contrário o método mais simples proposto na equação C38 utiliza implicitamente variáveis aleatórias indicadoras Tornando esse argumento mais explícito fazemos Xi a variável aleatória indicadora associada ao evento no qual o iésimo lançamento dá cara Xi I o iésimo lançamento resulta no evento H Seja X a variável aleatória que denota o número total de caras nos n lançamentos da moeda de modo que Desejamos calcular o número esperado de caras para isso tomamos a esperança de ambos os lados da equação anterior para obter Essa equação dá a esperança da soma de n variáveis aleatórias indicadoras Pelo Lema 51 podemos calcular facilmente a esperança de cada uma das variáveis aleatórias Pela equação C21 linearidade de esperança é fácil calcular a esperança da soma ela é igual à soma das esperanças das n variáveis aleatórias A linearidade de esperança torna a utilização das variáveis aleatórias indicadoras uma técnica analítica poderosa ela se aplica até mesmo quando existe dependência entre as variáveis aleatórias Agora é fácil calcular o número esperado de caras Assim em comparação com o método empregado na equação C37 as variáveis aleatórias indicadoras simplificam muito o cálculo Utilizaremos variáveis aleatórias indicadoras em todo este livro Análise do problema da contratação com a utilização de variáveis aleatórias indicadoras Voltando ao problema da contratação agora desejamos calcular o número esperado de vezes que contratamos um novo auxiliar de escritório Para usar uma análise probabilística supomos que os candidatos chegam em ordem aleatória como discutimos na seção anterior Veremos na Seção 53 como descartar essa premissa Seja X a variável aleatória cujo valor é igual ao número de vezes que contratamos um novo auxiliar de escritório Então poderemos aplicar a definição de valor esperado da equação C20 para obter mas esse cálculo seria incômodo Em vez disso utilizaremos variáveis aleatórias indicadoras para simplificar bastante o cálculo Para usar variáveis aleatórias indicadoras em vez de calcular EX definindo uma única variável associada ao número de vezes que contratamos um novo auxiliar de escritório definimos n variáveis relacionadas com a contratação ou não contratação de cada candidato específico Em particular tomamos Xi como a variável aleatória indicadora associada ao evento em que o iésimo candidato é contratado Desse modo e Pelo Lema 51 temos que EXi Pr o candidato i é contratado e portanto devemos calcular a probabilidade de as linhas 56 de HIREASSISTANT serem executadas O candidato i é contratado na linha 6 exatamente quando ele é melhor que cada um dos candidatos 1 a i 1 Como supomos que os candidatos chegam em ordem aleatória os primeiros i candidatos apareceram em ordem aleatória Qualquer um desses i primeiros candidatos tem igual probabilidade de ser o mais bem qualificado até o momento O candidato i tem uma probabilidade 1i de ser mais bem qualificado que os candidatos 1 a i 1 e assim uma probabilidade 1i de ser contratado Pela Lema 51 concluímos que Agora podemos calcular EX Apesar de entrevistarmos n pessoas na realidade só contratamos aproximadamente ln n delas em média Resumimos esse resultado no lema a seguir Lema 52 521 522 523 524 525 53 Considerando que os candidatos sejam apresentados em ordem aleatória o algoritmo HIREASSISTANT tem um custo total de contratação Och ln n no caso médio Prova O limite decorre imediatamente de nossa definição do custo de contratação e da equação 55 que mostra que o número esperado de contratações é aproximadamente ln n O custo de contratação do caso médio é uma melhoria significativa em relação ao custo de contratação do pior caso On ch Exercícios Em HIREASSISTANT supondo que os candidatos sejam apresentados em ordem aleatória qual é a probabilidade de você contratar exatamente uma vez Qual é a probabilidade de você contratar exatamente n vezes Em HIREASSISTANT supondo que os candidatos sejam apresentados em ordem aleatória qual é a probabilidade de você contratar exatamente duas vezes Use variáveis aleatórias indicadoras para calcular o valor esperado da soma de n dados Use variáveis aleatórias indicadoras para resolver o problema a seguir conhecido como problema da chapelaria Cada um dos n clientes entrega um chapéu ao funcionário da chapelaria em um restaurante O funcionário devolve os chapéus aos clientes em ordem aleatória Qual é o número esperado de clientes que recebem de volta seus próprios chapéus Seja A1 n um arranjo de n números distintos Se i j e Ai Aj então o par i j é denominado inversão de A Veja no Problema 24 mais informações sobre inversões Suponha que os elementos de A formem uma permutação aleatória uniforme de 1 2 n Use variáveis aleatórias indicadoras para calcular o número esperado de inversões ALGORITMOS ALEATORIZADOS Na seção anterior mostramos como conhecer uma distribuição para as entradas pode nos ajudar a analisar o comportamento do caso médio de um algoritmo Muitas vezes não temos tal conhecimento o que impossibilita uma análise do caso médio Como mencionamos na Seção 51 talvez possamos usar um algoritmo aleatorizado No caso de um problema como o da contratação no qual é útil considerar que todas as permutações da entrada são igualmente prováveis uma análise probabilística pode orientar o desenvolvimento de um algoritmo aleatorizado Em vez de supor uma distribuição de entradas impomos uma distribuição Em particular antes de executar o algoritmo permutamos aleatoriamente os candidatos de modo a impor a propriedade de cada permutação ser igualmente provável Embora tenhamos modificado o algoritmo ainda esperamos contratar um novo auxiliar de escritório aproximadamente ln n vezes Porém agora esperamos que seja esse o caso para qualquer entrada e não somente para entradas obtidas de uma distribuição particular Vamos explorar um pouco mais a distinção entre análise probabilística e algoritmos aleatorizados Na Seção 52 afirmamos que supondo que os candidatos se apresentem em ordem aleatória o número esperado de vezes que contratamos um novo auxiliar de escritório é aproximadamente ln n Observe que aqui o algoritmo é determinístico para qualquer entrada particular o número de vezes que contratamos um novo auxiliar de escritório é sempre o mesmo Além disso o número de vezes que contratamos um novo auxiliar de escritório é diferente para entradas diferentes e depende das classificações dos diversos candidatos Visto que esse número depende apenas das classificações dos candidatos podemos representar uma entrada particular fazendo uma lista ordenada das classificações dos candidatos isto é ordenação1 ordenação2 ordenaçãon Dada a lista de classificações A1 1 2 3 4 5 6 7 8 9 10 um novo auxiliar de escritório é sempre contratado 10 vezes já que cada candidato sucessivo é melhor que o anterior e as linhas 56 são executadas em cada iteração Dada a lista de classificações A2 10 9 8 7 6 5 4 3 2 1 um novo auxiliar de escritório é contratado apenas uma vez na primeira iteração Dada uma lista de classificações A3 5 2 1 8 4 7 10 9 3 6 um novo auxiliar de escritório é contratado três vezes após as entrevistas com os candidatos classificados como 5 8 e 10 Lembrando que o custo de nosso algoritmo depende de quantas vezes contratamos um novo auxiliar de escritório vemos que existem entradas custosas como A1 entradas econômicas como A2 e entradas moderadamente custosas como A3 Por outro lado considere o algoritmo aleatorizado que primeiro permuta os candidatos e depois determina o melhor candidato Nesse caso a aleatoriedade está no algoritmo e não na distribuição de entradas Dada uma entrada específica digamos a entrada A3 citada não podemos dizer quantas vezes o máximo será atualizado porque essa quantidade é diferente a cada execução do algoritmo A primeira vez em que executamos o algoritmo sobre A3 ele pode produzir a permutação A1 e executar 10 atualizações porém na segunda vez em que executamos o algoritmo podemos produzir a permutação A2 e executar apenas uma atualização Na terceira vez em que o executamos podemos produzir algum outro número de atualizações A cada vez que executamos o algoritmo a execução depende das escolhas aleatórias feitas e ela provavelmente será diferente da execução anterior do algoritmo Para esse algoritmo e muitos outros algoritmos aleatorizados nenhuma entrada específica induz seu comportamento do pior caso Nem mesmo o seu pior inimigo poderá produzir um arranjo de entrada ruim já que a permutação aleatória torna irrelevante a ordem de entrada O algoritmo aleatorizado só funcional mal se o gerador de números aleatórios produzir uma permutação azarada No caso do problema da contratação a única alteração necessária no código é a permutação aleatória do arranjo Com essa mudança simples criamos um algoritmo aleatorizado cujo desempenho corresponde àquele obtido considerando que os candidatos se apresentavam em ordem aleatória Lema 53 O custo de contratação esperado do procedimento RANDOMIZEDHIREASSISTANT é Och ln n Prova Depois de permutar o arranjo de entrada chegamos a uma situação idêntica à da análise probabilística de HIRE ASSISTANT A comparação entre os Lemas 52 e 53 destaca a diferença entre análise probabilística e algoritmos aleatorizados No Lema 52 fazemos uma suposição sobre a entrada No Lema 53 não fazemos tal suposição embora aleatorizar a entrada demore algum tempo adicional Para manter a consistência com a terminologia que adotamos expressamos o Lema 52 em termos do custo de contratação do caso médio e o Lema 53 em termos do custo de contratação esperado No restante desta seção discutiremos algumas questões relacionadas com a permutação aleatória das entradas Permutação aleatória de arranjos Muitos algoritmos aleatorizados aleatorizam a entrada permutando o arranjo de entrada dado Existem outras maneiras de usar aleatorização Aqui discutiremos dois métodos para esse fim Supomos que temos um arranjo A que sem perda de generalidade contém os elementos 1 a n Nossa meta é produzir uma permutação aleatória do arranjo Um método comum é atribuir a cada elemento Ai do arranjo uma prioridade aleatória Pi e depois ordenar os elementos de A de acordo com essas prioridades Por exemplo se nosso arranjo inicial for A 1 2 3 4 e escolhermos as prioridades aleatórias P 36 3 62 19 produziremos um arranjo B 2 4 1 3 já que a segunda prioridade é a menor seguida pela quarta depois pela primeira e finalmente pela terceira Denominamos esse procedimento PERMUTEBYSORTING A linha 4 escolhe um número aleatório entre 1 e n3 Usamos uma faixa de 1 a n3 para que seja provável que todas as prioridades em P sejam únicas O Exercício 535 pede que você prove que a probabilidade de todas as entradas serem únicas é no mínimo 1 1n e o Exercício 536 pergunta como implementar o algoritmo ainda que duas ou mais prioridades sejam idênticas Vamos supor que todas as prioridades são únicas A etapa demorada nesse procedimento é a ordenação na linha 5 Como veremos no Capítulo 8 se usarmos uma ordenação por comparação a ordenação demorará o tempo n lg n Podemos atingir esse limite inferior já que vimos que a ordenação por intercalação demora o tempo Qn lg n Veremos na Parte II outras ordenações por comparação que tomam o tempo Qn lg n O Exercício 834 pede que você resolva o problema muito semelhante de ordenar números na faixa 0 a n3 1 no tempo On Depois da ordenação se Pi for a jésima menor prioridade então Ai encontrase na posição j da saída Dessa maneira obtemos uma permutação Resta provar que o procedimento produz uma permutação aleatória uniforme isto é que a probabilidade de ele produzir cada permutação dos números 1 a n é a mesma Lema 54 O procedimento PERMUTEBYSORTING produz uma permutação aleatória uniforme da entrada admitindo que todas as prioridades são distintas Prova Começamos considerando a permutação particular na qual cada elemento Ai recebe a iésima menor prioridade Mostraremos que essa permutação ocorre com probabilidade de exatamente 1n Para i 1 2 n seja Ei o evento em que o elemento Ai recebe a iésima menor prioridade Então desejamos calcular a probabilidade de que para todo i ocorre o evento Ei que é Usando o Exercício C25 essa probabilidade é igual a Temos que Pr E1 1n porque essa é a probabilidade de uma prioridade escolhida aleatoriamente em um conjunto de n ser a menor prioridade Em seguida observamos que Pr E2 E1 1n 1 porque dado que o elemento A1 tem a menor prioridade cada um dos n 1 elementos restantes tem igual chance de ter a segunda menor prioridade Em geral para i 2 3 n temos que PrEi Ei1 Ei2 E1 1n i 1 visto que dado que os elementos A1 até Ai 1 têm as i 1 menores prioridades em ordem cada um dos n i 1 elementos restantes tem igual chance de ter a iésima menor prioridade Assim temos e mostramos que a probabilidade de obter a permutação identidade é 1n Podemos estender essa prova a qualquer permutação de prioridades Considere uma permutação fixa qualquer s s1 s2 sn do conjunto 1 2 n Vamos denotar por ri a classificação da prioridade atribuída ao elemento Ai onde o elemento com a jésima menor prioridade tem a classificação j Se definirmos Ei como o evento no qual o elemento Ai recebe a siésima menor prioridade ou ri si a mesma prova ainda se aplica Portanto se calcularmos a probabilidade de obter qualquer permutação específica o cálculo será idêntico ao apresentado antes de modo que a probabilidade de obter essa permutação também será 1n Você poderia pensar que para provar que uma permutação é uma permutação aleatória uniforme é suficiente mostrar que para cada elemento Ai a probabilidade de ele terminar na posição j é 1n O Exercício 534 mostra que essa condição mais fraca é de fato insuficiente Um método melhor para gerar uma permutação aleatória é permutar o arranjo dado no lugar O procedimento RANDOMIZEINPLACE faz isso no tempo On Em sua iésima iteração o procedimento escolhe o elemento Ai aleatoriamente entre os elementos Ai e An Após a iésima iteração Ai nunca é alterado Usaremos um invariante de laço para mostrar que o procedimento RANDOMIZEINPLACE produz uma permutação aleatória uniforme Uma kpermutação sobre um conjunto de n elementos é uma sequência que contém k dos n elementos sem nenhuma repetição Consulte o Apêndice C Há nn k dessas permutações k possíveis Lema 55 O procedimento RANDOMIZEINPLACE calcula uma permutação aleatória uniforme Prova Usamos o seguinte invariante de laço Imediatamente antes da iésima iteração do laço for das linhas 23 para cada i 1permutação possível dos n elementos o subarranjo A1 i 1 contém essa i 1permutação com probabilidade n i 1n Precisamos mostrar que esse invariante é verdadeiro antes da primeira iteração do laço que cada iteração do laço mantém o invariante e que o invariante fornece uma propriedade útil para mostrar correção quando o laço termina Inicialização Considere a situação imediatamente antes da primeira iteração do laço de modo que i 1 O invariante de laço diz que para cada 0permutação possível o subarranjo A1 0 contém essa 0permutação com probabilidade n i 1n nn 1 O subarranjo A1 0 é um subarranjo vazio e uma 0 permutação não tem nenhum elemento Assim A1 0 contém qualquer 0permutação com probabilidade 1 e o invariante de laço é válido antes da primeira iteração 531 532 Manutenção Supomos que imediatamente antes da iésima iteração cada i 1 permutação possível aparece no subarranjo A1 i 1 com probabilidade n i 1n e mostraremos que após a iésima iteração cada ipermutação possível aparece no subarranjo A1 i com probabilidade n in Então incrementar i para a próxima iteração mantém o invariante de laço Vamos examinar a iésima iteração Considere uma ipermutação específica e denote os elementos que ela contém por x1 x2 xi Essa permutação consiste em uma i 1permutação x1 xi 1 seguida pelo valor xi que o algoritmo insere em Ai Seja E1 o evento no qual as primeiras i 1 iterações criaram a i 1permutação x1 xi 1 específica em A1 i 1 Pelo invariante de laço Pr E1 n i 1n Seja E2 o evento no qual a iésima iteração insere xi na posição Ai A ipermutação x1 xi aparece em A1 i exatamente quando ocorrem E1 e E2 e assim desejamos calcular Pr E2 E1 Usando a equação C14 temos Pr E2 E1 Pr E2 E1 Pr E1 A probabilidade Pr E2 E1 é igual a 1n i 1 porque na linha 3 o algoritmo escolhe xi aleatoriamente entre os n i 1 valores nas posições Ai n Desse modo temos Término No término i n 1 e temos que o subarranjo A1 n é uma npermutação dada com probabilidade n nn 1n Assim RANDOMIZEDINPLACE produz uma permutação aleatória uniforme Muitas vezes um algoritmo aleatorizado é o modo mais simples e mais eficiente de resolver um problema Usaremos algoritmos aleatorizados ocasionalmente em todo o livro Exercícios O professor Marceau faz objeções ao invariante de laço usado na prova do Lema 55 Ele questiona se o invariante de laço é verdadeiro antes da primeira iteração Seu raciocínio é que poderíamos com a mesma facilidade declarar que um subarranjo vazio não contém nenhuma 0permutação Portanto a probabilidade de um subarranjo vazio conter uma 0permutação deve ser 0 o que invalida o invariante de laço antes da primeira iteração Reescreva o procedimento RANDOMIZEINPLACE de modo que seu invariante de laço associado se aplique a um subarranjo não vazio antes da primeira iteração e modifique a prova do Lema 55 para o seu procedimento O professor Kelp decide escrever um procedimento que produzirá aleatoriamente qualquer permutação além da permutação identidade Ele propõe o seguinte procedimento 533 534 536 537 535 Esse código faz o que professor Kelp pretende Suponha que em vez de trocar o elemento Ai por um elemento aleatório do subarranjo Ai n nós o trocássemos por um elemento aleatório de qualquer lugar no arranjo Esse código produz uma permutação aleatória uniforme Justifique sua resposta O professor Armstrong sugere o seguinte procedimento para gerar uma permutação aleatória uniforme Mostre que cada elemento Ai tem uma probabilidade 1n de terminar em qualquer posição particular em B Então mostre que o professor Armstrong está equivocado demonstrando que a permutação resultante não é uniformemente aleatória Prove que no arranjo P do procedimento PERMUTEBYSORTING a probabilidade de todos os elementos serem únicos é no mínimo 1 1n Explique como implementar o algoritmo PERMUTEBYSORTING para tratar o caso no qual duas ou mais prioridades são idênticas Isto é seu algoritmo deve produzir uma permutação aleatória uniforme mesmo que duas ou mais prioridades sejam idênticas Suponha que queiramos criar uma amostra aleatória do conjunto 1 2 3 n isto é um subconjunto S de m elementos onde 0 m n tal que cada subconjunto m tenha igual probabilidade de ser criado Um 54 541 modo seria fazer Ai i para i 1 2 3 n chamar RANDOMIZEINPLACEA e depois tomar só os primeiros m elementos do arranjo Esse método faria n chamadas ao procedimento RANDOM Se n for muito maior do que m podemos criar uma amostra aleatória com um número menor de chamadas a RANDOM Mostre que o seguinte procedimento recursivo retorna um subconjunto aleatório m de S 1 2 3 n no qual cada subconjunto m é igualmente provável enquanto faz somente m chamadas a RANDOM ANÁLISE PROBABILÍSTICA E USOS ADICIONAIS DE VARIÁVEIS ALEATÓRIAS INDICADORAS Esta seção avançada ilustra um pouco mais a análise probabilística por meio de quatro exemplos O primeiro determina a probabilidade de em uma sala com k pessoas duas delas compartilharem a mesma data de aniversário O segundo exemplo examina o que acontece quando lançamos aleatoriamente bolas em caixas O terceiro investiga sequências de caras consecutivas no lançamento de moedas O exemplo final analisa uma variante do problema da contratação na qual você tem de tomar decisões sem entrevistar realmente todos os candidatos O PARADOXO DO ANIVERSÁRIO Nosso primeiro exemplo é o paradoxo do aniversário Quantas pessoas devem estar em uma sala antes de existir uma chance de 50 de duas delas terem nascido no mesmo dia do ano A resposta é um número de pessoas surpreendentemente pequeno O paradoxo é que esse número é de fato muito menor que o número de dias do ano ou até menor que metade do número de dias do ano como veremos Para responder à pergunta indexamos as pessoas na sala com os inteiros 1 2 k onde k é o número de pessoas na sala Ignoramos a questão dos anos bissextos e supomos que todos os anos têm n 365 dias Para i 1 2 k seja bi o dia do ano no qual cai o aniversário da pessoa i onde 1 bi n Supomos também que os aniversários estão uniformemente distribuídos pelos n dias do ano de modo que Pr bi r 1n para i 1 2 k e r 1 2 n A probabilidade de que duas pessoas dadas digamos i e j tenham datas de aniversário coincidentes depende do fato de a seleção aleatória de aniversários ser independente De agora em diante supomos que os aniversários são independentes de modo que a probabilidade de o aniversário de i e o aniversário de j caírem ambos no dia r é Assim a probabilidade de ambos caírem mesmo dia é Mais intuitivamente uma vez escolhido bi a probabilidade de bj ser escolhido como o mesmo dia é 1n Assim a probabilidade de i e j terem o mesmo dia de aniversário é igual à probabilidade de o aniversário de um deles cair em um determinado dia Porém observe que essa coincidência depende de supor que os dias de aniversário são independentes Podemos analisar a probabilidade de no mínimo 2 entre k pessoas terem aniversários coincidentes examinando o evento complementar A probabilidade de no mínimo dois dos aniversários coincidirem é 1 menos a probabilidade de todos os aniversários serem diferentes O evento no qual k pessoas têm aniversários distintos é onde Ai é o evento de o aniversário da pessoa i ser diferente do aniversário da pessoa j para todo j i Visto que podemos escrever Bk Ak Bk 1 obtemos da equação C16 a recorrência onde tomamos Pr B1 Pr A1 1 como uma condição inicial Em outras palavras a probabilidade de que b1 b2 bk sejam aniversários distintos é a probabilidade de b1 b2 bk1 serem aniversários distintos vezes a probabilidade de que bk bi para i 1 2 k 1 dado que b1 b2 bk1 são distintos Se b1 b2 bk1 são distintos a probabilidade condicional de que bk bi para i 1 2 k 1 é Pr Ak Bk 1 n k 1n já que dos n dias há n k 1 que não são tomados Aplicamos iterativamente a recorrência 57 para obter quando kk 12n ln12 A probabilidade de que todos os k aniversários sejam distintos é no máximo 12 quando kk 1 2n ln 2 ou resolvendo a equação quadrática quando k 1 18 ln 2 n2 Para n 365 devemos ter k 23 Assim se no mínimo 23 pessoas estiverem em uma sala a probabilidade de que ao menos duas pessoas tenham a mesma data de aniversário é no mínimo 12 Em Marte um ano dura 669 dias marcianos então seriam necessários 31 marcianos para conseguirmos o mesmo efeito Uma análise usando variáveis aleatórias indicadoras Podemos usar variáveis aleatórias indicadoras para fornecer uma análise mais simples embora aproximada do paradoxo do aniversário Para cada par i j das k pessoas na sala definimos a variável aleatória indicadora Xij para 1 i j k por Pela equação 56 a probabilidade de duas pessoas terem aniversários coincidentes é 1n e assim pelo Lema 51 temos Sendo X a variável aleatória que conta o número de pares de indivíduos que têm a mesma data de aniversário temos Tomando as esperanças de ambos os lados e aplicando a linearidade de expectativa obtemos Portanto quando kk 1 2n o número esperado de pares de pessoas com a mesma data de aniversário é no mínimo 1 Assim se tivermos no mínimo 2n 1 indivíduos em uma sala poderemos esperar que no mínimo dois deles façam aniversário no mesmo dia Para n 365 se k 28 o número esperado de pares com o mesmo dia de aniversário é 28 272 365 10356 Assim com no mínimo 28 pessoas esperamos encontrar no mínimo um par de aniversários coincidentes Em Marte onde um ano corresponde a 669 dias marcianos precisaríamos de no mínimo 38 marcianos A primeira análise que usou somente probabilidades determinou o número de pessoas necessárias para que a probabilidade de existir um par de datas de aniversário coincidentes exceda 12 e a segunda análise que empregou 542 variáveis aleatórias indicadoras determinou o número tal que o número esperado de aniversários coincidentes é 1 Embora os números exatos de pessoas sejam diferentes nas duas situações eles são assintoticamente iguais Θn BOLAS E CAIXAS Considere um processo no qual lançamos aleatoriamente bolas idênticas em b caixas numeradas 1 2 b Os lançamentos são independentes e em cada lançamento a bola tem igual probabilidade de terminar em qualquer caixa A probabilidade de uma bola lançada cair em qualquer caixa dada é 1b Assim o processo de lançamento de bolas é uma sequência de tentativas de Bernoulli consulte o Apêndice C Seção C4 com uma probabilidade de sucesso 1b onde sucesso significa que a bola cai na caixa dada Esse modelo é particularmente útil para analisar hashing espalhamento veja o Capítulo 11 e podemos responder a uma variedade de perguntas interessantes sobre o processo de lançamento de bolas O Problema C1 faz perguntas adicionais sobre bolas e caixas Quantas bolas caem em uma determinada caixa O número de bolas que caem em uma caixa dada segue a distribuição binomial bk n 1b Se lançarmos n bolas a equação C37 nos informa que o número esperado de bolas que caem na caixa dada é nb Quantas bolas devemos lançar em média até que uma caixa dada contenha uma bola O número de lançamentos até a caixa dada receber uma bola segue a distribuição geométrica com probabilidade 1b e pela equação C32 o número esperado de lançamentos até o sucesso é 11b b Quantas bolas devemos lançar até toda caixa conter no mínimo uma bola Vamos chamar um lançamento no qual uma bola cai em uma caixa vazia de acerto Queremos saber o número esperado n de lançamentos necessários para conseguir b acertos Usando os acertos podemos dividir os n lançamentos em fases A iésima fase consiste nos lançamentos depois do i 1ésimo acerto até o iésimo acerto A primeira fase consiste no primeiro lançamento já que um acerto já está garantido quando todas as caixas estão vazias Para cada lançamento durante a iésima fase i 1 caixas contêm bolas e b i 1 caixas estão vazias Assim para cada lançamento na iésima fase a probabilidade de obter um acerto é b i 1b Seja ni o número de lançamentos na iésima fase Assim o número de lançamentos exigidos para obter b acertos é n n Cada variável aleatória ni tem uma distribuição geométrica com probabilidade de sucesso b i 1b e pela equação C32 temos Por linearidade de esperança 543 Portanto são necessários aproximadamente b ln b lançamentos antes de podermos esperar que toda caixa tenha uma bola Esse problema também é conhecido como problema do colecionador de cupons que diz que uma pessoa que tenta colecionar cada um de b cupons diferentes espera adquirir aproximadamente b ln b cupons obtidos aleatoriamente para ter sucesso SEQUÊNCIAS Suponha que você lance uma moeda não viciada n vezes Qual é a sequência mais longa de caras consecutivas que você espera ver A resposta é Qlg n como mostra a análise a seguir Primeiro provamos que o comprimento esperado da sequência mais longa de caras é Olg n A probabilidade de cada lançamento de moeda ser uma cara é 12 Seja Aik o evento no qual uma sequência de caras de comprimento no mínimo k começa com o iésimo lançamento de moeda ou mais precisamente o evento no qual os k lançamentos consecutivos de moedas i i 1 i k 1 produzem somente caras onde 1 k n e 1 i n k 1 Como os lançamentos de moedas são mutuamente independentes para qualquer evento dado Aik a probabilidade de todos os k lançamentos serem caras é e portanto a probabilidade de uma sequência de caras de comprimento no mínimo igual a 2 lg n começar na posição i é bastante pequena Há no máximo n 2 lg n 1 posições onde tal sequência pode começar Portanto a probabilidade de uma sequência de caras de comprimento no mínimo 2 lg n começar em qualquer lugar é já que pela desigualdade de Boole C19 a probabilidade de uma união de eventos é no máximo a soma das probabilidades dos eventos individuais Observe que a desigualdade de Boole é válida até mesmo para eventos como esses que não são independentes Agora usamos a desigualdade 59 para limitar o comprimento da sequência mais longa Para j 0 1 2 n seja Lj o evento no qual a sequência mais longa de caras tem comprimento exatamente j e seja L o comprimento da sequência mais longa Pela definição de valor esperado temos Poderíamos tentar avaliar essa soma usando limites superiores para cada Pr Lj semelhantes aos que foram calculados na desigualdade 59 Infelizmente esse método produziria limites fracos Porém podemos usar certa intuição adquirida na análise anterior para obter um bom limite Informalmente observamos que não há nenhum termo individual no somatório da equação 510 para o qual ambos os fatores j e Pr Lj são grandes Por quê Quando j 2 lg n então Pr Lj é muito pequeno e quando j 2 lg n então j é razoavelmente pequeno De um modo mais formal notamos que os eventos Lj para j 0 1 n são disjuntos e assim a probabilidade de uma sequência de caras de comprimento no mínimo 2 lg n começar em qualquer lugar é Pela desigualdade 59 temos Além disso observando que temos que Assim obtemos A probabilidade de uma sequência de caras exceder r lg n lançamentos diminui rapidamente com r Para r 1 a probabilidade de uma sequência de no mínimo r lg n caras começar na posição i é Assim a probabilidade de a sequência mais longa ser no mínimo r lg n é no máximo igual a nnr 1nr 1 ou o que é equivalente a probabilidade de a sequência mais longa ter comprimento menor que r lg n é no mínimo 1 1nr 1 Como exemplo para n 1000 lançamentos de moeda a probabilidade de termos uma sequência de no mínimo 2 lg n 20 caras é no máximo 1 n 11000 A chance de termos uma sequência mais longa que 3 lg n 30 caras é no máximo 1n2 11000000 Agora vamos provar um limite complementar inferior o comprimento esperado da sequência mais longa de caras em n lançamentos de moeda é lg n Para provar esse limite procuramos sequências de comprimento s repartindo os n lançamentos em aproximadamente ns grupos de s lançamentos cada Se escolhermos s lg n2 poderemos mostrar que é provável que no mínimo um desses grupos dê somente caras e consequentemente é provável que a sequência mais longa tenha comprimento no mínimo igual a s lg n Então mostramos que a sequência mais longa tem comprimento esperado lg n Repartimos os n lançamentos de moedas em no mínimo nlg n2 grupos de lg n2 lançamentos consecutivos e limitamos a probabilidade de nenhum grupo dar somente caras Pela equação 58 a probabilidade de o grupo que começa na posição i dar somente caras é Então a probabilidade de uma sequência de caras de comprimento no mínimo igual a lg n2 não começar na posição i é no máximo 1 1 n Visto que os nlg n2 grupos são formados por lançamentos de moedas mutuamente exclusivos e independentes a probabilidade de cada um desses grupos não ser uma sequência de comprimento lg n2 é no máximo Para esse argumento usamos a desigualdade 312 1 x ex e o fato que seria bem interessante você verificar de 2nlg n 1 n lg n para n suficientemente grande Assim a probabilidade de a sequência mais longa exceder lg n2 é Agora podemos calcular um limite inferior para o comprimento esperado da sequência mais longa começando com a equação 510 e prosseguindo de modo semelhante à nossa análise do limite superior Como ocorre no caso do paradoxo do aniversário podemos obter uma análise mais simples porém aproximada usando variáveis aleatórias indicadoras Seja Xik I Aik a variável aleatória indicadora associada a uma sequência de caras de comprimento no mínimo k que começa com o iésimo lançamento da moeda Para contar o número total de tais sequências definimos 544 Tomando esperanças e usando linearidade de esperança temos Inserindo diversos valores para k podemos calcular o número esperado de sequências de comprimento k Se esse número for grande muito maior que 1 esperamos que ocorram muitas sequências de comprimento k e a probabilidade de ocorrer uma é alta Se esse número for pequeno muito menor que 1 esperamos que ocorra um pequeno número de sequências de comprimento k e a probabilidade de ocorrer uma é baixa Se k c lg n para alguma constante positiva c obtemos Se c for grande o número esperado de sequências de comprimento c lg n é pequeno e concluímos que é improvável que elas ocorram Por outro lado se c 12 então obtemos EX Q1n12 1 Qn12 e esperamos que exista um número grande de sequências de comprimento 12 lg n Portanto é provável que ocorra uma sequência de tal comprimento Só por essas estimativas grosseiras já podemos concluir que o comprimento esperado da sequência mais longa é Qlg n O PROBLEMA DA CONTRATAÇÃO ONLINE Como exemplo final examinaremos uma variante do problema da contratação Suponha agora que não desejamos entrevistar todos os candidatos para encontrar o melhor Também não queremos contratar e demitir à medida que encontrarmos candidatos cada vez melhores Em vez disso estamos dispostos a aceitar um candidato próximo do melhor em troca de contratar exatamente uma vez Devemos obedecer a um requisito da empresa após cada entrevista temos de oferecer imediatamente o cargo ao candidato ou rejeitálo também imediatamente Qual é a permuta entre minimizar a quantidade de entrevistas e maximizar a qualidade do candidato contratado Podemos modelar esse problema da maneira ilustrada a seguir Após a reunião com um candidato podemos atribuir a cada um deles uma pontuação seja pontuaçãoi a pontuação dada ao iésimo candidato e suponha que não há dois candidatos que recebam a mesma pontuação Depois de entrevistar j candidatos sabemos qual dos j candidatos tem a pontuação mais alta mas não sabemos se algum dos n j candidatos restantes receberá uma pontuação mais alta do que aquele Decidimos adotar a estratégia de selecionar um inteiro positivo k n entrevistar e depois rejeitar os primeiros k candidatos e daí em diante contratar o primeiro candidato que obtiver uma pontuação mais alta que todos os candidatos anteriores Se notarmos que o candidato mais bem qualificado se encontrava entre os k primeiros entrevistados contrataremos o nésimo candidato Formalizamos essa estratégia no procedimento ONLINE MAXIMUMk n que retorna o índice do candidato que desejamos contratar Desejamos determinar para cada valor possível de k a probabilidade de contratarmos o candidato mais bem qualificado Então escolhemos o k melhor possível e implementamos a estratégia com esse valor Por enquanto considere k fixo Seja Mj max1 i j pontuaçãoi a pontuação máxima entre os candidatos 1 a j Seja S o evento no qual temos sucesso na escolha do candidato mais bem qualificado e seja Si o evento no qual temos sucesso quando o candidato mais bem qualificado for o iésimo entrevistado Visto que diversos Si são disjuntos temos que Observando que nunca temos sucesso quando o candidato mais bem qualificado é um dos primeiros k temos que Pr Si 0 para i 1 2 k Assim obtemos Agora calculamos Pr Si Para ter sucesso quando o candidato mais bem qualificado é o iésimo duas coisas devem acontecer Primeiro o candidato mais bem qualificado deve estar na posição i um evento que denotamos por Bi Segundo o algoritmo não deve selecionar nenhum dos candidatos nas posições k 1 a i 1 o que acontece somente se para cada j tal que k 1 j i 1 encontramos pontuaçãoj melhorpontuação na linha 6 Como as pontuações são exclusivas podemos ignorar a possibilidade de pontuaçãoj melhorpontuação Em outras palavras todos os valores pontuaçãok 1 até pontuaçãoi 1 devem ser menores que Mk se qualquer deles for maior que Mk em vez disso retornaremos o índice do primeiro que for maior Usamos Oi para denotar o evento no qual nenhum dos candidatos nas posições k 1 a i 1 é escolhido Felizmente os dois eventos Bi e Oi são independentes O evento Oi depende apenas da ordenação relativa dos valores nas posições 1 a i 1 enquanto Bi depende apenas de o valor na posição i ser maior que todos os valores em todas as outras posições A ordenação dos valores nas posições 1 a i 1 não afeta o fato de o valor na posição i ser maior que todos eles e o valor na posição i não afeta a ordenação dos valores nas posições 1 a i 1 Assim podemos aplicar a equação C15 para obter 541 542 A probabilidade Pr Bi é claramente 1n já que o máximo tem igual probabilidade de estar em qualquer uma das n posições Para o evento Oi ocorrer o valor máximo nas posições 1 a i 1 que tem a mesma probabilidade de estar em qualquer uma dessas i 1 posições deve estar em uma das k primeiras posições Consequentemente Pr Oi ki 1 e Pr Si kn i 1 Usando a equação 512 temos Aproximamos por integrais para limitar esse somatório acima e abaixo Pelas desigualdades A12 temos A avaliação dessas integrais definidas nos dá os limites que representam um limite bastante preciso para Pr S Como desejamos maximizar nossa probabilidade de sucesso vamos focalizar a escolha do valor de k que maximiza o limite inferior para Pr S Além do mais a expressão do limite inferior é mais fácil de maximizar que a expressão do limite superior Diferenciando a expressão kn ln n ln k com relação a k obtemos Igualando essa derivada a 0 vemos que maximizamos o limite inferior para a probabilidade quando ln k ln n 1 lnne ou o que é equivalente quando k ne Assim se implementarmos nossa estratégia com k ne teremos sucesso na contratação do nosso candidato mais bem qualificado com probabilidade no mínimo 1e Exercícios Quantas pessoas devem estar em uma sala antes que a probabilidade de alguém ter a mesma data de aniversário que você seja no mínimo 12 Quantas pessoas devem estar presentes antes de a probabilidade de no mínimo duas pessoas fazerem aniversário no dia 4 de julho ser maior que 12 Suponha que lançamos bolas em b caixas até que alguma caixa contenha duas bolas Cada lançamento é independente e cada bola tem a mesma probabilidade de cair em qualquer caixa Qual é o número esperado 51 a 543 544 545 546 547 de lançamentos de bolas Para a análise do paradoxo do aniversário é importante que os aniversários sejam mutuamente independentes ou a independência aos pares é suficiente Justifique sua resposta Quantas pessoas devem ser convidadas para uma festa para ser provável que haja três pessoas com a mesma data de aniversário Qual é a probabilidade de uma cadeia k em um conjunto de tamanho n formar uma kpermutação Qual é a relação dessa pergunta com o paradoxo do aniversário Suponha que n bolas sejam lançadas em n caixas onde cada lançamento é independente e a bola tem igual probabilidade de cair em qualquer caixa Qual é o número esperado de caixas vazias Qual é o número esperado de caixas com exatamente uma bola Aprimore o limite inferior para o comprimento da sequência mostrando que em n lançamentos de uma moeda não viciada a probabilidade de não ocorrer nenhuma sequência mais longa que lg n 2 lg lg n caras consecutivas é menor que 1n Problemas Contagem probabilística Com um contador de b bits normalmente só podemos contar até 2b 1 Com a contagem probabilística de R Morris podemos contar até um valor muito maior à custa de alguma perda de precisão Interpretamos um contador com valor i como uma contagem ni para i 0 1 2b 1 onde os ni formam uma sequência crescente de valores não negativos Supomos que o valor inicial do contador é 0 representando uma contagem de n0 0 A operação INCREMENT funciona de maneira probabilística em um contador que contém o valor i Se i 2b 1 então a operação informa um erro de estouro overflow Caso contrário a operação INCREMENT aumenta 1 no contador com probabilidade 1ni 1 ni ou deixa o contador inalterado com probabilidade 1 1ni 1 ni Se selecionarmos ni i para todo i 0 então o contador é um contador comum Surgem situações mais interessantes se selecionarmos digamos ni 2 i1 para i 0 ou ni Fi o iésimo número de Fibonacci consulte a Seção 32 Para este problema suponha que n2b 1 é suficientemente grande de modo que a probabilidade de um erro de estouro seja desprezível Mostre que o valor esperado representado pelo contador após a execução de n operações INCREMENT é exatamente n b 52 a b c d e f g i j h A análise da variância da contagem representada pelo contador depende da sequência de ni Vamos considerar um caso simples ni 100i para todo i 0 Estime a variância no valor representado pelo registrador após a execução de n operações INCREMENT Busca em um arranjo não ordenado Este problema examina três algoritmos para procurar um valor x em um arranjo não ordenado A que consiste em n elementos Considere a seguinte estratégia aleatória escolha um índice aleatório i em A Se Ai x então terminamos caso contrário continuamos a busca escolhendo um novo índice aleatório em A Continuamos a escolher índices aleatórios em A até encontrarmos um índice j tal que Aj x ou até verificarmos todos os elementos de A Observe que toda vez escolhemos um índice no conjunto inteiro de índices é possível que examinemos um dado elemento mais de uma vez Escreva pseudocódigo para um procedimento RANDOMSEARCH para implementar a estratégia citada Certifiquese de que o seu algoritmo termina quando todos os índices em A já tiverem sido escolhidos Suponha que exista exatamente um índice i tal que Ai x Qual é o número esperado de índices em A que devemos escolher antes de encontrarmos x e RANDOMSEARCH terminar Generalizando sua solução para a parte b suponha que existam k 1 índices i tais que Ai x Qual é o número esperado de índices em A que devemos escolher antes de encontrarmos x e RANDOMSEARCH terminar Sua resposta deve ser uma função de n e k Suponha que não exista nenhum índice i tal que Ai x Qual é o número esperado de índices em A que devemos escolher antes de verificarmos todos os elementos de A e RANDOMSEARCH terminar Agora considere um algoritmo de busca linear determinística que denominamos DETERMINISTICSEARCH Especificamente o algoritmo procura A para x em ordem considerando A1 A2 A3 An até encontrar Ai x ou chegar ao fim do arranjo Considere todas as permutações possíveis do arranjo de entrada igualmente prováveis Suponha que exista exatamente um índice i tal que Ai x Qual é o tempo de execução do caso médio de DETERMINISTICSEARCH Qual é o tempo de execução do pior caso de DETERMINISTICSEARCH Generalizando sua solução para parte e suponha que existam k 1 índices i tais que Ai x Qual é o tempo de execução do caso médio de DETERMINISTICSEARCH Qual é o tempo de execução do pior caso de DETERMINISTICSEARCH Sua resposta deve ser uma função de n e k Suponha que não exista nenhum índice i tal que Ai x Qual é o tempo de execução do caso médio de DETERMINISTICSEARCH Qual é o tempo de execução do pior caso de DETERMINISTICSEARCH Finalmente considere um algoritmo aleatorizado SCRAMBLESEARCH que funciona primeiro permutando aleatoriamente o arranjo de entrada e depois executando a busca linear determinística dada anteriormente para o arranjo permutado resultante Sendo k o número de índices i tais que Ai x dê os tempos de execução esperado e do pior caso de SCRAMBLESEARCH para os casos nos quais k 0 e k 1 Generalize sua solução para tratar o caso no qual k 1 Qual dos três algoritmos de busca você usaria Explique sua resposta NOTAS DO CAPÍTULO Bollobás 54 Hofri 174 e Spencer 321 contêm grande número de técnicas probabilísticas avançadas As vantagens dos algoritmos aleatorizados são discutidas e pesquisadas por Karp 200 e Rabin 288 O livro didático de Motwani e Raghavan 262 apresenta um tratamento extensivo de algoritmos aleatorizados Diversas variantes do problema da contratação têm sido amplamente estudadas Esses problemas são mais comumente referidos como problemas da secretária Um exemplo de trabalho nessa área é o artigo de Ajtai Meggido e Waarts 11 Parte II ORDENAÇÃO E ESTATÍSTICAS DE ORDEM INTRODUÇÃO Esta parte apresenta vários algoritmos que resolvem o problema de ordenação a seguir Entrada Uma sequência de n números a1 a2 an Saída Uma permutação reordenação a1 a2 an da sequência de entrada tal que a1 a2 an A sequência de entrada normalmente é um arranjo de n elementos embora possa ser repre sentada de algum outro modo como uma lista ligada A ESTRUTURA DOS DADOS Na prática os números que devem ser ordenados raramente são valores isolados Em geral cada um deles é parte de uma coleção de dados denominada registro Cada registro contém uma chave que é o valor a ser ordenado O restante do registro consiste em dados satélites que normalmente são transportados junto com a chave Na prática quando um algoritmo de ordenação permuta as chaves também deve permutar os dados satélites Se cada registro incluir grande quantidade de dados satélites muitas vezes permutamos um arranjo de ponteiros para os registros em vez dos próprios registros para minimizar a movimentação de dados De certo modo são esses detalhes de implementação que distinguem um algoritmo de um programa completamente desenvolvido Um algoritmo de ordenação descreve o método pelo qual determinamos a sequência ordenada independentemente de estarmos ordenando números individuais ou grandes registros contendo muitos bytes de dados satélites Assim quando focalizamos o problema de ordenação em geral consideramos que a entrada consiste apenas em números A tradução de um algoritmo para ordenação de números em um programa para ordenação de registros é conceitualmente direta embora em uma situação específica de engenharia possam surgir outras sutilezas que fazem da tarefa real de programação um desafio Por que ordenar Muitos cientistas de computação consideram a ordenação o problema mais fundamental no estudo de algoritmos Há várias razões Às vezes uma aplicação tem uma necessidade inerente de ordenar informações Por exemplo para preparar extratos de clientes os bancos precisam ordenar os cheques pelo número do cheque Os algoritmos frequentemente usam a ordenação como uma subrotina chave Por exemplo um programa que apresenta objetos gráficos dispostos em camadas uns sobre os outros talvez tenha de ordenar os objetos de acordo com uma relação acima para poder desenhar esses objetos de baixo para cima Neste texto veremos numerosos algoritmos que utilizam a ordenação como uma subrotina Podemos escolher entre uma ampla variedade de algoritmos de ordenação e eles empregam um rico conjunto de técnicas De fato muitas técnicas importantes usadas em projeto de algoritmos aparecem no corpo de algoritmos de ordenação que foram desenvolvidos ao longo dos anos Assim a ordenação também é um problema de interesse histórico Podemos demonstrar um limite inferior não trivial para a ordenação como faremos no Capítulo 8 Nossos melhores limites superiores correspondem ao limite inferior assintoticamente e assim sabemos que nossos algoritmos de ordenação são assintoticamente ótimos Além disso podemos usar o limite inferior de ordenação para demonstrar limites inferiores para alguns outros problemas Muitas questões de engenharia vêm à tona na implementação de algoritmos de ordenação O programa de ordenação mais rápido para determinada situação pode depender de muitos fatores como o conhecimento anterior das chaves e dos dados satélites da hierarquia de memória caches e memória virtual do computador hospedeiro e do ambiente de software Muitas dessas questões são mais bem tratadas no nível algorítmico em vez de retocar o código Algoritmos de ordenação Apresentamos dois algoritmos para ordenação de n números reais no Capítulo 2 A ordenação por inserção leva o tempo Qn2 no pior caso Porém como seus laços internos são compactos ela é um algoritmo rápido de ordenação no lugar para pequenos tamanhos de entrada Lembrese de que um algoritmo de ordenação executa a ordenação no lugar se somente um número constante de elementos do arranjo de entrada estiver a cada vez armazenado fora do arranjo A ordenação por intercalação tem um tempo de execução assintótico melhor Qn lg n mas o procedimento MERGE que ela utiliza não funciona no lugar Nesta parte apresentaremos mais dois algoritmos que ordenam números reais arbitrários A ordenação por heap apresentada no Capítulo 6 ordena n números no lugar no tempo On lg n Ela usa uma importante estrutura de dados denominada heap com a qual também podemos implementar uma fila de prioridades O quicksort no Capítulo 7 também ordena n números no lugar mas seu tempo de execução do pior caso é Qn2 Contudo seu tempo de execução esperado é Qn lg n e em geral ele supera a ordenação por heap na prática Como a ordenação por inserção o quicksort tem um código compacto e assim o fator constante oculto em seu tempo de execução é pequeno Ele é um algoritmo popular para ordenação de grandes arranjos de entrada Ordenação por inserção ordenação por intercalação ordenação por heap e quicksort são ordenações por comparação determinam a sequência ordenada de um arranjo de entrada por comparação de elementos O Capítulo 8 começa introduzindo o modelo de árvore de decisão para estudar as limitações de desempenho de ordenações por comparação Usando esse modelo provamos um limite inferior de Wn lg n no tempo de execução do pior caso de qualquer ordenação por comparação para n entradas mostrando assim que a ordenação por heap e a ordenação por intercalação são ordenações por comparação assintoticamente ótimas Em seguida o Capítulo 8 mostra que poderemos superar esse limite inferior de Wn lg n se for possível reunir informações sobre a sequência ordenada da entrada por outros meios além da comparação de elementos Por exemplo o algoritmo de ordenação por contagem considera que os números da entrada estão no conjunto 0 1 k Usando a indexação de arranjos como ferramenta para determinar a ordem relativa a ordenação por contagem pode ordenar n números no tempo Qk n Assim quando k On a ordenação por contagem é executada em tempo linear no tamanho do arranjo de entrada Um algoritmo relacionado de ordenação digital radix sort pode ser usado para estender a faixa da ordenação por contagem Se houver n inteiros para ordenar cada inteiro tiver d dígitos e cada dígito puder adotar até k valores possíveis a ordenação digital poderá ordenar os números no tempo Qdn k Quando d é uma constante e k é On a ordenação digital é executada em tempo linear Um terceiro algoritmo ordenação por balde ordenação por balde requer o conhecimento da distribuição probabilística dos números no arranjo de entrada Ele pode ordenar n números reais distribuídos uniformemente no intervalo meio aberto 0 1 no tempo do caso médio On A tabela a seguir resume os tempos de execução dos algoritmos de ordenação dos Capítulos 2 e 68 Como sempre n denota o número de itens a ordenar Para a ordenação por contagem os itens a ordenar são inteiros no conjunto 0 1 k Para ordenação digital cada item é um número com d dígitos onde cada dígito adota k valores possíveis Para a ordenação por balde consideramos que as chaves são números reais uniformemente distribuídos no intervalo meio aberto 0 1 A coluna da extrema direita dá o tempo de execução do caso médio ou esperado e indica a qual ela se refere quando for diferente do tempo de execução do pior caso Omitimos o tempo de execução do caso médio da ordenação por heap porque não o analisaremos neste livro Algoritmo Tempo de execução do pior caso Tempo de execução do caso médioesperado Ordenação por inserção Qn2 Qn2 Ordenação por intercalação Qn log n Qn log n Ordenação por heap On log n Quicksort Qn2 Qn log n esperado Ordenação por contagem Qk n Qk n Ordenação digital Qdn k Qdn k Ordenação por balde Qn2 Qn caso médio Estatísticas de ordem A iésima estatística de ordem de um conjunto de n números é o iésimo menor número no conjunto É claro que podemos selecionar a iésima estatística de ordem ordenando a entrada e indexando o iésimo elemento da saída Sem nada supor sobre a distribuição da entrada esse método é executado no tempo Wn lg n como mostra o limite inferior demonstrado no Capítulo 8 No Capítulo 9 mostramos que podemos determinar o iésimo menor elemento no tempo On mesmo quando os elementos são números reais arbitrários Apresentamos um algoritmo aleatorizado com pseudocódigo compacto que é executado no tempo Qn2 no pior caso mas cujo tempo de execução esperado é On Também damos um algoritmo mais complicado que é executado no tempo On no pior caso Conhecimentos necessários Embora a maioria das seções desta parte não dependa de conceitos matemáticos difíceis algumas seções exigem certa sofisticação matemática Em particular as análises do quicksort ordenação por balde e algoritmo de estatística de ordem utilizam probabilidade que revisamos no Apêndice C o material sobre análise probabilística e algoritmos aleatórios é estudado no Capítulo 5 A análise do algoritmo de tempo linear do pior caso para estatísticas de ordem envolve matemática um pouco mais sofisticada que as outras análises do pior caso apresentadas nesta parte 61 6 ORDENAÇÃO POR HEAP Neste capítulo introduzimos outro algoritmo de ordenação ordenação por heap Como a ordenação por intercalação mas diferente da ordenação por inserção o tempo de execução da ordenação por heap é On lg n Como a ordenação por inserção mas diferentemente da ordenação por intercalação a ordenação por heap ordena no lugar apenas um número constante de elementos do arranjo é armazenado fora do arranjo de entrada em qualquer instante Assim a ordenação por heap combina os melhores atributos dos dois algoritmos de ordenação que já discutimos A ordenação por heap também introduz outra técnica de projeto de algoritmos a utilização de uma estrutura de dados nesse caso uma estrutura que denominamos heap para gerenciar informações A estrutura de dados heap não é útil apenas para a ordenação por heap ela também cria uma eficiente fila de prioridades A estrutura de dados heap reaparecerá em algoritmos em capítulos posteriores O termo heap foi cunhado originalmente no contexto da ordenação por heap mas desde então passou a se referir também a armazenamento com coleta de lixo tal como dado pelas linguagens de programação Lisp e Java Nossa estrutura de dados heap não é armazenamento com coleta de lixo e sempre que mencionarmos heaps neste livro o termo significa a estrutura de dados definida neste capítulo HEAPS A estrutura de dados heap binário é um objeto arranjo que pode ser visto como uma árvore binária quase completa veja Seção B53 como mostra a Figura 61 Cada nó da árvore corresponde a um elemento do arranjo A árvore está completamente preenchida em todos os níveis exceto possivelmente no nível mais baixo que é preenchido a partir da esquerda até um ponto Um arranjo A que representa um heap é um objeto com dois atributos Acomprimento que como sempre dá o número de elementos no arranjo e Atamanhodoheap que representa quantos elementos no heap estão armazenados dentro do arranjo A Isto é embora A1 Acomprimento possa conter números só os elementos em AAtamanhodoheap onde Atamanhodoheap Acomprimento são elementos válidos do heap A raiz da árvore é A1 e dado o índice i de um nó podemos calcular facilmente os índices de seu pai do filho à esquerda e do filho à direita Figura 61 Um heap de máximo visto como a uma árvore binária e b um arranjo O número dentro do círculo em cada nó na árvore é o valor armazenado nesse nó O número acima de um nó é o índice correspondente no arranjo Acima e abaixo do arranjo há linhas que mostram relacionamentos paifilho os pais estão sempre à esquerda de seus filhos A árvore tem altura três o nó no índice 4 com valor 8 tem altura um Na maioria dos computadores o procedimento LE FT pode calcular 2i em uma única instrução simplesmente deslocando a representação binária de i uma posição de bit para a esquerda De modo semelhante o procedimento RIGHT pode calcular rapidamente 2i 1 deslocando a representação binária de i uma posição de bit para a esquerda e depois inserindo 1 como o bit de ordem baixa O procedimento PARENT pode calcular i2 deslocando i uma posição de bit para a direita Uma boa implementação de ordenação por heap frequentemente implementa esses procedimentos como macros ou em linha Existem dois tipos de heaps binários heaps de máximo e heaps de mínimo Em ambos os tipos os valores nos nós satisfazem a uma propriedade de heap cujos detalhes específicos dependem do tipo de heap Em um heap de máximo a propriedade de heap de máximo é que para todo nó i exceto a raiz isto é o valor de um nó é no máximo o valor de seu pai Assim o maior elemento em um heap de máximo é armazenado na raiz e a subárvore que tem raiz em um nó contém valores menores que o próprio nó Um heap de mínimo é organizado de modo oposto a propriedade de heap de mínimo é que para todo nó i exceto a raiz O menor elemento em um heap de mínimo está na raiz Para o algoritmo de ordenação por heap usamos heaps de máximo Heaps de mínimo são comumente empregados em filas de prioridades que discutiremos na Seção 65 Seremos precisos ao especificar se necessitamos de um heap de máximo ou de um heap de mínimo para qualquer aplicação particular e quando as propriedades se aplicarem tanto a heaps de máximo quanto a heaps de mínimo simplesmente usaremos o termo heap Visualizando um heap como uma árvore definimos a altura de um nó em um heap como o número de arestas no caminho descendente simples mais longo desde o nó até uma folha e definiremos a altura do heap como a altura de sua 611 612 613 614 615 616 617 62 raiz Visto que um heap de n elementos é baseado em uma árvore binária completa sua altura é Qlg n veja Exercício 612 Veremos que as operações básicas em heaps são executadas em tempo que é no máximo proporcional à altura da árvore e assim demoram um tempo Olg n O restante deste capítulo apresenta alguns procedimentos básicos e mostra como eles são usados em um algoritmo de ordenação e uma estrutura de dados de fila de prioridades O procedimento MAXHEAPIFY que roda no tempo Olg n é a chave para manter a propriedade de heap de máximo 61 O procedimento BUILDMAXHEAP executado em tempo linear produz um heap de máximo a partir de um arranjo de entrada não ordenado O procedimento ordenação por heap executado no tempo On lg n ordena um arranjo no lugar Os procedimentos MAXHEAPINSERT HEAPEXTRACTMAX HEAPINCREASEKEY e HEAPMAXIMUM que rodam em tempo Olg n permitem que a estrutura de dados heap implemente uma fila de prioridades Exercícios Quais são os números mínimo e máximo de elementos em um heap de altura h Mostre que um heap de n elementos tem altura lg n Mostre que em qualquer subárvore de um heap de máximo a raiz da subárvore contém o maior valor que ocorre em qualquer lugar nessa subárvore Em que lugar de heap de máximo o menor elemento poderia residir considerando que todos os elementos sejam distintos Um arranjo que está em sequência ordenada é um heap de mínimo A sequência 23 17 14 6 13 10 1 5 7 12 é um heap de máximo Mostre que com a representação de arranjo para ordenar um heap de n elementos as folhas são os nós indexados por n2 1 n2 2 n MANUTENÇÃO DA PROPRIEDADE DE HEAP Para manter a propriedade de heap de máximo chamamos o procedimento MAXHEAPIFY Suas entradas são um arranjo A e um índice i para o arranjo Quando chamado MAXHEAPIFY considera que as árvores binárias com raízes em LEFTi e RIGHTi são heaps de máximo mas que Ai pode ser menor que seus filhos o que viola a propriedade de heap de máximo MAXHEAPIFY permite que o valor em Ai flutue para baixo no heap de máximo de modo que a subárvore com raiz no índice i obedeça à propriedade do heap de máximo Figura 62 Ação de MAXHEAPIFYA 2 onde Atamanhodoheap A 10 a Configuração inicial com A2 no nó i 2 violando a propriedade de heap de máximo já que ele não é maior que os filhos A propriedade de heap de máximo é restabelecida para o nó 2 em b pela troca de A2 por A4 o que destrói a propriedade de heap de máximo para o nó 4 A chamada recursiva MAXHEAPIFYA 4 agora tem i 4 Após trocar A4 por A9 como mostramos em c o nó 4 é corrigido e a chamada recursiva a MAXHEAPIFYA 9 não produz nenhuma mudança adicional na estrutura de dados A Figura 62 ilustra a ação de MAXHEAPIFY Em cada etapa o maior dos elementos Ai ALEFTi e ARIGHTi é determinado e seu índice é armazenado em maior Se Ai é maior a subárvore com raiz no nó i já é um heap de máximo e o procedimento termina Caso contrário um dos dois filhos tem o maior elemento e Ai é trocado por Amaior fazendo com que o nó i e seus filhos satisfaçam a propriedade de heap de máximo Porém agora o nó 621 622 623 624 625 626 63 indexado por maior tem o valor original Ai e assim a subárvore com raiz em maior poderia violar a propriedade de heap de máximo Em consequência disso chamamos MAXHEAPIFY recursivamente nessa subárvore O tempo de execução de MAXHEAPIFY em uma subárvore de tamanho n com raiz em um dado nó i é o tempo Q1 para corrigir as relações entre os elementos Ai ALEFTi e ARIGHTi mais o tempo para executar MAXHEAPIFY em uma subárvore com raiz em um dos filhos do nó i considerando que a chamada recursiva ocorre Cada uma das subárvores dos filhos tem no máximo tamanho igual a 2n3 o pior caso ocorre quando a última linha da árvore está exatamente metade cheia e portanto podemos descrever o tempo de execução de MAXHEAPIFY pela recorrência A solução para essa recorrência de acordo com o caso 2 do teorema mestre Teorema 41 é Tn Olg n Como alternativa podemos caracterizar o tempo de execução de MAXHEAPIFY em um nó de altura h como Oh Exercícios Usando a Figura 62 como modelo ilustre a operação de MAXHEAPIFYA 3 sobre o arranjo A 27 17 3 16 13 10 1 5 7 12 4 8 9 0 Começando com o procedimento MAXHEAPIFY escreva pseudocódigo para o procedimento MINHEAPIFYA i que executa a manipulação correspondente sobre um heap de mínimo Compare o tempo de execução de MINHEAPIFY com o de MAXHEAPIFY Qual é o efeito de chamar MAXHEAPIFYA i quando o elemento Ai é maior que seus filhos Qual é o efeito de chamar MAXHEAPIFYA i para i Atamanhodoheap2 O código para MAXHEAPIFY é bastante eficiente em termos de fatores constantes exceto possivelmente para a chamada recursiva na linha 10 que poderia fazer com que alguns compiladores produzissem código ineficiente Escreva um MAXHEAPIFY eficiente que use um constructo de controle iterativo um laço em vez de recursão Mostre que o tempo de execução do pior caso de MAXHEAPIFY para um heap de tamanho n é Wlg n Sugestão Para um heap com n nós dê valores de nós que façam MAXHEAPIFY ser chamado recursivamente em todo nó em um caminho desde a raiz até uma folha CONSTRUÇÃO DE UM HEAP Podemos usar o procedimento MAXHEAPIFY de baixo para cima para converter um arranjo A1 n onde n Acomprimento em um heap de máximo Pelo Exercício 617 os elementos no subarranjo An2 1 n são folhas da árvore e portanto já de início cada um deles é um heap de 1 elemento O procedimento BUILDMAXHEAP percorre os nós restantes da árvore e executa MAXHEAPIFY sobre cada um A Figura 63 mostra um exemplo da ação de BUILDMAXHEAP Para mostrar por que BUILDMAXHEAP funciona corretamente usamos o seguinte invariante de laço No começo de cada iteração do laço for das linhas 23 cada nó i 1 i 2 n é a raiz de um heap de máximo Precisamos mostrar que esse invariante é verdadeiro antes da primeira iteração do laço que cada iteração do laço mantém o invariante e que o invariante dá uma propriedade útil para mostrar a correção quando o laço termina Inicialização Antes da primeira iteração do laço i n2 Cada nó n2 1 n2 2 n é uma folha e é portanto a raiz de um heap de máximo trivial Manutenção Para ver que cada iteração mantém o invariante de laço observe que os filhos do nó i são numerados com valores mais altos que i Assim pelo invariante de laço ambos são raízes de heaps de máximo Essa é precisamente a condição exigida para a chamada MAXHEAPIFYA i para fazer do nó i uma raiz de heap de máximo Além disso a chamada a MAXHEAPIFY preserva a propriedade de que os nós i 1 i 2 n são raízes de heaps de máximo Decrementar i na atualização do laço for restabelece o invariante de laço para a próxima iteração Figura 63 Operação de BUILDMAXHEAP mostrando a estrutura de dados antes da chamada a MAXHEAPIFY na linha 3 de BUILDMAX HEAP a Um arranjo de entrada de 10 elementos A e a árvore binária que ele representa A figura mostra que o índice de laço i se refere ao nó 5 antes da chamada MAXHEAPIFYA i b A estrutura de dados resultante O índice de laço i para a próxima iteração aponta para o nó 4 ce Iterações subsequentes do laço for em BUILDMAXHEAP Observe que sempre que MAXHEAPIFY é chamado em um nó as duas subárvores desse nó são heaps de máximo f O heap de máximo após o término de BUILDMAXHEAP Término No término i 0 Pelo invariante de laço cada nó 1 2 n é a raiz de um heap de máximo Em particular o nó 1 é uma raiz Podemos calcular um limite superior simples para o tempo de execução de BUILDMAXHEAP da seguinte maneira cada chamada a MAXHEAPIFY custa o tempo Olg n e BUILDMAXHEAP faz On dessas chamadas Assim o tempo de execução é On lg n Esse limite superior embora correto não é assintoticamente restrito Podemos derivar um limite mais restrito observando que o tempo de execução de MAXHEAPIFY em um nó varia com a altura do nó na árvore e as alturas na maioria dos nós são pequenas Nossa análise mais restrita se baseia nas 631 632 633 64 propriedades de que um heap de n elementos tem altura lg n veja Exercício 612 e no máximo n2h 1 nós de qualquer altura h veja Exercício 633 O tempo exigido por MAXHEAPIFY quando chamado em um nó de altura h é Oh assim podemos expressar o custo total de BUILDMAXHEAP limitado por cima por Avaliamos o último somatório substituindo x 12 na fórmula A8 o que produz Assim podemos limitar o tempo de execução de BUILDMAXHEAP como Consequentemente podemos construir um heap de máximo a partir de um arranjo não ordenado em tempo linear Podemos construir um heap de mínimo pelo procedimento BUILDMINHEAP que é igual a BUILDMAXHEAP a não ser pela chamada a MAXHEAPIFY na linha 3 que é substituída por uma chamada a MINHEAPIFY veja Exercício 622 BUILD MINHEAP produz um heap de mínimo a partir de um arranjo linear não ordenado em tempo linear Exercícios Usando a Figura 63 como modelo ilustre a operação de BUILDMAXHEAP no arranjo A 5 3 17 10 84 19 6 22 9 Por que queremos que o índice de laço i na linha 2 de BUILDMAXHEAP diminua de Acomprimento2 até 1 em vez de aumentar de 1 até Acomprimento2 Mostre que existem no máximo n2h 1 nós de altura h em qualquer heap de n elementos O ALGORITMO DE ORDENAÇÃO POR HEAP O algoritmo de ordenação por heap começa usando BUILDMAXHEAP para construir um heap de máximo no arranjo de entrada A1n onde n Acomprimento Visto que o elemento máximo do arranjo está armazenado na raiz A1 podemos colocálo em sua posição final correta trocandoo por An Se agora descartarmos o nó n do heap 641 642 643 e para isso basta simplesmente decrementar Acomprimento observaremos que A1 n 1 pode ser facilmente transformado em um heap de máximo Os filhos da raiz continuam sendo heaps de máximo mas o novo elemento raiz pode violar a propriedade de heap de máximo Porém para restabelecer a propriedade de heap de máximo basta chamar MAXHEAPIFYA 1 que deixa um heap de máximo em A1 n 1 Então o algoritmo de ordenação por heap repete esse processo para o heap de máximo de tamanho n 1 até um heap de tamanho 2 Veja no Exercício 642 um invariante de laço preciso A Figura 64 mostra um exemplo da operação de HEAPSORT após a linha 1 ter construído o heap de máximo inicial A figura mostra o heap de máximo antes da primeira iteração do laço for das linhas 25 e após cada iteração O procedimento HEAPSORT demora o tempo On lg n já que a chamada a BUILDMAXHEAP demora o tempo On e cada uma das n 1 chamadas a MAXHEAPIFY demora o tempo Olg n Exercícios Usando a Figura 64 como modelo ilustre a operação de HEAPSORT sobre o arranjo A 5 13 2 25 7 17 20 8 4 Discuta a correção de HEAPSORT usando o seguinte invariante de laço No início de cada iteração do laço for das linhas 2 5 o subarranjo A1 i é um heap de máximo que contém os i menores elementos de A1 n e o subarranjo Ai 1 n contém os n i maiores elementos de A1 n ordenados Qual é o tempo de execução de HEAPSORT para um arranjo A de comprimento n que já está ordenado em ordem crescente E em ordem decrescente 644 65 645 Figura 64 Operação de HEAPSORT a A estrutura de dados de heap de máximo logo após ter sido construída por BUILDMAXHEAP na linha 1 bj O heap de máximo logo após cada chamada de MAXHEAPIFY na linha 5 mostrando o valor de i nesse instante Apenas os nós sombreados em tom mais claro permanecem no heap k Arranjo ordenado resultante A Mostre que o tempo de execução do pior caso de HEAPSORT é Wn lg n Mostre que quando todos os elementos são distintos o tempo de execução do melhor caso de HEAPSORT é Wn lg n FILAS DE PRIORIDADES A ordenação por heap é um algoritmo excelente mas uma boa implementação de quicksort apresentada no Capítulo 7 normalmente o supera na prática Não obstante a estrutura de dados de heap propriamente dita tem muitas utilidades Nesta seção apresentaremos uma das aplicações mais populares de um heap uma fila de prioridades eficiente Como ocorre com os heaps existem dois tipos de filas de prioridades filas de prioridade máxima e filas de prioridade mínima Focalizaremos aqui a implementação de filas de prioridade máxima que por sua vez se baseiam em heaps de máximo o Exercício 653 pede que você escreva os procedimentos correspondentes para filas de prioridade mínima Uma fila de prioridade é uma estrutura de dados para manter um conjunto S de elementos cada qual com um valor associado denominado chave Uma fila de prioridade máxima suporta as seguintes operações INSERTS x insere o elemento x no conjunto S Essa operação é equivalente à operação S S x MAXIMUMS devolve o elemento de S que tenha a maior chave EXTRACTMAXS remove e devolve o elemento de S que tenha a maior chave INCREASEKEYS x k aumenta o valor da chave do elemento x até o novo valor k que admitese ser pelo menos tão grande quanto o valor da chave atual de x Entre outras aplicações podemos usar filas de prioridade máxima para programar trabalhos em um computador compartilhado A fila de prioridade máxima mantém o controle dos trabalhos a executar e suas prioridades relativas Quando um trabalho termina ou é interrompido o escalonador seleciona o trabalho de prioridade mais alta entre os trabalhos pendentes chamando EXTRACTMAX O escalonador pode acrescentar um novo trabalho à fila em qualquer instante chamando INSERT Alternativamente uma fila de prioridade mínima suporta as operações INSERT MINIMUM EXTRACTMIN e DECREASE KEY Uma fila de prioridade mínima pode ser usada em um simulador orientado a eventos Os itens na fila são eventos a simular cada qual com um instante de ocorrência associado que serve como sua chave Os eventos devem ser simulados na ordem de seu instante de ocorrência porque a simulação de um evento pode provocar outros eventos a simular no futuro O programa de simulação chama EXTRACTMIN em cada etapa para escolher o próximo evento a simular À medida que novos eventos são produzidos o simulador os insere na fila de prioridade mínima chamando INSERT Veremos outros usos de filas de prioridade mínima destacando a operação DECREASEKEY nos Capítulos 23 e 24 Não é nenhuma surpresa que possamos usar um heap para implementar uma fila de prioridade Em determinada aplicação como programação de trabalhos ou simulação orientada a eventos os elementos de uma fila de prioridade correspondem a objetos na aplicação Muitas vezes é necessário determinar qual objeto de aplicação corresponde a um dado elemento de fila de prioridade e viceversa Portanto quando usamos um heap para implementar uma fila de prioridade frequentemente precisamos armazenar um descritor para o objeto de aplicação correspondente em cada elemento do heap A constituição exata do descritor isto é um ponteiro ou um inteiro depende da aplicação De modo semelhante precisamos armazenar um descritor para o elemento do heap correspondente em cada objeto de aplicação Nesse caso normalmente o descritor é um índice de arranjo Como os elementos do heap mudam de posição dentro do arranjo durante operações de heap uma implementação real ao reposicionar um elemento do heap também teria de atualizar o índice do arranjo no objeto de aplicação correspondente Visto que os detalhes de acesso a objetos de aplicação dependem muito da aplicação e de sua implementação não os examinaremos aqui observaremos apenas que na prática esses descritores precisam ser mantidos corretamente Agora discutiremos como implementar as operações de uma fila de prioridade máxima O procedimento HEAP MAXIMUM implementa a operação Maximum no tempo Q1 O procedimento HEAPEXTRACTMAX implementa a operação EXTRACTMAX Ele é semelhante ao corpo do laço for linhas 35 do procedimento HEAPSORT O tempo de execução de HEAPEXTRACTMAX é Olg n já que ele executa apenas uma quantidade constante de trabalho além do tempo Olg n para MAXHEAPIFY O procedimento HEAPINCREASEKEY implementa a operação INCREASEKEY Um índice i para o arranjo identifica o elemento da fila de prioridade cuja chave queremos aumentar Primeiro o procedimento atualiza a chave do elemento Ai para seu novo valor Visto que aumentar a chave de Ai pode violar a propriedade de heap de máximo o procedimento de um modo que lembra o laço de inserção linhas 57 de INSERTIONSORT da Seção 21 percorre um caminho simples desde esse nó até a raiz para encontrar um lugar adequado para a chave recémaumentada Enquanto HEAPINCREASEKEY percorre esse caminho compara repetidamente um elemento a seu pai permutando suas chaves prossegue se a chave do elemento for maior e termina se a chave do elemento for menor visto que a propriedade de heap de máximo agora é válida Veja no Exercício 655 um invariante de laço preciso A Figura 65 mostra um exemplo de operação HEAPINCREASEKEY O tempo de execução de HEAPINCREASEKEY para um heap de n elementos é Olg n visto que o caminho traçado desde o nó atualizado na linha 3 até a raiz tem comprimento Olg n O procedimento MAXHEAPINSERT implementa a operação INSERT Toma como entrada a chave do novo elemento a ser inserido no heap de máximo A Primeiro o procedimento expande o heap de máximo acrescentando à árvore uma nova folha cuja chave é Em seguida chama HEAPINCREASEKEY para ajustar a chave desse novo nó em seu valor correto e manter a propriedade de heap de máximo O tempo de execução de MAXHEAPINSERT para um heap de n elementos é Olg n Resumindo um heap pode suportar qualquer operação de fila de prioridade em um conjunto de tamanho n no tempo Olg n Exercícios 651 652 653 654 655 656 657 Ilustre a operação de HEAPEXTRACTMAX sobre o heap A 15 13 9 5 12 8 7 4 0 6 2 1 Ilustre a operação de MAXHEAPINSERTA 10 sobre o heap A 15 13 9 5 12 8 7 4 0 6 2 1 Escreva pseudocódigos para os procedimentos HEAPMINIMUM HEAPEXTRACTMIN HEAPDECREASEKEY e MIN HEAPINSERT que implementem uma fila de prioridade mínima com um heap de mínimo Por que nos preocupamos em definir a chave do nó inserido como na linha 2 de MAXHEAPINSERT quando a nossa próxima ação é aumentar sua chave para o valor desejado Demonstre a correção de HEAPINCREASEKEY usando o seguinte invariante de laço No início de cada iteração do laço while das linhas 46 o subarranjo A1 Atamanhodoheap satisfaz a propriedade de heap de máximo exceto que pode haver uma violação Ai pode ser maior que APARENTi Figura 65 Operação de HEAPiNCREASEKEY a O heap de máximo da Figura 64a com um nó cujo índice é i em sombreado de tom mais escuro b A chave desse nó é aumentada para 15 c Depois de uma iteração do laço while das linhas 46 o nó e seu pai trocaram chaves e o índice i sobe para o pai d Heap de máximo após mais uma iteração do laço while Nesse ponto ApARENTi Ai Agora a propriedade de heap de máximo é válida e o procedimento termina Você pode supor que o subarranjo A1 Atamanhodoheap satisfaz a propriedade de heap de máximo no instante em que HEAPINCREASEKEY é chamado Cada operação de troca na linha 5 de HEAPINCREASEKEY normalmente requer três atribuições Mostre como usar a ideia do laço interno de INSERTIONSORT para reduzir as três atribuições a apenas uma atribuição Mostre como implementar uma fila primeiro a entrar primeiro a sair com uma fila de prioridade Mostre como implementar uma pilha com uma fila de prioridade Filas e pilhas são definidas na Seção 101 658 659 61 a b 62 a b c d e 63 a A operação HEAPDELETEA i elimina o item no nó i do heap A Dê uma implementação de HEAPDELETE que seja executada no tempo Olg n para um heap de máximo de n elementos Dê um algoritmo de tempo On lg k para intercalar k listas ordenadas em uma única lista ordenada onde n é o número total de elementos em todas as listas de entrada Sugestão Use um heap de mínimo para fazer a intercalação de k entradas Problemas Construir um heap com a utilização de inserção Podemos construir um heap chamando repetidamente MAXHEAPINSERT para inserir os elementos no heap Considere a seguinte variação do procedimento BUILDMAXHEAP Os procedimentos BUILDMAXHEAP e BUILDMAXHEAP sempre criam o mesmo heap quando são executados sobre o mesmo arranjo de entrada Prove que isso ocorre ou então dê um contraexemplo Mostre que no pior caso BUILDMAXHEAP requer o tempo Qn lg n para construir um heap de n elementos Análise de heaps dários Um heap dário é semelhante a um heap binário mas com uma única exceção possível nós que não são folhas têm d filhos em vez de dois filhos Como você representaria um heap dário em um arranjo Qual é a altura de um heap dário de n elementos em termos de n e d Dê uma implementação eficiente de EXTRACTMAX em um heap de máximo dário Analise seu tempo de execução em termos de d e n Dê uma implementação eficiente de INSERT em um heap de máximo dário Analise seu tempo de execução em termos de d e n Dê uma implementação eficiente de INCREASEKEYA i k que sinaliza um erro se k Ai mas caso contrário ajusta Ai k e então atualiza adequadamente a estrutura do heap de máximo dário Analise seu tempo de execução em termos de d e n Quadros de Young Um quadro de Young m n é uma matriz m n tal que as entradas de cada linha estão em sequência ordenada da esquerda para a direita e as entradas de cada coluna estão em sequência ordenada de cima para baixo Algumas das entradas de um quadro de Young podem ser que tratamos como elementos inexistentes Assim um quadro de Young pode ser usado para conter r mn números finitos Trace um quadro de Young 4 4 contendo os elementos 9 16 3 2 4 8 5 14 12 b c d e f Demonstre que um quadro de Young m n Y é vazio se Y1 1 Demonstre que Y é cheio contém mn elementos se Ym n Dê um algoritmo para implementar EXTRACTMIN em um quadro de Young m n não vazio que é executado no tempo Om n Seu algoritmo deve usar uma subrotina recursiva que resolve um problema m n resolvendo recursivamente um subproblema m 1 n ou um subproblema m n 1 Sugestão Pense em MAXHEAPIFY Defina Tp onde p m n como o tempo de execução máximo de EXTRACT MIN em qualquer quadro de Young m n Dê e resolva uma recorrência para Tp que produza o limite de tempo Om n Mostre como inserir um novo elemento em um quadro de Young m n não cheio no tempo Om n Sem usar nenhum outro método de ordenação como subrotina mostre como utilizar um quadro de Young n n para ordenar n2 números no tempo On3 Dê um algoritmo de tempo Om n para determinar se um dado número está armazenado em determinado quadro de Young m n NOTAS DO CAPÍTULO O algoritmo de ordenação por heap foi criado por Williams 357 que também descreveu como implementar uma fila de prioridades com um heap O procedimento BUILDMAXHEAP foi sugerido por Floyd 106 Usamos heaps de mínimo para implementar filas de prioridade mínima nos Capítulos 16 23 e 24 Também damos uma implementação com limites de tempo melhorados para certas operações no Capítulo 19 e considerando que as chaves são escolhidas de um conjunto limitado de inteiros não negativos no Capítulo 20 Quando os dados são inteiros de b bits e a memória do computador consiste em palavras endereçáveis de b bits Fredman e Willard 115 mostraram como implementar MINIMUM no tempo O1 e INSERT e EXTRACTMIN no tempo O lg n Thorup 337 melhorou o limite O lg n para o tempo Olg n Esse limite usa quantidade de espaço ilimitada em n mas pode ser implementado em espaço linear com a utilização de hashing aleatorizado Um caso especial importante de filas de prioridades ocorre quando a sequência de operações de EXTRACTMIN é monotônica isto é os valores retornados por operações sucessivas de EXTRACTMIN são monotonicamente crescentes com o tempo Esse caso surge em várias aplicações importantes como o algoritmo de caminhos mais curtos de fonte única de Dijkstra que discutiremos no Capítulo 24 e na simulação de eventos discretos Para o algoritmo de Dijkstra é particularmente importante que a operação DECREASEKEY seja implementada eficientemente No caso monotônico se os dados são inteiros na faixa 1 2 C Ahuja Melhorn Orlin e Tarjan 8 descrevem como implementar EXTRACTMIN e INSERT no tempo amortizado Olg C consulte o Capítulo 17 para obter mais informações sobre análise amortizada e DECREASEKEY no tempo O1 usando uma estrutura de dados denominada heap digital O limite Olg C pode ser melhorado para O lg C com a utilização de heaps de Fibonacci consulte o Capítulo 19 em conjunto com heaps digitais Cherkassky Goldberg e Silverstein 65 melhoraram ainda mais o limite até o tempo esperado O lg13 C combinando a estrutura de baldes em vários níveis de Denardo e Fox 85 com o heap de Thorup já mencionado Raman 291 aprimorou mais ainda esses resultados para obter um limite de Omin lg14 Clg13 n para qualquer 0 fixo 71 7 QUICKSORT O algoritmo quicksort ordenação rápida tem tempo de execução do pior caso de Qn2 para um arranjo de entrada de n números Apesar desse tempo de execução lento para o pior caso muitas vezes o quicksort é a melhor opção prática para ordenação devido à sua notável eficiência na média seu tempo de execução esperado é Qn lg n e os fatores constantes ocultos na notação Qn lg n são bastante pequenos Ele também apresenta a vantagem de ordenar no lugar veja página 17 e funciona bem até mesmo em ambientes de memória virtual A Seção 71 descreve o algoritmo e uma subrotina importante usada pelo quicksort para particionamento Como o comportamento do quicksort é complexo começaremos com uma discussão intuitiva de seu desempenho na Seção 72 e adiaremos sua análise precisa até o final do capítulo A Seção 73 apresenta uma versão de quicksort que utiliza amostragem aleatória Esse algoritmo tem um bom tempo de execução esperado e nenhuma entrada específica induz seu comportamento do pior caso A Seção 74 analisa o algoritmo aleatorizado mostrando que ele é executado no tempo Q n2 no pior caso e considerando elementos distintos no tempo esperado On lg n DESCRIÇÃO DO QUICKSORT O quicksort como a ordenação por intercalação aplica o paradigma de divisão e conquista introduzido na Seção 231 Descrevemos a seguir o processo de três etapas do método de divisão e conquista para ordenar um subarranjo típico Ap r Divisão Particionar reorganizar o arranjo Ap r em dois subarranjos possivelmente vazios Ap q 1 e Aq 1 r tais que cada elemento de Ap q 1 é menor ou igual a Aq que por sua vez é menor ou igual a cada elemento de Aq 1 r Calcular o índice q como parte desse procedimento de particionamento Conquista Ordenar os dois subarranjos Ap q 1 e Aq 1 r por chamadas recursivas a quicksort Combinação Como os subarranjos já estão ordenados não é necessário nenhum trabalho para combinálos o arranjo Ap r inteiro agora está ordenado O seguinte procedimento implementa o quicksort Para ordenar um arranjo A inteiro a chamada inicial é QUICKSORTA 1 Acomprimento Particionamento do arranjo A chave para o algoritmo é o procedimento PARTITION que reorganiza o subarranjo Ap r no lugar A Figura 71 mostra como PARTITION funciona para um arranjo de oito elementos PARTI TION sempre seleciona um elemento x Ar como um elemento pivô ao redor do qual particionar o subarranjo Ap r À medida que é executado o procedimento reparte o arranjo em quatro regiões possivelmente vazias No início de cada iteração do laço for nas linhas 36 as regiões satisfazem certas propriedades mostradas na Figura 72 Enunciamos essas propriedades como um invariante de laço 1 2 3 Figura 71 A operação PARTITION para uma amostra de arranjo A entrada Ar do arranjo tornase o elemento pivô x Os elementos do arranjo sombreados em tom mais claro estão na primeira partição com valores não maiores que x Elementos sombreados em tom mais escuro estão na segunda partição com valores maiores que x Os elementos não sombreados ainda não foram inseridos em uma das duas primeiras partições e o elemento final em fundo branco é o pivô x a Configuração inicial do arranjo e das variáveis Nenhum dos elementos foi inserido em nenhuma das duas primeiras partições b O valor 2 é permutado por ele mesmo e inserido na partição de valores menores cd Os valores 8 e 7 são acrescentados à partição de valores maiores e Os valores 1 e 8 são permutados e a partição menor cresce f Os valores 3 e 7 são permutados e a partição menor cresce gh A partição maior cresce para incluir 5 e 6 e o laço termina i Nas linhas 78 o elemento pivô é permutado de modo que se encontra entre as duas partições Figura 72 As quatro regiões mantidas pelo procedimento PARTITION em um subarranjo Ap r Os valores em Ap i são menores ou iguais a x os valores em Ai 1 j 1 são maiores que x e Ar x O subarranjo Aj r 1 pode aceitar quaisquer valores No início de cada iteração do laço das linhas 36 para qualquer índice k do arranjo Se p k i então Ak x Se i 1 k j 1 então Ak x Se k r então Ak x Os índices entre j e r 1 não são abrangidos por nenhum dos três casos e os valores nessas entradas não têm nenhuma relação particular com o pivô x Precisamos mostrar que esse invariante de laço é verdadeiro antes da primeira iteração que cada iteração do laço mantém o invariante e que o invariante fornece uma propriedade útil para mostrar correção quando o laço termina Inicialização Antes da primeira iteração do laço i p 1 e j p Como não há nenhum valor entre p e i e nenhum valor entre i 1 e j 1 as duas primeiras condições do invariante de laço são satisfeitas trivialmente A atribuição na linha 1 satisfaz a terceira condição Manutenção Como mostra a Figura 73 consideraremos dois casos dependendo do resultado do teste na linha 4 A Figura 73a mostra o que acontece quando Aj x a única ação no laço é incrementar j Depois que j é incrementado a condição 2 é válida para Aj 1 e todas as outras entradas permanecem inalteradas A Figura 73b mostra o que acontece quando Aj x o laço incrementa i permuta Ai e Aj e então incrementa j Por causa da troca agora temos que Ai x e a condição 1 é satisfeita De modo semelhante também temos que Aj 1 x visto que o item que foi permutado para dentro de Aj 1 é pelo invariante de laço maior que x Término No término j r Portanto toda entrada no arranjo está em um dos três conjuntos descritos pelo invariante e particionamos os valores no arranjo em três conjuntos os menores ou iguais a x os maiores que x e um conjunto unitário contendo x As duas linhas finais de PARTITION terminam permutando o elemento pivô pelo elemento maior que x na extrema esquerda e com isso deslocam o pivô até seu lugar correto no arranjo particionado em seguida retornam o novo índice do pivô Agora a saída de PARTITION satisfaz as especificações dadas para a etapa dividir Na verdade ela satisfaz uma condição ligeiramente mais forte após a linha 2 de QUICKSORT Aq é estritamente menor do que todo elemento de Aq 1 r 711 712 713 714 O tempo de execução de PARTITION para o subarranjo Ap r é Qn onde n r p 1 veja Exercício 713 Exercícios Usando a Figura 7 1 como modelo ilustre a operação de PARTITION sobre o arranjo A 13 19 9 5 12 8 7 4 21 2 6 11 Qual valor de q PARTITION retorna quando todos os elementos no arranjo Ap r têm o mesmo valor Modifique PARTITION de modo que q p r2 quando todos os elementos no arranjo Ap r têm o mesmo valor Figura 73 Os dois casos para uma iteração do procedimento PARTITION a Se Aj x a única ação é incrementar j que mantém o invariante de laço b Se Aj x o índice i é incrementado Ai e Aj são permutados e então j é incrementado Novamente o invariante de laço é mantido Apresente um breve argumento mostrando que o tempo de execução de PARTITION para um subarranjo de tamanho n é Qn Como você modificaria QUICKSORT para ordenar em ordem não crescente 72 O DESEMPENHO DO QUICKSORT O tempo de execução do quicksort depende de o particionamento ser balanceado ou não balanceado o que por sua vez depende de quais elementos são usados para particionar Se o particionamento é balanceado o algoritmo é executado assintoticamente tão rápido quanto a ordenação por intercalação Contudo se o particionamento é não balanceado ele pode ser executado assintoticamente tão lento quanto a ordenação por inserção Nesta seção investigaremos informalmente como o quicksort se comporta sob as premissas do particionamento balanceado e do particionamento não balanceado Particionamento no pior caso O comportamento do pior caso para o quicksort ocorre quando a rotina de particionamento produz um subproblema com n 1 elementos e um com 0 elementos Provamos essa afirmativa na Seção 741 Vamos considerar que esse particionamento não balanceado surja em cada chamada recursiva O particionamento custa o tempo Qn Visto que a chamada recursiva para um arranjo de tamanho 0 apenas retorna T0 Q1 e a recorrência para o tempo de execução é Intuitivamente se somarmos os custos incorridos em cada nível da recursão obteremos uma série aritmética equação A2 cujo valor chega a Qn2 Na realidade é simples usar o método de substituição para provar que a recorrência Tn Tn 1 Qn tem a solução Tn Qn2 Veja o Exercício 721 Assim se o particionamento é maximamente não balanceado em todo nível recursivo do algoritmo o tempo de execução é Qn2 Portanto o tempo de execução do pior caso do quicksort não é melhor que o da ordenação por inserção Além disso o tempo de execução Qn2 ocorre quando o arranjo de entrada já está completamente ordenado uma situação comum na qual a ordenação por inserção é executada no tempo On Particionamento do melhor caso Na divisão mais equitativa possível PARTITION produz dois subproblemas cada um de tamanho não maior que n2 já que um é de tamanho n2 e o outro é de tamanho n2 1 Nesse caso a execução do quicksort é muito mais rápida Então a recorrência para o tempo de execução é onde toleramos o desleixo de ignorar o piso e o teto e de subtrair 1 Pelo caso 2 do teorema mestre Teorema 41 a solução dessa recorrência é Tn Qn lg n Balanceando igualmente os dois lados da partição em todo nível da recursão obtemos um algoritmo assintoticamente mais rápido Particionamento balanceado O tempo de execução do caso médio do quicksort é muito mais próximo do melhor caso que do pior caso como mostrarão as análises da Seção 74 A chave para entender por que é entender como o equilíbrio do particionamento é refletido na recorrência que descreve o tempo de execução Por exemplo suponha que o algoritmo de particionamento sempre produza uma divisão proporcional de 9 para 1 que à primeira vista parece bastante desequilibrada Então obtemos a recorrência no tempo de execução do quicksort e incluímos explicitamente a constante c oculta no termo Qn A Figura 74 mostra a árvore de recursão para essa recorrência Note que todo nível da árvore tem custo cn até a recursão alcançar uma condição de contorno à profundidade log10 n Qlg n daí em diante os níveis têm no máximo o custo cn A recursão termina na profundidade log109 n Qlg n Portanto o custo total do quicksort é On lg n Assim com uma divisão na proporção de 9 para 1 em todo nível de recursão o que intuitivamente parece bastante desequilibrado o quicksort é executado no tempo On lg n assintoticamente o mesmo tempo que teríamos se a divisão fosse exatamente ao meio De fato até mesmo uma divisão de 99 para 1 produz um tempo de execução On lg n Na verdade qualquer divisão de proporcionalidade constante produz uma árvore de recursão de profundidade Qlg n em que o custo em cada nível é On Portanto o tempo de execução é Qn lg n sempre que a divisão tiver proporcionalidade constante Figura 74 Uma árvore de recursão para QUICKSORT na qual PARTITION sempre produz uma divisão de 9 para 1 resultando no tempo de execução On lg n Os nós mostram tamanhos de subproblemas com custos por nível à direita Os custos por nível incluem a constante c implícita no termo Qn Intuição para o caso médio Para desenvolver uma noção clara do comportamento aleatorizado do quicksort temos de adotar uma premissa em relação à frequência com que esperamos encontrar as várias entradas O comportamento do quicksort depende da ordenação relativa dos valores nos elementos do arranjo dados como entrada e não dos valores particulares no arranjo Como em nossa análise probabilística do problema da contratação na Seção 52 suporemos por enquanto que todas as permutações dos números de entrada são igualmente prováveis Quando executamos o quicksort sobre um arranjo de entrada aleatório é muito improvável que o particionamento ocorra do mesmo modo em todo nível como nossa análise informal pressupôs Esperamos que algumas divisões serão razoavelmente bem equilibradas e outras serão razoavelmente desequilibradas Por exemplo o Exercício 726 pede para você mostrar que em aproximadamente 80 do tempo PARTITION produz uma divisão mais equilibrada que 9 para 1 e em aproximadamente 20 do tempo ele produz uma divisão menos equilibrada que 9 para 1 721 722 723 724 No caso médio PARTITION produz um misto de divisões boas e ruins Em uma árvore de recursão para uma execução de PARTITION para o caso médio as divisões boas e ruins estão distribuídas aleatoriamente por toda a árvore Suponha por intuição que as divisões boas e ruins se alternem nos níveis da árvore que as divisões boas sejam divisões do melhor caso e as divisões ruins sejam divisões do pior caso A Figura 75a mostra as divisões em dois níveis consecutivos na árvore de recursão Na raiz da árvore o custo é n para particionamento e os subarranjos produzidos têm tamanhos n 1 e 0 o pior caso No nível seguinte o subarranjo de tamanho n 1 sofre particionamento do melhor caso e subdividese em dois subarranjos de tamanhos n 12 1 e n 12 Vamos supor que o custo da condição de contorno é 1 para o subarranjo de tamanho 0 Figura 75 a Dois níveis de uma árvore de recursão para quicksort O particionamento na raiz custa n e produz uma divisão ruim dois subarranjos de tamanhos 0 e n 1 O particionamento do subarranjo de tamanho n 1 custa n 1 e produz uma divisão boa subarranjos de tamanhos n 12 1 e n 12 b Um único nível de uma árvore de recursão que está muito bem equilibrada Em ambas as partes o custo de particionamento para os subproblemas mostrados nas elipses sombreadas é Qn Ainda assim os subproblemas que ainda faltam resolver em a mostrados nos retângulos sombreados não são maiores que os subproblemas que ainda faltam resolver em b A combinação da divisão ruim seguida pela divisão boa produz três subarranjos de tamanhos 0 n 12 1 e n 12 a um custo de particionamento combinado de Qn Qn 1 Qn Certamente essa situação não é pior que a da Figura 75b ou seja um único nível de particionamento que produz dois subarranjos de tamanho n 12 ao custo Qn Ainda assim esta última situação é equilibrada Intuitivamente o custo Qn 1 da divisão ruim pode ser absorvido no custo Qn da divisão boa e a divisão resultante é boa Assim o tempo de execução do quicksort quando os níveis se alternam entre divisões boas e ruins é semelhante ao tempo de execução para divisões boas sozinhas ainda On lg n mas com uma constante ligeiramente maior oculta pela notação O Faremos uma análise rigorosa do tempo de execução esperado de uma versão aleatorizada do quicksort na Seção 742 Exercícios Use o método de substituição para provar que a recorrência Tn Tn 1 Qn tem a solução Tn Qn2 como afirmamos no início da Seção 72 Qual é o tempo de execução de QUICKSORT quando todos os elementos do arranjo A têm o mesmo valor Mostre que o tempo de execução do QUICKSORT é Qn2 quando o arranjo A contém elementos distintos e está ordenado em ordem decrescente Os bancos frequentemente registram transações em uma conta na ordem dos horários das transações mas muitos clientes gostam de receber em seus extratos bancários uma relação de cheques por ordem do número do cheque Normalmente as pessoas preenchem cheques na ordem do número do cheque e os comerciantes normalmente os descontam com presteza razoável Portanto o problema de converter a ordenação pela hora da transação na ordenação pelo número do cheque é o problema de ordenar uma entrada quase ordenada 725 73 726 Demonstre que o procedimento INSERTIONSORT tenderia a superar o procedimento QUICKSORT nesse problema Suponha que as divisões em todo nível do quicksort estejam na proporção 1 α para α onde 0 α 12 é uma constante Mostre que a profundidade mínima de uma folha na árvore de recursão é aproximadamente lg nlg α e a profundidade máxima é aproximadamente lg nlg1 α Não se preocupe com arredondamento Demonstre que para qualquer constante 0 α 12 a probabilidade de que em um arranjo de entradas aleatórias PARTITION produza uma divisão mais equilibrada que 1 α para α é aproximadamente 1 2α UMA VERSÃO ALEATORIZADA DO QUICKSORT Quando exploramos o comportamento do caso médio do quicksort adotamos a premissa de que todas as permutações dos números de entrada são igualmente prováveis Porém em uma situação de engenharia nem sempre podemos esperar que tal premissa se mantenha válida veja o Exercício 724 Como vimos na Seção 53 às vezes podemos acrescentar aleatorização a um algoritmo para obter bom desempenho esperado para todas as entradas Muitos consideram a versão aleatorizada do quicksort resultante o algoritmo de ordenação preferido para entradas suficientemente grandes Na Seção 53 aleatorizamos nosso algoritmo permutando explicitamente a entrada Também poderíamos fazer isso para o quicksort mas uma técnica de aleatorização diferente denominada amostragem aleatória produz uma análise mais simples Em vez de sempre usar Ar como pivô selecionaremos um elemento escolhido aleatorimente no subarranjo Ap r Para tal em primeiro lugar permutamos o elemento Ar por um elemento escolhido aleatoriamente em Ap r Tomar amostras aleatórias na faixa p r assegura que o elemento pivô x Ar tem a mesma probabilidade de ser qualquer um dos r p 1 elementos no subarranjo Como escolhemos o elemento pivô aleatoriamente esperamos que a divisão do arranjo de entrada seja razoavelmente bem equilibrada na média As mudanças em PARTITION e QUICKSORT são pequenas No novo procedimento de partição simplesmente implementamos a troca antes do particionamento propriamente dito O novo quicksort chama RANDOMIZEDPARTITION em vez de PARTITION Analisaremos esse algoritmo na próxima seção Exercícios 731 732 74 741 Por que analisamos o tempo de execução esperado de um algoritmo aleatorizado e não seu tempo de execução do pior caso Durante a execução do procedimento RANDOMizedQUICKSORT quantas chamadas são feitas ao gerador de números aleatórios RANDOM no pior caso E no melhor caso Dê a resposta em termos de notação Q ANÁLISE DO QUICKSORT A Seção 72 nos deu uma ideia do comportamento do pior caso do quicksort e do motivo por que esperamos que ele funcione rapidamente Nesta seção analisaremos o comportamento do quicksort mais rigorosamente Começaremos com uma análise do pior caso que se aplica a QUICKSORT ou a RANDOMizedQUICKSORT e concluímos com uma análise do tempo de execução esperado de RANDOMizedQUICKSORT ANÁLISE DO PIOR CASO Vimos na Seção 72 que uma divisão do pior caso em todo nível de recursão do quicksort produz um tempo de execução Qn2 que intuitivamente é o tempo de execução do pior caso do algoritmo Agora vamos provar essa afirmação Usando o método de substituição veja Seção 43 podemos mostrar que o tempo de execução do quicksort é On2 Seja Tn o tempo do pior caso para o procedimento QUICKSORT para uma entrada de tamanho n Temos a recorrência onde o parâmetro q está na faixa de 0 a n 1 porque o procedimento PARTITION produz dois subproblemas com tamanho total n 1 Nosso palpite é que Tn cn2 para alguma constante c Substituindo esse palpite na recorrência 71 obtemos A expressão q2 n q 12 atinge um máximo na faixa do parâmetro 0 q n 1 em qualquer das extremidades Para verificar essa afirmativa observe que a derivada de segunda ordem da expressão em relação a q é positiva veja o Exercício 743 Essa observação nos dá o limite max0 q n 1q2 n q 12 n 12 n2 2n 1 Continuando com nossa definição do limite de Tn obtemos visto que podemos escolher a constante c suficientemente grande de modo que o termo c2n 1 domine o termo Qn Assim Tn On2 Vimos na Seção 72 um caso específico no qual o quicksort demora o tempo n2 quando o particionamento é desequilibrado Como alternativa o Exercício 741 pede que você mostre que a recorrência 71 tem uma solução Tn n2 Assim o tempo de execução do pior caso do quicksort é Qn2 742 TEMPO DE EXECUÇÃO ESPERADO Já vimos a intuição que nos diz por que o tempo de execução do caso médio de RANDOMIZEDQUICKSORT é On lg n se em cada nível de recursão a divisão induzida por RANDOMIZEDPARTITION colocar qualquer fração constante dos elementos em um lado da partição a árvore de recursão terá a profundidade Qlg n e o trabalho On será executado em cada nível Ainda que acrescentemos alguns novos níveis com a divisão mais desequilibrada possível entre esses níveis o tempo total permanece On lg n Podemos analisar precisamente o tempo de execução esperado de RANDOMizedQUICKSORT entendendo em primeiro lugar como o procedimento de particionamento funciona e depois usando essa compreensão para derivar um limite On lg n para o tempo de execução esperado Esse limite superior para o tempo de execução esperado combinado com o limite do melhor caso Qn lg n que vimos na Seção 72 produz um tempo de execução esperado Qn lg n Consideramos do princípio ao fim que os valores dos elementos que estão sendo ordenados são distintos Tempo de execução e comparações A única diferença entre os procedimentos QUICKSORT e RANDOMizedQUICKSORT é o modo como selecionam elementos pivôs em todos os outros aspectos eles são iguais Portanto podemos expressar nossa análise de RANDOMIZEDQUICKSORT discutindo os procedimentos QUICKSORT e PARTITION porém considerando que os elementos pivôs são selecionados aleatoriamente no subarranjo passado para RANDOMIZEDPARTITION O tempo de execução do QUICKSORT é dominado pelo tempo gasto no procedimento PARTITION Toda vez que é chamado o procedimento PARTITION seleciona um elemento pivô e esse elemento nunca é incluído em nenhuma chamada recursiva futura a QUICKSORT e PARTITION Assim pode haver no máximo n chamadas a PARTITION durante a execução inteira do algoritmo de quicksort Uma chamada a PARTITION demora o tempo O1 mais uma quantidade de tempo proporcional ao número de iterações do laço for nas linhas 36 Cada iteração desse laço for executa uma comparação na linha 4 comparando o elemento pivô com outro elemento do arranjo A Portanto se pudermos contar o número total de vezes que a linha 4 é executada poderemos limitar o tempo total gasto no laço for durante toda a execução de QUICKSORT Lema 71 Seja X o número de comparações executadas na linha 4 de PARTITION por toda a execução de QUICKSORT para um arranjo de n elementos Então o tempo de execução do QUICKSORT é On X Prova Pela discussão anterior o algoritmo faz no máximo n chamadas a PARTITION cada uma das quais faz uma quantidade constante de trabalho e depois executa o laço for um certo número de vezes Cada iteração do laço for executa a linha 4 Portanto nossa meta é calcular X o número total de comparações executadas em todas as chamadas a PARTITION Não tentaremos analisar quantas comparações são feitas em cada chamada a PARTITION Em vez disso deduziremos um limite global para o número total de comparações Para tal temos de entender quando o algoritmo compara dois elementos do arranjo e quando não compara Para facilitar a análise renomeamos os elementos do arranjo A como z1 z2 zn sendo zi o iésimo menor elemento Também definimos o conjunto Zij zi zi 1 zj como o conjunto de elementos entre zi e zj inclusive Quando o algoritmo compara zi e zj Para responder a essa pergunta primeiro observamos que cada par de elementos é comparado no máximo uma vez Por quê Os elementos são comparados apenas com o elemento pivô e depois que uma chamada específica de PARTITION termina o elemento pivô usado nessa chamada nunca mais é comparado com nenhum outro elemento Nossa análise utiliza variáveis aleatórias indicadoras veja Seção 52 Definimos onde consideramos a comparação se ocorre em algum instante durante a execução do algoritmo não apenas durante uma iteração ou uma chamada de PARTITION Visto que cada par é comparado no máximo uma vez podemos caracterizar facilmente o número total de comparações executadas pelo algoritmo Tomando as esperanças em ambos os lados e depois usando linearidade de esperança e o Lema 51 obtemos resta calcular Pr zi é comparado com zj Nossa análise supõe que o procedimento RANDOMIZEDPARTITION escolhe cada pivô de modo aleatório e independente Vamos pensar no caso em que dois itens não são comparados Considere uma entrada para quicksort dos números 1 a 10 em qualquer ordem e suponha que o primeiro elemento pivô seja 7 Então a primeira chamada a PARTITION separa os números em dois conjuntos 1 2 3 4 5 6 e 8 9 10 Ao fazer isso o elemento pivô 7 é comparado com todos os outros elementos mas nenhum número do primeiro conjunto por exemplo 2 é ou jamais será comparado com qualquer número do segundo conjunto por exemplo 9 Em geral visto que supomos que os valores dos elementos são distintos uma vez escolhido um pivô x com zi x zj sabemos que zi e zj não podem ser comparados em nenhum momento subsequente Se por outro lado zi for escolhido como um pivô antes de qualquer outro item em Zij zi será comparado com cada item em Zij exceto ele mesmo De modo semelhante se zj for escolhido como pivô antes de qualquer outro item em Zij então zj será comparado com cada item em Zij exceto ele próprio Em nosso exemplo os valores 7 e 9 são comparados porque 7 é o primeiro item de Z79 a ser escolhido como pivô Em contraste 2 e 9 nunca serão comparados porque o primeiro elemento pivô escolhido de Z29 é 7 Assim zi e zj são comparados se e somente se o primeiro elemento a ser escolhido como pivô de Zij for zi ou zj Agora calculamos a probabilidade de esse evento ocorrer Antes do ponto em que um elemento de Zij foi escolhido como pivô todo o conjunto Zij está reunido na mesma partição Por conseguinte qualquer elemento de Zij tem igual probabilidade de ser o primeiro escolhido como pivô Como o conjunto Zij tem j i 1 elementos e visto que os pivôs são escolhidos de modo aleatório e independente a probabilidade de qualquer elemento dado ser o primeiro escolhido como pivô é 1j i 1 Assim temos 741 742 743 744 A segunda linha decorre porque os dois eventos são mutuamente exclusivos Combinando as equações 72 e 73 obtemos Podemos avaliar essa soma usando uma troca de variáveis k j i e o limite para a série harmônica na equação A7 Assim concluímos que usando RANDOMIZEDPARTITION o tempo de execução esperado de quicksort é On lg n quando os valores dos elementos são distintos Exercícios Mostre que na recorrência Mostre que o tempo de execução do melhor caso do quicksort é n lg n Mostre que a expressão q2 n q 12 atinge um máximo em q 0 1 n 1 quando q 0 ou q n 1 Mostre que o tempo de execução esperado do procedimento RANDOMizedQUICKSORT é n lg n 745 71 a b c d 746 Podemos melhorar o tempo de execução do quicksort na prática tirando proveito do tempo de execução rápido da ordenação por inserção quando sua entrada está quase ordenada Ao chamar o quicksort para um subarranjo com menos de k elementos deixeo simplesmente retornar sem ordenar o subarranjo Após o retorno da chamada de alto nível a quicksort execute a ordenação por inserção para o arranjo inteiro para concluir o processo de ordenação Mostre que esse algoritmo de ordenação é executado no tempo esperado Onk n lgnk Como k deve ser escolhido tanto na teoria quanto na prática Considere modificar o procedimento PARTITION escolhendo aleatoriamente três elementos do arranjo A e executando a partição em torno de sua mediana o valor médio dos três elementos Dê uma aproximação para a probabilidade de obter na pior das hipóteses uma divisão α para 1 α em função de α no intervalo 0 α 1 Problemas Correção da partição de Hoare A versão de PARTITION dada neste capítulo não é o algoritmo de particionamento original Apresentamos a seguir o algoritmo de partição original que deve seu nome a CAR Hoare Demonstre a operação de HOAREPARTITION sobre o arranjo A 13 19 9 5 12 8 7 4 11 2 6 21 mostrando os valores do arranjo e os valores auxiliares após cada iteração do laço for das linhas 413 As três perguntas seguintes pedem que você apresente um argumento cuidadoso de que o procedimento HOAREPARTITION é correto Levando em conta que o subarranjo Ap rcontém pelo menos dois elementos prove que Os índices i e j são tais que nunca acessamos um elemento de A fora do subarranjo Ap r Quando HOAREPARTITION termina ele retorna um valor j tal que p j r Todo elemento de Ap j é menor ou igual a todo elemento de Aj 1 r quando HOAREPARTITION termina e 72 a b c d 73 a b O procedimento PARTITION da Seção 71 separa o valor do pivô originalmente em Ar das duas partições que ele forma Por outro lado o procedimento HOAREPARTITION sempre insere o valor do pivô originalmente em Ap em uma das duas partições Ap j e Aj 1 r Visto que p j r essa divisão é sempre não trivial Reescreva o procedimento QUICKSORT para usar HOAREPARTITION Quicksort com elementos de valores iguais A análise do tempo de execução esperado do QUICKSORT aleatorizado na Seção 742 supõe que todos os valores dos elementos são distintos Neste problema examinamos o que acontece quando não são Suponha que todos os valores dos elementos sejam iguais Qual seria o tempo de execução do quicksort aleatorizado nesse caso O procedimento PARTITION retorna um índice q tal que cada elemento de Ap q 1 é menor ou igual a Aq e cada elemento de Aq 1 r é maior que Aq Modifique o procedimento PARTITION para produzir um procedimento PARTITIONA p r que permuta os elementos de Ap r e retorna dois índices q e t onde p q t r tal que todos os elemento de Aq t são iguais cada elemento de Ap q 1 é menor do que Aq e cada elemento de At 1 é maior que Aq Como o procedimento PARTITION o seu procedimento PARTITION deve demorar o tempo Qr p Modifique o procedimento RANDOMIZEDPARTITION para chamar PARTITION e denomine o novo procedimento RANDOMIZEDPARTITION Então modifique o procedimento QUICKSORT para produzir um procedimento QUICKSORTp r que chama RANDOMIZEDPARTITION e é recursivo somente em partições de elementos que sabemos que não são iguais uns aos outros Usando QUICKSORT como você ajustaria a análise na Seção 742 para evitar a premissa de que todos os elementos são distintos Análise alternativa do Quicksort Uma análise alternativa do tempo de execução de quicksort aleatorizado focaliza o tempo de execução esperado de cada chamada recursiva individual a RANDOMIZEDQUICKSORT em vez do número de comparações executadas Demonstre que dado um arranjo de tamanho n a probabilidade de qualquer elemento específico ser escolhido como pivô é 1n Use isso para definir variáveis aleatórias indicadoras Xi I o iésimo menor elemento é escolhido como pivô Qual é EXi Seja Tn uma variável aleatória que denota o tempo de execução do quicksort para um arranjo de tamanho n Demonstre que c d d 74 a b c 75 Mostre que podemos reescrever a equação 75 como Mostre que Sugestão Divida o somatório em duas partes uma para k 2 3 n2 1 e uma para k n2 n 1 Usando o limite da equação 77 mostre que a recorrência na equação 76 tem a solução ETn Qn lg n Sugestão Mostre por substituição que ETn an log n bn para n suficientemente grande e para alguma constante positiva a Profundidade de pilha para Quicksort O algoritmo QUICKSORT da Seção 71 contém duas chamadas recursivas a ele próprio Após chamar PARTITION o QUICKSORT ordena recursivamente o subarranjo da esquerda e depois ordena recursivamente o subarranjo da direita A segunda chamada recursiva em QUICKSORT não é realmente necessária podemos evitála utilizando uma estrutura de controle iterativa Essa técnica denominada recursão de cauda é automaticamente fornecida por bons compiladores Considere a versão de quicksort a seguir que simula a recursão de cauda Mostre que TAILRECURSIVEQUICKSORTA 1 A length ordena corretamente o arranjo A Os compiladores normalmente executam procedimentos recursivos usando uma pilha que contém informações pertinentes inclusive os valores de parâmetros para cada chamada recursiva As informações para a chamada mais recente estão na parte superior da pilha e as informações para a chamada inicial encontramse na parte inferior Quando um procedimento é invocado suas informações são empurradas sobre a pilha quando ele termina suas informações são extraídas Visto que supomos que os parâmetros arranjos são representados por ponteiros as informações para cada chamada de procedimento na pilha exigem espaço de pilha O1 A profundidade de pilha é a quantidade máxima de espaço de pilha usado em qualquer instante durante uma computação Descreva um cenário no qual a profundidade de pilha de TAILRECURSIVEQUICKSORT é Qn para um arranjo de entrada de n elementos Modifique o código para TAILRECURSIVEQUICKSORT de tal modo que a profundidade de pilha do pior caso seja Qlg n Mantenha o tempo de execução esperado On lg n do algoritmo Partição de mediana de 3 a b c d 76 a b Um modo de melhorar o procedimento RANDOMIZEDQUICKSORT é particionar em torno de um pivô escolhido com maior cuidado que escolher um elemento aleatório do subarranjo Uma abordagem comum é o método da mediana de 3 escolha como pivô a mediana o elemento do meio de um conjunto de 3 elementos selecionados aleatoriamente no subarranjo veja o Exercício 746 Para esse problema vamos supor que os elementos no arranjo de entrada A1 n sejam distintos e que n 3 Denotamos o arranjo de saída ordenado por A 1 n Usando o método da mediana de 3 para escolher o elemento pivô x defina pi Prx A i Dê uma fórmula exata para pi em função de n e i para i 2 3 n 1 Observe que p1 pn 0 De quanto aumentamos a probabilidade de escolher como pivô x An 12 a mediana de A1 n em comparação com a implementação comum Suponha que n e dê o limite da razão dessas probabilidades Se definirmos que uma boa divisão significa escolher o pivô como x Ai onde n3 i 2n3 de quanto aumentamos a probabilidade de obter uma boa divisão em comparação com a implementação comum Sugestão Aproxime a soma por uma integral Mostre que no tempo de execução n lg n do quicksort o método da mediana de 3 só afeta o fator constante Ordenação nebulosa de intervalos Considere um problema de ordenação no qual não conhecemos os números exatamente Em vez disso para cada número conhecemos um intervalo na linha dos números reais ao qual ele pertence Isto é temos n intervalos fechados da forma ai bi onde ai bi Queremos executar a ordenação nebulosa desses intervalos isto é produzir uma permutação i1 i2 in dos intervalos tal que para j 12 n exista cj aij bij que satisfaz c1 c2 cn Projete um algoritmo aleatorizado para executar ordenação nebulosa de n intervalos Seu algoritmo deve ter a estrutura geral de um algoritmo que executa quicksort nas extremidades esquerdas os valores ai mas deve tirar proveito da sobreposição de intervalos para melhorar o tempo de execução À medida que os intervalos se sobrepõem mais e mais o problema da ordenação nebulosa dos intervalos tornase cada vez mais fácil Seu algoritmo deve tirar proveito dessa sobreposição até onde ela existir Demonstre que seu algoritmo é executado no tempo esperado Qn lg n em geral mas funciona no tempo esperado Qn quando todos os intervalos se sobrepõem isto é quando existe um valor x tal que x ai bi para todo i O algoritmo não deve verificar esse caso explicitamente em vez disso seu desempenho deve melhorar naturalmente à medida que a proporção de sobreposição aumentar NOTAS DO CAPÍTULO O procedimento quicksort foi inventado por Hoare 170 a versão de Hoare aparece no Problema 71 O procedimento PARTITION dado na Seção 71 se deve a N Lomuto A análise da Seção 74 se deve a Avrim Blum Sedgewick 305 e Bentley 43 nos dão uma boa referência sobre os detalhes de implementação e como eles são importantes McIlroy 248 mostrou como gerar um adversário matador que produz um arranjo para o qual praticamente qualquer implementação do quicksort demora o tempo Qn2 Se a implementação for aleatorizada o adversário produz o arranjo depois de examinar as escolhas aleatórias do algoritmo do quicksort 81 8 ORDENAÇÃO EM TEMPO LINEAR Apresentamos até agora vários algoritmos que podem ordenar n números no tempo On lg n A ordenação por intercalação e a ordenação por heap atingem esse limite superior no pior caso o quicksort o atinge na média Além do mais para cada um desses algoritmos podemos produzir uma sequência de n números de entrada que faz o algoritmo ser executado no tempo n lg n Esses algoritmos compartilham uma propriedade interessante a sequência ordenada que eles determinam se baseia apenas em comparações entre os elementos da entrada Denominamos esses algoritmos de ordenação ordenações por comparação Todos os algoritmos de ordenação apresentados até aqui são ordenações por comparação Na Seção 81 provaremos que para ordenar n elementos qualquer ordenação por comparação deve efetuar n lg n comparações no pior caso Assim a ordenação por intercalação e a ordenação por heap são assintoticamente ótimas e não existe nenhuma ordenação por comparação que seja mais rápida por mais de um fator constante As Seções 82 83 e 84 examinam três algoritmos de ordenação ordenação por contagem ordenação digital e ordenação por balde que são executados em tempo linear É claro que esses algoritmos utilizam outras operações diferentes de comparações para determinar a sequência ordenada Por consequência o limite inferior n lg n não se aplica a eles LIMITES INFERIORES PARA ORDENAÇÃO Em uma ordenação por comparação usamos somente comparações entre elementos para obter informações de ordem para uma sequência de entrada a1 a2 an Isto é dados dois elementos ai e aj executamos um dos testes ai aj ai aj ai aj ai aj ou ai aj para determinar sua ordem relativa Não podemos inspecionar os valores dos elementos nem obter informações de ordem sobre eles de qualquer outro modo Nesta seção consideramos sem perder a generalidade que todos os elementos de entrada são distintos Adotada essa premissa comparações da forma ai aj são inúteis portanto podemos admitir que nenhuma comparação desse tipo é feita Também observamos que as comparações ai aj ai aj ai aj e ai aj são equivalentes já que produzem informações idênticas sobre a ordem relativa de ai e aj Portanto consideramos que todas as comparações têm a forma ai aj O modelo de árvore de decisão Podemos imaginar as ordenações por comparação como árvores de decisão Uma árvore de decisão é uma árvore binária cheia que representa as comparações entre elementos executadas por um determinado algoritmo de ordenação aplicado a uma entrada de dado tamanho Controle movimentação de dados e todos os outros aspectos do algoritmo são ignorados A Figura 81 mostra a árvore de decisão correspondente ao algoritmo de ordenação por inserção da Seção 21 aplicado a uma sequência de entrada de três elementos Figura 81 Árvore de decisão para ordenação por inserção para três elementos Um nó interno anotado como ij indica uma comparação entre ai e ai Uma folha anotada como permutação p1 p2 pn indica a ordenação aπ1aπ2aπn O caminho sombreado indica as decisões tomadas durante a ordenação da sequência de entrada a1 6 a2 8 a3 5 a permutação 3 1 2 na folha indica que a sequência ordenada é a3 5 a1 6 a2 8 Existem 3 6 permutações possíveis dos elementos de entrada assim a árvore de decisão deve ter no mínimo seis folhas Em uma árvore de decisão anotamos cada nó interno como ij para algum i e j na faixa 1 i j n onde n é o número de elementos na sequência de entrada Também anotamos cada folha como uma permutação p1 p2 pn a Seção C1 dá os fundamentos de permutações A execução do algoritmo de ordenação corresponde a traçar um caminho simples desde a raiz da árvore de decisão até uma folha Cada nó interno indica uma comparação ai aj Então a subárvore da esquerda determina comparações subsequentes já que sabemos que ai aj e a subárvore da direita determinam comparações subsequentes sabendo que ai aj Quando chegamos a uma folha o algoritmo de ordenação estabeleceu a ordenação ap1 ap2 apn Como qualquer algoritmo de ordenação correto deve ser capaz de produzir cada permutação de sua entrada cada uma das n permutações em n elementos deve aparecer como uma das folhas da árvore de decisão para uma ordenação por comparação ser correta Além disso cada uma dessas folhas deve ser acessível a partir da raiz por um caminho descendente correspondente a uma execução propriamente dita da ordenação por comparação essas folhas serão denominadas acessíveis Assim consideraremos apenas árvores de decisão nas quais cada permutação aparece como uma folha acessível Um limite inferior para o pior caso O comprimento do caminho simples mais longo desde a raiz de uma árvore de decisão até qualquer de suas folhas acessíveis representa o número de comparações do pior caso que o algoritmo de ordenação correspondente executa Consequentemente o número de comparações do pior caso para dado algoritmo de ordenação por comparação é igual à altura de sua árvore de decisão Um limite inferior para as alturas de todas as árvores de decisão nas quais cada permutação aparece como uma folha acessível é portanto um limite inferior para o tempo de execução de qualquer algoritmo de ordenação por comparação O teorema a seguir estabelece esse limite inferior Teorema 81 Qualquer algoritmo de ordenação por comparação exige n lg n comparações no pior caso 811 812 813 814 82 Prova Pela discussão precedente basta determinar a altura de uma árvore de decisão na qual cada permutação aparece como uma folha acessível Considere uma árvore de decisão de altura h com l folhas acessíveis correspondente a uma ordenação por comparação sobre n elementos Como cada uma das n permutações da entrada aparece como alguma folha temos n l Visto que uma árvore binária de altura h não tem mais de 2h folhas temos que tomando logaritmos implica Corolário 82 A ordenação por heap e a ordenação por intercalação são ordenações por comparação assintoticamente ótimas Prova Os limites superiores On lg n para os tempos de execução para ordenação por heap e ordenação por intercalação correspondem ao limite inferior n lg n do pior caso do Teorema 81 Exercícios Qual é a menor profundidade possível de uma folha em uma árvore de decisão para ordenação por comparação Obtenha limites assintoticamente justos para lgn sem usar a aproximação de Stirling Em vez disso avalie o somatório empregando técnicas da Seção A2 Mostre que não existe nenhuma ordenação por comparação cujo tempo de execução seja linear para no mínimo metade das n entradas de comprimento n E no caso de uma fração 1n das entradas de comprimento n E no caso de uma fração 12n Suponha que você recebeu uma sequência de n elementos para ordenar A sequência de entrada consiste em n k subsequências cada uma contendo k elementos Os elementos em uma dada subsequência são todos menores que os elementos na subsequência seguinte e maiores que os elementos na subsequência precedente Assim para ordenar a sequência inteira de comprimento n basta ordenar os k elementos em cada uma das nk subsequências Mostre um limite inferior Ωn lg k para o número de comparações necessárias para resolver essa variante do problema de ordenação Sugestão Não é rigoroso simplesmente combinar os limites inferiores para as subsequências individuais ORDENAÇÃO POR CONTAGEM A ordenação por contagem supõe que cada um dos n elementos de entrada é um inteiro na faixa 1 a k para algum inteiro k Quando k On a ordenação é executada no tempo Qn A ordenação por contagem determina para cada elemento de entrada x o número de elementos menores que x e usa essa informação para inserir o elemento x diretamente em sua posição no arranjo de saída Por exemplo se 17 elementos forem menores que x então x pertence à posição de saída 18 Temos de modificar ligeiramente esse esquema para lidar com a situação na qual vários elementos têm o mesmo valor já que não queremos inserir todos eles na mesma posição No código para ordenação por contagem consideramos que a entrada é um arranjo A1 n e portanto de Acomprimento n Precisamos de dois outros arranjos o arranjo B1 n contém a saída ordenada e o arranjo C0 k fornece armazenamento temporário adequado Figura 82 Operação de COUNTINGSORT para um arranjo de entrada A1 8 onde cada elemento de A é um inteiro não negativo não maior que k 5 a O arranjo A e o arranjo auxiliar C após a linha 5 b O arranjo C após a linha 8 ce O arranjo de saída B e o arranjo auxiliar C após uma duas e três iterações do laço nas linhas 1012 respectivamente Apenas os elementos do arranjo B sombreados em tom mais claro foram preenchidos f O arranjo de saída ordenado final B A Figura 82 ilustra a ordenação por contagem Após o laço for das linhas 23 inicializar o arranjo C para todos os zeros o laço for das linhas 45 inspeciona cada elemento da entrada Se o valor de um elemento de entrada é i incrementamos Ci Assim depois da linha 5 Ci contém o número de elementos de entrada igual a i para cada inteiro i 0 1 k As linhas 78 determinam para cada i 0 1 k quantos elementos de entrada são menores ou iguais a i mantendo uma soma atualizada do arranjo C 821 822 823 824 83 Finalmente o laço for das linhas 1012 coloca cada elemento Aj em sua posição ordenada correta no arranjo de saída B Se todos os n elementos forem distintos quando entrarmos pela primeira vez a linha 10 para cada Aj o valor CAj será a posição final correta de Aj no arranjo de saída já que existem CAj elementos menores ou iguais a Aj Como os elementos poderiam não ser distintos decrementamos CAj toda vez que inserimos um valor Aj no arranjo B Decrementar CAj faz com que o próximo elemento de entrada com valor igual a Aj se existir algum vá para a posição imediatamente anterior a Aj no arranjo de saída Quanto tempo a ordenação por contagem exige O laço for das linhas 23 demora o tempo Qk o laço for das linhas 45 demora o tempo Qn o laço for das linhas 78 demora o tempo Qk e o laço for das linhas 1012 demora o tempo Qn Assim o tempo total é Qk n Na prática normalmente usamos a ordenação por contagem quando temos k On caso em que o tempo de execução é Qn A ordenação por contagem supera o limite inferior de n lg n demonstrado na Seção 81 porquenãoéumaordenaçãoporcomparação Defato nenhumacomparaçãoentreelementos de entrada ocorre em qualquer lugar no código Em vez disso a ordenação por contagem utiliza os valores reais dos elementos para efetuar a indexação em um arranjo O limite inferior n lg n para ordenação não se aplica quando nos afastamos do modelo de ordenação por comparação Uma propriedade importante da ordenação por contagem é ser estável números com o mesmo valor aparecem no arranjo de saída na mesma ordem em que aparecem no arranjo de entrada Isto é ela desempata dois números segundo a regra de que qualquer número que aparecer primeiro no arranjo de entrada aparecerá primeiro no arranjo de saída Normalmente a propriedade de estabilidade só é importante quando dados satélites são transportados juntamente com o elemento que está sendo ordenado A estabilidade da ordenação por contagem é importante por outra razão a ordenação por contagem é usada frequentemente como uma subrotina em ordenação digital Como veremos na próxima seção para que a ordenação digital funcione corretamente a ordenação por contagem deve ser estável Exercícios Usando a Figura 82 como modelo ilustre a operação de CountingSort sobre o arranjo A 6 0 2 0 1 3 4 6 1 3 2 Prove que CountingSort é estável Suponha que reescrevêssemos o cabeçalho do laço for na linha 10 do procedimento CountingSort como 10 for j 1 to Acomprimento Mostre que o algoritmo ainda funciona corretamente O algoritmo modificado é estável Descreva um algoritmo que dados n inteiros na faixa 0 a k reprocesse sua entrada e depois responde a qualquer consulta sobre quantos dos n inteiros caem em uma faixa a b no tempo O1 Seu algoritmo deve utilizar o tempo de préprocessamento Qn k ORDENAÇÃO DIGITAL Ordenação digital é o algoritmo usado pelas máquinas de ordenação de cartões que agora só encontramos em museus de computadores Os cartões têm 80 colunas e em cada coluna uma máquina pode fazer uma perfuração em uma das 12 posições O ordenador pode ser programado mecanicamente para examinar determinada coluna de cada cartão em uma pilha e distribuir o cartão em uma das 12 caixas dependendo do local em que foi perfurado Então um operador pode reunir os cartões caixa por caixa de modo que aqueles que tenham a primeira posição perfurada fiquem sobre os cartões que tenham a segunda posição perfurada e assim por diante No caso de dígitos decimais cada coluna utiliza apenas 10 posições as outras duas posições são reservadas para codificar caracteres não numéricos Então um número de d dígitos ocuparia um campo de d colunas Visto que o ordenador de cartões pode examinar apenas uma coluna por vez o problema de ordenar n cartões em um número de d dígitos requer um algoritmo de ordenação Intuitivamente poderíamos ordenar números sobre seu dígito mais significativo ordenar cada uma das caixas resultantes recursivamente e depois combinar as pilhas em ordem Infelizmente como os cartões em nove das 10 caixas devem ser postos de lado para ordenar cada uma das caixas esse procedimento gera muitas pilhas intermediárias de cartões que devem ser controladas veja o Exercício 835 A ordenação digital resolve o problema da ordenação de cartões contra a intuição normal ordenando primeiro pelo dígito menos significativo Então o algoritmo combina os cartões em uma única pilha sendo que os cartões na caixa 0 precedem os cartões na caixa 1 que precedem os cartões na caixa 2 e assim por diante Então ele ordena novamente a pilha inteira pelo segundo dígito menos significativo e recombina a pilha de maneira semelhante O processo continua até que os cartões tenham sido ordenados por todos os d dígitos Notável é que nesse ponto os cartões estão completamente ordenados pelo número de d dígitos Assim a ordenação exige apenas d passagens pela pilha A Figura 83 mostra como a ordenação digital funciona para uma pilha de sete números de três dígitos Para que a ordenação digital funcione corretamente as ordenações de dígitos devem ser estáveis A ordenação executada por um ordenador de cartões é estável mas o operador tem de tomar cuidado para não trocar a ordem dos cartões à medida que eles saem de uma caixa ainda que todos os cartões em uma caixa tenham o mesmo dígito na coluna escolhida Em um computador típico que é uma máquina sequencial de acesso aleatório às vezes usamos ordenação digital para ordenar registros de informações chaveados por vários campos Por exemplo podemos querer ordenar datas por três chaves ano mês e dia Podemos executar um algoritmo de ordenação com uma função de comparação que dadas duas datas compare anos e se houver um empate compare meses e se ocorrer outro empate compare dias Alternativamente podemos ordenar as informações três vezes com uma ordenação estável primeiro pelo dia em seguida pelo mês e finalmente pelo ano O código para ordenação digital é direto O procedimento a seguir considera que cada elemento no arranjo de n elementos A tem d dígitos onde o dígito 1 é o dígito de ordem mais baixa e o dígito d é o dígito de ordem mais alta Lema 83 Dados n números de d dígitos nos quais cada dígito pode adotar até k valores possíveis RadixSort ordena corretamente esses números no tempo Qdn k se a ordenação estável levar o tempo Qn k Figura 83 Operação de ordenação digital sobre uma lista de sete números de três dígitos A primeira coluna é a entrada As colunas restantes mostram a lista após ordenações sucessivas de posições significativas de dígitos em ordem crescente O sombreamento indica a posição do dígito ordenado para produzir cada lista a partir da anterior Prova A correção da ordenação digital decorre por indução para a coluna que está sendo ordenada veja o Exercício 833 A análise do tempo de execução depende da ordenação estável usada como algoritmo de ordenação intermediária Quando cada dígito está na faixa de 0 a k 1 de modo que pode adotar até k valores possíveis e k não é muito grande a ordenação por contagem é a escolha óbvia Então cada passagem sobre n números de d dígitos leva o tempo Qn k Há d passagens e assim o tempo total para ordenação digital é Qdn k Quando d é constante e k On podemos executar ordenação digital em tempo linear De modo mais geral temos alguma flexibilidade quanto aos modos de desmembrar cada chave em dígitos Lema 84 Dados n números de b bits e qualquer inteiro positivo r b RadixSort ordena corretamente esses números no tempo Qbrn 2r se a ordenação estável que o procedimento usa levar o tempo Qn k para entradas na faixa de 0 a k Prova Para um valor r b enxergamos cada chave como composta de d br dígitos de r bits cada Cada dígito é um inteiro na faixa 0 a 2r 1 de modo que podemos usar a ordenação por contagem com k 2r 1 Por exemplo podemos considerar que uma palavra de 32 bits tem quatro dígitos de oito bits de modo que b 32 r 8 k 2r 1 255 e d br 4 Cada passagem da ordenação por contagem leva o tempo Qn k Qn 2r e há d passagens o que dá um tempo de execução total de Qdn 2r Qbrn 2r Para valores de n e b dados desejamos escolher o valor de r com r b que minimiza a expressão brn 2r Se b lg n para qualquer valor de r b temos que n 2r Qn Assim escolher r b produz um tempo de execução bbn 2b Qn que é assintoticamente ótimo Se b lg n escolher r lg n dá o melhor tempo dentro de um fator constante que podemos ver da seguinte maneira escolher r lg n produz um tempo de execução Qbn lg n À medida que aumentamos r acima de lg n o termo 2r no numerador aumenta mais rapidamente que o termo r no denominador e assim aumentar r acima de lg n resulta em um tempo de execução bnlg n Se em vez disso diminuirmos r abaixo de lg n o termo br aumentará e o termo n 2r permanecerá em Qn A ordenação digital é preferível a um algoritmo de ordenação baseado em comparação como o quicksort Se b Olg n como é frequentemente o caso e escolhemos r lg n o tempo de execução de ordenação digital será Qn 831 832 833 834 835 84 que parece ser melhor que o tempo de execução esperado do quicksort Qn lg n Porém os fatores constantes ocultos na notação Q são diferentes Embora a ordenação digital possa executar menos passagens que o quicksort sobre as n chaves cada passagem da ordenação digital pode tomar um tempo significativamente maior Determinar qual algoritmo preferimos depende das características das implementações da máquina subjacente por exemplo muitas vezes o quicksort utiliza caches de hardware mais eficientemente que a ordenação digital e dos dados de entrada Além disso a versão de ordenação digital que utiliza a ordenação por contagem como ordenação estável intermediária não ordena no lugar o que muitas das ordenações por comparação de tempo Qn lg n fazem Assim quando o armazenamento de memória primária é escasso podemos preferir uma algoritmo de ordenação no lugar como o quicksort Exercícios Usando a Figura 83 como modelo ilustre a operação de RadixSort sobre a seguinte lista de palavras em inglês COW DOG SEA RUG ROW MOB BOX TAB BAR EAR TAR DIG BIG TEA NOW FOX Quais dos seguintes algoritmos de ordenação são estáveis ordenação por inserção ordenação por intercalação ordenação por heap e quicksort Forneça um esquema simples que torne estável qualquer algoritmo de ordenação Quanto tempo e espaço adicional seu esquema requer Use indução para provar que a ordenação digital funciona Onde sua prova precisa adotar a premissa de que a ordenação intermediária é estável Mostre como ordenar n inteiros na faixa de 0 a n3 1 no tempo On No primeiro algoritmo de ordenação de cartões desta seção exatamente quantas passagens de ordenação são necessárias para ordenar números decimais de d dígitos no pior caso Quantas pilhas de cartões um operador precisa controlar no pior caso ORDENAÇÃO POR BALDE A ordenação por balde bucketsort supõe que a entrada é retirada de uma distribuição uniforme e tem tempo de execução do caso médio de On Como a ordenação por contagem a ordenação por balde é rápida porque admite alguma coisa em relação à entrada Enquanto a ordenação por contagem considera que a entrada consiste em inteiros contidos em uma pequena faixa a ordenação por balde admite que a entrada é gerada por um processo aleatório que distribui elementos de um modo uniforme e independente no intervalo 0 1 veja na Seção C2 uma definição de distribuição uniforme A ordenação por balde divide o intervalo 0 1 em n subintervalos de tamanhos iguais ou baldes e depois distribui os n números de entrada entre os baldes Visto que as entradas são distribuídas de modo uniforme e independente por 0 1 não esperamos que muitos números caiam em cada balde Para produzir a saída simplesmente ordenamos os números em cada balde e depois percorremos os baldes em ordem anotando os elementos contidos em cada um Nosso código para ordenação por balde considera que a entrada é um arranjo de n elementos A e que cada elemento Ai no arranjo satisfaz 0 Ai 1 O código exige um arranjo auxiliar B0 n 1 de listas ligadas baldes e considera que existe um mecanismo para manter tais listas a Seção 102 descreve como implementar operações básicas para listas ligadas A Figura 84 mostra a operação de ordenação por balde para um arranjo de entrada de 10 números Para ver que esse algoritmo funciona considere dois elementos Ai e Aj Admita sem perda de generalidade que Ai Aj Visto que nAi nAj o elemento Ai é inserido no mesmo balde que Aj ou em um balde com índice mais baixo Se Ai e Aj entrarem no mesmo balde o laço for das linhas 78 os colocará na ordem adequada Se Ai e Aj entrarem em baldes diferentes a linha 9 os colocará na ordem adequada Portanto a ordenação por balde funciona corretamente Para analisar o tempo de execução observe que todas as linhas exceto a linha 8 demoram o tempo On no pior caso Precisamos analisar o tempo total tomado pelas n chamadas à ordenação por inserção na linha 8 Figura 84 Operação de BUCKETSORT para n 10 a Arranjo de entrada A1 10 b Arranjo B0 9 de listas ordenadas baldes após a linha 8 do algoritmo O balde i contém valores no intervalo semiaberto i10 i 110 A saída ordenada consiste em uma concatenação ordenada das listas B0 B1 B9 Para analisar o custo das chamadas à ordenação por inserção seja ni a variável aleatória que denota o número de elementos inseridos no balde Bi Visto que a ordenação por inserção funciona em tempo quadrático veja Seção 22 o tempo de execução de ordenação por balde é Analisaremos agora o tempo de execução do caso médio da ordenação por balde calculando o valor esperado do tempo de execução e considerando a esperança para a distribuição da entrada Considerando esperança de ambos os lados e usando a linearidade de esperança temos Afirmamos que para i 0 1 n 1 Não é nenhuma surpresa que cada balde i tenha o mesmo valor de En2 já que cada valor no arranjo de entrada A tem igual probabilidade de cair em qualquer balde Para provar a equação 82 definimos variáveis aleatórias indicadoras Xij I Aj cai no balde i para i 0 1 n 1 e j 1 2 n Assim Para calcular En2 i expandimos o quadrado e reagrupamos termos 841 842 onde a última linha decorre por linearidade de expectativa Avaliamos os dois somatórios separadamente A variável aleatória indicadora Xij é 1 com probabilidade 1n e 0 em caso contrário e portanto Quando k j as variáveis Xij e Xik são independentes e por conseguinte Substituindo esses dois valores esperados na equação 83 obtemos o que prova a equação 82 Usando esse valor esperado na equação 81 concluímos que o tempo do caso médio para ordenação por balde é Qn n O2 1n Qn Mesmo que a entrada não seja retirada de uma distribuição uniforme a ordenação por balde ainda pode ser executada em tempo linear Desde que a entrada tenha a propriedade da soma dos quadrados dos tamanhos de baldes linear no número total de elementos a equação 81 nos diz que a ordenação por balde funcionará em tempo linear Exercícios Usando a Figura 84 como modelo ilustre a operação de BucketSort no arranjo A 079 013 016 064 039 020 089 053 071 042 Explique por que o tempo de execução do pior caso para a ordenação por balde é Qn2 Qual é a alteração simples no algoritmo que preserva seu tempo de execução linear do caso médio e torna seu tempo de execução do pior caso igual a On lg n 843 844 845 81 a b c d e f Seja X uma variável aleatória igual ao número de caras em dois lançamentos de uma moeda não viciada Qual é EX2 Qual é E2X Temos n pontos no círculo unitário pi xi yi tal que 0 xi yi 1 para i 1 2 n Suponha que os pontos estejam uniformemente distribuídos isto é a probabilidade de encontrar um ponto em qualquer região do círculo é proporcional à área dessa região Projete um algoritmo com tempo de execução do caso médio de Qn para ordenar os n pontos por suas distâncias di x2 i y2 i em relação à origem Sugestão Projete os tamanhos dos baldes em BucketSort para refletir a distribuição uniforme dos pontos no círculo unitário Uma função de distribuição de probabilidade Px para uma variável aleatória X é definida por Px PrX x Suponha que retiremos uma lista de n variáveis aleatórias X1 X2 Xn de uma função de distribuição de probabilidade contínua P que pode ser calculada no tempo O1 Apresente um algoritmo que ordene esses números em tempo linear do caso médio Problemas Limites inferiores probabilísticos para ordenação por comparação Neste problema provamos um limite inferior n lg n para o tempo de execução para qualquer ordenação por comparação determinística ou aleatória de n elementos de entrada distintos Começamos examinando uma ordenação por comparação determinística A com árvore de decisão TA Supomos que toda permutação de entradas de A é igualmente provável Suponha que cada folha de TA seja rotulada com a probabilidade de ser atingida dada uma entrada aleatória Prove que exatamente n folhas são rotuladas por 1n e que as restantes são rotuladas por 0 Denotamos por DT o comprimento do caminho externo de uma árvore de decisão T isto é DT é a soma das profundidades de todas as folhas de T Seja T uma árvore de decisão com k 1 folhas e sejam RT e LT as subárvores direita e esquerda de T Mostre que DT DLT DRT k Seja dk o valor mínimo de DT para todas as árvores de decisão T com k 1 folhas Mostre que dk min1ik1 di dk i k Sugestão Considere uma árvore de decisão T com k folhas que atinja o mínimo Seja i0 o número de folhas em LT e k i0 o número de folhas em RT Prove que para um dado valor de k 1 e i na faixa 1 i k 1 a função i lg i k i lgk i é minimizada em i k 2 Conclua que dk k lg k Prove que DTA n lgn e conclua que o tempo do caso médio para ordenar n elementos é n lg n Agora considere uma ordenação por comparação aleatorizada B Podemos estender o modelo de árvore de decisão para tratar a aleatoriedade incorporando dois tipos de nós os nós de comparação comuns e os nós de aleatorização Um nó de aleatorização modela uma escolha aleatória da forma Random1 r feita pelo algoritmo B o nó tem r filhos cada um com igual probabilidade de ser escolhido durante uma execução do algoritmo Mostre que para qualquer ordenação por comparação aleatorizada B existe uma ordenação por comparação determinística A cujo número de comparações não é maior do que as feitas por B 82 1 2 3 a b c d e 83 a b 84 Ordenação no lugar em tempo linear Suponha que temos um arranjo de n registros de dados para ordenar e que a chave de cada registro tem o valor 0 ou 1 Um algoritmo para ordenar tal conjunto de registros poderia ter algum subconjunto das três características desejáveis a seguir O algoritmo é executado no tempo On O algoritmo é estável O algoritmo ordena no lugar utilizando não mais que uma quantidade constante de espaço de armazenamento além do arranjo original Dê um algoritmo que satisfaça os critérios 1 e 2 Dê um algoritmo que satisfaça os critérios 1 e 3 Dê um algoritmo que satisfaça os critérios 2 e 3 Você pode usar qualquer de seus algoritmos de ordenação dados nas partes ac como o método de ordenação utilizado na linha 2 de RadixSort de modo que RadixSort ordene n registros com chaves de b bits no tempo Obn Justifique sua resposta Suponha que os n registros tenham chaves na faixa de 1 a k Mostre como modificar a ordenação por contagem de modo que ela ordene os registros no lugar no tempo On k Você pode usar armazenamento Ok fora do arranjo de entrada Seu algoritmo é estável Sugestão Como você faria isso para k 3 Ordenação de itens de comprimento variável Você tem um arranjo de inteiros no qual inteiros diferentes podem ter números de dígitos diferentes mas o número total de dígitos para todos os inteiros no arranjo é n Mostre como ordenar o arranjo no tempo On Você tem um arranjo de cadeias no qual cadeias diferentes podem ter números de caracteres diferentes mas o número total de caracteres para todas as cadeias é n Mostre como ordenar as cadeias no tempo On Observe que a ordem desejada aqui é a ordem alfabética padrão por exemplo a ab b Jarros de água Suponha que você tem n jarros de água vermelhos e n jarros azuis todos de formas e tamanhos diferentes Todos os jarros vermelhos contêm quantidades diferentes de água assim como os jarros azuis Além disso para todo jarro vermelho existe um jarro azul que contém a mesma quantidade de água e viceversa Sua tarefa é determinar um agrupamento dos jarros em pares de jarros vermelhos e azuis que contenham a mesma quantidade de água Para tal você pode executar a seguinte operação escolha um par de jarros formado por um jarro vermelho e um jarro azul encha o jarro vermelho com água e depois despeje a água no jarro azul Essa operação informará se o jarro vermelho ou o jarro azul pode conter mais água ou que eles têm o mesmo volume Considere que tal comparação demora uma unidade de tempo Seu objetivo é encontrar um a c d 85 a b c d e f 86 a b b algoritmo que faça um número mínimo de comparações para determinar o agrupamento Lembrese de que você não pode comparar diretamente dois jarros vermelhos ou dois jarros azuis Descreva um algoritmo determinístico que use Qn2 comparações para agrupar os jarros em pares Prove um limite inferior de n lg n para o número de comparações que deve efetuar um algoritmo que resolve esse problema Dê um algoritmo aleatorizado cujo número esperado de comparações é On lg n e prove que esse limite é correto Qual é o número de comparações do pior caso de seu algoritmo Ordenação por média Suponha que em vez de ordenar um arranjo queremos simplesmente que os elementos aumentem na média Mais exatamente dizemos que o arranjo de n elementos A é kordenado se para todo i 1 2 n k a seguinte desigualdade é válida O que significa um arranjo ser 1ordenado Dê uma permutação dos números 1 2 10 que seja 2ordenada mas não ordenada Prove que um arranjo de n elementos é kordenado se e somente se Ai Ai k para todo i 1 2 n k Dê um algoritmo que execute uma kordenação de um arranjo de n elementos no tempo On lgnk Também podemos mostrar um limite inferior para o tempo para produzir um arranjo kordenado quando k é uma constante Mostre que podemos ordenar um arranjo kordenado de comprimento n no tempo On lg k Sugestão Use a solução do Exercício 659 Mostre que quando k é uma constante executar uma kordenação em um arranjo de n elementos requer o tempo n lg n Sugestão Use a solução para a parte e juntamente com o limite inferior para ordenações por comparação Limite inferior para a intercalação de listas ordenadas O problema de intercalar duas listas ordenadas surge com frequência Vimos um procedimento para tal problema na forma da subrotina de Merge na Seção 231 Neste problema mostraremos que existe um limite inferior 2n 1 para o número de comparações do pior caso exigidas para intercalar duas listas ordenadas cada uma contendo n itens Primeiro mostraremos um limite inferior de 2n on comparações usando uma árvore de decisão Dados 2n números calcule o número de modos possíveis de dividilos em duas listas ordenadas cada uma com n números Usando uma árvore de decisão e sua resposta à parte a mostre que qualquer algoritmo que intercale corretamente duas listas ordenadas deve executar pelo menos 2n on comparações c d 87 a b Agora mostraremos um limite ligeiramente mais restrito 2n 1 Mostre que se dois elementos são consecutivos na sequência ordenada e vêm de listas diferentes eles devem ser comparados Use sua resposta à parte anterior para mostrar um limite inferior de 2n 1 comparações para intercalar duas listas ordenadas O lema de ordenação 01 e ordenação por coluna Uma operação de comparação e troca para dois arranjos de elementos Ai e Aj onde i j tem a forma Após a operação de comparação e troca sabemos que Ai Aj Um algoritmo de comparação e troca inconsciente funciona exclusivamente por uma sequência de operações préespecificadas de comparação e troca Os índices das posições comparadas na sequência devem ser determinados com antecedência e embora possam depender do número de elementos que estão sendo ordenados não podem depender dos valores que estão sendo ordenados nem do resultado de qualquer operação anterior de comparação e troca Por exemplo apresentamos a seguir a ordenação por inserção expressa como um algoritmo de comparação e troca inconsciente O lema de ordenação 01 nos dá um modo poderoso de provar que um algoritmo de comparação e troca inconsciente produz um resultado ordenado O lema declara que se um algoritmo de comparação e troca inconsciente ordenar corretamente todas as sequências de entrada compostas somente por 0s e 1s então ordenará corretamente todas as entradas que contenham valores arbitrários Você provará o lema de ordenação 01 provando seu contraposto se um algoritmo de comparação e troca inconsciente não ordenar uma entrada que contenha valores arbitrários então não ordenará alguma entrada 0 1 Suponha que um algoritmo de comparação e troca inconsciente X não ordena corretamente o arranjo A1 n Seja Ap o menor valor em A que o algoritmo X coloca na posição errada e seja Aq o valor que o algoritmo X desloca até a posição para a qual Ap deveria ter ido Defina um arranjo B1 n de 0s e 1s da seguinte maneira Demonstre que Aq Ap de modo que Bp 0 e Bq 1 Para concluir a prova do lema de ordenação 01 prove que o algoritmo X não ordena o arranjo B corretamente 1 2 3 4 5 6 7 8 c Agora usaremos o lema de ordenação 01 para provar que um determinado algoritmo de ordenação funciona corretamente O algoritmo de ordenação por coluna columnsort funciona sobre um arranjo retangular de n elementos O arranjo tem r linhas e s colunas de modo que n rs e está sujeito a três restrições r deve ser par s deve ser um divisor de r e r 2s2 Quando o algoritmo de ordenação por coluna termina o arranjo está ordenado por ordem de coluna lendo se as colunas de cima para baixo e da esquerda para a direita os elementos crescem monotonicamente A ordenação por coluna funciona em oito etapas independentemente do valor de n As etapas ímpares são todas iguais ordenam cada coluna individualmente Cada etapa par é uma permutação fixa As etapas são Ordenar cada coluna Transpor o arranjo e modelar novamente o arranjo em r linhas e s colunas Em outras palavras transformar a coluna da extrema esquerda nas rs linhas superiores em ordem transformar a coluna seguinte nas rs linhas seguintes em ordem e assim por diante Ordenar cada coluna Executar o inverso da permutação efetuada na etapa 2 Ordenar cada coluna Deslocar a metade superior de cada coluna para a metade inferior da mesma coluna e deslocar a metade inferior de cada coluna para a metade superior da próxima coluna à direita Deixar vazia a metade superior da coluna da extrema esquerda Deslocar a metade inferior da última coluna para a metade superior de uma nova coluna na extrema direita e deixar vazia a metade inferior dessa nova coluna Ordenar cada coluna Executar o inverso da permutação efetuada na etapa 6 A Figura 85 mostra um exemplo das etapas da ordenação por coluna com r 6 e s 3 Ainda que viole o requisito de r 2s2 esse exemplo funciona Demonstre que podemos tratar a ordenação por coluna como um algoritmo de comparação e troca inconsciente mesmo que não saibamos qual método de ordenação as etapas ímpares utilizam Embora possa parecer difícil acreditar que a ordenação por coluna realmente funciona você usará o lema da ordenação 01 para provar que isso ocorre O lema de ordenação 01 se aplica porque podemos tratar a ordenação por coluna como um algoritmo de comparação e troca inconsciente Algumas definições o ajudarão a aplicar o lema de ordenação 01 Dizemos que uma área de um arranjo é limpa se soubermos que ela contém só 0s ou só 1s Caso contrário a área poderá conter uma mistura de 0s e 1s e é suja Daqui em diante considere que o arranjo de entrada contém somente 0s e 1s e que podemos tratálo como um arranjo com r linhas e s colunas d e f g h Figura 85 Etapas da ordenação por coluna a O arranjo de entrada com 6 linhas e 3 colunas b Após ordenar cada coluna na etapa 1 c Após transpor e remodelar na etapa 2 d Após ordenar cada coluna na etapa 3 e Após executar a etapa 4 que inverte a permutação da etapa 2 f Após ordenar cada coluna na etapa 5 g Após deslocar meia coluna na etapa 6 h Após ordenar cada coluna na etapa 7 i Após executar a etapa 8 que inverte a permutação da etapa 6 Agora o arranjo está ordenado por coluna Prove que após as etapas 13 o arranjo consiste em algumas linhas limpas de 0s na parte superior algumas linhas de 1s na parte inferior e no máximo s linhas sujas entre elas Prove que após a etapa 4 o arranjo lido em ordem orientada por coluna começa com uma área limpa de 0s termina com uma área limpa de 1s e tem uma área suja de no máximo s2 elementos no meio Prove que as etapas 58 produzem uma saída 01 totalmente ordenada Conclua que a ordenação por coluna ordena corretamente todas as entradas que contêm valores arbitrários Agora suponha que s não seja divisor de r Prove que após as etapas 1 3 o arranjo consiste em algumas linhas limpas de 0s na parte superior algumas linhas limpas de 1s na parte inferior e no máximo 2s 1 linhas sujas entre elas Qual deverá ser o tamanho de r em comparação com s para que a ordenação por coluna ordene corretamente quando s não for um divisor de r Sugira uma mudança simples na etapa 1 que nos permita manter o requisito de r 2s2 mesmo quando s não é um divisor de r e prove que com tal mudança a ordenação por coluna ordena corretamente NOTAS DO CAPÍTULO O modelo de árvore de decisão para o estudo de ordenações por comparação foi introduzido por Ford e Johnson 110 O tratado abrangente de Knuth sobre a ordenação 211 aborda muitas variações do problema da ordenação inclusive o limite inferior da Teoria da Informação sobre a complexidade da ordenação que demos neste livro BenOr 39 estudou limites inferiores para ordenação utilizando generalizações do modelo de árvore de decisão Knuth credita a H H Seward a criação da ordenação por contagem em 1954 e também a ideia de combinar a ordenação por contagem com a ordenação digital A ordenação digital que começa pelo dígito menos significativo parece ser um algoritmo popular amplamente utilizado por operadores de máquinas mecânicas de ordenação de cartões De acordo com Knuth a primeira referência ao método publicada é um documento de 1929 escrito por L J Comrie que descreve o equipamento de perfuração de cartões A ordenação por balde está em uso desde 1956 quando a ideia básica foi proposta por E J Isaac e R C Singleton 188 Munro e Raman 263 apresentam um algoritmo de ordenação estável que executa On1 comparações no pior caso onde 0 1 é qualquer constante fixa Embora qualquer dos algoritmos de tempo On lg n efetue um número menor de comparações o algoritmo de Munro e Raman move os dados apenas On vezes e opera no lugar O caso da ordenação de n inteiros de b bits no tempo on lg n foi considerado por muitos pesquisadores Vários resultados positivos foram obtidos cada um sob premissas um pouco diferentes sobre o modelo de computação e as restrições impostas ao algoritmo Todos os resultados supuseram que a memória do computador está dividida em palavras endereçáveis de b bits Fredman e Willard 115 introduziram a estrutura de dados de árvores de fusão e a empregaram para ordenar n inteiros no tempo On lg nlg lg n Esse limite foi aperfeiçoado mais tarde para o tempo Onlg n por Andersson 16 Esses algoritmos exigem o uso de multiplicação e de várias constantes précalculadas Andersson Hagerup Nilsson e Raman 17 mostraram como ordenar n inteiros no tempo On lg lg n sem usar multiplicação mas seu método exige espaço de armazenamento que pode ser ilimitado em termos de n Utilizando hashing multiplicativo podemos reduzir o espaço de armazenamento necessário para On mas então o limite On lg lg n do pior caso para o tempo de execução se torna um limite de tempo esperado Generalizando as árvores de busca exponencial de Andersson 16 Thorup 335 apresentou um algoritmo de ordenação de tempo Onlg lg n2 que não usa multiplicação ou aleatorização e utiliza espaço linear Combinando essas técnicas com algumas ideias novas Han 158 melhorou o limite para ordenação até o tempo On lg lg n lg lg lg n Embora esses algoritmos sejam inovações teóricas importantes todos eles são razoavelmente complicados e até o presente momento parece improvável que venham a competir na prática com algoritmos de ordenação existentes O algoritmo de ordenação por coluna no Problema 87 é de Leighton 227 91 9 MEDIANAS E ESTATÍSTICAS DE ORDEM A iésima estatística de ordem de um conjunto de n elementos é o iésimo menor elemento Por exemplo o mínimo de um conjunto de elementos é a primeira estatística de ordem i 1 e o máximo é a nésima estatística de ordem i n Informalmente uma mediana é o ponto do meio do conjunto Quando n é ímpar a mediana é única e ocorre em i n 12 Quando n é par existem duas medianas que ocorrem em i n 2 e i n 2 1 Assim independentemente da paridade de n as medianas ocorrem em i n 12 a mediana inferior e i n 12 a mediana superior Todavia por simplicidade neste texto usaremos sempre a expressão mediana para nos referirmos à mediana inferior Este capítulo aborda o problema de selecionar a iésima estatística de ordem de um conjunto de n números distintos Por conveniência supomos que o conjunto contém números distintos embora praticamente tudo que fizermos se estenda à situação na qual um conjunto contém valores repetidos Especificamos o problema de seleção formalmente do seguinte modo Entrada Um conjunto A de n números distintos e um inteiro i com 1 i n Saída O elemento x A que é maior que exatamente i 1 outros elementos de A Podemos resolver o problema de seleção no tempo On lg n já que podemos ordenar os números usando ordenação por heap ou por intercalação e então simplesmente indexar o iésimo elemento no arranjo de saída Contudo existem algoritmos mais rápidos Na Seção 91 examinamos o problema de selecionar o mínimo e o máximo de um conjunto de elementos Mais interessante é o problema de seleção geral que investigamos nas duas seções subsequentes A Seção 92 analisa um algoritmo aleatorizado prático que alcança um tempo de execução esperado On considerando elementos distintos A Seção 93 contém um algoritmo de interesse mais teórico que alcança o tempo de execução On no pior caso MÍNIMO E MÁXIMO Quantas comparações são necessárias para determinar o mínimo de um conjunto de n elementos Podemos obter facilmente um limite superior de n 1 comparações examine cada elemento do conjunto por vez e mantenha o controle do menor elemento visto até então No procedimento a seguir consideramos que o conjunto reside no arranjo A onde Acomprimento n 911 912 É claro que também podemos determinar o máximo com n 1 comparações Isso é o melhor que podemos fazer Sim desde que possamos obter um limite inferior de n 1 comparações para o problema de determinar o mínimo Imagine qualquer algoritmo que determine o mínimo como um torneio entre os elementos Cada comparação é uma partida no torneio na qual o menor dos dois elementos vence Observando que todo elemento exceto o vencedor deve perder pelo menos uma partida concluímos que são necessárias n 1 comparações para determinar o mínimo Por consequência o algoritmo MINIMUM é ótimo com relação ao número de comparações executadas Mínimo e máximo simultâneos Em algumas aplicações devemos determinar o mínimo e também o máximo de um conjunto de n elementos Por exemplo um programa gráfico talvez tenha de ajustar a escala de um conjunto de x y dados para enquadrálo em uma tela de exibição retangular ou em outro dispositivo de saída gráfica Para tal o programa deve primeiro determinar os valores mínimo e máximo de cada coordenada Nesta altura o procedimento para determinar o mínimo e o máximo de n elementos usando Qn comparações que é o número assintoticamente ótimo deve ser óbvio simplesmente determine o mínimo e o máximo independentemente usando n 1 comparações para cada um deles o que dá um total de 2n 2 comparações De fato podemos determinar ambos mínimo e máximo usando no máximo 3 n2 comparações Para tal mantemos os elementos mínimo e máximo que vimos até o momento em questão Em vez de processar cada elemento da entrada comparandoo com o mínimo e o máximo atuais ao custo de duas comparações por elemento processamos elementos aos pares Comparamos pares de elementos da entrada primeiro uns com os outros e depois comparamos o menor com o mínimo atual e o maior com o máximo atual ao custo de três comparações para cada dois elementos A definição de valores iniciais para o mínimo e o máximo atuais depende de n ser ímpar ou par Se n é ímpar igualamos o mínimo e o máximo ao valor do primeiro elemento e processamos os elementos restantes aos pares Se n é par executamos uma comparação sobre os dois primeiros elementos para determinar os valores iniciais do mínimo e do máximo e processamos os elementos restantes aos pares como no caso de n ímpar Vamos analisar o número total de comparações Se n é ímpar executamos 3 n2 comparações Se n é par executamos uma comparação inicial seguida por 3n 22 comparações dando um total de 3n2 2 Assim em qualquer caso o número total de comparações é no máximo 3 n2 Exercícios Mostre que o segundo menor entre n elementos pode ser determinado com n lg n 2 comparações no pior caso Sugestão Determine também o menor elemento Mostre que no pior caso 3n2 2 comparações é o limite inferior para determinar o máximo e o mínimo entre n números Sugestão Considere quantos números são potencialmente o máximo ou o mínimo e investigue como uma comparação afeta essas contagens 92 SELEÇÃO EM TEMPO LINEAR ESPERADO O problema de seleção geral parece mais difícil que o problema simples de determinar um mínimo ainda que surpreendentemente o tempo de execução assintótico para ambos os problemas seja o mesmo Qn Nesta seção apresentamos um algoritmo de divisão e conquista para o problema de seleção O algoritmo RANDOMIZEDSELECT é modelado conforme o algoritmo quicksort do Capítulo 7 Como no quicksort particionamos o arranjo de entrada recursivamente Porém ao contrário do quicksort que processa recursivamente ambos os lados da partição RANDOMIZEDSELECT funciona somente de um lado da partição Essa diferença se destaca na análise enquanto o quicksort tem um tempo de execução esperado Qn lg n o tempo de execução esperado de RANDOMIZEDSELECT é Qn supondo que os elementos são distintos O RANDOMIZEDSELECT utiliza o procedimento RANDOMIZEDPARTITION introduzido na Seção 73 Portanto como o RANDOMIZEDQUICKSORT ele é um algoritmo aleatorizado já que seu comportamento é determinado em parte pela saída de um gerador de números aleatórios O código para RANDOMIZEDSELECT apresentado a seguir retorna o iésimo menor elemento do arranjo Ap r O procedimento RANDOMIZEDSELECT funciona da seguinte maneira a linha 1 verifica se é um casobase da recursão no qual o subarranjo Ap r consiste em apenas um elemento Nesse caso i deve ser igual a 1 e simplesmente retornamos Ap na linha 2 como o iésimo menor elemento Caso contrário a chamada a RANDOMIZEDPARTITION na linha 3 particiona o arranjo Ap r em dois subarranjos Ap q 1 e Aq 1 r possivelmente vazios tais que cada elemento de Ap q 1 é menor ou igual a Aq que por sua vez é menor que cada elemento de Aq 1 r Como no quicksort nos referiremos a Aq como o elemento pivô A linha 4 calcula o número k de elementos no subarranjo Ap q isto é o número de elementos no lado baixo da partição mais um para o elemento pivô Então a linha 5 verifica se Aq é o iésimo menor elemento Se for a linha 6 retorna Aq Caso contrário o algoritmo determina em qual dos dois subarranjos Ap q 1 e Aq 1 r se encontra o iésimo menor elemento Se i k o elemento desejado se encontra no lado baixo da partição e a linha 8 o seleciona recursivamente no subarranjo Porém se i k o elemento desejado se encontra no lado alto da partição Como já conhecemos k valores que são menores que o iésimo menor elemento de Ap r isto é os elementos de Ap q o elemento desejado é o i k ésimo menor elemento de Aq 1 r que a linha 9 determina recursivamente O código parece permitir chamadas recursivas a subarranjos com 0 elementos mas o Exercício 921 pede que você mostre que essa situação não pode acontecer O tempo de execução do pior caso para RANDOMIZEDSELECT é Qn2 até mesmo para determinar o mínimo porque poderíamos ter o grande azar de sempre executar a partição em torno do maior elemento restante e o particionamento levar o tempo Qn Entretanto veremos que o algoritmo tem um tempo de execução esperado linear e como ele é aleatorizado nenhuma entrada específica provoca o comportamento do pior caso Para analisar o tempo de execução esperado de RANDOMIZEDSELECT supomos que o tempo de execução de um arranjo de entrada Ap r de n elementos é uma variável aleatória que denotamos por Tn e obtemos um limite superior para ETn da maneira descrita a seguir O procedimento RANDOMIZEDPARTITION tem igual probabilidade de retornar qualquer elemento como pivô Portanto para cada k tal que 1 k n o subarranjo Ap q tem k elementos todos menores ou iguais ao pivô com probabilidade 1n Para k 1 2 n definimos variáveis aleatórias indicadoras Xk onde Xk I o subarranjo Ap q tem exatamente k elementos e assim considerando que os elementos são distintos temos Quando chamamos RANDOMIZEDSELECT e escolhemos Aq como o elemento pivô não sabemos a priori se terminaremos imediatamente com a resposta correta se faremos a recursão no subarranjo Ap q 1 ou subarranjo Aq 1 r Essa decisão depende de onde o iésimo menor elemento cai em relação a Aq Considerando que Tn é monotonicamente crescente podemos impor um limite superior ao tempo necessário para a chamada recursiva pelo tempo necessário para a chamada recursiva para a maior entrada possível Em outras palavras para obter um limite superior supomos que o iésimo elemento está sempre no lado da partição que tem o maior número de elementos Para uma dada chamada de RANDOMIZEDSELECT a variável aleatória indicadora Xk tem o valor 1 para exatamente um valor de k e é 0 para todos os outros k Quando Xk 1 os dois subarranjos nos quais poderíamos executar a recursão têm tamanhos k 1 e n k Consequentemente temos a recorrência Tomando valores esperados temos Para aplicar a equação C24 contamos com o fato que Xk e Tmaxk 1 n k são variáveis aleatórias independentes O Exercício 922 pede que você justifique essa afirmação Vamos considerar a expressão maxk 1 n k Temos Se n é par cada termo de Tn2 até Tn 1 aparece exatamente duas vezes no somatório e se n é ímpar todos esses termos aparecem duas vezes e o termo Tn2 aparece uma vez Assim temos Mostramos que ETn O n por substituição Suponha que E Tn cn para alguma constante c que satisfaça as condições iniciais da recorrência Supomos Tn O1 para n menor que alguma constante escolheremos essa constante mais adiante Também escolhemos uma constante a tal que a função descrita pelo termo On citado que descreve o componente não recursivo do tempo de execução do algoritmo seja limitada acima por an para todo n 0 Usando essa hipótese de indução temos Para concluir a prova precisamos mostrar que para n suficientemente grande esta última expressão é no máximo cn ou o que é equivalente cn4 c2 an 0 Se somarmos c2 a ambos os lados e fatorarmos n obteremos nc4 a c2 Desde que escolhamos a constante c de modo que c4 a 0 isto é c 4a poderemos dividir ambos os lados por c4 a obtendo Assim se considerarmos que Tn O1 para n 2cc 4a então E Tn On Concluímos que podemos determinar qualquer estatística de ordem e em particular a mediana em tempo linear esperado considerando que os elementos são distintos Exercícios 921 922 923 924 93 Mostre que RANDOMIZEDSELECT nunca faz uma chamada recursiva a um arranjo de comprimento 0 Demonstre que a variável aleatória indicadora Xk e o valor T maxk 1 n k são independentes Escreva uma versão iterativa de RANDOMIZEDSELECT Suponha que usamos RANDOMIZEDSELECT para selecionar o elemento mínimo do arranjo A 3 2 9 0 7 5 4 8 6 1 Descreva uma sequência de partições que resulte em um desempenho do pior caso de RANDOMIZED SELECT SELEÇÃO EM TEMPO LINEAR DO PIOR CASO Examinaremos agora um algoritmo de seleção cujo tempo de execução é On no pior caso Como RANDOMIZED SELECT o algoritmo SELECT determina o elemento desejado particionando recursivamente o arranjo de entrada Todavia aqui garantimos uma boa divisão particionando o arranjo SELECT utiliza o algoritmo de particionamento determinístico PARTITION do quicksort veja a Seção 71 porém modificado para tomar o elemento em torno do qual é executada a partição como um parâmetro de entrada Figura 91 Análise do algoritmo SELECT Os n elementos são representados por pequenos círculos e cada grupo de cinco elementos ocupa uma coluna As medianas dos grupos são os círculos brancos e a mediana de medianas x é identificada Para determinar a mediana de um número par de elementos usamos a mediana inferior As setas são orientadas dos elementos maiores para os menores e com isso podemos ver que três em cada grupo completo de cinco elementos à direita de x são maiores que x e três em cada grupo de cinco elementos à esquerda de x são menores que x Os elementos maiores que x são mostrados sobre um fundo sombreado 1 2 3 4 5 O algoritmo SELECT determina o iésimo menor elemento de um arranjo de entrada de n 1 elementos distintos executando as etapas a seguir Se n 1 então SELECT simplesmente retorna seu único valor de entrada como o iésimo menor Dividir os n elementos do arranjo de entrada em n5 grupos de cinco elementos cada e no máximo um grupo formado pelos n mod 5 elementos restantes Determinar a mediana de cada um dos n5 grupos primeiro ordenando por inserção os elementos de cada grupo dos quais existem cinco no máximo e depois escolhendo a mediana na lista ordenada de elementos de grupos Usar SELECT recursivamente para definir a mediana x das n5 medianas determinadas na etapa 2 Se houver um número par de medianas pela nossa convenção x é a mediana inferior Particionar o arranjo de entrada em torno da mediana de medianas x usando a versão modificada de PARTITION Seja k um mais que o número de elementos no lado baixo da partição de modo que x é o késimo menor elemento e há n k elementos no lado alto da partição Se i k então retornar x Caso contrário usar SELECT recursivamente para determinar o iésimo menor elemento no lado baixo se i k ou o i késimo menor elemento no lado alto se i k Para analisar o tempo de execução de SELECT primeiro determinamos um limite inferior para o número de elementos que são maiores que o elemento de particionamento x A Figura 91 nos ajuda a visualizar essa contabilidade No mínimo metade das medianas determinadas na etapa 2 é maior ou igual à mediana de medianas x1 Assim no mínimo metade dos n5 grupos contribuem com no mínimo três elementos maiores que x exceto o único grupo que tem menos de cinco elementos se 5 não for um divisor exato de n e o único grupo que contém o próprio x Descontando esses dois grupos decorre que o número de elementos maiores que x é no mínimo De modo semelhante no mínimo 3n10 6 elementos são menores que x Assim no pior caso a etapa 5 chama SELECT recursivamente para no máximo 7n 10 6 elementos Agora podemos desenvolver uma recorrência para o tempo de execução do pior caso Tn do algoritmo SELECT As etapas 1 2 e 4 demoram o tempo On A etapa 2 consiste em On chamadas de ordenação por inserção para conjuntos de tamanho O1 A etapa 3 demora o tempo Tn5 e a etapa 5 demora no máximo o tempo T7n10 6 considerando que T é monotonicamente crescente Adotamos a seguinte premissa que a princípio parece sem motivo qualquer entrada com menos de 140 elementos requer o tempo O1 a origem da constante mágica 140 ficará clara em breve Portanto podemos obter a recorrência Mostramos que o tempo de execução é linear por substituição Mais especificamente mostraremos que Tn cn para alguma constante c adequadamente grande e para todo n 0 Começamos supondo que Tn cn para alguma constante c adequadamente grande e para todo n 140 essa premissa se mantém válida se c for suficientemente grande Também escolhemos uma constante a tal que a função descrita pelo termo On citado que descreve o componente não recursivo do tempo de execução do algoritmo é limitado acima por an para todo n 0 Substituindo essa hipótese indutiva no lado direito da recorrência obtemos 931 932 933 934 935 936 937 que é no máximo cn se A desigualdade 92 é equivalente à desigualdade c 10ann 70 quando n 70 Como admitimos que n 140 temos nn 70 2 e assim escolher c 20a satisfará a desigualdade 92 Observe que não há nada de especial na constante 140 poderíamos substituíla por qualquer inteiro estritamente maior que 70 e depois escolher c de acordo Então o tempo de execução do pior caso de SELECT é linear Como em uma ordenação por comparação veja a Seção 81 SELECT e RANDOMIZEDSELECT determinam informações sobre a ordem relativa de elementos somente por comparação de elementos Vimos no Capítulo 8 que a ordenação exige o tempo Ω n lg n no modelo de comparação mesmo na média veja o Problema 81 Os algoritmos de ordenação de tempo linear do Capítulo 8 adotam premissas sobre a entrada Ao contrário os algoritmos de seleção de tempo linear deste capítulo não exigem nenhuma premissa sobre a entrada Eles não estão sujeitos ao limite inferior n lg n porque conseguem resolver o problema da seleção sem ordenar Assim resolver o problema da seleção por ordenação e indexação como apresentamos no início deste capítulo é assintoticamente ineficiente Exercícios No algoritmo SELECT os elementos de entrada são divididos em grupos de cinco O algoritmo funcionará em tempo linear se eles forem divididos em grupos de sete Demonstre que SELECT não será executado em tempo linear se forem usados grupos de três elementos Analise SELECT para mostrar que se n 140 então no mínimo n4 elementos são maiores que a mediana de medianas x e no mínimo n4 elementos são menores que x Mostre como o quicksort pode ser modificado para ser executado no tempo On lg n no pior caso considerando que todos os elementos são distintos Suponha que um algoritmo utilize somente comparações para determinar o iésimo menor elemento em um conjunto de n elementos Mostre que ele também pode determinar os i 1 menores elementos e os n i maiores elementos sem executar quaisquer comparações adicionais Dada uma subrotina caixapreta para a mediana de tempo linear no pior caso apresente um algoritmo simples de tempo linear que resolva o problema de seleção para uma estatística de ordem arbitrária Os késimos quantis de um conjunto de n elementos são as k 1 estatísticas de ordem que dividem o conjunto ordenado em k conjuntos de igual tamanho com aproximação de 1 Apresente um algoritmo de tempo On lg k para dar uma lista dos késimos quantis de um conjunto Descreva um algoritmo de tempo On que dados um conjunto S de n números distintos e um inteiro positivo k n determine os k números em S que estão mais próximos da mediana de S 938 939 91 a b a Sejam X1 n e Y1 n dois arranjos cada um contendo n números já em sequência ordenada Apresente um algoritmo de tempo Olg n para determinar a mediana de todos os 2n elementos nos arranjos X e Y O professor Olay é consultor de uma empresa petrolífera que está planejando um grande oleoduto de leste para oeste que atravessa um campo petrolífero com n poços A empresa quer conectar um duto auxiliar entre cada um desses poços e o oleoduto principal ao longo de um caminho mais curto para o norte ou para o sul como mostra a Figura 92 Dadas as coordenadas x e y dos poços como o professor deve escolher a localização ótima do oleoduto principal que minimizará o comprimento total dos dutos auxiliares Mostre como determinar a localização ótima em tempo linear Problemas Os i maiores números em sequência ordenada Dado um conjunto de n números queremos determinar os i maiores em sequência ordenada usando um algoritmo baseado em comparação Descubra o algoritmo que implementa cada um dos métodos a seguir com o melhor tempo de execução assintótico do pior caso e analise os tempos de execução dos algoritmos em termos de n e i Figura 92 O professor Olay precisa determinar a posição do oleoduto de leste para oeste que minimiza o comprimento total dos dutos auxiliares nortesul Classifique os números e produza uma lista com os i maiores Construa uma fila de prioridade máxima com os números e chame EXTRACTMAX i vezes c 92 a b c d e 93 a Use um algoritmo de estatística de ordem para determinar o iésimo maior número particionar em torno desse número e ordenar os i maiores números Mediana ponderada Para n elementos distintos x1 x2 xn com pesos positivos w1 w2 wn tais que a mediana ponderada inferior é o elemento xk que satisfaz Por exemplo se os elementos são 01 035 005 01 015 005 02 e cada elemento é igual ao seu peso isto é wi xi para i 1 2 7 então a mediana é 01 mas a mediana ponderada é 02 Mostre que a mediana de x1 x2 xn é a mediana ponderada dos xi com pesos wi 1n para i 1 2 n Mostre como calcular a mediana ponderada de n elementos no tempo On lg n do pior caso usando ordenação Mostre como calcular a mediana ponderada no tempo Qn do pior caso usando um algoritmo de mediana de tempo linear como SELECT da Seção 93 O problema da localização da agência postal é definido da seguinte maneira temos n pontos p1 p2 pn com pesos associados w1 w2 wn Desejamos determinar um ponto p não necessariamente um dos pontos de entrada que minimize o somatório onde da b é a distância entre os pontos a e b Mostre que a mediana ponderada é uma solução melhor para o problema da localização de agência postal unidimensional no qual os pontos são simplesmente números reais e a distância entre os pontos a e b é da b a b Determine a melhor solução para o problema de localização da agência postal bidimensional no qual os pontos são pares de coordenadas x y e a distância entre os pontos a x1 y1 e b x2 y2 é a distância Manhattan dada por da b x1 x2 y1 y2 Estatísticas de ordem pequena Mostramos que o número Tn de comparações do pior caso usadas por SELECT para selecionar a iésima estatística de ordem de n números satisfaz a Tn Qn mas a constante oculta pela notação Q é bastante grande Quando i é pequeno em relação a n podemos implementar um procedimento diferente que utiliza SELECT como uma subrotina mas executa um número menor de comparações no pior caso Descreva um algoritmo que utilize Uin comparações para determinar o iésimo menor de n elementos onde b c d 14 a b c d Sugestão Comece com n2 comparações disjuntas aos pares e efetue a recursão sobre o conjunto que contém o menor elemento de cada par Mostre que se i n2 então Uin n OT2i lgni Mostre que se i é uma constante menor que n2 então Uin n Olg n Mostre que se i n k para k 2 então Uin n OT2nk lg k Análise alternativa da seleção aleatorizada Neste problema usamos variáveis aleatórias indicadoras para analisar o procedimento RANDOMIZEDSELECT de um modo semelhante ao de nossa análise de RANDOMIZEDQUICKSORT na Seção 742 Como na análise do quicksort admitimos que todos os elementos são distintos e renomeanos os elementos do conjunto de entrada como A as z1 z2 zn onde zi é o iésimo menor elemento Assim a chamada RANDOMIZED SELECT A 1 n k retorna zk Para 1 i j n seja Xijk I zi é comparado com zj em algum momento durante a execução do algoritmo para determinar zk Dê uma expressão exata para E Xijk Sugestão Sua expressão pode ter valores diferentes dependendo dos valores de i j e k Represente por Xk o número total de comparações entre elementos do arranjo A ao determinar zk Mostre que Mostre que EX k 4n Conclua que considerando que todos os elementos do arranjo A são distintos RANDOMIZEDSELECT é executado no tempo esperado On NOTAS DO CAPÍTULO O algoritmo de tempo linear do pior caso para determinar a mediana foi criado por Blum Floyd Pratt Rivest e Tarjan 50 A versão aleatorizada rápida se deve a Hoare 169 Floyd e Rivest 108 desenvolveram uma versão aleatorizada melhorada que particiona em torno de um elemento selecionado recursivamente de uma pequena amostra dos elementos Ainda não se sabe exatamente quantas comparações são necessárias para determinar a mediana Bent e John 41 deram um limite inferior de 2n comparações para determinar a mediana e Schönhage Paterson e Pippenger 302 deram um limite superior de 3n Dor e Zwick melhoraram esses limites O limite superior dado por eles 93 é ligeiramente menor que 295n e o limite inferior 94 é 2 n para uma pequena constante positiva o que é uma ligeira melhoria do trabalho relacionado de Dor et al 92 Paterson 272 descreve alguns desses resultados juntamente com outro trabalho relacionado 1 Como admitimos que os números são distintos todas as medianas exceto x são maiores ou menores que x Parte III ESTRUTURAS DE DADOS INTRODUÇÃO Conjuntos são tão fundamentais para a Ciência da Computação quanto para a Matemática Enquanto os conjuntos matemáticos são invariáveis os conjuntos manipulados por algoritmos podem crescer encolher ou sofrer outras mudanças ao longo do tempo Chamamos tais conjuntos de conjuntos dinâmicos Os próximos cinco capítulos apresentam algumas técnicas básicas para representar conjuntos dinâmicos finitos e para manipular esses conjuntos em um computador Algoritmos podem exigir a execução de vários tipos diferentes de operações em conjuntos Por exemplo muitos algoritmos precisam apenas da capacidade de inserir e eliminar elementos em um conjunto e testar a pertinência de elementos a um conjunto Damos o nome de dicionário ao conjunto dinâmico que suporta essas operações Outros algoritmos exigem operações mais complicadas Por exemplo filas de prioridade mínima que foram introduzidas no Capítulo 6 no contexto da estrutura de dados heap suportam as operações de inserção de um elemento no conjunto e de extração do menor elemento de um conjunto A melhor maneira de implementar um conjunto dinâmico depende das operações que devem ser suportadas Elementos de um conjunto dinâmico Em uma implementação típica de um conjunto dinâmico cada elemento é representado por um objeto cujos atributos podem ser examinados e manipulados se tivermos um ponteiro para o objeto a Seção 103 discute a implementação de objetos e ponteiros em ambientes de programação que não os contêm como tipos de dados básicos Alguns tipos de conjuntos dinâmicos consideram que um dos atributos do objeto é uma chave de identificação Se as chaves são todas diferentes podemos imaginar o conjunto dinâmico como um conjunto de valores de chaves O objeto pode conter dados satélites que são transportados em atributos de outro objeto mas que fora isso não são utilizados pela implementação do conjunto Também pode ter atributos que são manipulados pelas operações de conjuntos esses atributos podem conter dados ou ponteiros para outros objetos no conjunto Alguns conjuntos dinâmicos pressupõem que as chaves são extraídas de um conjunto totalmente ordenado como o dos números reais ou o de todas as palavras sob a ordenação alfabética usual Uma ordenação total nos permite definir o elemento mínimo do conjunto por exemplo ou falar do próximo elemento maior que um dado elemento em um conjunto Operações em conjuntos dinâmicos As operações em um conjunto dinâmico podem ser agrupadas em duas categorias consultas que simplesmente retornam informações sobre o conjunto e operações modificadoras que alteram o conjunto Apresentamos a seguir uma lista de operações típicas Qualquer aplicação específica normalmente exigirá a implementação de apenas algumas dessas operações SEARCHS k Uma consulta que dado um conjunto S e um valor de chave k retorna um ponteiro x para um elemento em S tal que xchave k ou NIL se nenhum elemento desse tipo pertencer a S INSERTS x Uma operação modificadora que aumenta o conjunto S com o elemento apontado por x Normalmente consideramos que quaisquer atributos no elemento x necessários para a implementação do conjunto já foram inicializados DELETES x Uma operação modificadora que dado um ponteiro x para um elemento no conjunto S remove x de S Observe que essa operação utiliza um ponteiro para um elemento x não um valor de chave MININUMS Uma consulta em um conjunto totalmente ordenado S que retorna um ponteiro para o elemento de S que tenha a menor chave MAXIMUMS Uma consulta em um conjunto totalmente ordenado S que retorna um ponteiro para o elemento de S que tenha a maior chave SUCCESSORS x Uma consulta que dado um elemento x cuja chave é de um conjunto totalmente ordenado S retorna um ponteiro para o elemento maior seguinte em S ou NIL se x é o elemento máximo PREDECESSORS x Uma consulta que dado um elemento x cuja chave é de um conjunto totalmente ordenado S retorna um ponteiro para o elemento menor seguinte em S ou NIL se x é o elemento mínimo Em algumas situações podemos estender as consultas SUCCESSOR e PREDECESSOR de modo que se apliquem a conjuntos com chaves não distintas Para um conjunto com n chaves normalmente presumese que uma chamada a MINIMUM seguida por n 1 chamadas a SUCCESSOR enumera os elementos no conjunto em sequência ordenada Em geral medimos o tempo empregado para executar uma operação de conjunto em termos do tamanho do conjunto Por exemplo o Capítulo 13 descreve uma estrutura de dados que pode suportar qualquer das operações da lista apresentada em um conjunto de tamanho n no tempo Olg n Visão geral da Parte III Os Capítulos 10 a 14 descrevem várias estruturas de dados que podemos usar para implementar conjuntos dinâmicos mais adiante usaremos muitas dessas estruturas para construir algoritmos eficientes para uma variedade de problemas Já vimos uma outra estrutura de dados importante o heap no Capítulo 6 O Capítulo 10 apresenta os fundamentos essenciais do trabalho com estruturas de dados simples como pilhas filas listas ligadas e árvores enraizadas Mostra também como implementar objetos e ponteiros em ambientes de programação que não os suportam como primitivas Se você frequentou um curso introdutório de programação já deve estar familiarizado com grande parte desse material O Capítulo 11 introduz as tabelas hash ou tabelas de espalhamento que suportam as operações de dicionário INSERT DELETE e SEARCH No pior caso o hashing ou espalhamento requer o tempo Qn para executar uma operação SEARCH mas o tempo esperado para operações de tabelas de espalhamento é O1 A análise do hashing se baseia na probabilidade mas a maior parte do capítulo não requer nenhuma experiência no assunto As árvores de busca binária que são focalizadas no Capítulo 12 suportam todas as operações de conjuntos dinâmicos que figuram na lista apresentada No pior caso cada operação demora o tempo Qn em uma árvore com n elementos mas em uma árvore de busca binária construída aleatoriamente o tempo esperado para cada operação é Olg n As árvores de busca binária servem como base para muitas outras estruturas de dados O Capítulo 13 apresenta as árvores vermelhopreto que são uma variante de árvores de busca binária Diferentemente das árvores de busca binária comuns o bom funcionamento das árvores vermelhopreto é garantido as operações demoram o tempo Olg n no pior caso Uma árvore vermelhopreto é uma árvore de busca balanceada o Capítulo 18 na Parte V apresenta um outro tipo de árvore de busca balanceada denominada árvore B Embora a mecânica das árvores vermelhopreto seja um pouco complicada você pode perceber grande parte de suas propriedades pelo capítulo sem estudar detalhadamente a mecânica Não obstante você verá que examinar o código é bastante instrutivo No Capítulo 14 mostramos como aumentar as árvores vermelhopreto para suportar outras operações além das básicas que aparecem na lista apresentada Primeiro aumentamos as árvores de modo que possamos manter dinamicamente estatísticas de ordem para um conjunto de chaves Em seguida nós as aumentamos de um modo diferente para manter intervalos de números reais 101 10 ESTRUTURAS DE DADOS ELEMENTARES Neste capítulo examinaremos a representação de conjuntos dinâmicos por estruturas de dados simples que usam ponteiros Embora possamos construir muitas estruturas de dados complexas que utilizam ponteiros apresentaremos apenas as rudimentares pilhas filas listas ligadas e árvores enraizadas Também mostraremos meios de sintetizar objetos e ponteiros partindo de arranjos PILHAS E FILAS Pilhas e filas são conjuntos dinâmicos nos quais o elemento removido do conjunto pela operação DELETE é especificado previamente Em uma pilha o elemento eliminado do conjunto é o mais recentemente inserido a pilha implementa uma política de último a entrar primeiro a sair ou LIFO lastin firstout De modo semelhante em uma fila o elemento eliminado é sempre o que estava no conjunto há mais tempo a fila implementa uma política de primeiro a entrar primeiro a sair ou FIFO firstin firstout Há vários modos eficientes de implementar pilhas e filas em um computador Nesta seção mostraremos como usar um arranjo simples para implementar cada uma delas Pilhas A operação INSERT em uma pilha é frequentemente denominada PUSH e a operação DELETE que não toma um argumento de elemento é frequentemente denominada POP Esses nomes são alusões a pilhas físicas como as pilhas de pratos acionadas por molas usadas em restaurantes A ordem em que os pratos são retirados da pilha é o inverso da ordem em que foram colocados na pilha já que apenas o prato do topo está acessível Como mostra a Figura 101 podemos implementar uma pilha de no máximo n elementos com um arranjo S1 n O arranjo tem um atributo Stopo que indexa o elemento mais recentemente inserido A pilha consiste nos elementos S1 Stopo onde S1 é o elemento na parte inferior da pilha e SStopo é o elemento na parte superior Quando Stopo 0 a pilha não contém nenhum elemento e está vazia Podemos testar se a pilha está vazia pela operação de consulta STACKEMPTY Se tentarmos extrair algo de uma pilha vazia dizemos que a pilha tem estouro negativo que é normalmente um erro Se Stopo exceder n a pilha tem um estouro Em nossa implementação de pseudocódigo não nos preocuparemos com estouro de pilha Podemos implementar cada uma das operações em pilhas com apenas algumas linhas de código A Figura 101 mostra os efeitos das operações modificadoras PUSH EMPILHAR e POP DESEMPILHAR Cada uma das três operações em pilha demora o tempo O1 Filas Designamos a operação INSERT em uma fila por ENQUEUE ENFILEIRAR e a operação DELETE por DEQUEUE DESINFILEIRAR assim como a operação em pilhas POP DEQUEUE não adota nenhum argumento de elemento A propriedade FIFO de uma fila faz com que ela funcione como uma fileira de pessoas em uma caixa registradora A fila tem um início ou cabeça e um fim ou cauda Quando um elemento é inserido na fila ocupa seu lugar no fim da fila exatamente como um cliente que acabou de chegar ocupa um lugar no final da fileira O elemento retirado da fila é sempre aquele que está no início da fila como o cliente que está no início da fileira e esperou por mais tempo A Figura 102 mostra um modo de implementar uma fila de no máximo n 1 elementos usando um arranjo Q1 n A fila tem um atributo Qinício que indexa ou aponta para seu início O atributo Qfim indexa a próxima posição na qual um elemento recémchegado será inserido na fila Os elementos na fila estão nas posições Qinício Qinício 1 Qfim 1 onde retornamos no sentido de que a posição 1 segue imediatamente a posição n em uma ordem circular Quando Qinício Qfim a fila está vazia Inicialmente temos Qinício Qfim 1 Se tentarmos desenfileirar um elemento de uma fila vazia a fila sofre perda de dígitos Quando Qinício Qfim 1 ou simultaneamente Qinício 1 e Qfim Qcomprimento a fila está cheia e se tentarmos enfileirar um elemento a fila sofre estouro Figura 101 Uma implementação de arranjo de uma pilha S Os elementos da pilha aparecem somente nas posições sombreadas em tom mais claro a A pilha S tem quatro elementos O elemento do topo é 9 b A pilha S após as chamadas PUSHS 17 e PUSHS 3 c A pilha S após a chamada POPS retornou o elemento 3 que é o elemento mais recentemente inserido na pilha Embora ainda apareça no arranjo o elemento 3 não está mais na pilha o topo é o elemento 17 Figura 102 Uma fila implementada com a utilização de um arranjo Q 1 12 Os elementos da fila aparecem somente nas posições sombreadas em tom mais claro a A fila tem cinco elementos nas posições Q 7 11 bA configuração da fila após as chamadas EnquEuEQ 17 EnquEuEQ 3 e EnquEuEQ 5 c A configuração da fila após a chamada DEquEuEQ retornar o valor de chave 15 que se encontrava anteriormente no início da fila O novo início tem chave 6 Em nossos procedimentos ENQUEUE e DEQUEUE omitimos a verificação de erros de estouro negativo e estouro O Exercício 1014 pede que você forneça o código que verifica essas duas condições de erro O pseudocódigo considera que n Qcomprimento 1011 1012 1013 1014 1015 1016 1017 102 A Figura 102 mostra os efeitos das operações ENQUEUE e DEQUEUE Cada operação demora o tempo O1 Exercícios Usando a Figura 101 como modelo ilustre o resultado de cada operação na sequência PUSHS 4 PUSHS 1 PUSHS 3 POPS PUSHS 8 e POPS sobre uma pilha S inicialmente vazia armazenada no arranjo S1 6 Explique como implementar duas pilhas em um único arranjo A1 n de tal modo que nenhuma delas sofra um estouro a menos que o número total de elementos em ambas as pilhas juntas seja n As operações PUSH e POP devem ser executadas no tempo O1 Usando a Figura 102 como modelo ilustre o resultado de cada operação na sequência ENQUEUEQ 4 ENQUEUEQ 1 ENQUEUEQ 3 DEQUEUEQ ENQUEUEQ 8 e DEQUEUEQ em uma fila Q inicialmente vazia armazenada no arranjo Q1 6 Reescreva ENQUEUE e DEQUEUE para detectar o estouro negativo e o estouro de uma fila Enquanto uma pilha permite inserção e eliminação de elementos em apenas uma extremidade e uma fila permite inserção em uma extremidade e eliminação na outra extremidade uma deque doubleended queue ou fila de extremidade dupla permite inserção e eliminação em ambas as extremidades Escreva quatro procedimentos de tempo O1 para inserir elementos e eliminar elementos de ambas as extremidades de uma deque construída a partir de um arranjo Mostre como implementar uma fila usando duas pilhas Analise o tempo de execução das operações em filas Mostre como implementar uma pilha usando duas filas Analise o tempo de execução das operações em pilhas LISTAS LIGADAS Uma lista ligada é uma estrutura de dados na qual os objetos estão organizados em ordem linear Entretanto diferentemente de um arranjo no qual a ordem linear é determinada pelos índices do arranjo a ordem em uma lista ligada é determinada por um ponteiro em cada objeto Listas ligadas nos dão uma representação simples e flexível para conjuntos dinâmicos suportando embora não necessariamente com eficiência todas as operações que aparecem na lista à página 166 Como mostra a Figura 103 cada elemento de uma lista duplamente ligada L é um objeto com um atributo chave e dois outros atributos ponteiros próximo e anterior O objeto também pode conter outros dados satélites Dado um elemento x na lista xpróximo aponta para seu sucessor na lista ligada e xanterior aponta para seu predecessor Se xanterior NIL o elemento x não tem nenhum predecessor e portanto é o primeiro elemento ou início da lista Se xpróximo NIL o elemento x não tem nenhum sucessor e assim é o último elemento ou fim da lista Um atributo Linício aponta para o primeiro elemento da lista Se Linício NIL a lista está vazia Uma lista pode ter uma entre várias formas Ela pode ser simplesmente ligada ou duplamente ligada pode ser ordenada ou não e pode ser circular ou não Se uma lista é simplesmente ligada omitimos o ponteiro anterior em cada elemento Se uma lista é ordenada a ordem linear da lista corresponde à ordem linear de chaves armazenadas em elementos da lista então o elemento mínimo é o início da lista e o elemento máximo é o fim Se a lista é não ordenada os elementos podem aparecer em qualquer ordem Em uma lista circular o ponteiro anterior do início da lista aponta para o fim e o ponteiro próximo do fim da lista aponta para o início Podemos imaginar uma lista circular como um anel de elementos No restante desta seção supomos que as listas com as quais estamos trabalhando são listas não ordenadas e duplamente ligadas Como fazer uma busca em uma lista ligada O procedimento LISTSEARCHL k encontra o primeiro elemento com chave k na lista L por meio de uma busca linear simples retornando um ponteiro para esse elemento Se nenhum objeto com chave k aparecer na lista o procedimento retorna NIL No caso da lista ligada da Figura 103a a chamada LISTSEARCHL 4 retorna um ponteiro para o terceiro elemento e a chamada LISTSEARCHL 7 retorna NIL Figura 103 a Uma lista duplamente ligada L representando o conjunto dinâmico 1 4 9 16 Cada elemento na lista é um objeto com atributos para a chave e ponteiros mostrados por setas para o próximo objeto e para o objeto anterior O atributo próximo do fim e o atributo anterior do início são NIL indicados por uma barra diagonal O atributo Linício aponta para o início b Seguindo a execução de LISTiNSERTL x onde xchave 25 a lista ligada tem um novo objeto com chave 25 como o novo início Esse novo objeto aponta para o antigo início com chave 9c O resultado da chamada subsequente ListDElEtEL x onde x aponta para o objeto com chave 4 Para fazer uma busca em uma lista de n objetos o procedimento LISTSEARCH demora o tempo Qn no pior caso já que talvez tenha de pesquisar a lista inteira Inserção em uma lista ligada Dado um elemento x cujo atributo chave já foi definido o procedimento LISTINSERT emenda x à frente da lista ligada como mostra a Figura 103b Lembrese de que nossa notação de atributo pode ser usada em cascata de modo que Linícioanterior denota o atributo anterior do objeto que Linício aponta O tempo de execução para LISTINSERT para uma lista de n elementos é O1 Eliminação em uma lista ligada O procedimento LISTDELETE remove um elemento x de uma lista ligada L Ele deve receber um ponteiro para x e depois desligar x da lista atualizando os ponteiros Se desejarmos eliminar um elemento com determinada chave deveremos primeiro chamar LISTSEARCH para reaver um ponteiro para o elemento A Figura 103c mostra como um elemento é eliminado de uma lista ligada LISTDELETE é executado no tempo O1 mas se desejarmos eliminar um elemento com uma dada chave será necessário o tempo Qn no pior caso porque primeiro devemos chamar LISTSEARCH Sentinelas O código para LISTDELETE seria mais simples se pudéssemos ignorar as condições de contorno no início e no fim da lista Uma sentinela é um objeto fictício que nos permite simplificar condições de contorno Por exemplo suponha que suprimos com uma lista L um objeto Lnil que representa NIL mas tem todos os atributos dos outros objetos da lista Onde quer que tenhamos uma referência a NIL no código da lista nós a substituímos por uma referência à sentinela Lnil Como mostra a Figura 104 essa mudança transforma uma lista duplamente ligada normal em uma lista circular duplamente ligada com uma sentinela na qual a sentinela Lnil se encontra entre o início e o fim o atributo Lnulopróximo aponta para o início da lista e Lnilanterior aponta para o fim De modo semelhante tanto o atributo próximo do fim quanto o atributo anterior do início apontam para Lnil Visto que Lnilpróximo aponta para o início podemos eliminar totalmente o atributo Linício substituindo as referências a ele por referências a Lnilpróximo A Figura 104a mostra que uma lista vazia consiste apenas na sentinela e que Lnilpróximo e Lnilanterior apontam para Lnil O código para LISTSEARCH permanece o mesmo de antes porém com as referências a NIL e Linício modificadas como já especificado 1021 Figura 104 Uma lista circular duplamente ligada com uma sentinela A sentinela Lnil aparece entre o início e o fim O atributo Linício não é mais necessário visto que podemos acessar o início da lista por Lnilpróximo a Uma lista vazia b A lista ligada da Figura 103a com chave 9 no início e chave 1 no fim c A lista após a execução de LISTiNSERTL x onde xchave 25 O novo objeto se torna o início da lista d A lista após a eliminação do objeto com chave 1 O novo fim é o objeto com chave 4 Usamos o procedimento de duas linhas LISTDELETE de antes para eliminar um elemento da lista O seguinte procedimento insere um elemento na lista A Figura 104 mostra os efeitos de LISTINSERT e LISTDELETE sobre uma amostra de lista Sentinelas raramente reduzem os limites assintóticos de tempo de operações de estrutura de dados mas podem reduzir fatores constantes O ganho da utilização de sentinelas dentro de laços em geral é uma questão de clareza de código em vez de velocidade por exemplo o código da lista ligada fica mais simples quando usamos sentinelas mas poupamos apenas o tempo O1 nos procedimentos LISTINSERT e LISTDELETE Contudo em outras situações a utilização de sentinelas ajuda a restringir o código em um laço reduzindo assim o coeficiente de digamos n ou n2 no tempo de execução Devemos usar sentinelas com sensatez Quando houver muitas listas pequenas o armazenamento extra usado por suas sentinelas poderá representar desperdício significativo de memória Neste livro só utilizaremos sentinelas quando elas realmente simplificarem o código Exercícios Você pode implementar a operação de conjuntos dinâmicos INSERT em uma lista simplesmente ligada em tempo O1 E a operação DELETE 1022 1023 1024 1025 1026 1027 1028 103 Implemente uma pilha usando uma lista simplesmente ligada L As operações PUSH e POP ainda devem demorar o tempo O1 Implemente uma fila por meio de uma lista simplesmente ligada L As operações ENQUEUE e DEQUEUE ainda devem demorar o tempo O1 Como está escrita cada iteração do laço no procedimento LISTSEARCH exige dois testes um para x Lnil e um para xchave k Mostre como eliminar o teste para x Lnil em cada iteração Implemente as operações de dicionário INSERT DELETE e SEARCH usando listas circulares simplesmente ligadas Quais são os tempos de execução dos seus procedimentos A operação em conjuntos dinâmicos UNION utiliza dois conjuntos disjuntos S1 e S2 como entrada e retorna um conjunto S S1 S2 que consiste em todos os elementos de S1 e S2 Os conjuntos S1 e S2 são normalmente destruídos pela operação Mostre como suportar UNION no tempo O1 usando uma estrutura de dados de lista adequada Dê um procedimento não recursivo de tempo Qn que inverta uma lista simplesmente ligada de n elementos O procedimento só pode usar armazenamento constante além do necessário para a própria lista Explique como implementar listas duplamente ligadas usando somente um valor de ponteiro xnp por item em vez dos dois valores usuais próximo e anterior Suponha que todos os valores de ponteiros podem ser interpretados como inteiros de k bits e defina xnp como xnp xpróximo XOR xanterior x o ou exclusivo de k bits de xpróximo e xanterior O valor N I L é representado por 0 Não esqueça de descrever as informações necessárias para acessar o início da lista Mostre como implementar as operações SEARCH INSERT e DELETE em tal lista Mostre também como inverter essa lista em tempo O1 IMPLEMENTAÇÃO DE PONTEIROS E OBJETOS Como implementamos ponteiros e objetos em linguagens que não os oferecem Nesta seção veremos dois modos de implementar estruturas de dados ligadas sem um tipo de dados ponteiro explícito Sintetizaremos objetos e ponteiros de arranjos e índices de arranjos Uma representação de objetos em vários arranjos Podemos representar uma coleção de objetos que têm os mesmos atributos usando um arranjo para cada atributo Como exemplo a Figura 105 mostra como podemos implementar a lista ligada da Figura 103a com três arranjos A chave do arranjo contém os valores das chaves presentes atualmente no conjunto dinâmico e os ponteiros são armazenados nos arranjos próximo e anterior Para um dado índice de arranjo x chavex próximox e anteriorx representam um objeto na lista ligada Por essa interpretação um ponteiro x é simplesmente um índice comum para os arranjos chave próximo e anterior Na Figura 103a o objeto com chave 4 vem após o objeto com chave 16 na lista ligada Na Figura 105 chave 4 aparece em chave2 e chave 16 aparece em chave5 assim temos próximo5 2 e anterior2 5 Embora a constante NIL apareça no atributo próximo do fim e no atributo anterior do início em geral usamos um inteiro como 0 ou 1 que não poderia de modo algum representar um índice real para os arranjos Uma variável L contém o índice do início da lista Uma representação de objetos com um único arranjo As palavras na memória de um computador normalmente são endereçadas por inteiros de 0 a M 1 onde M é um inteiro adequadamente grande Em muitas linguagens de programação um objeto ocupa um conjunto contíguo de posições na memória do computador Um ponteiro é simplesmente o endereço da primeira posição de memória do objeto e podemos endereçar outras posições de memória dentro do objeto acrescentando um deslocamento ao ponteiro Podemos utilizar a mesma estratégia para implementar objetos em ambientes de programação que não fornecem ponteiros explícitos Por exemplo a Figura 106 mostra como usar um único arranjo A para armazenar a lista ligada das Figuras 103a e 105 Um objeto ocupa um subarranjo contíguo Aj k Cada atributo do objeto corresponde a um deslocamento na faixa 0 a k j e um ponteiro para o objeto é o índice j Na Figura 106 os deslocamentos correspondentes a chave próximo e anterior são 0 1 e 2 respectivamente Para ler o valor de anteriori dado um ponteiro i adicionamos o valor i do ponteiro ao deslocamento 2 lendo assim Ai 2 Figura 105 A lista ligada da Figura 103a representada pelos arranjos chave próximo e anterior Cada fatia vertical dos arranjos representa um único objeto Os ponteiros armazenados correspondem aos índices do arranjo mostrados na parte superior as setas mostram como interpretálos As posições de objetos sombreadas em tom mais claro contêm elementos de listas A variável L mantém o índice do início Figura 106 A lista ligada das Figuras 103a e 105 representada em um único arranjo A Cada elemento da lista é um objeto que ocupa um subarranjo contíguo de comprimento 3 dentro do arranjo Os três atributos chave próximo e anterior correspondem aos deslocamentos 0 1 e 2 respectivamente dentro de cada objeto Um ponteiro para um objeto é um índice do primeiro elemento do objeto Objetos que contêm elementos da lista estão sombreados em tom mais claro e as setas mostram a ordenação da lista A representação de um único arranjo é flexível no sentido de que permite que objetos de diferentes comprimentos sejam armazenados no mesmo arranjo O problema de administrar tal coleção heterogênea de objetos é mais difícil que o problema de administrar uma coleção homogênea onde todos os objetos têm os mesmos atributos Visto que a maioria das estruturas de dados que consideraremos são compostas por elementos homogêneos será suficiente para nossa finalidade empregar a representação de objetos em vários arranjos Alocação e liberação de objetos Para inserir uma chave em um conjunto dinâmico representado por uma lista duplamente ligada devemos alocar um ponteiro a um objeto que não está sendo utilizado na representação da lista ligada no momento considerado Por isso é útil gerenciar o armazenamento de objetos não utilizados na representação da lista ligada nesse momento de tal modo que um objeto possa ser alocado Em alguns sistemas um coletor de lixo é responsável por determinar quais objetos não são utilizados Porém muitas aplicações são tão simples que podem assumir a responsabilidade pela devolução de um objeto não utilizado a um gerenciador de armazenamento Agora exploraremos o problema de alocar e liberar ou desalocar objetos homogêneos utilizando o exemplo de uma lista duplamente ligada representada por vários arranjos Suponha que os arranjos na representação de vários arranjos tenham comprimento m e que em algum momento o conjunto dinâmico contenha n m elementos Então n objetos representam elementos que se encontram atualmente no conjunto dinâmico e os m n objetos restantes são livres os objetos livres estão disponíveis para representar elementos inseridos no conjunto dinâmico no futuro Mantemos os objetos livres em uma lista simplesmente ligada que denominamos lista livre A lista livre usa apenas o arranjo próximo que armazena os ponteiros próximo na lista O início da lista livre está contido na variável global livre Quando o conjunto dinâmico representado pela lista ligada L é não vazio a lista livre pode estar entrelaçada com a lista L como mostra a Figura 107 Observe que cada objeto na representação está na lista L ou na lista livre mas não em ambas A lista livre funciona como uma pilha o próximo objeto alocado é o último objeto liberado Figura 107 O efeito dos procedimentos ALLOCATEoBJECT e FREEoBJECT a A lista da Figura 105 sombreada em tom mais claro e uma lista livre sombreada em tom mais escuro As setas mostram a estrutura da lista livre b O resultado da chamada ALLOCATEoBJECT que retorna o índice 4 que define chave4 como 25 e chama lISTiNSERTL 4 O novo início da lista livre é o objeto 8 que era próximo4 na lista livre c Após executar lISTDELETEL 5 chamamos FREEoBJECTS5 O objeto 5 se torna o novo início da lista livre seguido pelo objeto 8 na lista livre 1031 1032 1033 Podemos usar uma implementação de lista das operações de pilhas PUSH e POP para implementar os procedimentos para alocar e liberar objetos respectivamente Consideramos que a variável global livre usada nos procedimentos a seguir aponta para o primeiro elemento da lista livre A lista livre contém inicialmente todos os n objetos não alocados Assim que a lista livre é esgotada o procedimento ALLOCATEOBJECT sinaliza um erro Podemos até mesmo atender a várias listas ligadas com apenas uma única lista livre A Figura 108 mostra duas listas ligadas e uma lista livre entrelaçadas por meio de arranjos chave próximo e anterior Os dois procedimentos são executados no tempo O1 o que os torna bastante práticos Podemos modificálos de modo que funcionem para qualquer coleção homogênea de objetos permitindo que qualquer um dos atributos no objeto aja como um atributo próximo na lista livre Figura 108 Duas listas ligadas L1 sombreada em tom mais claro e L2 sombreada em tom mais escuro e uma lista livre em negro entrelaçada Exercícios Trace um quadro da sequência 13 4 8 19 5 11 armazenada como uma lista duplamente ligada utilizando a representação de vários arranjos Faça o mesmo para a representação de um único arranjo Escreva os procedimentos ALLOCATEOBJECT e FREEOBJECT para uma coleção homogênea de objetos implementada pela representação de um único arranjo Por que não precisamos definir ou redefinir os atributos anterior de objetos na implementação dos procedimentos ALLOCATEOBJECT e FREEOBJECT 1034 1035 104 Muitas vezes é desejável manter todos os elementos de uma lista duplamente ligada de forma compacta no armazenamento usando por exemplo as primeiras m posições do índice na representação de vários arranjos Esse é o caso em um ambiente de computação de memória virtual paginada Explique como implementar os procedimentos ALLOCATEOBJECT e FREEOBJECT de modo que a representação seja compacta Suponha que não existem ponteiros para elementos da lista ligada fora da própria lista Sugestão Use a implementação de uma pilha em arranjo Seja L uma lista duplamente ligada de comprimento n armazenada em arranjos chave anterior e próximo de comprimento m Suponha que esses arranjos sejam gerenciados por procedimentos ALLOCATEOBJECT e FREE OBJECT que mantêm uma lista livre duplamente ligada F Suponha ainda que dos m itens exatamente n estejam na lista L e m n na lista livre Escreva um procedimento COMPACTIFYLISTL F que dadas a lista L e a lista livre F desloque os itens em L de modo que ocupem as posições de arranjo 1 2 n e ajuste a lista livre F para que ela permaneça correta ocupando as posições de arranjo m 1 m 2 n O tempo de execução do seu procedimento deve ser Qm e ele deve utilizar somente uma quantidade constante de espaço extra Justifique que seu procedimento está correto REPRESENTAÇÃO DE ÁRVORES ENRAIZADAS Os métodos para representar listas dados na seção anterior se estendem a qualquer estrutura de dados homogênea Nesta seção examinaremos especificamente o problema da representação de árvores enraizadas por estruturas de dados ligadas Primeiro veremos as árvores binárias e depois apresentaremos um método para árvores enraizadas nas quais os nós podem ter um número arbitrário de filhos Representamos cada nó de uma árvore por um objeto Como no caso das listas ligadas supomos que cada nó contém um atributo chave Os atributos de interesse restantes são ponteiros para outros nós e variam de acordo com o tipo de árvore Árvores binárias A Figura 109 mostra como usamos os atributos p esquerdo e direito para armazenar ponteiros para o pai o filho da esquerda e o filho da direita de cada nó em uma árvore binária T Se xp NIL então x é a raiz Se o nó x não tem nenhum filho à esquerda então xesquerdo NIL e o mesmo ocorre para o filho à direita A raiz da árvore T inteira é apontada pelo atributo Traiz Se Traiz NIL então a árvore é vazia Árvores enraizadas com ramificações ilimitadas Podemos estender o esquema para representar uma árvore binária a qualquer classe de árvores na qual o número de filhos de cada nó seja no máximo alguma constante k substituímos os atributos esquerdo e direito por filho1 filho2 filhok Esse esquema deixa de funcionar quando o número de filhos de um nó é ilimitado já que não sabemos quantos atributos arranjos na representação de vários arranjos devemos alocar antecipadamente Além disso ainda que o número de filhos k seja limitado por uma constante grande mas a maioria dos nós tenha um número pequeno de filhos é possível que desperdicemos grande quantidade de memória Felizmente existe um esquema inteligente para representar árvores com números arbitrários de filhos Tal esquema tem a vantagem de utilizar somente o espaço On para qualquer árvore enraizada de n nós A representação filho da esquerda irmão da direita aparece na Figura 1010 Como antes cada nó contém um ponteiro pai p e Traiz aponta para a raiz da árvore T Contudo em vez de ter um ponteiro para cada um de seus filhos cada nó x tem somente dois ponteiros 1 2 xfilhoesquerdo aponta para o filho da extremidade esquerda do nó x e xirmãodireito aponta para o irmão de x imediatamente à sua direita Se o nó x não tem nenhum filho então xfilhoesquerdo NIL e se o nó x é o filho da extrema direita de seu pai então xirmãodireito NIL Outras representações de árvores Algumas vezes representamos árvores enraizadas de outras maneiras Por exemplo no Capítulo 6 representamos um heap que é baseado em uma árvore binária completa por um único arranjo mais o índice do último nó no heap As árvores que aparecem no Capítulo 21 são percorridas somente em direção à raiz assim apenas os ponteiros pais estão presentes não há ponteiros para filhos Muitos outros esquemas são possíveis O melhor esquema dependerá da aplicação Figura 109 A representação de uma árvore binária T Cada nó x tem os atributos xp superior xesquerdo inferior esquerdo e xdireito inferior direito Os atributos chave não estão mostrados 1041 1042 1043 1044 Figura 1010 A representação filho da esquerda irmão da direita de uma árvore T Cada nó x tem atributos xp superior xfilho esquerdo inferior esquerdo e xirmãodireito inferior direito As chaves não são mostradas Exercícios Desenhe a árvore binária enraizada no índice 6 que é representada pelos seguintes atributos índice chave esquerdo direito 1 12 7 3 2 15 8 NIL 3 4 10 NIL 4 10 5 9 5 2 NIL NIL 6 18 l 4 7 7 NIL NIL 8 14 6 2 9 21 NIL NIL 10 5 NIL NIL Escreva um procedimento recursivo de tempo On que dada uma árvore binária de n nós imprima a chave de cada nó na árvore Escreva um procedimento não recursivo de tempo On que dada uma árvore binária de n nós imprima a chave de cada nó na árvore Use uma pilha como estrutura de dados auxiliar Escreva um procedimento de tempo On que imprima todas as chaves de uma árvore enraizada arbitrária com n nós onde a árvore é armazenada usando a representação filhoesquerdo irmãodireito 1045 1046 101 102 a b c 103 Escreva um procedimento não recursivo de tempo On que dada uma árvore binária de n nós imprima a chave de cada nó Não utilize mais que um espaço extra constante fora da própria árvore e não modifique a árvore mesmo temporariamente durante o procedimento A representação filhoesquerdo irmãodireito de uma árvore enraizada arbitrária utiliza três ponteiros em cada nó filho da esquerda irmão da direita e pai De qualquer nó seu pai pode ser alcançado e identificado em tempo constante e todos os seus filhos podem ser alcançados e identificados em tempo linear em relação ao número de filhos Mostre como usar somente dois ponteiros e um valor booleano em cada nó para que o pai de um nó ou todos os seus filhos possam ser alcançados e identificados em tempo linear em relação ao número de filhos Problemas Comparações entre listas Para cada um dos quatro tipos de listas na tabela a seguir qual é o tempo de execução assintótico do pior caso para cada operação em conjuntos dinâmicos apresentada na lista não ordenada simplesmente ligada ordenada simplesmente ligada não ordenada duplamente ligada ordenada duplamente ligada SEARCHL k INSERTL x DELETEL x SUCCESSORL x PREDECESSORL x MINIMUML MAXIMUML Heaps intercaláveis com a utilização de listas ligadas Um heap intercalável suporta as seguintes operações MAKEHEAP que cria um heap intercalável vazio INSERT MINIMUM EXTRACTMIN e UNION1 Mostre como implementar heaps intercaláveis com a utilização de listas ligadas em cada um dos casos a seguir Procure tornar cada operação tão eficiente quanto possível Analise o tempo de execução de cada operação em termos do tamanho dos conjuntos dinâmicos sobre os qualis é realizada a operação As listas são ordenadas As listas são não ordenadas As listas são não ordenadas e os conjuntos dinâmicos a serem intercalados são disjuntos Busca em uma lista compacta ordenada a O Exercício 1034 perguntou como poderíamos manter uma lista de n elementos compactamente nas primeiras n posições de um arranjo Suporemos que todas as chaves são distintas e que a lista compacta é também ordenada isto é chavei chavepróximoi para todo i 1 2 n tal que próximoi NIL Suporemos também que temos uma variável L que contém o índice do primeiro elemento na lista Com base nessas premissas você mostrará que podemos usar o seguinte algoritmo aleatorizado para fazer uma busca na lista no tempo esperado On Se ignorarmos as linhas 37 do procedimento teremos um algoritmo comum para busca em uma lista ligada ordenada no qual o índice i aponta para cada posição da lista por vez A busca termina assim que o índice i cair do final da lista ou assim que chavei k Neste último caso se chavei k fica claro que encontramos uma chave com o valor k Se porém chavei k isso significa que nunca encontraremos uma chave com o valor k Todavia se chavei k então nunca encontraremos uma chave com o valor k e portanto encerrar a busca era a coisa certa a fazer As linhas 37 tentam saltar à frente até uma posição j escolhida aleatoriamente Esse salto nos beneficiará se chavej for maior que chavei e não maior que k nesse caso j marca uma posição na lista a qual i teria de alcançar durante uma busca comum na lista Como a lista é compacta sabemos que qualquer escolha de j entre 1 e n indexa algum objeto na lista em vez de uma lacuna na lista livre Em vez de analisar o desempenho de COMPACTLISTSEARCH diretamente analisaremos um algoritmo relacionado COMPACTLISTSEARCH que executa dois laços separados Esse algoritmo adota um parâmetro adicional t que determina um limite superior para o número de iterações do primeiro laço Para comparar a execução dos algoritmos COMPACTLISTSEARCHL n k e COMPACTLISTSEARCHL n k t suponha que a sequência de inteiros retornados pelas chamadas de RANDOM1 n é a mesma para ambos os algoritmos Suponha que COMPACTLISTSEARCHL n k execute t iterações do laço while das linhas 28 Demonstre que COMPACTLISTSEARCHL n k t retorna a mesma resposta e que o número total de iterações de ambos b c d e f g h os laços for e while dentro de COMPACTLISTSEARCH é pelo menos t Na chamada COMPACTLISTSEARCHL n k t seja Xt a variável aleatória que descreve a distância na lista ligada isto é do começo ao fim da cadeia de ponteiros próximo da posição i até a chave desejada k após t iterações do laço for das linhas 27 Mostre que o tempo de execução esperado de COMPACTLISTSEARCHL n k t é Ot EXt Mostre que Sugestão Use a equação C25 Mostre que Prove que EXt nt 1 Mostre que COMPACTLISTSEARCHL n k t é executado no tempo esperado Ot nt Conclua que COMPACTLISTSEARCH é executado no tempo esperado On Por que supusemos que todas as chaves são distintas em COMPACTLISTSEARCH Demonstre que saltos aleatórios não necessariamente ajudam assintoticamente quando a lista contém valores de chave repetidos NOTAS DO CAPÍTULO Aho Hopcroft e Ullman 6 e Knuth 209 são excelentes referências para estruturas de dados elementares Muitos outros textos focalizam estruturas de dados básicas e também sua implementação em uma linguagem de programação particular Alguns exemplos desses tipos de livros didáticos são Goodrich e Tamassia 147 Main 241 Shaffer 311 e Weiss 352 353 354 Gonnet 145 fornece dados experimentais sobre o desempenho de muitas operações em estruturas de dados A origem de pilhas e filas como estruturas de dados em ciência da computação não é clara visto que já existiam noções correspondentes em matemática e em práticas comerciais em papel antes da introdução dos computadores digitais Knuth 209 cita A M Turing sobre o desenvolvimento de pilhas para o encadeamento de subrotinas em 1947 Estruturas de dados baseadas em ponteiros também parecem ser uma invenção folclórica De acordo com Knuth ponteiros eram aparentemente usados nos primeiros computadores com memórias de tambor A linguagem A1 desenvolvida por G M Hopper em 1951 representava fórmulas algébricas como árvores binárias Knuth credita à linguagem IPLII desenvolvida em 1956 por A Newell J C Shaw e H A Simon o reconhecimento da importância e a promoção do uso de ponteiros Sua linguagem IPLIII desenvolvida em 1957 incluía operações explícitas de pilhas 1 Visto que definimos um heap intercalável para suportar Minimum e ExtractMin também podemos nos referir a ele como um heap intercalável de mínimo Alternativamente se o heap suportasse Maximun e ExtractMax ele seria um heap intercalável de máximo 111 11 TABELAS DE ESPALHAMENTO Muitas aplicações exigem um conjunto dinâmico que suporte somente as operações de dicionário INSERT SEARCH e DELETE Por exemplo um compilador que traduz uma linguagem de programação mantém uma tabela de símbolos na qual as chaves de elementos são cadeias de caracteres arbitrários que correspondem a identificadores na linguagem Uma tabela de espalhamento ou hashing é uma estrutura de dados eficaz para implementar dicionários Embora a busca por um elemento em uma tabela de espalhamento possa demorar tanto quanto procurar um elemento em uma lista ligada o tempo Θ n no pior caso na prática o hashing funciona extremamente bem Sob premissas razoáveis o tempo médio para pesquisar um elemento em uma tabela de espalhamento é O1 Uma tabela de espalhamento generaliza a noção mais simples de um arranjo comum O endereçamento direto em um arranjo comum faz uso eficiente de nossa habilidade de examinar uma posição arbitrária em um arranjo no tempo O1 A Seção 111 discute o endereçamento direto com mais detalhes Podemos tirar proveito do endereçamento direto quando temos condições de alocar um arranjo que tem uma única posição para cada chave possível Quando o número de chaves realmente armazenadas é pequeno em relação ao número total de chaves possíveis as tabelas de espalhamento se tornam uma alternativa eficaz para endereçar diretamente um arranjo já que normalmente uma tabela de espalhamento utiliza um arranjo de tamanho proporcional ao número de chaves realmente armazenadas Em vez de usar a chave diretamente como um índice de arranjo o índice de arranjo é computado a partir da chave A Seção 112 apresenta as principais ideias focalizando o encadeamento como um modo de tratar colisões nas quais mais de uma chave é mapeada para o mesmo índice de arranjo A Seção 113 descreve como podemos computar os índices de arranjos a partir das chaves com o uso de funções hash Apresentamos e analisamos diversas variações sobre o tema básico A Seção 114 examina o endereçamento aberto que é um outro modo de lidar com colisões A conclusão é que o hash é uma técnica extremamente eficaz e prática as operações básicas de dicionário exigem apenas o tempo O1 em média A Seção 115 explica como o hashing perfeito pode suportar buscas no tempo do pior caso O1 quando o conjunto de chaves que está sendo armazenado é estático isto é quando o conjunto de chaves nunca muda uma vez armazenado TABELAS DE ENDEREÇO DIRETO O endereçamento direto é uma técnica simples que funciona bem quando o universo U de chaves é razoavelmente pequeno Suponha que uma aplicação necessite de um conjunto dinâmico no qual cada elemento tem uma chave extraída do universo U 0 1 m 1 onde m não é muito grande Consideramos que não há dois elementos com a mesma chave Para representar o conjunto dinâmico usamos um arranjo ou uma tabela de endereços diretos denotada por T0 m 1 na qual cada posição ou lacuna corresponde a uma chave no universo U A Figura 111 ilustra a abordagem a posição k aponta para um elemento no conjunto com chave k Se o conjunto não contém nenhum elemento com chave k então Tk NIL 1111 1112 Figura 111 Como implementar um conjunto dinâmico por uma tabela de endereços diretos T Cada chave no universo U 0 1 9 corresponde a um índice na tabela O conjunto K 2 3 5 8 de chaves reais determina as posições na tabela que contêm ponteiros para elementos As outras posições sombreadas em tom mais escuro contêm NIL A implementação das operações de dicionário é trivial Cada uma dessas operações leva somente o tempo O1 Em algumas aplicações a própria tabela de endereços diretos pode conter os elementos do conjunto dinâmico Isto é em vez de armazenar a chave e os dados satélites de um elemento em um objeto externo à tabela de endereços diretos com um ponteiro de uma posição na tabela até o objeto podemos armazenar o objeto na própria posição e portanto economizar espaço Usaríamos uma chave especial dentro de um objeto para indicar uma lacuna Além disso muitas vezes é desnecessário armazenar a chave do objeto já que se temos o índice de um objeto na tabela temos sua chave Entretanto se as chaves não forem armazenadas devemos ter algum modo de saber se a posição está vazia Exercícios Suponha que um conjunto dinâmico S seja representado por uma tabela de endereços diretos T de comprimento m Descreva um procedimento que determine o elemento máximo de S Qual é o desempenho do pior caso do seu procedimento Um vetor de bits é simplesmente um arranjo de bits 0s e 1s Um vetor de bits de comprimento m ocupa um espaço muito menor que um arranjo de m ponteiros Descreva como usar um vetor de bits para representar um conjunto dinâmico de elementos distintos sem dados satélites Operações de dicionário devem ser executadas no tempo O1 1113 1114 112 Sugira como implementar uma tabela de endereços diretos na qual as chaves de elementos armazenados não precisem ser distintas e os elementos possam ter dados satélites Todas as três operações de dicionário INSERT DELETE e SEARCH devem ser executadas no tempo O1 Não esqueça que DELETE adota como argumento um ponteiro para um objeto a ser eliminado não uma chave Desejamos implementar um dicionário usando endereçamento direto para um arranjo enorme No início as entradas do arranjo podem conter lixo e inicializar o arranjo inteiro é impraticável devido ao seu tamanho Descreva um esquema para implementar um dicionário de endereço direto para um arranjo enorme Cada objeto armazenado deve utilizar espaço O1 as operações SEARCH INSERT e DELETE devem demorar tempo O1 cada uma e a inicialização da estrutura de dados deve demorar o tempo O1 Sugestão Use um arranjo adicional tratado de certo modo como uma pilha cujo tamanho é o número de chaves realmente armazenadas no dicionário para ajudar a determinar se uma dada entrada no arranjo enorme é válida ou não TABELAS DE ESPALHAMENTO O aspecto negativo do endereçamento direto é óbvio se o universo U é grande armazenar uma tabela T de tamanho U pode ser impraticável ou mesmo impossível dada a memória disponível em um computador típico Além disso o conjunto K de chaves realmente armazenadas pode ser tão pequeno em relação a U que grande parte do espaço alocado para T seria desperdiçada Quando o conjunto K de chaves armazenadas em um dicionário é muito menor que o universo U de todas as chaves possíveis uma tabela de espalhamento requer armazenamento muito menor que uma tabela de endereços diretos Especificamente podemos reduzir o requisito de armazenamento a K e ao mesmo tempo manter o benefício de procurar um elemento na tabela ainda no tempo O1 A pegada é que esse limite é para o caso do tempo médio enquanto no caso do endereçamento direto ele vale para o tempo do pior caso Com endereçamento direto um elemento com a chave k é armazenado na posição k Com hash esse elemento é armazenado na posição hk isto é usamos uma função hash h para calcular a posição pela chave k Aqui h mapeia o universo U de chaves para as posições de uma tabela de espalhamento T0 m 1 onde o tamanho m da tabela de espalhamento normalmente é muito menor que U Dizemos que um elemento com a chave k se espalha hashes até a posição hk dizemos também que hk é o valor hash da chave k A Figura 112 ilustra a ideia básica A função hash reduz a faixa de índices do arranjo e consequentemente o tamanho do arranjo Em vez de ter tamanho U o arranjo pode ter tamanho m Porém há um revés após o hash duas chaves podem ser mapeadas para a mesma posição Chamamos essa situação de colisão Felizmente existem técnicas eficazes para resolver o conflito criado por colisões É claro que a solução ideal seria evitar por completo as colisões Poderíamos tentar alcançar essa meta escolhendo uma função hash adequada h Uma ideia é fazer h parecer aleatória evitando assim as colisões ou ao menos minimizando seu número A expressão to hash em inglês que evoca imagens de misturas e retalhamentos aleatórios capta o espírito dessa abordagem É claro que uma função hash h deve ser determinística no sentido de que uma dada entrada k sempre deve produzir a mesma saída hk Porém como U m devem existir no mínimo duas chaves que têm o mesmo valor hash portanto evitar totalmente as colisões é impossível Assim embora uma função hash bem projetada e de aparência aleatória possa minimizar o número de colisões ainda precisamos de um método para resolver as colisões que ocorrerem O restante desta seção apresenta a técnica mais simples para resolução de colisões denominada encadeamento A Seção 114 apresenta um método alternativo para resolver colisões denominado endereçamento aberto Figura 112 Utilização de uma função hash h para mapear chaves para posições de uma tabela de espalhamento Como são mapeadas para a mesma posição as chaves k 2 e k 5 colidem Resolução de colisões por encadeamento No encadeamento todos os elementos resultantes do hash vão para a mesma posição em uma lista ligada como mostra a Figura 113 A posição j contém um ponteiro para o início da lista de todos os elementos armazenados que após o hash foram para j se não houver nenhum desses elementos a posição j contém NIL As operações de dicionário em uma tabela de espalhamento T são fáceis de implementar quando as colisões são resolvidas por encadeamento Figura 113 Resolução de colisão por encadeamento Cada posição Tj da tabela de espalhamento contém uma lista ligada de todas as chaves cujo valor hash é j Por exemplo hk 1 hk 4 e hk 5 hk 2 hk 7 A lista ligada pode ser simplesmente ligada ou duplamente ligada aqui ela é mostrada como duplamente ligada porque assim a eliminação é mais rápida O tempo de execução do pior caso para inserção é O1 O procedimento de inserção é rápido em parte porque supõe que o elemento x que está sendo inserido ainda não está presente na tabela se necessário podemos verificar essa premissa a custo adicional procurando um elemento cuja chave é xchave antes da inserção Para busca o tempo de execução do pior caso é proporcional ao comprimento da lista analisaremos essa operação mais atentamente em seguida Podemos eliminar um elemento x no tempo O1 se as listas forem duplamente ligadas como mostra a Figura 113 Observe que CHAINEDHASHDELETE toma como entrada um elemento x e não sua chave k de modo que não temos de procurar x antes Se a tabela de espalhamento suportar eliminação então suas listas ligadas devem ser duplamente ligadas para podermos eliminar um item rapidamente Se as listas forem apenas simplesmente ligadas para eliminar o elemento x em primeiro lugar teríamos de encontrar x na lista Thxchave para podermos atualizar o próximo atributo do predecessor de x Com listas simplesmente ligadas a eliminação e a busca teriam os mesmos tempos de execução assintóticos Análise do hash com encadeamento Como é o desempenho do hashing com encadeamento Em particular quanto tempo ele leva para procurar um elemento com uma determinada chave Dada uma tabela de espalhamento T com m posições que armazena n elementos definimos o fator de carga α para T como nm isto é o número médio de elementos armazenados em uma cadeia Nossa análise será em termos de α que pode ser menor igual ou maior que 1 O comportamento do pior caso do hashing com encadeamento é terrível todas as n chaves vão para a mesma posição após o hashing criando uma lista de comprimento n Portanto o tempo do pior caso para a busca é n mais o tempo necessário para calcular a função hash não é melhor do que seria se usássemos uma única lista ligada para todos os elementos É claro que não usamos as tabelas de espalhamento por seu desempenho no pior caso Todavia o hashing perfeito descrito na Seção 115 realmente oferece bom desempenho no pior caso quando o conjunto de chaves é estático O desempenho do hashing para o caso médio depende de como a função hash h distribui o conjunto de chaves a armazenar entre as m posições em média A Seção 113 discute essas questões mas por enquanto devemos considerar que qualquer elemento dado tem igual probabilidade de passar para qualquer das m posições após o hashing independentemente do lugar para onde qualquer outro elemento tenha passado após essa operação Denominamos essa premissa hashing uniforme simples Para j 0 1 m 1 vamos denotar o comprimento da lista Tj por nj de modo que e o valor esperado de nj é Enj α nm Supomos que o tempo O1 é suficiente para calcular o valor hash hk de modo que o tempo requerido para procurar um elemento com chave k depende linearmente do comprimento nhk da lista Thk Deixando de lado o tempo O1 necessário para calcular a função hash e acessar a posição hk vamos considerar o número esperado de elementos examinados pelo algoritmo de busca isto é o número de elementos na lista Thk que o algoritmo verifica para ver se qualquer deles tem uma chave igual a k Consideraremos dois casos No primeiro a busca não é bem sucedida nenhum elemento na tabela tem a chave k No segundo caso a busca consegue encontrar um elemento com chave k Teorema 111 Em uma tabela de espalhamento na qual as colisões são resolvidas por encadeamento uma busca mal sucedida demora o tempo do caso médio 1 α sob a hipótese de hashing uniforme simples Prova Sob a hipótese de hashing uniforme simples qualquer chave k ainda não armazenada na tabela tem igual probabilidade de ocupar qualquer das m posições após o hash O tempo esperado para procurar sem sucesso uma chave k é o tempo esperado para pesquisar até o fim da lista Thk que tem o comprimento esperado Enhk α Assim o número esperado de elementos examinados em uma busca mal sucedida é α e o tempo total exigido incluindo o tempo para se calcular hk é 1 α A situação para uma busca bemsucedida é ligeiramente diferente já que a probabilidade de cada lista ser pesquisada não é a mesma Em vez disso a probabilidade de uma lista ser pesquisada é proporcional ao número de elementos que ela contém Todavia o tempo de busca esperado ainda é 1 α Teorema 112 Em uma tabela de espalhamento na qual as colisões são resolvidas por encadeamento uma busca bemsucedida demora o tempo do caso médio 1 α se considerarmos hashing uniforme simples Prova Supomos que o elemento que está sendo pesquisado tem igual probabilidade de ser qualquer dos n elementos armazenados na tabela O número de elementos examinados durante uma busca bemsucedida para um elemento x é uma unidade maior que o número de elementos que aparecem antes de x na lista de x Como elementos novos são colocados à frente na lista os elementos antes de x na lista foram todos inseridos após x ser inserido Para determinar o número esperado de elementos examinados tomamos a média sobre os n elementos x na tabela de 1 mais o número esperado de elementos adicionados à lista de x depois que x foi adicionado à lista Seja xi o iésimo elemento inserido na tabela para i 1 2 n e seja ki xichave Para chaves ki e kj definimos a variável aleatória indicadora Xij I hki hkj Sob a hipótese de hashing uniforme simples temos Pr hki hkj 1m e então pelo Lema 51 EXij 1m Assim o número esperado de elementos examinados em uma busca bemsucedida é Assim o tempo total exigido para uma busca bemsucedida incluindo o tempo para calcular a função hash é 2 α2 α2n 1 α O que significa essa análise Se o número de posições da tabela de espalhamento é no mínimo proporcional ao número de elementos na tabela temos n Om e consequentemente α nm Omm O1 Assim a busca 1121 1122 1123 1124 1125 1126 113 demora tempo constante na média Visto que a inserção demora o tempo O1 no pior caso e a eliminação demora o tempo O1 no pior caso quando as listas são duplamente ligadas podemos suportar todas as operações de dicionário no tempo O1 na média Exercícios Suponha que utilizamos uma função hash h para efetuar o hashing de n chaves distintas em um arranjo T de comprimento m Considerando hashing uniforme simples qual é o número esperado de colisões Mais precisamente qual é a cardinalidade esperada de k l k l e hk hl Demonstre o que acontece quando inserimos as chaves 5 28 19 15 20 33 12 17 10 em uma tabela de espalhamento com colisões resolvidas por encadeamento Considere uma tabela com nove posições e a função hash hk k mod 9 O professor Marley apresenta a hipótese de que podemos obter ganhos substanciais de desempenho modificando o esquema de encadeamento para manter cada lista em sequência ordenada Como a modificação do professor afeta o tempo de execução para pesquisas bemsucedidas mal sucedidas inserções e eliminações Sugira como alocar e desalocar armazenamento para elementos dentro da própria tabela de espalhamento ligando todas as posições não utilizadas em uma lista livre Suponha que uma posição pode armazenar um sinalizador e um elemento mais um ponteiro ou dois ponteiros Todas as operações de dicionário e de lista livre devem ser executadas no tempo esperado O1 A lista livre precisa ser duplamente ligada ou uma lista livre simplesmente ligada é suficiente Suponha que estejamos armazenando um conjunto de n chaves em uma tabela de espalhamento de tamanho m Mostre que se as chaves forem extraídas de um universo U com U nm então U tem um subconjunto de tamanho n composto por chaves que passam todas para uma mesma posição após o hashing de modo que o tempo de busca do pior caso para o hashing com encadeamento é n Suponha que armazenemos n chaves em uma tabela de espalhamento de tamanho m com colisões resolvidas por encadeamento e que conhecemos o comprimento de cada cadeia incluindo o comprimento L da cadeia mais longa Descreva um procedimento que seleciona uma chave uniformemente ao acaso entre as chaves na tabela de espalhamento e a retorna no tempo esperado OL 1 1α FUNÇÕES HASH Nesta seção discutiremos algumas questões relacionadas ao projeto de boas funções hash e depois apresentaremos três esquemas para sua criação Dois dos esquemas hash por divisão e hash por multiplicação são heurísticos por natureza enquanto o terceiro esquema hash universal utiliza a aleatorização para oferecer um desempenho que podemos provar que é bom O que faz uma boa função hash Uma boa função hash satisfaz aproximadamente a premissa do hashing uniforme simples cada chave tem igual probabilidade de passar para qualquer das m posições por uma operação de hash independentemente da posição que qualquer outra chave ocupou após o hash Infelizmente normalmente não temos nenhum meio de verificar essa condição já que raramente conhecemos a distribuição de probabilidade da qual as chaves são extraídas Além disso as 1131 chaves poderiam não ser extraídas independentemente Ocasionalmente conhecemos a distribuição Por exemplo se soubermos que as chaves são números reais aleatórios k independente e uniformemente distribuídos na faixa 0 k 1 então a função hash hk km satisfaz a condição de hashing uniforme simples Na prática muitas vezes podemos usar técnicas heurísticas para criar uma função hash que funciona bem Informações qualitativas sobre a distribuição de chaves podem ser úteis nesse processo de projeto Por exemplo considere a tabela de símbolos de um compilador na qual as chaves são cadeias de caracteres que representam identificadores em um programa Símbolos estreitamente relacionados como pt e pts frequentemente ocorrem no mesmo programa Uma boa função hash minimizaria a chance de tais variações passarem para a mesma posição após o hashing Uma boa abordagem deriva o valor hash de um modo que esperamos seja independente de quaisquer padrões que possam existir nos dados Por exemplo o método de divisão discutido na Seção 1131 calcula o valor hash como o resto quando a chave é dividida por um número primo especificado Esse método frequentemente dá bons resultados desde que que escolhamos um número primo que não esteja relacionado com quaisquer padrões na distribuição de chaves Finalmente observamos que algumas aplicações de funções hash poderiam exigir propriedades mais fortes que as oferecidas pelo hashing uniforme simples Por exemplo poderíamos querer que chaves que de certo modo são mais próximas derivem valores hash muito afastados um do outro Essa propriedade é especialmente desejável quando estamos usando sondagem linear definida na Seção 114 O hash universal descrito na Seção 1133 muitas vezes fornece as propriedades desejadas Interpretação de chaves como números naturais A maior parte das funções hash considera como universo de chaves o conjunto 0 1 2 de números naturais Assim se as chaves não forem números naturais temos de encontrar um modo de interpretálas como números naturais Por exemplo podemos interpretar uma cadeia de caracteres como um inteiro expresso em uma notação de raiz adequada Assim poderíamos interpretar o identificador pt como o par de inteiros decimais 112 116 já que p 112 e t 116 no conjunto de caracteres ASCII então expresso como um inteiro de raiz 128 pt se torna 112 128 116 14452 No contexto de uma determinada aplicação normalmente podemos elaborar algum método para interpretar cada chave como um número natural possivelmente grande No que vem a seguir supomos que as chaves são números naturais O MÉTODO DE DIVISÃO No método de divisão para criar funções hash mapeamos uma chave k para uma de m posições tomando o resto da divisão de k por m Isto é a função hash é hk k mod m Por exemplo se a tabela de espalhamento tem tamanho m 12 e a chave é k 100 então hk 4 Visto que exige uma única operação de divisão o hash por divisão é bastante rápido Quando utilizamos o método de divisão em geral evitamos certos valores de m Por exemplo m não deve ser uma potência de 2 já que se m 2p então hk será somente o grupo de p bits de ordem mais baixa de k A menos que saibamos que todos os padrões de p bits de ordem baixa são igualmente prováveis é melhor garantir que em nosso projeto a função hash dependa de todos os bits da chave Como o Exercício 1133 lhe pede para mostrar escolher m 2p 1 quando k é uma cadeia de caracteres interpretada em raiz 2p pode ser uma escolha ruim porque permutar os caracteres de k não altera seu valor hash 1132 Muitas vezes um primo não muito próximo de uma potência exata de 2 é uma boa escolha para m Por exemplo suponha que desejemos alocar uma tabela de espalhamento com colisões resolvidas por encadeamento para conter aproximadamente n 2000 cadeias de caracteres onde um caractere tem oito bits Não nos importamos de examinar uma média de três elementos em uma busca mal sucedida e assim alocamos uma tabela de espalhamento de tamanho m 701 Pudemos escolher o número 701 porque é um primo próximo de 20003 mas não próximo de nenhuma potência de 2 Tratando cada chave k como um inteiro nossa função hash seria hk k mod 701 O MÉTODO DE MULTIPLICAÇÃO O método de multiplicação para criar funções hash funciona em duas etapas Primeiro multiplicamos a chave k por uma constante A na faixa 0 A 1 e extraímos a parte fracionária de kA Em seguida multiplicamos esse valor por m e tomamos o piso do resultado Resumindo a função hash é onde k A mod 1 significa a parte fracionária de kA isto é kA kA Uma vantagem do método de multiplicação é que o valor de m não é crítico Em geral nós o escolhemos de modo a ser uma potência de 2 m 2p para algum inteiro p já que podemos implementar facilmente a função na maioria dos computadores do modo descrito a seguir Suponha que o tamanho da palavra da máquina seja w bits e que k caiba em uma única palavra Restringimos A a ser uma fração da forma s2w onde s é um inteiro na faixa 0 s 2w Referindo nos à Figura 114 primeiro multiplicamos k pelo inteiro s A 2w de w bits O resultado é um valor de 2w bits r12w r0 onde r1 é a palavra de ordem alta do produto e r0 é a palavra de ordem baixa do produto O valor hash de p bits desejado consiste nos p bits mais significativos de r0 Embora esse método funcione com qualquer valor da constante A funciona melhor com alguns valores que com outros A escolha ótima depende das características dos dados aos quais o hash está sendo aplicado Knuth 185 sugere que tem boa possibilidade de funcionar razoavelmente bem Como exemplo suponha que tenhamos k 123456 p 14 m 214 16384 e w 32 Adaptando a sugestão de Knuth escolhemos A como a fração da forma s232 mais próxima a 51 2 isto é A 2654435769232 Então k s 327706022297664 76300 232 17612864 e assim r1 76300 e r0 17612864 Os 14 bits mais significativos de r0 formam o valor hk 67 1133 Figura 114 O método de multiplicação para hash A representação de w bits da chave k é multiplicada pelo valor de w bits s A 2w onde 0 A 1 é uma constante adequada Os p bits de ordem mais alta da metade inferior de w bits do produto formam o valor hash desejado hk HASHING UNIVERSAL Se um adversário malicioso escolher as chaves às quais o hashing deverá ser aplicado por alguma função hash fixa ele pode escolherá n chaves que passem para a mesma posição após o hash o que resulta em um tempo médio de recuperação igual a Qn Qualquer função hash fixa é vulnerável a esse terrível comportamento do pior caso a única maneira eficaz de melhorar a situação é escolher a função hash aleatoriamente de um modo que seja independente das chaves que realmente serão armazenadas Essa abordagem denominada hashing universal pode resultar em um desempenho demonstravelmente bom na média não importando as chaves escolhidas pelo adversário No hashing universal no início da execução selecionamos a função hash aleatoriamente de uma classe de funções cuidadosamente projetada Como no caso do quicksort a aleatorização garante que nenhuma entrada isolada evocará sempre o comportamento do pior caso Como selecionamos a função hash aleatoriamente o algoritmo poderá se comportar de modo diferente em cada execução ainda que a entrada seja a mesma garantindo um bom desempenho do caso médio para qualquer entrada Retornando ao exemplo da tabela de símbolos de um compilador verificamos que agora a escolha de identificadores pelo programador não pode provocar consistentemente um desempenho ruim do hash O desempenho ruim ocorre apenas quando o compilador escolhe uma função hash aleatória que faz com que o resultado do hash aplicado ao conjunto de identificadores seja ruim mas a probabilidade de ocorrer essa situação é pequena e é a mesma para qualquer conjunto de identificadores do mesmo tamanho Seja uma coleção finita de funções hash que mapeiam um dado universo U de chaves para a faixa 0 1 m 1 Dizemos que ela é universal se para cada par de chaves distintas k l U o número de funções hash h para as quais hk hl é no máximo m Em outras palavras com uma função hash escolhida aleatoriamente de a chance de uma colisão entre chaves distintas k e l não é maior que a chance 1m de uma colisão se hk e hl fossem escolhidas aleatória e independentemente do conjunto 0 1 m 1 O teorema a seguir mostra que uma classe universal de funções hash oferece bom comportamento do caso médio Lembrese de que ni denota o comprimento da lista Ti Teorema 113 Suponha que uma função hash h seja escolhida aleatoriamente de uma coleção universal de funções hash e usada para aplicar hash às n chaves em uma tabela T de tamanho m usando encadeamento para resolver colisões Se a chave k não estiver na tabela o comprimento esperado Enhk da lista para a qual a chave k passa após aplicação do hash é no máximo o fator de carga α nm Se a chave k estiver na tabela o comprimento esperado Enhk da lista que contém a chave k é no máximo 1 α Prova Notamos que aqui as esperanças referemse à escolha da função hash e não dependem de quaisquer premissas adotadas para a distribuição das chaves Para cada par k e l de chaves distintas defina a variável aleatória indicadora Xkl Ihk hl Visto que pela definição de uma coleção de funções hash um único par de chaves colide com probabilidade de no máximo 1m temos Pr hk hl 1m Portanto pelo Lema 51 temos Xkl 1m Em seguida definimos para cada chave k a variável aleatória Yk que é igual ao número de chaves diferentes de k que passam para a mesma posição de k após a aplicação do hash de modo que Portanto temos O restante da prova depende de a chave k estar ou não na tabela T Se k T então nhk Yk e l l T e l k n Assim Enhk EYk nm a Se k T então como a chave k aparece na lista Thk e a contagem Yk não inclui a chave k temos nhk Yk 1 e l l T e l k n 1 Assim Enhk EYk n 1m 1 1 α 1m 1 α O corolário a seguir diz que o hash universal nos dá a compensação desejada agora ficou impossível um adversário escolher uma sequência de operações que force o tempo de execução do pior caso Com a aleatorização inteligente da escolha da função hash em tempo de execução garantimos que podemos processar toda sequência de operações com um bom tempo de execução do caso médio Corolário 114 Usando hash universal e resolução de colisão por encadeamento em uma tabela inicialmente vazia com m posições tratar qualquer sequência de n operações INSERT SEARCH e DELETE contendo Om operações INSERT demora o tempo esperado n Prova Como o número de inserções é Om temos n Om e assim α O1 As operações INSERT e DELETE demoram tempo constante e pelo Teorema 113 o tempo esperado para cada operação SEARCH é O1 Assim por linearidade da esperança o tempo esperado para a sequência de operações inteira é On Visto que cada operação leva o tempo 1 decorre o limite n Projeto de uma classe universal de funções hash É bastante fácil projetar uma classe universal de funções hash como um pouco de teoria dos números nos ajudará a demonstrar Se você não estiver familiarizado com a teoria dos números será bom consultar o Capítulo 31 antes Começamos escolhendo um número primo p suficientemente grande para que toda chave k possível esteja no intervalo 0 a p 1 inclusive Seja p o conjunto 0 1 p 1 e seja p o conjunto 1 2 p 1 Visto que p é primo podemos resolver equações de módulo p com os métodos dados no Capítulo 31 Como supomos que o tamanho do universo de chaves é maior que o número de posições na tabela de espalhamento temos p m Agora definimos a função hash hab para qualquer a p e qualquer b p usando uma transformação linear seguida por reduções de módulo p e então de módulo m Por exemplo com p 17 e m 6 temos h34 8 5 A família de todas essas funções hash é Cada função hash hab mapeia p para m Essa classe de funções hash tem a interessante propriedade de que o tamanho m da faixa de saída é arbitrário não necessariamente primo uma característica que usaremos na Seção 115 Visto que temos p 1 escolhas para a e que há p escolhas para b a coleção pm contém pp 1 funções hash Teorema 115 A classe pm de funções hash definida pelas equações 113 e 114 é universal Prova Considere duas chaves distintas k e l de p de modo que k l Para uma dada função hash hab fazemos Primeiro observamos que r s Por quê Observe que Decorre que r s porque p é primo e ambos a e k l não são zero módulo p e assim seu produto também deve ser não zero módulo p pelo Teorema 316 Portanto na computação de qualquer hab em pm entradas distintas k e l mapeiam para valores distintos r e s módulo p ainda não há nenhuma colisão no nível mod p Além disso cada uma das pp 1 escolhas possíveis para o par a b com a 0 produz um par resultante r s diferente com r s já que podemos resolver para a e b dados r e s onde k l1 mod p denota o inverso multiplicativo único módulo p de k l Como existem apenas pp 1 pares r s possíveis com r s há uma correspondência de um para um entre pares a b com a 0 e pares r s com r s Assim para qualquer par de entradas k e l dado se escolhermos a b uniformemente ao acaso de o par resultante r s terá igual probabilidade de ser qualquer par de valores distintos módulo p Então a probabilidade de chaves distintas k e l colidirem é igual à probabilidade de r s mod m quando r e s são escolhidos aleatoriamente como valores distintos módulo p Para um dado valor de r dos p 1 valores restantes possíveis para s o número de valores s tais que s r e s r é no máximo 1131 1132 1133 1134 1135 1136 A probabilidade de s colidir com r quando reduzido módulo m é no máximo p 1mp 1 1m Assim para qualquer par de valores distintos k l p de modo que pm é de fato universal Exercícios Suponha que desejemos buscar em uma lista ligada de comprimento n onde cada elemento contém um chave k juntamente com um valor hash hk Cada chave é uma cadeia de caracteres longa Como poderíamos tirar proveito dos valores hash ao procurar na lista um elemento com uma chave específica Suponha que aplicamos hash a uma cadeia de r caracteres em m posições tratandoa como um número de raiz 128 depois usando o método de divisão Podemos representar facilmente o número m como uma palavra de computador de 32 bits mas a cadeia de r caracteres tratada como um número de raiz 128 ocupa muitas palavras Como podemos aplicar o método de divisão para calcular o valor hash da cadeia de caracteres sem usar mais do que um número constante de palavras de armazenamento fora da própria cadeia Considere uma versão do método de divisão na qual hk k mod m onde m 2p 1 e k é uma cadeia de caracteres interpretada em raiz 2p Mostre que se pudermos derivar a cadeia x da cadeia y por permutação de seus caracteres o hash aplicado a x e y resultará no mesmo valor para ambos Dê exemplo de uma aplicação na qual essa propriedade seria indesejável em uma função hash Considere uma tabela de espalhamento de tamanho m 1000 e uma função hash correspondente hk igual a m k A mod 1 para A 51 2 Calcule as localizações para as quais são mapeadas as chaves 61 62 63 64 e 65 Defina uma família de funções hash de um conjunto finito U para um conjunto finito B como euniversal se para todos os pares de elementos distintos k e l em U onde a probabilidade referese à escolha aleatória da função hash h na família H Mostre que uma família e universal de funções hash deve ter Seja U o conjunto de ênuplas de valores extraídos de p e seja B p onde p é primo Defina a função hash hb U B para b p para um ênupla de entrada a0 a1 an 1 extraída de U por 114 e seja hb b p Demonstre que é n 1puniversal de acordo com a definição de universal no Exercício 1135 Sugestão Veja o Exercício 3144 ENDEREÇAMENTO ABERTO Em endereçamento aberto todos os elementos ficam na própria tabela de espalhamento Isto é cada entrada da tabela contém um elemento do conjunto dinâmico ou NIL Ao procurar um elemento examinamos sistematicamente as posições da tabela até encontrar o elemento desejado ou até confirmar que o elemento não está na tabela Diferentemente do encadeamento não existe nenhuma lista e nenhum elemento armazenado fora da tabela Assim no endereçamento aberto a tabela de espalhamento pode ficar cheia de tal forma que nenhuma inserção adicional pode ser feita o fator de carga α nunca pode exceder 1 É claro que poderíamos armazenar as listas ligadas para encadeamento no interior da tabela de espalhamento nas posições não utilizadas de outro modo veja o Exercício 1124 mas a vantagem do endereçamento aberto é que ele evita por completo os ponteiros Em vez de seguir ponteiros calculamos a sequência de posições a examinar A memória extra liberada por não armazenarmos ponteiros fornece à tabela de espalhamento um número maior de posições para a mesma quantidade de memória o que produz potencialmente menor número de colisões e recuperação mais rápida Para executar inserção usando endereçamento aberto examinamos sucessivamente ou sondamos a tabela de espalhamento até encontrar uma posição vazia na qual inserir a chave Em vez de ser fixa na ordem 0 1 m 1 o que exige o tempo de busca Qn a sequência de posições sondadas depende da chave que está sendo inserida Para determinar quais serão as posições a sondar estendemos a função hash para incluir o número da sondagem a partir de 0 como uma segunda entrada Assim a função hash se torna Com endereçamento aberto exigimos que para toda chave k a sequência de sondagem seja uma permutação de 0 1 m 1 de modo que toda posição da tabela de espalhamento seja eventualmente considerada uma posição para uma nova chave à medida que a tabela é preenchida No pseudocódigo a seguir supomos que os elementos na tabela de espalhamento T são chaves sem informações satélites a chave k é idêntica ao elemento que contém a chave k Cada posição contém uma chave ou NIL se a posição estiver vazia O procedimento HASHSEARCH tem como entrada uma tabela de espalhamento T e uma chave k Devolve o número da posição onde armazena chave k ou sinaliza um erro porque a tabela de espalhamento já está cheia O algoritmo que procura a chave k sonda a mesma sequência de posições que o algoritmo de inserção examinou quando a chave k foi inserida Portanto a busca pode terminar sem sucesso quando encontra uma posição vazia já que k teria sido inserido ali e não mais adiante em sua sequência de sondagem Esse argumento supõe que não há eliminação de chaves na tabela de espalhamento O procedimento HASHSEARCH tem como entrada uma tabela de espalhamento T e um chave k e devolve j se verificar que a posição j contém a chave k ou NIL se a chave k não estiver presente na tabela T Eliminar algo em uma tabela de espalhamento de endereço aberto é difícil Quando eliminamos uma chave da posição i não podemos simplesmente marcar essa posição como vazia nela armazenando NIL Se fizéssemos isso poderíamos não conseguir recuperar nenhuma chave k em cuja inserção tivéssemos sondado a posição i e verificado que ela estava ocupada Podemos resolver esse problema marcando a posição nela armazenando o valor especial DELETED em vez de NIL Então modificaríamos o procedimento HASHINSERT para tratar tal posição como se ela estivesse vazia de modo a podermos inserir uma nova chave Não é necessário modificar HASHSEARCH já que ele passará por valores DELETED enquanto estiver pesquisando Entretanto quando usamos o valor especial DELETED os tempos de busca não dependem mais do fator de carga α Por essa razão o encadeamento é mais comumente selecionado como uma técnica de resolução de colisões quando precisamos eliminar chaves Em nossa análise consideramos hash uniforme a sequência de sondagem de cada chave tem igual probabilidade de ser qualquer uma das m permutações de 0 1 m 1 O hash uniforme generaliza a noção de hash uniforme simples definida anteriormente para uma função hash que produz não apenas um número único mas toda uma sequência de sondagem Contudo o verdadeiro hash uniforme é difícil de implementar e na prática são usadas aproximações adequadas como o hash duplo definido a seguir Examinaremos três técnicas comumente utilizadas para calcular as sequências de sondagem exigidas para o endereçamento aberto sondagem linear sondagem quadrática e hash duplo Todas essas técnicas garantem que hk 0 hk 1 hk m 1 é uma permutação de 0 1 m 1 para cada chave k Porém nenhuma delas cumpre o requisito do hash uniforme já que nenhuma consegue gerar mais de m2 sequências de sondagem diferentes em vez das m que o hash uniforme exige O hash duplo tem o maior número de sequências de sondagem e como seria de esperar parece dar os melhores resultados Sondagem linear Dada uma função hash comum h U 0 1 m 1 à qual nos referimos como uma função hash auxiliar o método de sondagem linear usa a função hash para i 0 1 m 1 Dada a chave k primeiro sondamos Thk isto é a posição dada pela função hash auxiliar Em seguida sondamos a posição Thk 1 e assim por diante até a posição Tm 1 Depois voltamos às posições T0 T1 até finalmente sondarmos a posição Thk 1 Como a sondagem inicial determina toda a sequência de sondagem há somente m sequências de sondagem distintas A sondagem linear é fácil de implementar mas sofre de um problema conhecido como agrupamento primário Longas sequências de posições ocupadas se acumulam aumentando o tempo médio de busca Os agrupamentos surgem porque uma posição vazia precedida por i posições cheias é preenchida em seguida com probabilidade i 1m Longas sequências de posições ocupadas tendem a ficar mais longas e o tempo médio de busca aumenta Sondagem quadrática A sondagem quadrática utiliza uma função hash da forma onde h é uma função hash auxiliar c1 e c2 são constantes positivas auxiliares e i 0 1 m 1 A posição inicial sondada é Thk posições posteriores sondadas são deslocadas por quantidades que dependem de modo quadrático do número da sondagem i Esse método funciona muito melhor que a sondagem linear mas para fazer pleno uso da tabela de espalhamento os valores de c1 c2 e m são restritos O Problema 113 mostra um modo de selecionar esses parâmetros Além disso se duas chaves têm a mesma posição inicial de sondagem então suas sequências de sondagem são iguais já que hk1 0 hk2 0 implica hk1 i hk2 i Essa propriedade conduz a uma forma mais branda de agrupamento denominada agrupamento secundário Como na sondagem linear a sondagem inicial determina a sequência inteira assim apenas m sequências de sondagem distintas são utilizadas Hash duplo O hash duplo oferece um dos melhores métodos disponíveis para endereçamento aberto porque as permutações produzidas têm muitas das características de permutações escolhidas aleatoriamente O hash duplo usa uma função hash da forma onde h1 e h2 são funções hash auxiliares A sondagem inicial vai à posição Th1k posições de sondagem sucessivas são deslocadas em relação às posições anteriores pela quantidade h2k módulo m Assim diferentemente do caso de sondagem linear ou quadrática aqui a sequência de sondagem depende da chave k de duas maneiras já que a posição inicial de sondagem o deslocamento ou ambos podem variar A Figura 115 dá um exemplo de inserção por hash duplo O valor h2k e o tamanho m da tabela de espalhamento devem ser primos entre si para que a tabela de espalhamento inteira seja examinada veja o Exercício 1144 Uma forma conveniente de assegurar essa condição é que m seja uma potência de 2 e projetar h2 de modo que sempre retorne um número ímpar Outra maneira é que m seja primo e projetar h2 de modo que sempre retorne um inteiro positivo menor que m Por exemplo poderíamos escolher m primo e fazer onde o valor de m escolhido é ligeiramente menor que m digamos m 1 Por exemplo se k 123456 m 701 e m 700 temos h1k 80 e h2k 257 assim primeiro sondamos a posição 80 e depois examinamos cada 257a posição módulo m até encontrarmos a chave ou termos examinado todas as posições Quando m é primo ou uma potência de 2 o hash duplo é melhor do que a sondagem linear ou quadrática no sentido de que são usadas m2 sequências de sondagem em vez de m já que cada par h1k h2k possível gera uma sequência de sondagem distinta O resultado é que para tais valores de m o desempenho do hash duplo parece ficar bem próximo do esquema ideal do hash uniforme Embora em princípio outros valores de m que não sejam primos nem potências de 2 poderiam ser utilizados com hash duplo na prática tornase mais difícil gerar h2k eficientemente de um modo que garanta que esse valor e m são primos entre si em parte porque a densidade relativa mm de tais números pode ser pequena veja equação 3124 Análise de hash de endereço aberto Como fizemos na análise do encadeamento expressamos nossa análise do endereçamento aberto em termos do fator de carga α nm da tabela de espalhamento É claro que no endereçamento aberto temos no máximo um elemento por posição e portanto n m o que implica α 1 Figura 115 Inserção por hash duplo Aqui temos uma tabela de espalhamento de tamanho 13 com h1 k k mod 13 e h2 k 1 k mod 11 Como 14 1 mod 13 e 14 3 mod 1 inserimos a chave 14 na posição vazia 9 após examinar as posições 1 e 5 verificarmos que elas já estão ocupadas Supomos que estamos usando hash uniforme Nesse esquema idealizado a sequência de sondagem hk 0 hk 1 hk m 1 usada para inserir ou procurar cada chave k tem igual probabilidade de ser qualquer permutação de 0 1 m 1 É claro que uma determinada chave tem uma sequência de sondagem fixa e única associada a ela o que queremos dizer é que considerando a distribuição de probabilidades no espaço de chaves e a operação da função hash nas chaves cada sequência de sondagem possível é igualmente provável Agora analisamos o número esperado de sondagens para hash com endereçamento aberto adotando a premissa do hashing uniforme começando com uma análise do número de sondagens realizadas em uma busca mal sucedida Teorema 116 Dada uma tabela de espalhamento de endereço aberto com fator de carga α nm 1 o número esperado de sondagens em uma busca mal sucedida é no máximo 11 α supondo hashing uniforme Prova Em uma busca mal sucedida toda sondagem exceto a última acessa uma posição ocupada que não contém a chave desejada e a última posição sondada está vazia Vamos definir a variável aleatória X como o número de sondagens executadas em uma busca mal sucedida e também definir o evento Ai para i 1 2 como o evento em que ocorre uma iésima sondagem e ela é para uma posição ocupada Então o evento X i é a interseção dos eventos A1 A2 Ai1 Limitaremos X i limitando Pr A1 A2 Ai1 Pelo Exercício C25 Visto que há n elementos e m posições PrA1 nm Para j 1 a probabilidade de existir uma jésima sondagem e ela ser para uma posição ocupada dado que as primeiras j 1 sondagens foram para posições ocupadas é n j 1m j 1 Essa probabilidade decorre porque estaríamos encontrando um dos n j 1 elementos restantes em uma das m j 1 posições não examinadas e pela premissa do hash uniforme a probabilidade é a razão entre essas quantidades Observando que n m implica n jm j nm para todo j tal que 0 j m temos para todo i tal que 1 i m Agora usamos a equação C25 para limitar o número esperado de sondagens 1141 1142 1143 Esse limite de 11α 1 α α2 α3 tem uma interpretação intuitiva Sempre executamos a primeira sondagem Com probabilidade de aproximadamente α essa primeira sondagem encontra uma posição ocupada de modo que precisamos de uma segunda sondagem Com probabilidade de aproximadamente α2 as duas primeiras posições estão ocupadas de modo que executamos uma terceira sondagem e assim por diante Se α é uma constante o Teorema 116 prevê que uma busca mal sucedida é executada no tempo O1 Por exemplo se a tabela de espalhamento estiver cheia até a metade o número médio de sondagens em uma busca mal sucedida é no máximo 11 05 2 Se ela estiver 90 cheia o número médio de sondagens será no máximo 11 09 10 O Teorema 116 nos dá o desempenho do procedimento HASHINSERT quase imediatamente Corolário 117 Inserir um elemento em uma tabela de espalhamento de endereço aberto com fator de carga α exige no máximo 11 α sondagens em média considerando hash uniforme Prova Um elemento é inserido somente se houver espaço na tabela e portanto α 1 Inserir uma chave requer uma busca mal sucedida seguida pela colocação da chave na primeira posição vazia encontrada Assim o número esperado de sondagens é no máximo 11 α Temos de trabalhar um pouco mais para calcular o número esperado de sondagens para uma busca bemsucedida Teorema 118 Dada uma tabela de espalhamento de endereço aberto com fator de carga α 1 o número esperado de sondagens em uma busca bem sucedida é no máximo considerando hash uniforme e também que cada chave na tabela tem igual probabilidade de ser procurada Prova Uma busca de uma chave k reproduz a mesma sequência de sondagem que foi seguida na inserção do elemento com chave k Pelo Corolário 117 se k foi a i 1ésima chave inserida na tabela de espalhamento o número esperado de sondagens efetuadas em uma busca de k é no máximo 11 im mm i O cálculo da média para todas as n chaves na tabela de espalhamento nos dá o número esperado de sondagens em uma busca bemsucedida Se a tabela de espalhamento estiver cheia até a metade o número esperado de sondagens em uma busca bemsucedida será menor que 1387 Se a tabela de espalhamento estiver 90 cheia o número esperado de sondagens será menor que 2559 Exercícios Considere a inserção das chaves 10 22 31 4 15 28 17 88 59 em uma tabela de espalhamento de comprimento m 11 usando endereçamento aberto com a função hash auxiliar hk k Ilustre o resultado da inserção dessas chaves utilizando sondagem linear utilizando sondagem quadrática com c1 1 e c2 3 e utilizando hash duplo com h1k k e h2k 1 k mod m 1 Escreva pseudocódigo para HASHDELETE como descrito no texto e modifique HASHINSERT para manipular o valor especial DELETED Considere uma tabela de espalhamento de endereços abertos com hashing uniforme Dê limites superiores para o número esperado de sondagens em uma busca mal sucedida e para o número de sondagens em uma busca bem sucedida quando o fator de carga for 34 e quando for 78 1144 1145 115 Suponha que utilizamos hash duplo para resolver colisões isto é usamos a função hash hk i h1k ih2k mod m Mostre que se m e h2k têm máximo divisor comum d 1 para alguma chave k então uma busca mal sucedida para a chave k examina 1désimo da tabela de espalhamento antes de retornar à posição h1k Assim quando d 1 de modo que m e h2k são primos entre si a busca pode examinar a tabela de espalhamento inteira Sugestão Consulte o Capítulo 31 Considere uma tabela de espalhamento de endereço aberto com um fator de carga α Encontre o valor não zero α para o qual o número esperado de sondagens em uma busca mal sucedida é igual a duas vezes o número esperado de sondagens em uma busca bem sucedida Use os limites superiores dados pelos Teoremas 116 e 118 para esses números esperados de sondagens HASHING PERFEITO Embora muitas vezes seja uma boa escolha por seu excelente desempenho no caso médio o hashing também pode proporcionar excelente desempenho no pior caso quando o conjunto de chaves é estático assim que as chaves são armazenadas na tabela o conjunto de chaves nunca muda Algumas aplicações têm naturalmente conjuntos de chaves estáticos considere o conjunto de palavras reservadas em uma linguagem de programação ou o conjunto de nomes de arquivos em um CDROM Damos a uma técnica de hashing o nome de hashing perfeito se forem exigidos O1 acessos à memória para executar uma busca no pior caso Para criar um esquema de hashing perfeito usamos dois níveis de aplicação do hash com hashing universal em cada nível A Figura 116 ilustra essa abordagem O primeiro nível é essencialmente o mesmo do hashing com encadeamento as n chaves são espalhadas por m posições utilizando uma função hash h cuidadosamente selecionada de uma família de funções hash universal Porém em vez de fazer uma lista ligada das chaves espalhadas para a posição j usamos uma pequena tabela de hashing secundário Sj com uma função hash associada hj Escolhendo as funções hash hj cuidadosamente podemos garantir que não haverá colisões no nível secundário Contudo para garantir que não haverá nenhuma colisão no nível secundário é preciso que o tamanho mj da tabela de espalhamento Sj seja o quadrado do número nj de chaves que se espalham para a posição j Embora pareça provável que a dependência quadrática de mj em relação a nj torne excessivo o requisito global de armazenamento mostraremos que escolhendo bem a função hash de primeiro nível podemos limitar a quantidade total de espaço usado esperado a On Usamos funções hash escolhidas das classes universais de funções hash da Seção 133 A função hash de primeiro nível vem da classe pm onde como na Seção 133 p é um número primo maior que qualquer valor de chave Essas chaves espalhadas para a posição j são espalhadas mais uma vez para uma tabela de espalhamento secundário Sj de tamanho mj com a utilização de uma função hash hj escolhida na classe p mj1 Figura 116 Utilização de hash perfeito para armazenar o conjunto K 10 22 37 40 52 60 70 72 75 A função hash externa é hk ak b mod p mod m onde a 3 b 42 p 101 e m 9 Por exemplo h75 2 e portanto os hashes da chave 75 vão para o espaço vazio 2 da tabela T Uma tabela de hash secundária Sj armazena todas as chaves cujos hashes vão para o espaço vazio j O tamanho da tabela de hash S é mj n2 e a função hash associada é hjk ajk bj mod p mod mj Visto que h2 75 7 a chave 75 é armazenada no espaço vazio 7 da tabela de hash secundária S2 Não ocorre nenhuma colisão em qualquer das tabelas de hash secundárias e portanto a busca leva tempo constante no pior caso Prosseguiremos em duas etapas Primeiro determinaremos como assegurar que as tabelas secundárias não tenham nenhuma colisão Em segundo lugar mostraremos que a quantidade global esperada de memória utilizada para a tabela de espalhamento primário e para todas as tabelas de espalhamento secundário é On Teorema 119 Suponha que armazenamos n chaves em uma tabela de espalhamento de tamanho m n2 usando uma função hash h escolhida aleatoriamente de uma classe universal de funções hash Então a probabilidade de haver quaisquer colisões é menor que 12 Prova Há pares de chaves que podem colidir cada par colide com probabilidade 1m se h é escolhida aleatoriamente de uma família universal de funções hash Seja X uma variável aleatória que conta o número de colisões Quando m n2 o número esperado de colisões é Essa análise é semelhante à análise do paradoxo do aniversário na Seção 541 A aplicação da desigualdade de Markov C30 Pr X t EXt com t 1 conclui a prova Na situação descrita no Teorema 119 onde m n2 decorre que uma função hash h escolhida aleatoriamente de tem maior probabilidade de não ter nenhuma colisão Dado o conjunto K de n chaves às quais o hash deve ser aplicado lembrese de que K é estático é fácil encontrar uma função hash h livre de colisões com algumas tentativas aleatórias Contudo quando n é grande uma tabela de espalhamento de tamanho m n2 é excessiva Assim adotamos a abordagem de hash de dois níveis e usamos a abordagem do Teorema 119 apenas para o hash das entradas dentro de cada posição Usamos uma função hash h exterior ou de primeiro nível para espalhar as chaves para m n posições Então se nj chaves são espalhadas para a posição j usamos uma tabela de espalhamento secundário Sj de tamanho mj n2j para busca de tempo constante livre de colisões Agora trataremos da questão de assegurar que a memória global usada seja On Como o tamanho mj da jésima tabela de espalhamento secundário cresce quadraticamente com o número nj de chaves armazenadas existe o risco de a quantidade global de armazenamento ser excessiva Se o tamanho da tabela de primeiro nível é m n então a quantidade de memória usada é On para a tabela de espalhamento primário para o armazenamento dos tamanhos mj das tabelas de espalhamento secundário e para o armazenamento dos parâmetros aj e bj que definem as funções hash secundário hj extraídas da classe pm da Seção 1133 exceto quando nj 1 e usamos a b 0 Os teorema e corolário seguintes fornecem um limite para os tamanhos combinados esperados de todas as tabelas de espalhamento secundário Um segundo corolário limita a probabilidade de o tamanho combinado de todas as tabelas de espalhamento secundário ser superlinear Na verdade equivale ou excede 4n Teorema 1110 Suponha que armazenamos n chaves em uma tabela de espalhamento de tamanho m n usando uma função hash h escolhida aleatoriamente de uma classe universal de funções hash Então temos onde nj é o número de chaves que efetuam hash para a posição j Prova Começamos com a identidade a seguir válida para qualquer inteiro não negativo a Temos Para avaliar o somatório observamos que ele é simplesmente o número total de pares de chaves na tabela de espalhamento que colidem Pelas propriedades de hash universal o valor esperado desse somatório é no máximo já que m n Assim Corolário 1111 Suponha que armazenamos n chaves em uma tabela de espalhamento de tamanho m n usando uma função hash h escolhida aleatoriamente de uma classe universal de funções hash e definimos o tamanho de cada tabela de espalhamento secundário como mj n2j para j 0 1 m 1 Então a quantidade esperada de armazenamento exigido para todas as tabelas de espalhamento secundário em um esquema de hash perfeito é menor que 2n Prova Visto que mj n2j para j 0 1 m 1 o Teorema 1110 nos dá o que conclui a prova 1151 111 a b c Corolário 1112 Suponha que armazenamos n chaves em uma tabela de espalhamento de tamanho m n usando uma função hash h escolhida aleatoriamente de uma classe universal de funções hash e definimos o tamanho de cada tabela de espalhamento secundário como mj n2j para j 0 1 m 1 Então a probabilidade de o armazenamento total usado para tabelas de espalhamento secundário ser igual ou exceder 4n é menor que 12 Prova Aplicamos mais uma vez a desigualdade de Markov C30 PrX t EXt desta vez à desigualdade 117 com X Pelo Corolário 1112 vemos que se testarmos algumas funções hash escolhidas aleatoriamente de uma família universal encontraremos rapidamente uma função que utiliza uma quantidade razoável de espaço de armazenamento Exercícios Suponha que inserimos n chaves em uma tabela de espalhamento de tamanho m usando o endereçamento aberto e hash uniforme Seja pn m a probabilidade de não ocorrer nenhuma colisão Mostre que pn m enn 12m Sugestão Consulte a equação 312 Demonstre que quando n excede m a probabilidade de evitar colisões cai rapidamente a zero Problemas Limite para sondagem mais longa em hashing Suponha que usamos uma tabela de espalhamento de endereçamento aberto de tamanho m para armazenar n m2 itens Considerando hashing uniforme mostre que para i 1 2 n a probabilidade de a iésima inserção exigir estritamente mais de k sondagens é no máximo 2k Mostre que para i 1 2 n a probabilidade de a iésima inserção exigir mais de 2 lg n sondagens é no máximo O1n2 Seja Xi a variável aleatória que denota o número de sondagens exigidas pela iésima inserção Você mostrou na parte b que PrXi 2 lg n O1n2 Seja X max 1 i n Xi a variável aleatória que denota o número máximo de sondagens exigidas por quaisquer das n inserções Mostre que PrX 2 lg n O1n d 112 a b c d e 113 1 2 3 a b Mostre que o comprimento esperado EX da sequência de sondagens mais longa é Olg n Limite do tamanho por posição no caso de encadeamento Suponha que temos uma tabela de espalhamento com n posições com colisões resolvidas por encadeamento e que n chaves sejam inseridas na tabela Cada chave tem igual probabilidade de ter hash para cada posição Seja M o número máximo de chaves em qualquer posição após todas as chaves terem sido inseridas Sua missão é provar um limite superior Olg nlg lg n para EM o valor esperado de M Mostre que a probabilidade Qk de ocorrer hash de exatamente k chaves para uma determinada posição é dada por Seja Pk a probabilidade de M k isto é a probabilidade de a posição que contém o número máximo de chaves conter k chaves Mostre que Pk nQk Use a aproximação de Stirling equação 318 para mostrar que Qk ek kk Mostre que existe uma constante c 1 tal que Qk0 1n3 para k0 c lg nlg lg n Conclua que Pk 1n2 para k k0 c lg nlg lg n Mostre que Conclua que EM Olg nlg lg n Sondagem quadrática Suponha que recebemos uma chave k para buscar numa tabela de espalhamento com posições 0 1 m 1 e suponha que temos uma função hash h que mapeia o espaço de chaves para o conjunto 0 1 m 1 O esquema de busca é o seguinte Calcule o valor j hk e faça i 0 Sonde a posição j em busca da chave desejada k Se a encontrar ou se essa posição estiver vazia encerre a busca Faça j i 1 Se agora i for igual a m a tabela está cheia portanto encerre a busca Caso contrário defina j i j mod m e retorne à etapa 2 Suponha que m é uma potência de 2 Mostre que esse esquema é uma instância do esquema geral de sondagem quadrática exibindo as constantes c1 e c2 adequadas para a equação 115 Prove que esse algoritmo examina cada posição da tabela no pior caso 114 a b c d Hashing e autenticação Seja uma classe de funções hash na qual cada função hash h mapeia o universo U de chaves para 0 1 m 1 Dizemos que H é kuniversal se para toda sequência fixa de k chaves distintas x1 x2 xk e para qualquer h escolhido aleatoriamente de H a sequência hx1 hx2 hxk tem igual probabilidade de ser qualquer uma das mk sequências de comprimento k com elementos extraídos de 0 1 m 1 Mostre que se a família H de funções hash é 2universal então ela é universal Suponha que o universo U seja o conjunto de ênuplas de valores extraídos de p 01 p 1 onde p é primo Considere um elemento x x0 x1xn 1 U Para qualquer ênupla a a0 a1an 1 U defina a função hash ha por Seja ha Mostre que é universal mas não 2universal Sugestão Encontre uma chave para a qual todas as funções hash em produzem o mesmo valor Suponha que modificamos ligeiramente em relação à parte b para qualquer a U e para qualquer b p defina e hab Demonstre que é 2universal Sugestão Considere ênuplas fixas x U e y U com xi yi para alguns i O que acontece com hab x e hab y à medida que ai e b percorrem p Suponha que Alice e Bob concordam secretamente com uma função hash h de uma família 2universal de funções hash Cada h mapeia de um universo de chaves U para p onde p é primo Mais tarde Alice envia uma mensagem m a Bob pela Internet na qual m U Ela autentica essa mensagem para Bob também enviando uma marca de autenticação t hm e Bob verifica se o par m t que ele recebe satisfaz t hm Suponha que um adversário intercepte m t em trânsito e tente enganar Bob substituindo o par m t que recebeu por um par diferente m t Mostre que a probabilidade de o adversário conseguir enganar Bob e fazêlo aceitar m t é no máximo 1p independentemente da capacidade de computação que o adversário tenha e até mesmo de o adversário conhecer a família de funções hash usada NOTAS DO CAPÍTULO Knuth 211 e Gonnet 145 são excelentes referências para a análise de algoritmos de hashing Knuth credita a H P Luhn 1953 a criação de tabelas de espalhamento juntamente com o método de encadeamento para resolver colisões Aproximadamente na mesma época G M Amdahl apresentou a ideia do endereçamento aberto Carter e Wegman introduziram a noção de classes universais de funções hash em 1979 58 Fredman Komlós e Szemerédi 112 desenvolveram o esquema de hashing perfeito para conjuntos estáticos apresentado na Seção 115 Uma extensão de seu método para conjuntos dinâmicos tratamento de inserções e eliminações em tempo esperado amortizado O1 foi apresentada por Dietzfelbinger et al 87 1 Quando n m 1 não precisamos realmente de uma função hash para a posição j quando escolhemos uma função hash h k ak b mod p mod mj para tal posição usamos simplesmente a b 0 121 12 ÁRVORES DE BUSCA BINÁRIA A estrutura árvore de busca suporta muitas operações de conjuntos dinâmicos incluindo SEARCH MINIMUM MAXIMUM PREDECESSOR SUCCESSOR INSERT e DELETE Assim uma árvore de busca pode ser usada como um dicionário e também como uma fila de prioridades As operações básicas em uma árvore de busca binária demoram um tempo proporcional à altura da árvore No caso de uma árvore binária completa com n nós tais operações são executadas no tempo Qlg n do pior caso Porém se a árvore é uma cadeia linear de n nós as mesmas operações demoram o tempo Qn do pior caso Veremos na Seção 124 que a altura esperada de uma árvore de busca binária construída aleatoriamente é Olg n de modo que as operações básicas de conjuntos dinâmicos em tal árvore demoram o tempo Qlg n em média Na prática nem sempre podemos garantir que as árvores de busca binária sejam construídas aleatoriamente mas podemos projetar variações de árvores de busca binária com bom desempenho do pior caso garantido em operações básicas O Capítulo 13 apresenta uma dessas variações as árvores vermelhopreto que têm altura Olg n O Capítulo 18 introduz as árvores B Btrees que são particularmente boas para manter bancos de dados em armazenamento secundário disco Depois da apresentação das propriedades básicas de árvores de busca binária as próximas seções mostram como percorrer uma árvore de busca binária para imprimir seus valores em sequência ordenada como procurar um valor em uma árvore de busca binária como encontrar o elemento mínimo ou máximo como encontrar o predecessor ou o sucessor de um elemento e como inserir ou eliminar elementos em uma árvore de busca binária As propriedades matemáticas básicas das árvores são apresentadas no Apêndice B O QUE É UMA ÁRVORE DE BUSCA BINÁRIA Uma árvore de busca binária é organizada como o nome sugere em uma árvore binária como mostra a Figura 121 Podemos representar tal árvore por uma estrutura de dados ligada na qual cada nó é um objeto Além de uma chave e de dados satélites cada nó contém atributos esquerda direita e p que apontam para os nós correspondentes ao seu filho à esquerda ao seu filho à direita e ao seu pai respectivamente Se um filho ou o pai estiver ausente o atributo adequado contém o valor NIL O nó raiz é o único nó na árvore cujo pai é NIL As chaves em uma árvore de busca binária são sempre armazenadas de modo a satisfazer a propriedade de árvore de busca binária Seja x um nó em uma árvore de busca binária Se y é um nó na subárvore esquerda de x então ychave xchave Se y é um nó na subárvore direita de x então xchave ychave Assim na Figura 121a a chave da raiz é 6 as chaves 2 5 e 5 em sua subárvore esquerda não são maiores que 6 e as chaves 7 e 8 em sua subárvore direita não são menores que 6 A mesma propriedade é válida para todo nó na árvore Por exemplo a chave 5 no filho à esquerda da raiz não é menor que a chave 2 na subárvore esquerda daquele nó e não é maior que a chave 5 na subárvore direita Figura 121 Árvores de busca binária Para qualquer nó x as chaves na subárvore esquerda de x são no máximo xchave e as chaves na subárvore direita de x são no mínimo xchave Árvores de busca binária diferentes podem representar o mesmo conjunto de valores O tempo de execução do pior caso para a maioria das operações em árvores de busca é proporcional à altura da árvore a Uma árvore de busca binária com seis nós e altura 2 b Uma árvore de busca binária menos eficiente com altura 4 que contém as mesmas chaves A propriedade de árvore de busca binária nos permite imprimir todas as chaves em uma árvore de busca binária em sequência ordenada por meio de um simples algoritmo recursivo denominado percurso de árvore em inordem Esse algoritmo tem tal nome porque imprime a chave da raiz de uma subárvore entre a impressão dos valores em sua subárvore esquerda e a impressão dos valores em sua subárvore direita De modo semelhante um percurso de árvore em préordem imprime a raiz antes dos valores das subárvores e um percurso de árvore em pósordem imprime a raiz depois dos valores em suas subárvores Para usar o procedimento a seguir com o objetivo de imprimir todos os elementos em uma árvore de busca binária T chamamos INORDERTREEWALKTraiz Como exemplo o percurso de árvore em ordem imprime as chaves em cada uma das duas árvores de busca binária da Figura 121 na ordem 2 3 5 6 7 8 A correção do algoritmo decorre por indução diretamente da propriedade de árvore de busca binária Percorrer uma árvore de busca binária de n nós demora o tempo Qn já que após a chamada inicial o procedimento chama a si mesmo recursivamente exatas duas vezes para cada nó na árvore uma vez para seu filho à esquerda e uma vez para seu filho à direita O teorema a seguir apresenta uma prova formal de que o tempo para executar um percurso de árvore em inordem é linear Teorema 121 Se x é a raiz de uma subárvore de n nós então a chamada INORDERTREEWALKx demora o tempo Qn Prova Seja Tn o tempo tomado por INORDERTREEWALK quando chamado na raiz de uma subárvore de n nós Visto que INORDERTREEWALK visita todos os n nós da subárvore temos Tn n Resta mostrar que Tn On Uma vez que INORDERTREEWALK demora um tempo pequeno e constante em uma subárvore vazia para o teste x NIL temos T0 c para alguma constante c 0 1211 1212 1213 1214 1215 122 Para n 0 suponha que INORDERTREEWALK seja chamado em um nó x cuja subárvore esquerda tem k nós e cuja subárvore direita tem n k 1 nós O tempo para executar INORDERTREEWALKx é limitado por Tn Tk Tn k 1 d para alguma constante d 0 que reflete um limite superior para o tempo de execução do corpo de INORDER TREEWALKx excluindo o tempo gasto em chamadas recursivas Usamos o método de substituição para mostrar que Tn Qn provando que Tn c dn c Para n 0 temos c d0 c c T0 Para n 0 temos o que conclui a prova Exercícios Trace árvores de busca binária de alturas 2 3 4 5 e 6 para o conjunto de chaves 1 4 5 10 16 17 21 Qual é a diferença entre a propriedade de árvore de busca binária e a propriedade de heap de mínimo veja p 153 A propriedade de heap de mínimo pode ser usada para imprimir as chaves de uma árvore de n nós em sequência ordenada no tempo On Justifique sua resposta Dê um algoritmo não recursivo que execute um percurso de árvore em ordem Sugestão Uma solução fácil usa uma pilha como uma estrutura de dados auxiliar Uma solução mais complicada porém elegante não emprega nenhuma pilha mas considera que é possível testar a igualdade entre dois ponteiros Dê algoritmos recursivos que executem percursos de árvores em préordem e pósordem no tempo Qn em uma árvore de n nós Mostre que considerando que a ordenação de n elementos demora o tempo n lg n no pior caso do modelo de comparação qualquer algoritmo baseado em comparação para construir uma árvore de busca binária com base em uma lista arbitrária de n elementos demora o tempo n lg n no pior caso CONSULTAS EM UMA ÁRVORE DE BUSCA BINÁRIA Frequentemente precisamos procurar uma chave armazenada em uma árvore de busca binária Além da operação SEARCH árvores de busca binária podem suportar as consultas MINIMUM INOR DERMAXIMUM SUCCESSOR e PREDECESSOR Nesta seção examinaremos essas operações e mostraremos como suportar cada uma delas no tempo Oh em qualquer árvore de busca binária de altura h Buscas Usamos o procedimento a seguir para procurar um nó com determinada chave em uma árvore de busca binária Dado um ponteiro para a raiz da árvore e uma chave k TREESEARCH retorna um ponteiro para um nó com chave k se existir algum caso contrário ele retorna NIL O procedimento começa sua busca na raiz e traça um caminho simples descendo a árvore como mostra a Figura 122 Para cada nó x que encontra ele compara a chave k com a xchave Se as duas chaves são iguais a busca termina Se k é menor que xchave a busca continua na subárvore esquerda de x já que a propriedade de árvore de busca binária implica que k não poderia estar armazenada na subárvore direita Simetricamente se k é maior que xchave a busca continua na subárvore direita Os nós encontrados durante a recursão formam um caminho simples descendente partindo da raiz da árvore e portanto o tempo de execução de TREESEARCH é Oh onde h é a altura da árvore O mesmo procedimento pode ser reescrito de modo iterativo desdobrando a recursão dentro de um laço while Na maioria dos computadores a versão iterativa é mais eficiente Mínimo e máximo Sempre podemos encontrar um elemento em uma árvore de busca binária cuja chave é um mínimo seguindo ponteiros de filhos da esquerda desde a raiz até encontrarmos um valor NIL como mostra a Figura 122 O procedimento a seguir retorna um ponteiro para o elemento mínimo na subárvore enraizada em um nó x dado Figura 122 Consultas em uma árvore de busca binária Para procurar a chave 13 na árvore seguimos o caminho 15 6 7 13 partindo da raiz A chave mínima na árvore é 2 que é encontrada seguindo os ponteiros da esquerda partindo da raiz A chave máxima 20 é encontrada seguindo os ponteiros da direita partindo da raiz O sucessor do nó com chave 15 é o nó com chave 17 já que ele é a chave mínima na subárvore direita de 15 O nó com chave 13 não tem nenhuma subárvore direita e assim seu sucessor é seu ancestral mais baixo cujo filho à esquerda também é um ancestral Nesse caso o nó com chave 15 é seu sucessor A propriedade de árvore de busca binária garante que TREEMINIMUM é correto Se um nó x não tem nenhuma subárvore esquerda então visto que toda chave na subárvore direita de x é no mínimo tão grande quanto xchave a chave mínima na subárvore enraizada em x é xchave Se o nó x tem uma subárvore esquerda então visto que nenhuma chave na subárvore direita é menor que xchave e toda chave na subárvore esquerda não é maior que xchave a chave mínima na subárvore enraizada em x pode ser encontrada na subárvore enraizada em xesquerda O pseudocódigo para TREEMAXIMUM é simétrico Ambos os procedimentos são executados no tempo Oh em uma árvore de altura h já que como em TREESEARCH a sequência de nós encontrados forma um caminho simples descendente partindo da raiz 1221 a b Sucessor e predecessor Dado um nó em uma árvore de busca binária às vezes precisamos encontrar seu sucessor na sequência ordenada determinada por um percurso de árvore em ordem Se todas as chaves são distintas o sucessor de um nó x é o nó com a menor chave maior que chavex A estrutura de uma árvore de busca binária nos permite determinar o sucessor de um nó sem sequer comparar chaves O procedimento a seguir retorna o sucessor de um nó x em uma árvore de busca binária se ele existir e NIL se x tem a maior chave na árvore Subdividimos o código para TREESUCCESSOR em dois casos Se a subárvore direita do nó x for não vazia então o sucessor de x é exatamente o nó da extrema esquerda na subárvore direita de x que encontramos na linha 2 chamando TREEMINIMUMxdireita Por exemplo o sucessor do nó com chave 15 na Figura 122 é o nó com chave 17 Por outro lado como o Exercício 1226 pede que você mostre se a subárvore direita do nó x é vazia e x tem um sucessor y então y é o ancestral mais baixo de x cujo filho à esquerda é também um ancestral de x Na Figura 122 o sucessor do nó com chave 13 é o nó com chave 15 Para encontrar y simplesmente subimos a árvore desde x até encontrarmos um nó que seja o filho à esquerda de seu pai isso é conseguido por meio das linhas 3 a 7 de TREE SUCCESSOR O tempo de execução de TREESUCCESSOR em uma árvore de altura h é Oh já que seguimos um caminho simples para cima na árvore ou então um caminho simples para baixo na árvore O procedimento TREEPREDECESSOR que é simétrico de TREESUCCESSOR também é executado no tempo Oh Ainda que as chaves não sejam distintas definimos o sucessor e o predecessor de qualquer nó x como o nó retornado por chamadas feitas a TREESUCCESSORx e TREEPREDECESSORx respectivamente Resumindo demonstramos o teorema a seguir Teorema 122 Podemos implementar as operações de conjuntos dinâmicos SEARCH MINIMUM MAXIMUM TREESUCCESSOR e PREDECESSOR de modo que cada uma seja executada no tempo Oh em uma árvore de busca binária de altura h Exercícios Suponha que temos números entre 1 e 1000 em uma árvore de busca binária e queremos procurar o número 363 Qual das seguintes sequências não poderia ser a sequência de nós examinados 2 252 401 398 330 344 397 363 924 220 911 244 898 258 362 363 c d e 1222 1223 1224 1225 1226 1227 1228 1229 123 925 202 911 240 912 245 363 2 399 387 219 266 382 381 278 363 935 278 347 621 299 392 358 363 Escreva versões recursivas de TREEMINIMUM e TREEMAXIMUM Escreva o procedimento TREEPREDECESSOR O professor Bunyan pensa ter descoberto uma notável propriedade de árvores de busca binária Suponha que a busca da chave k em uma árvore de busca binária termine em uma folha Considere três conjuntos A as chaves à esquerda do caminho de busca B as chaves no caminho de busca e C as chaves à direita do caminho de busca O professor Bunyan afirma que quaisquer três chaves a A b B e c C devem satisfazer a b c Dê um contraexemplo menor possível para a afirmação do professor Mostre que se um nó em uma árvore de busca binária tem dois filhos então seu sucessor não tem nenhum filho à esquerda e seu predecessor não tem nenhum filho à direita Considere uma árvore de busca binária T cujas chaves são distintas Mostre que se a subárvore direita de um nó x em T é vazia e x tem um sucessor y então y é o ancestral mais baixo de x cujo filho à esquerda também é um ancestral de x Lembrese de que todo nó é seu próprio ancestral Um método alternativo de executar um percurso de árvore em ordem em uma árvore de busca binária de n nós encontra o elemento mínimo na árvore chamando TREEMINIMUM e depois fazendo n 1 chamadas a TREE SUCCESSOR Prove que esse algoritmo é executado no tempo Qn Prove que independentemente do nó onde iniciamos em uma árvore de busca binária de altura h k chamadas sucessivas a TREESUCCESSOR demoram o tempo Ok h Seja T uma árvore de busca binária cujas chaves são distintas seja x um nó de folha e seja y seu pai Mostre que ychave é a menor chave em T maior que xchave ou a maior chave em T menor que xchave INSERÇÃO E ELIMINAÇÃO As operações de inserção e eliminação provocam mudanças no conjunto dinâmico representado por uma árvore de busca binária A estrutura de dados deve ser modificada para refletir essa mudança mas de tal modo que a propriedade de árvore de busca binária continue válida Como veremos modificar a árvore para inserir um novo elemento é uma operação relativamente direta mas manipular a eliminação é um pouco mais complicado Inserção Para inserir um novo valor v em uma árvore de busca binária T utilizamos o procedimento TREEINSERT O procedimento toma um nó z para o qual zchave v zesquerda NIL e zdireita NIL e modifica T e alguns dos atributos de z de modo tal que insere z em uma posição adequada na árvore A Figura 123 mostra como TREEINSERT funciona Exatamente como os procedimentos TREESEARCH e ITERATIVETREE SEARCH TREEINSERRT começa na raiz da árvore e o ponteiro x e traça um caminho simples descendente procurando um NIL para substituir pelo item de entrada z O procedimento mantém o ponteiro acompanhante y como o pai de x Após a inicialização o loop while nas linhas 37 faz com que esses dois ponteiros se desloquem para baixo na árvore indo para a esquerda ou a direita dependendo da comparação de zchave com xchave até x tornarse NIL Esse NIL ocupa a posição na qual desejamos colocar o item de entrada z Figura 123 Inserção de um item com chave 13 em uma árvore de busca binária Os nós sombreados em tom mais claro indicam o caminho simples da raiz até a posição em que o item é inserido A linha tracejada indica a ligação que é acrescentada à árvore para inserir o item Precisamos do ponteiro acompanhante y porque até encontrarmos o N IL ao qual z pertence a busca desenvolveuse sempre uma etapa à frente do nó que precisa ser mudado As linhas 813 definem os ponteiros que causam a inserção de z Do mesmo modo que as outras operações primitivas em árvores de busca o procedimento TREEINSERT é executado no tempo Oh em uma árvore de altura h Eliminação A estratégia global para eliminar um nó z de uma árvore de busca binária T tem três casos básicos mas como veremos um deles é um pouco complicado Se z não tem nenhum filho então simplesmente o removemos modificando seu pai de modo a substituir z por NIL como seu filho Se o nó tem apenas um filho então elevamos esse filho para que ocupe a posição de z na árvore modificando o pai de z de modo a substituir z pelo filho de z Se z tiver dois filhos encontramos o sucessor de z y que deve estar na subárvore direita de z e obrigamos y a tomar a posição de z na árvore O resto da subárvore direita original de z tornase a nova subárvore direita de y e a subárvore esquerda de z tornase a nova subárvore esquerda de y Esse é o caso complicado porque como veremos o fato de y ser ou não o filho à direita de z é importante O procedimento para eliminar um dado nó z de uma árvore de busca binária T toma como argumentos ponteiros para T e z Esse procedimento organiza seus casos de um modo um pouco diferente dos três casos descritos já que considera os quatro casos mostrados na Figura 124 Se z não tiver nenhum filho à esquerda parte a da figura substituímos z por seu filho à direita que pode ser ou não NIL Quando o filho à direita de z é NIL esse caso trata da situação na qual z não tem nenhum filho Quando o filho à direita de z é não NIL esse caso manipula a situação na qual z tem somente um filho que é o seu filho à direita Se z tiver apenas um filho que é o seu filho à esquerda parte b da Figura substituímos z por seu filho à esquerda Caso contrário z tem um filho à esquerda e também um filho à direita Encontramos o sucessor de z y que está na subárvore direita de z e não tem nenhum filho à esquerda veja o Exercício 1225 Queremos recortar y de sua localização atual e fazêlo substituir z na árvore Se y é o filho à direita de z parte c substituímos z por y deixando o filho à direita de y sozinho Caso contrário y encontrase dentro da subárvore direita de z mas não é o filho à direita de z parte d Nesse caso primeiro substituímos y por seu próprio filho à direita e depois substituímos z por y Para movimentar subárvores dentro da árvore de busca binária definimos uma subrotina TRANSPLANT que substitui uma subárvore como um filho de seu pai por uma outra subárvore Quando TRANSPLANT substitui a subárvore enraizada no nó u pela subárvore enraizada no nó v o pai do nó u tornase o pai do nó v e o pai de u acaba ficando com v como seu filho adequado Figura 124 Eliminação de um nó de uma árvore de busca binária O nó z pode ser a raiz um filho à esquerda do nó q ou um filho à direita de q a O nó z não tem nenhum filho à esquerda Substituímos z por seu filho à direita r que pode ou não ser NIL b O nó z tem um filho à esquerda l mas nenhum filho à direita Substituímos z por l c O nó z tem dois filhos seu filho à esquerda é o nó l seu filho à direita é seu sucessor y e o filho à direita de y é o nó x Substituímos z por y atualizando o filho à esquerda de y para que se torne l mas deixando x como o filho à direita de y d O nó z tem dois filhos o filho à esquerda l e o filho à direita r e seu sucessor y r encontrase dentro da subárvore enraizada em r Substituímos y por seu próprio filho à direita x e definimos y como pai de r Então tomamos y filho de q e pai de l As linhas 12 tratam do caso no qual u é a raiz de T Caso contrário u é um filho à esquerda ou um filho à direita de seu pai As linhas 34 encarregamse de atualizar updireita se u é um filho à esquerda e a linha 5 atualiza upesquerda se u é um filho à direita Permitimos que v seja NIL e as linhas 67 atualizam vp se v é não NIL Observe que TRANSPLANT não tenta atualizar update vesquerda e vdireita fazer ou não fazer isso é responsabilidade do chamador de TRANSPLANT Com o procedimento TRANSPLANT em mãos apresentamos a seguir o procedimento que elimina o nó z da árvore de busca binária T 1231 1232 1233 O procedimento TREEDELETE executa os quatro casos como descrevemos a seguir As linhas 12 tratam do caso no qual o nó z não tem nenhum filho à esquerda e as linhas 34 tratam do caso no qual z tem um filho à esquerda mas nenhum filho à direita As linhas 512 lidam com os dois casos restantes nos quais z tem dois filhos A linha 5 encontra o nó y que é o sucessor de z Como z tem uma subárvore direita não vazia seu sucessor deve ser o nó nessa subárvore que tenha a menor chave daí a chamada a TREEMINIMUM zdireita Como observamos antes y não tem nenhum filho à esquerda Queremos recortar y de sua localização atual e ele deve substituir z na árvore Se y é o filho à direita de z então as linhas 1012 substituem z como um filho de seu pai por y e substituí o filho à esquerda de y pelo filho à esquerda de z Se y não é o filho à direita de z as linhas 79 substituem y como um filho de seu pai pelo filho à direita de y e transforma o filho à direita de z em filho à direita de y e então as linhas 1012 substituem z como um filho de seu pai por y e substituem o filho à esquerda de y pelo filho à esquerda de z Cada linha de TREEDELETE incluindo as chamadas a TRANSPLANT demora tempo constante exceto a chamada a TREEMINIMUM na linha 5 Assim TREEDELETE é executado no tempo Oh em uma árvore de altura h Resumindo provamos o teorema apresentado a seguir Teorema 123 Podemos implementar as operações de conjuntos dinâmicos INSERT e DELETE de modo que cada uma seja executada no tempo Oh em uma árvore de busca binária de altura h Exercícios Dê uma versão recursiva do procedimento TREEINSERT Suponha que construímos uma árvore de busca binária inserindo repetidamente valores distintos na árvore Mostre que o número de nós examinados na busca de um valor na árvore é uma unidade mais o número de nós examinados quando o valor foi inicialmente inserido na árvore Podemos ordenar um dado conjunto de n números construindo primeiro uma árvore de busca binária contendo esses números usando TREEINSERT repetidamente para inserir os números um a um e então 1234 1235 1236 124 imprimindo os números por um percurso de árvore em inordem Quais são os tempos de execução do pior caso e do melhor caso para esse algoritmo de ordenação A operação de eliminação é comutativa no sentido de que eliminar x e depois y de uma árvore de busca binária resulta na mesma árvore que eliminar y e depois x Mostre por que ou dê um contraexemplo Suponha que em vez de cada nó x manter o atributo xp apontando para o pai de xs ele mantém xsuc apontando para o sucessor de x Dê pseudocódigo para SEARCH INSERT e DELETE em uma árvore de busca binária T usando essa representação Esses procedimentos devem funcionar no tempo Oh onde h é a altura da árvore T Sugestão Seria interessante implementar uma subrotina que retorne o pai de um nó Quando o nó z em TREEDELETE tem dois filhos podemos escolher o nó y como seu predecessor em vez de seu sucessor Se fizermos isso quais outras mudanças serão necessárias em TREEDELETE Há quem defenda que uma estratégia justa que dá igual prioridade ao predecessor e ao sucessor produz melhor desempenho empírico Como TREEDELETE pode ser modificado para implementar tal estratégia justa ÁRVORES DE BUSCA BINÁRIA CONSTRUÍDAS ALEATORIAMENTE Mostramos que cada uma das operações básicas em uma árvore de busca binária é executada no tempo Oh onde h é a altura da árvore Contudo a altura de uma árvore de busca binária varia à medida que itens são inseridos e eliminados Se por exemplo os n itens são inseridos em ordem estritamente crescente a árvore será uma cadeia com altura n 1 Por outro lado o Exercício B54 mostra que h lg n Como ocorre com o quicksort podemos mostrar que o comportamento do caso médio é muito mais próximo do melhor caso que do pior caso Infelizmente sabese pouco sobre a altura média de uma árvore de busca binária quando ambas inserção e eliminação são utilizadas para criála Quando a árvore é criada somente por inserção a análise se torna mais tratável Portanto vamos definir uma árvore de busca binária construída aleatoriamente em n chaves distintas como aquela que surge da inserção das chaves em ordem aleatória em uma árvore inicialmente vazia onde cada uma das n permutações das chaves de entrada é igualmente provável O Exercício 1243 pede que você mostre que essa noção é diferente de considerar que toda árvore de busca binária em n chaves é igualmente provável Nesta seção provaremos o teorema apresentado a seguir Teorema 124 A altura esperada de uma árvore de busca binária construída aleatoriamente em n chaves distintas é Olg n Prova Começamos definindo três variáveis aleatórias que ajudam a medir a altura de uma árvore de busca binária construída aleatoriamente Denotamos a altura de uma árvore de busca binária construída aleatoriamente em n chaves por Xn e definimos a altura exponencial Yn 2Xn Quando construímos uma árvore de busca binária em n chaves escolhemos uma chave como a chave da raiz e denotamos por Rn a variável aleatória que contém a classificação dessa chave dentro do conjunto de n chaves isto é Rn ocupa a posição que essa chave ocuparia se o conjunto de chaves fosse ordenado O valor de Rn tem igual probabilidade de ser qualquer elemento do conjunto 1 2 n Se Rn i então a subárvore esquerda da raiz é uma árvore de busca binária construída aleatoriamente em i 1 chaves e a subárvore direita é uma árvore de busca binária construída aleatoriamente em n i chaves Como a altura de uma árvore binária é uma unidade maior que a maior das alturas das duas subárvores da raiz a altura exponencial de uma árvore binária é duas vezes a maior das alturas exponenciais das duas subárvores da raiz Se sabemos que Rn i decorre que Como casosbases temos que Y1 1 porque a altura exponencial de uma árvore com 1 nó é 20 1 e por conveniência definimos Y0 0 Em seguida definimos variáveis aleatórias indicadoras Zn1 Zn2 Znn onde Como Rn tem igual probabilidade de ser qualquer elemento de 1 2 n decorre que Pr Rn i 1n para i 1 2 n e consequentemente pelo Lema 51 temos para i 1 2 n Como exatamente um valor de Zn i é 1 e todos os outros são 0 também temos Mostraremos que EYn é um polinômio em n que em última análise implicará EXn O lg n Afirmamos que a variável aleatória indicadora Zn i IRn i é independente dos valores de Yi1 e Yni Como escolhemos Rn i a subárvore esquerda cuja altura exponencial é Yi 1 é construída aleatoriamente nas i 1 chaves cujas classificações são menores que 1 Essa subárvore é exatamente igual a qualquer outra árvore de busca binária construída aleatoriamente em i 1 chaves Exceto pelo número de chaves que contém a estrutura dessa subárvore não é afetada de modo algum pela escolha de Rn i consequentemente as variáveis aleatórias Yi 1 e Zn i são independentes Do mesmo modo a subárvore direita cuja altura exponencial é Yn i é construída aleatoriamente nas n i chaves cujas classificações são maiores que i Sua estrutura é independente do valor de Rn e assim as variáveis aleatórias Yni e Zn i são independentes Daí temos Visto que cada termo EY0 EY1 EYn1 aparece duas vezes no último somatório uma vez como EYi1 e uma vez como EYni temos a recorrência Usando o método de substituição agora mostraremos que para todos os inteiros positivos n a recorrência 122 tem a solução Ao fazermos isso usaremos a identidade O Exercício 1241 pede que você prove essa identidade Limitamos EYn mas nosso objetivo final é limitar EXn Como o Exercício 1244 pede que você mostre a função fx 2x é convexa veja página 868 Portanto podemos empregar a desigualdade de Jensen C26 que diz que da seguinte maneira Tomando logaritmos de ambos os lados temos EXn Olg n Exercícios 1241 1242 1243 1244 1245 121 a b c d 122 1 2 Prove a equação 123 Descreva uma árvore de busca binária em n nós tal que a profundidade média de um nó na árvore seja Qlg n mas a altura da árvore seja lg n Dê um limite superior assintótico para a altura de uma árvore de busca binária de n nós na qual a profundidade média de um nó seja Qlg n Mostre que a noção de uma árvore de busca binária escolhida aleatoriamente em n chaves onde cada árvore de busca binária de n chaves tem igual probabilidade de ser escolhida é diferente da noção de uma árvore de busca binária construída aleatoriamente dada nesta seção Sugestão Faça uma lista de possibilidades quando n 3 Mostre que a função fx 2x é convexa Considere uma aplicação de RANDOMIZEDQUICKSORT a uma sequência de n números de entrada distintos Prove que para qualquer constante k 0 todas as n permutações de entrada exceto O1nk produzem um tempo de execução On lg n Problemas Árvores de busca binária com chaves iguais Chaves iguais apresentam um problema para a implementação de árvores de busca binária Qual é o desempenho assintótico de TREEINSERT quando usado para inserir n itens com chaves idênticas em uma árvore de busca binária inicialmente vazia Propomos melhorar TREEINSERT testando antes da linha 5 para determinar se zchave xchave e testando antes da linha 11 para determinar se zchave ychave Se a igualdade for válida implementamos uma das estratégias a seguir Para cada estratégia determine o desempenho assintótico da inserção de n itens com chaves idênticas em uma árvore de busca binária inicialmente vazia As estratégias são descritas para a linha 5 na qual comparamos as chaves de z e x Substitua x por y para chegar às estratégias para a linha 11 Mantenha um sinalizador booleano xb no nó x e atribua a x o valor xesquerdo ou xdireito de acordo com o valor de xb que se alterna entre FALSE e TRUE a cada vez que visitamos x durante a inserção de um nó com a mesma chave que x Mantenha em x uma lista de nós com chaves iguais e insira z na lista Defina aleatoriamente x como xesquerdo ou xdireito Dê o desempenho do pior caso e deduza informalmente o tempo de execução esperado Árvores digitais Dadas duas cadeias a a0a1 ap e b b0b1 bq onde cada ai e cada bj está em algum conjunto ordenado de caracteres dizemos que a cadeia a é lexicograficamente menor que a cadeia b se existe um inteiro j onde 0 j minp q tal que ai bi para todo i 0 1 j 1 e aj bj ou p q e ai bi para todo i 0 1 p 123 a Por exemplo se a e b são cadeias de bits então 10100 10110 pela regra 1 fazendo j 3 e 10100 101000 pela regra 2 Essa ordenação é semelhante à utilizada em dicionários de idiomas A estrutura de dados árvore digital mostrada na Figura 125 armazena as cadeias de bits 1011 10 011 100 e 0 Quando procuramos uma chave a a a0a1 ap vamos para a esquerda em um nó de profundidade i se ai 0 e para a direita se ai 1 Seja S um conjunto de cadeias binárias distintas cujos comprimentos somam n Mostre como usar uma árvore digital para ordenar S lexicograficamente no tempo Qn No exemplo da Figura 126 a saída da ordenação deve ser a sequência 0 011 10 100 1011 Figura 125 Uma árvore digital que armazena as cadeias de bits 1011 10 011 100 e 0 Podemos determinar a chave de cada nó percorrendo o caminho simples da raiz até esse nó Portanto não há necessidade de armazenar as chaves nos nós as chaves são mostradas aqui somente para fins ilustrativos Os nós estão sombreados em tom mais escuro se as chaves correspondentes a eles não estão na árvore esses nós estão presentes apenas para estabelecer um caminho até outros nós Profundidade média de nó em uma árvore de busca binária construída aleatoriamente Neste problema provamos que a profundidade média de um nó em uma árvore de busca binária construída aleatoriamente com n nós é Olg n Embora esse resultado seja mais fraco que o do Teorema 124 a técnica que empregaremos revelará uma semelhança surpreendente entre a construção de uma árvore de busca binária e a execução do algoritmo RANDOMIZEDQUICKSORT da Seção 73 Definimos o comprimento total de caminho PT de uma árvore binária T como a soma contando todos os nós x em T da profundidade do nó x que denotamos por dx T Demonstre que a profundidade média de um nó em T é Assim desejamos mostrar que o valor esperado de PT é On lg n b c d e f 124 a b Denotemos por TE e TD as subárvores esquerda e direita da árvore T respectivamente Mostre que se T tem n nós então Seja Pn o comprimento total de caminho médio de uma árvore de busca binária construída aleatoriamente com n nós Mostre que Mostre que Pn pode ser reescrito como Recordando a análise alternativa da versão aleatorizada do quicksort dada no Problema 73 conclua que Pn On lg n A cada invocação recursiva do quicksort escolhemos um elemento pivô aleatório para particionar o conjunto de elementos que está sendo ordenado Cada nó de uma árvore de busca binária particiona o conjunto de elementos que cai na subárvore digital nesse nó Descreva uma implementação do quicksort na qual as comparações para ordenar um conjunto de elementos são exatamente iguais às comparações para inserir os elementos em uma árvore de busca binária A ordem em que as comparações são efetuadas pode ser diferente mas as mesmas comparações devem ser executadas Número de árvores binárias diferentes Seja bn o número de árvores binárias diferentes com n nós Neste problema você determinará uma fórmula para bn bem como uma estimativa assintótica Mostre que b0 1 e que para n 1 Consultando o Problema 44 para a definição de uma função geradora seja Bx a função geradora Mostre que Bx xBx2 1 e consequentemente um modo de expressar Bx em forma fechada é A expansão de Taylor de fx em torno do ponto x a é dada por c d onde f kx é a késima derivada de f avaliada em x Mostre que o nésimo número de Catalan usando a expansão de Taylor de 14x m torno de x 0 Se desejar em vez de usar a expansão de Taylor você pode empregar a generalização da expansão binomial C4 para expoentes não inteiros n onde para qualquer número real n e qualquer inteiro k interpretamos n k como nn 1 n k 1k se k 0 e 0 em caso contrário Mostre que NOTAS DO CAPÍTULO Knuth 211 contém uma boa discussão de árvores de busca binária simples bem como de muitas variações Parece que as árvores de busca binária foram descobertas independentemente por várias pessoas no final da década de 1950 Árvores digitais são frequentemente denominadas tries que vem das letras do meio da palavra retrieval em inglês que significa recobrar ou reaver Knuth também as discutiu 211 Muitos textos entre eles as duas primeiras edições deste livro apresentam um método um pouco mais simples de eliminar um nó de uma árvore de busca binária quando ambos os seus filhos estão presentes Em vez de substituir o nó z por seu sucessor y eliminamos o nó y mas copiamos sua chave e os dados satélites para o nó z A desvantagem dessa abordagem é que o nó realmente eliminado poderia não ser o nó passado para o procedimento de eliminação Se outros componentes de um programa mantiverem ponteiros para nós na árvore poderiam acabar erroneamente com ponteiros vencidos para nós que já foram eliminados Embora seja um pouco mais complicado o método de eliminação apresentado nesta edição deste livro garante que uma chamada para eliminar o nó z elimina o nó z e somente o nó z A Seção 155 mostrará como construir uma árvore de busca binária ótima quando conhecemos as frequências de busca antes da construção da árvore Isto é dadas as frequências de busca para cada chave e as frequências de busca para valores que caem entre chaves na árvore construímos uma árvore de busca binária para a qual um conjunto de buscas que decorre dessas frequências examina o número mínimo de nós A prova da Seção 124 que limita a altura esperada de uma árvore de busca binária construída aleatoriamente se deve a Aslam 24 Martínez e Roura 243 dão algoritmos aleatorizados para inserção e eliminação em árvores de busca binária nos quais o resultado de qualquer dessas operações é uma árvore de busca binária aleatória Contudo a definição desses autores para uma árvore de busca binária é diferente apenas ligeiramente da definição de uma árvore de busca binária construída aleatoriamente dada neste capítulo 131 1 2 3 4 5 13 ÁRVORES VERMELHOPRETO O Capítulo 12 mostrou que uma árvore de busca binária de altura h pode suportar qualquer das operações básicas de conjuntos dinâmicos como SEARCH PREDECESSOR SUCCESSOR MINIMUM MAXIMUM INSERT e DELETE no tempo Oh Assim as operações de conjuntos são rápidas se a altura da árvore de busca é pequena Todavia se a altura da árvore é grande a execução dessas operações poderá ser mais lenta do que com uma lista ligada Árvores vermelhopreto são um dos muitos esquemas de árvores de busca que são balanceadas de modo a garantir que operações básicas de conjuntos dinâmicos demorem o tempo Olg n no pior caso PROPRIEDADES DE ÁRVORES VERMELHOPRETO Uma árvore vermelhopreto é uma árvore de busca binária com um bit extra de armazenamento por nó sua cor ela pode ser VERMELHA ou PRETA Restringindo as cores dos nós em qualquer caminho simples da raiz até uma folha as árvores vermelhopreto asseguram que o comprimento de nenhum desses caminhos seja maior que duas vezes o de qualquer outro de modo que a árvore é aproximadamente balanceada Cada nó da árvore contém agora os atributos cor chave esquerda direita e p Se um filho ou o pai de um nó não existir o atributo do ponteiro correspondente do nó contém o valor NIL Trataremos esses valores NIL como se fossem ponteiros para folhas nós externos da árvore de busca binária e os nós normais que portam chaves como nós internos da árvore Uma árvore vermelhopreto é uma árvore de busca binária que satisfaz as seguintes propriedades vermelho preto Todo nó é vermelho ou preto A raiz é preta Toda folha NIL é preta Se um nó é vermelho então os seus filhos são pretos Para cada nó todos os caminhos simples do nó até folhas descendentes contêm o mesmo número de nós pretos A Figura 131 mostra um exemplo de árvore vermelhopreto Por questão de conveniência no tratamento das condições de fronteira em código de árvores vermelhopreto usamos uma única sentinela para representar NIL veja p 238 Para uma árvore vermelhopreto T a sentinela Tnil é um objeto com os mesmos atributos que um nó comum na árvore Seu atributo cor é PRETO e seus outros atributos p esquerda direita e chave podem adotar valores arbitrários Como mostra a Figura 131b todos os ponteiros para NIL são substituídos por ponteiros para a sentinela Tnil Usamos a sentinela para poder tratar um filho NIL de um nó x como um nó comum cujo pai é x Se bem que poderíamos adicionar um nó de sentinela distinto para cada NIL na árvore de modo que o pai de cada NIL fosse bem definido essa abordagem desperdiçaria espaço Em vez disso usamos a única sentinela Tnil para representar todos os nós N IL todas as folhas e o pai da raiz Os valores dos atributos p esquerda direita e chave da sentinela são irrelevantes embora por conveniência possamos definilos durante o curso de um procedimento Figura 131 Uma árvore vermelhopreto com nós pretos em negro e nós vermelhos em cinzento Todo nó em uma árvore vermelhopreto é vermelho ou preto os filhos de um nó vermelho são pretos e todo caminho simples de um nó até uma folha descendente contém o mesmo número de nós pretos a Toda folha mostrada como um NIL é preta Cada nó não NIL é marcado com sua altura preta nós NILs têm altura preta igual a 0 b A mesma árvore vermelhopreto mas com cada NIL substituído pela única sentinela Tnil que é sempre preta e cujas alturas pretas são omitidas O pai da raiz também é a sentinela c A mesma árvore vermelhopreto mas com folhas e o pai da raiz omitidos completamente Utilizaremos esse estilo de representação no restante deste capítulo Em geral limitamos nosso interesse aos nós internos de uma árvore vermelhopreto já que eles contêm os valores de chaves No restante deste capítulo omitiremos as folhas quando desenharmos árvores vermelhopreto como mostra a Figura 131c Denominamos o número de nós pretos em qualquer caminho simples de um nó x sem incluir esse nó até uma folha por altura preta do nó denotada por bhx Pela propriedade 5 a noção de altura preta é bem definida já que 1311 1312 1313 1314 todos os caminhos simples descendentes que partem do nó têm o mesmo número de nós pretos Definimos a altura preta de uma árvore vermelhopreto como a altura preta de sua raiz O lema a seguir mostra por que as árvores vermelhopreto dão boas árvores de busca Lema 131 Uma árvore vermelhopreto com n nós internos tem no máximo a altura 2 lgn 1 Prova Começamos mostrando que a subárvore com raiz em qualquer nó x contém no mínimo 2bhx 1 nós internos Provamos essa afirmativa por indução sobre a altura de x Se a altura de x é 0 então x deve ser uma folha Tnil e a subárvore com raiz em x realmente contém no mínimo 2bhx 1 20 1 0 nós internos Para a etapa indutiva considere um nó x que tenha altura positiva e considere um nó interno x com dois filhos Cada filho tem uma altura preta bhx ou bhx 1 dependendo de sua cor ser vermelha ou preta respectivamente Visto que a altura de um filho de x é menor que a altura do próprio x podemos aplicar a hipótese indutiva para concluir que cada filho tem no mínimo 2bhx 1 1 nós internos Assim a subárvore com raiz em x contém no mínimo 2bhx 1 1 2bhx 1 1 1 2bhx 1 nós internos o que prova a afirmativa Para completar a prova do lema seja h a altura da árvore De acordo com a propriedade 4 no mínimo metade dos nós em qualquer caminho simples da raiz até uma folha não incluindo a raiz deve ser preta Consequentemente a altura preta da raiz deve ser no mínimo h2 assim n 2h2 1 Passando o valor 1 para o lado esquerdo e tomando logaritmos em ambos os lados temos lgn 1 h2 ou h 2 lgn 1 Uma consequência imediata desse lema é que podemos implementar as operações de conjuntos dinâmicos SEARCH MINIMUM MAXIMUM SUCCESSOR e PREDECESSOR no tempo Olg n em árvores vermelhopreto já que cada execução no tempo Oh em uma árvore de busca de altura h como mostra o Capítulo 12 e em qualquer árvore vermelhopreto em n nós é uma árvore de busca com altura Olg n Claro que as referências a NIL nos algoritmos do Capítulo 12 teriam de ser substituídas por Tnil Embora os algoritmos TREEINSERT e TREEDELETE do Capítulo 12 sejam executados no tempo Olg n quando é dada uma árvore vermelhopreto como entrada eles não suportam diretamente as operações de conjuntos dinâmicos INSERT e DELETE já que não garantem que a árvore de busca binária modificada será uma árvore vermelhopreto Porém veremos nas Seções 133 e 134 como suportar essas duas operações no tempo Olg n Exercícios Desenhe no estilo da Figura 131a a árvore de busca binária completa de altura 3 nas chaves 1 2 15 Adicione as folhas NIL e dê três cores diferentes aos nós de tal modo que as alturas pretas das árvores vermelhopreto resultantes sejam 2 3 e 4 Desenhe a árvore vermelhopreto que resulta após a chamada a TREEINSERT na árvore da Figura 131 com chave 36 Se o nó inserido for vermelho a árvore resultante é uma árvore vermelhopreto E se ele for preto Vamos definir uma árvore vermelhopreto relaxada como uma árvore de busca binária que satisfaz as propriedades vermelhopreto 1 3 4 e 5 Em outras palavras a raiz pode ser vermelha ou preta Considere uma árvore vermelhopreto relaxada T cuja raiz é vermelha Se colorirmos a raiz de T de preto mas não fizermos nenhuma outra mudança em T a árvore resultante é uma árvore vermelhopreto Suponha que absorvemos todo nó vermelho em uma árvore vermelhopreto em seu pai preto de modo que os filhos do nó vermelho se tornem filhos do pai preto Ignore o que acontece com as chaves Quais são os 1315 1316 1317 132 graus possíveis de um nó preto depois que todos os seus filhos vermelhos são absorvidos O que você pode dizer sobre as profundidades das folhas da árvore resultante Mostre que o comprimento do mais longo caminho simples de um nó x em uma árvore vermelhopreto até uma folha descendente é no máximo duas vezes o do caminho simples mais curto do nó x até uma folha descendente Qual é o maior número possível de nós internos em uma árvore vermelhopreto com altura preta k Qual é o menor número possível Descreva uma árvore vermelhopreto em n chaves que permita a maior razão possível entre nós internos vermelhos e nós internos pretos Qual é essa razão Qual árvore tem a menor razão possível e qual é essa razão ROTAÇÕES As operações de árvores de busca TREEINSERT e TREEDELETE quando executadas em uma árvore vermelhopreto com n chaves demoram o tempo Olg n Como elas modificam a árvore o resultado pode violar as propriedades vermelhopreto enumeradas na Seção 131 Para restabelecer essas propriedades devemos mudar as cores de alguns nós na árvore e também mudar a estrutura de ponteiros Mudamos a estrutura de ponteiros por meio de rotação uma operação local em uma árvore de busca que preserva a propriedade de árvore de busca binária A Figura 132 mostra os dois tipos de rotações rotações para a esquerda e rotações para a direita Quando fazemos uma rotação para a esquerda em um nó x supomos que seu filho à direita y não é Tnil x pode ser qualquer nó na árvore cujo filho à direita não é Tnil A rotação para a esquerda pivota ao redor da ligação de x para y Transforma y na nova raiz da subárvore com x como filho à esquerda de y e o filho à esquerda de y como filho à direita de x O pseudocódigo para LEFTROTATE supõe que xdireita Tnil e que o pai da raiz é Tnil A Figura 133 mostra um exemplo de como LEFTROTATE modifica uma árvore de busca binária O código para RIGHT ROTATE é simétrico LEFTROTATE e RIGHTROTATE são executados no tempo O1 Somente ponteiros são alterados por uma rotação todos os outros atributos em um nó permanecem os mesmos 1321 1322 1323 Figura 132 As operações de rotação em uma árvore de busca binária A operação lEFTROTATET x transforma a configuração dos dois nós à direita na configuração à esquerda mudando um número constante de ponteiros A operação inversa RIGHTROTATET y transforma a configuração à esquerda na configuração à direita As letras α β e g representam subárvores arbitrárias Uma operação de rotação preserva a propriedade de árvore de busca binária as chaves em α precedem xchave que precede as chaves em β que precedem ychave que precede as chaves em g Figura 133 Um exemplo de como o procedimento lEFTROTATET x modifica uma árvore de busca binária Os percursos de árvore em in ordem da árvore de entrada e a árvore modificada produzem a mesma listagem de valores de chaves Exercícios Escreva pseudocódigo para RIGHRROTATE Demonstre que em toda árvore de busca binária de n nós existem exatamente n 1 rotações possíveis Sejam a b e c nós arbitrários nas subárvores α β e γ respectivamente na árvore da direita da Figura 132 Como as profundidades de a b e c mudam quando é realizada uma rotação para a esquerda no nó x na 1324 133 1325 figura Mostre que qualquer árvore de busca binária arbitrária de n nós pode ser transformada em qualquer outra árvore de busca binária arbitrária de n nós por meio de On rotações Sugestão Primeiro mostre que no máximo n 1 rotações para a direita são suficientes para transformar a árvore em uma cadeia orientada para a direita Dizemos que uma árvore de busca binária T1 pode ser convertida para a direita na árvore de busca binária T2 se for possível obter T2 de T1 por meio de uma série de chamadas a RIGHRROTATE Dê um exemplo de duas árvores T1 e T2 tais que T1 não possa ser convertida para a direita em T2 Em seguida mostre que se uma árvore T1 pode ser convertida para a direita em T2 ela pode ser convertida para a direita por meio de On2 chamadas a RIGHTROTATE INSERÇÃO Podemos inserir um nó em uma árvore vermelhopreto de n nós no tempo Olg n Para tal usamos uma versão ligeiramente modificada do procedimento TREEINSERT Seção 123 para inserir o nó z na árvore T como se ela fosse uma árvore de busca binária comum e depois colorimos z de vermelho O Exercício 1331 pede que você explique por que escolhemos que o nó z é vermelho em vez de preto Para garantir que as propriedades vermelhopreto serão preservadas chamamos um procedimento auxiliar RBINSERTFIXUP para colorir novamente os nós e executar rotações A chamada RBINSERTT z insere o nó z cuja chave considerase já ter sido inserida na árvore vermelhopreto T Há quatro diferenças entre os procedimentos TREEINSERT e RBINSERT Primeiro todas as instâncias de NIL em TREE INSERT são substituídas por Tnil Em segundo lugar definimos zesquerda e zdireita como Tnil nas linhas 14 e 15 de RBINSERT a fim de manter a estrutura de árvore adequada Em terceiro lugar colorimos z de vermelho na linha 16 Em quarto lugar visto que colorir z de vermelho pode causar uma violação de uma das propriedades vermelhopreto chamamos RBINSERTFIXUPT z na linha 17 de RBINSERT para restaurar as propriedades vermelhopreto Para entender como RBINSERTFIXUP funciona desmembraremos nosso exame do código em três etapas principais Primeiro determinaremos quais violações das propriedades vermelhopreto são introduzidas em RBINSERT quando o nó z é inserido e colorido de vermelho Em segundo lugar examinaremos a meta global do laço while das linhas 115 Por fim exploraremos cada um dos três casos1 dentro do corpo do laço while e veremos como eles cumprem essa meta A Figura 134 mostra como RBINSERTFIXUP funciona em uma amostra de árvore vermelhopreto Quais das propriedades vermelhopreto podem ser violadas na chamada a RBINSERTFIXUP A propriedade 1 certamente continua válida bem como a propriedade 3 já que ambos os filhos do nó vermelho recéminserido são a sentinela Tnil A propriedade 5 que diz que o número de nós pretos é igual em todo caminho simples de um dado nó também é satisfeita porque o nó z substitui a sentinela preta e o nó z é vermelho com filhos sentinelas Assim as únicas propriedades que poderiam ser violadas são a propriedade 2 que exige que a raiz seja preta e a propriedade 4 que diz que um nó vermelho não pode ter um filho vermelho Ambas as violações possíveis se devem a z ser colorido de vermelho A propriedade 2 é violada se z é a raiz e a propriedade 4 é violada se o pai de z é vermelho A Figura 134a mostra uma violação da propriedade 4 após a inserção do nó z a b Figura 134 A operação de RBiNSERTfIXUP a Um nó z depois da inserção Como z e seu pai zp são vermelhos ocorre uma violação da propriedade 4 Visto que o tio y de z é vermelho o caso 1 no código se aplica Colorimos novamente os nós e movimentamos o ponteiro z para cima na árvore resultando na árvore mostrada em b Mais uma vez z e seu pai são vermelhos mas o tio y de z é preto Como z é o filho à direita de zp o caso 2 se aplica Executamos uma rotação para a esquerda e a árvore resultante é mostrada em c Agora z é o filho à esquerda de seu pai e o caso 3 se aplica Colorindo novamente e executando uma rotação para a direita é produzida a árvore em d que é uma árvore vermelhopreto válida O laço while nas linhas 115 mantém o seguinte invariante de três partes no início de cada iteração do laço O nó z é vermelho Se zp é a raiz então zp é preto c a b c Se a árvore violar qualquer das propriedades vermelhopreto ela violará no máximo uma delas e a violação será da propriedade 2 ou da propriedade 4 Se a árvore violar a propriedade 2 é porque z é a raiz e é vermelho Se a árvore violar a propriedade 4 é porque z e zp são vermelhos A parte c que trata das violações de propriedades vermelhopreto é mais fundamental para mostrar que RB INSERTFIXUP restaura as propriedades vermelhopreto que as partes a e b que utilizamos no caminho para entender situações no código Como nos concentraremos no nó z e nós próximos a ele na árvore é útil saber pela parte a que z é vermelho Usaremos a parte b para mostrar que o nó zpp existe quando nos referimos a ele nas linhas 2 3 7 8 13 e 14 Lembrese de que precisamos mostrar que um invariante de laço é verdadeiro antes da primeira iteração do laço que cada iteração mantém o invariante de laço e que o invariante de laço nos dá uma propriedade útil ao término do laço Começamos com os argumentos de inicialização e término Então à medida que examinarmos com mais detalhes como o corpo do laço funciona demonstraremos que o laço mantém o invariante em cada iteração Durante o processo também demonstraremos que cada iteração do laço tem dois resultados possíveis o ponteiro z sobe a árvore ou executamos algumas rotações e o laço termina Inicialização Antes da primeira iteração do laço começamos com uma árvore vermelhopreto sem nenhuma violação e acrescentamos um nó vermelho z Mostramos que cada parte do invariante é válida no momento em que RBINSERTFIXUP é chamado Quando RBINSERTFIXUP é chamado z é o nó vermelho que foi acrescentado Se pz é a raiz então zp começou preto e não mudou antes da chamada de RBINSERTFIXUP Já vimos que as propriedades 1 3 e 5 são válidas quando RBINSERTFIXUP é chamado Se a árvore violar a propriedade 2 a raiz vermelha deve ser o nó z recémacrescentado que é o único nó interno na árvore Como o pai e ambos os filhos de z são a sentinela que é preta a árvore tampouco viola a propriedade 4 Assim essa violação da propriedade 2 é a única violação de propriedades vermelhopreto na árvore inteira Se a árvore violar a propriedade 4 como os filhos do nó z são sentinelas pretas e a árvore não tinha nenhuma outra violação antes de z ser acrescentado a violação tem de ser porque z e zp são vermelhos Além disso a árvore não viola nenhuma outra propriedade vermelhopreto Término Quando o laço termina é porque zp é preto Se z é a raiz então zp é a sentinela Tnil que é preta Assim a árvore não viola a propriedade 4 no término do laço Pelo invariante de laço a única propriedade que poderia deixar de ser válida é a propriedade 2 A linha 16 restaura também essa propriedade de modo que quando RBINSERTFIXUP termina todas as propriedades vermelhopreto são válidas Manutenção Na realidade precisamos considerar seis casos no laço while mas três deles são simétricos aos outros três dependendo de a linha 2 determinar que o pai zp de z é um filho à esquerda ou um filho à direita do avô zpp de z Damos o código somente para a situação na qual zp é um filho à esquerda O nó zpp existe já que pela parte b do invariante de laço se zp é a raiz então zp é preto Visto que entramos em uma iteração de laço somente se zp é vermelho sabemos que zp não pode ser a raiz Consequentemente zpp existe Distinguimos o caso 1 dos casos 2 e 3 pela cor do irmão do pai de z ou tio A linha 3 faz y apontar para o tio zppdireita de z e a linha 4 testa a cor de y Se y é vermelho então executamos o caso 1 Do contrário o controle passa para os casos 2 e 3 Em todos os três casos o avô zpp de z é preto já que seu pai zp é vermelho e a propriedade 3 é violada apenas entre z e zp Caso 1 o tio de y de z é vermelho a b c A Figura 135 mostra a situação para o caso 1 linhas 58 que ocorre quando zp e y são vermelhos Como zpp é preto podemos colorir zp e y de preto o que corrige o problema de z e zp serem vermelhos e podemos colorir zpp de vermelho mantendo assim a propriedade 5 Então repetimos o laço while com zpp como o novo nó z O ponteiro z sobe dois níveis na árvore Agora mostramos que o caso 1 mantém o invariante de laço no início da próxima iteração Usamos z para denotar o nó z na iteração atual e z zpp para denotar o nó que será denominado z no teste da linha 1 na iteração seguinte Como essa iteração colore zpp de vermelho o nó z é vermelho no início da próxima iteração O nó zp é zppp nessa iteração e a cor desse nó não se altera Se esse nó é a raiz ele era preto antes dessa iteração e permanece preto no início da próxima iteração Já mostramos que o caso 1 mantém a propriedade 5 e não introduz uma violação das propriedades 1 ou 3 Se o nó z é a raiz no início da próxima iteração então o caso 1 corrigiu a única violação da propriedade 4 nessa iteração Como z é vermelho e é a raiz a propriedade 2 passa a ser a única violada e essa violação se deve a z Se o nó z não é a raiz no início da próxima iteração então o caso 1 não criou uma violação da propriedade 2 O caso 1 corrigiu a única violação da propriedade 4 que existia no início dessa iteração Então transformou z em vermelho e deixou zp como estava Se zp era preto não há nenhuma violação da propriedade 4 Se zp era vermelho colorir z de vermelho criou uma violação da propriedade 4 entre z e zp Figura 135 O caso 1 do procedimento RBiNSERTfIXUP A propriedade 4 é violada já que z e seu pai zp são vermelhos A mesma ação é adotada se a z é um filho à direita ou b z é um filho à esquerda Cada uma das subárvores α β g d e e tem uma raiz preta e cada uma tem a mesma altura preta O código para o caso 1 muda as cores de alguns nós preservando a propriedade 5 todos os caminhos simples descendentes de um nó até uma folha têm o mesmo número de pretos O laço while continua com o avô zpp do nó z como o novo z Qualquer violação da propriedade 4 só pode ocorrer agora entre o novo z que é vermelho e seu pai que também é vermelho Caso 2 o tio y de z é preto e z é um filho à direita Caso 3 o tio y de z é preto e z é um filho à esquerda Nos casos 2 e 3 a cor do tio y de z é preta Distinguimos os dois casos conforme z seja um filho à direita ou à esquerda de zp As linhas 10 e 11 constituem o caso 2 que é mostrado na Figura 136 juntamente com o caso 3 No caso 2 o nó z é um filho à direita de seu pai Usamos imediatamente uma rotação para a esquerda para transformar a situação no a b c caso 3 linhas 1214 na qual o nó z é um filho à esquerda Como z e zp são vermelhos a rotação não afeta a altura preta dos nós nem a propriedade 5 Quer entremos no caso 3 diretamente ou por meio do caso 2 o tio y de z é preto já que do contrário teríamos executado o caso 1 Além disso o nó zpp existe visto que demonstramos que esse nó existia no momento em que as linhas 2 e 3 foram executadas e após z subir um nível na linha 10 e depois descer um nível na linha 11 a identidade de zpp permanece inalterada No caso 3 executamos algumas mudanças de cores e uma rotação para a direita o que preserva a propriedade 5 em seguida visto que não temos mais dois nós vermelhos em uma linha encerramos O corpo do laço while não é executado outra vez já que agora zp é preto Agora mostramos que os casos 2 e 3 mantêm o invariante de laço Como acabamos de demonstrar zp será preto no próximo teste na linha 1 e o corpo do laço não será executado novamente O caso 2 faz z apontar para zp que é vermelho Nenhuma mudança adicional em z ou em sua cor ocorre nos casos 2 e 3 O caso 3 torna zp preto de modo que se zp é a raiz no início da próxima iteração ele é preto Como ocorre no caso de 1 as propriedades 1 3 e 5 são mantidas nos casos 2 e 3 Visto que o nó z não é a raiz nos casos 2 e 3 sabemos que não há nenhuma violação da propriedade 2 Os casos 2 e 3 não introduzem uma violação da propriedade 2 já que o único nó que se tornou vermelho tornase um filho de um nó preto pela rotação no caso 3 Os casos 2 e 3 corrigem a única violação da propriedade 4 e não introduzem outra violação Mostrando que cada iteração do laço mantém o invariante também mostramos que RBINSERTFIXUP restaura corretamente as propriedades vermelhopreto Análise Qual é o tempo de execução de RBINSERT Visto que a altura de uma árvore vermelhopreto em n nós é Olg n as linhas 116 de RBINSERT levam o tempo Olg n Em RBINSERTFIXUP o laço while só é repetido se o caso 1 ocorrer e então o ponteiro z sobe dois níveis na árvore Figura 136 Casos 2 e 3 do procedimento RBiNSERTfIXUP Como no caso 1 a propriedade 4 é violada no caso 2 ou no caso 3 porque z e seu pai zp são vermelhos Cada uma das subárvores α β g e d tem uma raiz preta α β e g pela propriedade 4 e d porque caso contrário estaríamos no caso 1 e cada uma tem a mesma altura preta Transformamos o caso 2 no caso 3 por uma rotação para a esquerda o que preserva a propriedade 5 todos os caminhos simples descendentes de um nó até uma folha têm o mesmo número de pretos O caso 3 provoca algumas mudanças de cores e uma rotação para a direita o que também preserva a propriedade 5 Em seguida o laço while termina porque a propriedade 4 é satisfeita não há mais dois nós vermelhos em seguida Portanto o número total de vezes que o laço while pode ser executado é Olg n Assim RBINSERT demora um tempo total Olg n Além disso ele nunca executa mais de duas rotações já que o laço while termina se o caso 2 ou o caso 3 for executado 1331 1332 1333 1334 1335 1336 134 Exercícios Na linha 16 de RBINSERT atribuímos o nó z recéminserido com vermelho Note que se tivéssemos optado por atribuir z com preto a propriedade 4 de uma árvore vermelhopreto não seria violada Por que não optamos por definir z como preto Mostre as árvores vermelhopreto que resultam após a inserção sucessiva das chaves 41 38 31 12 19 8 em uma árvore vermelhopreto inicialmente vazia Suponha que a altura preta de cada uma das subárvores α β γ d nas Figuras 135 e 136 seja k Identifique cada nó em cada figura com sua altura preta para verificar se a transformação indicada preserva a propriedade 5 O professor Teach está preocupado que RBINSERTFIXUP possa atribuir Tnilcor como VERMELHO caso em que o teste da linha 1 não faria o laço terminar quando z fosse a raiz Mostre que a preocupação do professor é infundada demonstrando que RBINSERTFIXUP nunca atribui Tnilcor com VERMELHO Considere uma árvore vermelhopreto formada pela inserção de n nós com RBINSERT Mostre que se n 1 a árvore tem no mínimo um nó vermelho Sugira como implementar RBINSERT de maneira eficiente se a representação para árvores vermelhopreto não incluir nenhum armazenamento para ponteiros superiores ELIMINAÇÃO Como as outras operações básicas em uma árvore vermelhopreto de n nós a eliminação de um nó demora o tempo Olg n Eliminar um nó de uma árvore vermelhopreto é um pouco mais complicado que inserir um nó O procedimento para eliminar um nó de uma árvore vermelhopreto é baseado no procedimento RBDELETE Seção 123 Primeiro precisamos customizar a subrotina TRANSPLANT que TREEDELETE chama de modo que ela se aplique a uma árvore vermelhopreto Há duas diferenças entre o procedimento RBTRANSPLANT e o procedimento TRANSPLANT A primeira é que a linha 1 referencia a sentinela Tnil em vez de NIL A segunda é que a atribuição a p na linha 6 ocorre incondicionalmente podemos atribuir a vp mesmo que aponte para a sentinela De fato exploraremos a capacidade de atribuir a p quando Tnil O procedimento RBDELETE é como o procedimento TREEDELETE porém com linhas adicionais de pseudocódigo Algumas dessas linhas adicionais rastreiam um nó y que poderia causar violações das propriedades vermelhopreto Quando queremos eliminar o nó z e z tem menos do que dois filhos z é removido da árvore e queremos que y seja z Quando z tem dois filhos y deve ser o sucessor de z e y passa para a posição de z na árvore Também lembramos a cor de y antes de ele ser eliminado da árvore ou passar para dentro dela e rastreamos o nó x que passa para a posição original de y na árvore porque o nó x também poderia causar violações das propriedades vermelhopreto Após eliminar o nó z RBDELETE chama um procedimento auxiliar RBDELETEFIXUP que muda as cores e executa rotações para restaurar as propriedades vermelhopreto Embora RBDELETE contenha quase duas vezes o número de linhas de pseudocódigo de TREEDELETE os dois procedimentos têm a mesma estrutura básica Podemos encontrar cada linha de TREEDELETE dentro de RBDELETE se substituirmos Tnil por NIL e as chamadas a RBTRANSPLANT por chamadas a TRANSPLANT se executado sob as mesmas condições Apresentamos a seguir as outras diferenças entre os dois procedimentos Mantemos o nó y como o nó que é retirado da árvore ou que é passado para dentro dela A linha 1 faz y apontar para o nó z quando z tiver menos que dois filhos e portanto é removido Quando z tem dois filhos a linha 9 faz y apontar para o sucessor de z exatamente como em TREEDELETE e y passa para a posição de z na árvore Como a cor do nó y pode mudar a variável ycororiginal armazena a cor de y antes de ocorrer qualquer mudança As linhas 2 e 10 definem essa variável imediatamente após atribuições a y Quando z tem dois filhos então y z e o nó y passa para a posição original do nó z na árvore vermelhopreto a linha 20 dá a y a mesma cor de z Precisamos salvar a cor original de y para testála no final de RBDELETE se o nó era preto remover ou mover y poderá causar violações das propriedades vermelhopreto Como discutimos rastreamos o nó x que passa para a posição original do nó y As atribuições nas linhas 4 7 e 11 fazem x apontar para o único filho de y ou se y não tiver filhos para a sentinela Tnil Lembrese de que dissemos na Seção 123 que y não tem nenhum filho à esquerda Visto que o nó x passa para a posição original de y o atributo xp é sempre definido para apontar para a posição original do pai de y na árvore mesmo que x seja de fato a sentinela Tnil A menos que z seja o pai original de y o que ocorre somente quando z tiver dois filhos e seu sucessor y for o filho à direita de z a atribuição a xp ocorre na linha 6 de RBTRANSPLANT 1 2 3 Observe que quando RBTRANSPLANT é chamado nas linhas 5 8 ou 14 o terceiro parâmetro passado é o mesmo que x Entretanto quando o pai original de y é z não queremos que xp aponte para o pai original de y visto que estamos eliminando aquele nó da árvore Como o nó y subirá para ocupar a posição de z na árvore atribuir y a xp na linha 13 faz com que xp aponte para a posição original do pai de y mesmo que x Tnil Por fim se o nó y era preto pode ser que tenhamos introduzido uma ou mais violações das propriedades vermelhopreto e por isso chamamos RBDELETEFIXUP na linha 22 para restaurar as propriedades vermelho preto Se y era vermelho as propriedades vermelhopreto ainda são válidas quando y é eliminado ou movido pelas seguintes razões Nenhuma altura preta na árvore mudou Nenhum par de nós vermelhos tornouse adjacente Como y toma o lugar de z na árvore juntamente com a cor de z não podemos ter dois nós vermelhos adjacentes na nova posição de y na árvore Além disso se y não era o filho à direita de z então x o filho à direita original de y substitui y na árvore Se y é vermelho então x deve ser preto portanto substituir y por x não pode fazer com que dois nós vermelhos se tornem adjacentes Visto que y não poderia ter sido a raiz se fosse vermelho a raiz permanece preta Se o nó y era preto poderão surgir três problemas que a chamada de RBDELETEFIXUP remediará Primeiro se y era a raiz e um filho vermelho de y se torna a nova raiz violamos a propriedade 2 Segundo se x e yp que agora também é xp eram vermelhos então violamos a propriedade 4 Terceiro mover y pela árvore faz com que qualquer caminho simples que continha y anteriormente tenha um nó preto a menos Assim a propriedade 5 agora é violada por qualquer ancestral de y na árvore Podemos corrigir a violação da propriedade 5 dizendo que o nó x que agora ocupa a posição original de y tem um preto extra Isto é se somarmos 1 à contagem de nós pretos em qualquer caminho simples que contenha x então por essa interpretação a propriedade 5 se mantém válida Quando extraímos ou movimentamos o nó preto y impomos sua negritude ao nó x O problema é que agora o nó x não é nem vermelho nem preto o que viola a propriedade 1 Em vez disso o nó x é duplamente preto ou vermelho e preto e contribui com 2 ou 1 respectivamente para a contagem de nós pretos em caminhos simples que contêm x O atributo cor de x ainda será VERMELHO se x é vermelho e preto ou PRETO se x é duplamente preto Em outras palavras a consequência desse preto extra em um nó é que x apontará para o nó em vez de para o atributo cor Agora podemos ver o procedimento RBDELETEFIXUP e examinar como ele devolve as propriedades vermelhopreto à árvore de busca 1 2 3 O procedimento RBDELETEFIXUP restaura as propriedades 1 2 e 4 Os Exercícios 1341 e 1342 pedem que você mostre que o procedimento restaura as propriedades 2 e 4 e assim no restante desta seção focalizaremos a propriedade 1 O objetivo do laço while nas linhas 122 é mover o preto extra para cima na árvore até x apontar para um nó vermelho e preto caso em que colorimos x isoladamente de preto na linha 23 x apontar para a raiz caso em que simplesmente removemos o preto extra ou que executadas as operações adequadas de rotações e novas colorações saímos do laço Dentro do laço while x sempre aponta para um nó não raiz duplamente preto Determinamos na linha 2 se x é um filho à esquerda ou um filho à direita de seu pai xp Já fornecemos o código para a situação na qual x é um filho à esquerda a situação na qual x é um filho à direita linha 22 é simétrica Mantemos um ponteiro w para o irmão de x Visto que o nó x é duplamente preto o nó w não pode ser Tnil porque caso contrário o número de pretos no caminho simples de xp até a folha w simplesmente preta seria menor que o número no caminho simples de xp até x Os quatro casos2 no código aparecem na Figura 137 Antes de examinar cada caso em detalhes vamos ver de um modo mais geral como podemos comprovar que em cada um dos casos a transformação preserva a propriedade 5 A ideiachave é que em cada caso a transformação aplicada preserva o número de nós pretos incluindo o preto extra de x da raiz da subárvore inclusive mostrada até cada uma das subárvores α β Assim se a propriedade 5 é válida antes da transformação continua a ser válida depois dela Por exemplo na Figura 137a que ilustra o caso 1 o número de nós pretos da raiz até a subárvore α ou β é 3 antes e também depois da transformação Mais uma vez lembrese de que o nó x adiciona um preto extra De modo semelhante o número de nós pretos da raiz até qualquer das subárvores γ d e e é 2 antes e também depois da transformação Na Figura 137b a contagem deve envolver o valor c do atributo cor da raiz da subárvore mostrada que pode ser VERMELHO ou PRETO Se definirmos contadorVERMELHO 0 e contadorPRETO 1 o número de nós pretos da raiz até α é 2 contadorc antes e também depois da transformação Nesse caso após a transformação o novo nó x tem o atributo cor c mas na realidade é vermelho e preto se c VERMELHO ou duplamente preto se c PRETO Os outros casos podem ser verificados de maneira semelhante veja o Exercício 1345 Caso 1 o irmão w de x é vermelho O caso 1 linhas 58 de RBDELETEFIXUP e Figura 137a ocorre quando o nó w o irmão do nó x é vermelho Visto que w deve ter filhos pretos podemos trocar as cores de w e xp e depois executar uma rotação para a esquerda em xp sem violar qualquer das propriedades vermelhopreto O novo irmão de x que é um dos filhos de w antes da rotação agora é preto e assim convertemos o caso 1 no caso 2 3 ou 4 Os casos 2 3 e 4 ocorrem quando o nó w é preto eles são distinguidos pelas cores dos filhos de w Figura 137 Os casos no laço while do procedimento RBDELETEfIXUP Nós em negro têm atributos cor PRETO nós sombreados em tom mais escuro têm atributos cor VERMELHO e nós sombreados em tom mais claro têm atributos cor representados por c e c que podem ser VERMELHO ou PRETO As letras α β representam subárvores arbitrárias Cada caso transforma a configuração à esquerda na configuração à direita mudando algumas cores eou executando uma rotação Qualquer nó apontado por x tem um preto extra e é duplamente preto ou vermelho e preto Somente o caso 2 faz o laço se repetir a O caso 1 é transformado no caso 2 3 ou 4 trocando as cores dos nós B e D e executando uma rotação para a esquerda b No caso 2 o preto extra representado pelo ponteiro x é deslocado para cima na árvore colorindo o nó D de vermelho e ajustando x para apontar para o nó B Se entrarmos no caso 2 por meio do caso 1 o laço while termina já que o novo nó x é vermelho e preto e portanto o valor c de seu atributo cor é VERMELHO c O caso 3 é transformado no caso 4 trocando as cores dos nós C e D e executando uma rotação para a direita d O caso 4 remove o preto extra representado por x mudando algumas cores e executando uma rotação para a esquerda sem violar as propriedades vermelhopreto e então o laço termina Caso 2 o irmão w de x é preto e os filhos de w são pretos No caso 2 linhas 1011 de RBDELETEFIXUP e Figura 137b os filhos de w são pretos Visto que w também é preto retiramos um preto de x e também de w deixando x com apenas um preto e deixando w vermelho Para compensar a remoção de um preto de x e de w gostaríamos de adicionar um preto extra a xp que era originalmente vermelho ou preto Fazemos isso repetindo o laço while com xp como o novo nó x Observe que se entrarmos no caso 2 por meio do caso 1 o novo nó x será vermelho e preto já que o xp original era vermelho Consequentemente o valor c do atributo cor do novo nó x é VERMELHO e o laço termina quando testa a condição de laço Então colorimos o novo nó x de preto simplesmente na linha 23 Caso 3 o irmão w de x é preto o filho à esquerda de w é vermelho e o filho à direita de w é preto 1341 1342 1343 1344 1345 1346 1347 O caso 3 linhas 1316 e Figura 137c ocorre quando w é preto seu filho à esquerda é vermelho e seu filho à direita é preto Podemos permutar as cores de w e de seu filho à esquerda wesquerda e então executar uma rotação para a direita em w sem violar qualquer das propriedades vermelhopreto O novo irmão w de x é agora um nó preto com um filho à direita vermelho e assim transformamos o caso 3 no caso 4 Caso 4 o irmão w de x é preto e o filho à direita de w é vermelho O caso 4 linhas 1721 e Figura 137d ocorre quando o irmão w do nó x é preto e o filho à direita de w é vermelho Fazendo algumas mudanças de cores e executando uma rotação para a esquerda em xp podemos remover o preto extra em x tornandoo unicamente preto sem violar qualquer das propriedades vermelhopreto Definir x como a raiz faz o laço while terminar ao testar a condição de laço Análise Qual é o tempo de execução de RBDELETE Visto que a altura de uma árvore vermelhopreto de n nós é Olg n o custo total do procedimento sem a chamada a RBDELETEFIXUP demora o tempo Olg n Dentro de RBDELETEFIXUP cada um dos casos 1 3 e 4 leva ao término depois de executar um número constante de mudanças de cores e no máximo três rotações O caso 2 é o único no qual o laço while pode ser repetido e então o ponteiro x se move para cima na árvore no máximo Olg n vezes sem executar nenhuma rotação Assim o procedimento RBDELETEFIXUP demora o tempo Olg n e executa no máximo três rotações e portanto o tempo global para RBDELETE também é Olg n Exercícios Mostre que após a execução de RBDELETEFIXUP a raiz da árvore tem de ser preta Mostre que se x e xp são vermelhos em RBDELETE então a propriedade 4 é restabelecida pela chamada a RBDELETEFIXUPT x No Exercício 1332 você determinou a árvore vermelhopreto que resulta da inserção sucessiva das chaves 41 38 31 12 19 8 em uma árvore inicialmente vazia Agora mostre as árvores vermelhopreto que resultam da eliminação sucessiva das chaves na ordem 8 12 19 31 38 41 Em quais linhas do código de RBDELETEFIXUP poderíamos examinar ou modificar a sentinela Tnil Em cada um dos casos da Figura 137 dê a contagem de nós pretos da raiz da subárvore mostrada até cada uma das subárvores α β e confirme que cada contagem permanece a mesma depois da transformação Quando um nó tiver um atributo cor c ou c use a notação contagemc ou contagemc simbolicamente em sua contagem Os professores Skelton e Baron estão preocupados porque no início do caso 1 de RBDELETEFIXUP o nó xp poderia não ser preto Se os professores estão corretos as linhas 56 estão erradas Mostre que xp deve ser preto no início do caso 1 e portanto os professores não precisam se preocupar Suponha que um nó x seja inserido em uma árvore vermelhopreto com RBINSERT e então imediatamente eliminado com RBDELETE A árvore vermelhopreto resultante é igual à árvore vermelhopreto inicial Justifique sua resposta 131 a b c d e Problemas Conjuntos dinâmicos persistentes Durante o curso de um algoritmo às vezes percebemos que precisamos manter versões anteriores de um conjunto dinâmico à medida que ele é atualizado Tal conjunto é denominado persistente Um modo de implementar um conjunto persistente é copiar o conjunto inteiro sempre que ele é modificado mas essa abordagem pode reduzir a velocidade de um programa e também consumir muito espaço Às vezes podemos nos sair muito melhor Considere um conjunto persistente S com as operações INSERT DELETE e SEARCH que implementamos usando árvores de busca binária como mostra a Figura 138a Mantemos uma raiz separada para cada versão do conjunto Para inserir a chave 5 no conjunto criamos um novo nó com chave 5 Esse nó se torna o filho à esquerda de um novo nó com chave 7 já que não podemos modificar o nó existente com chave 7 De modo semelhante o novo nó com chave 7 se torna o filho à esquerda de um novo nó com chave 8 cujo filho à direita é o nó existente com chave 10 O novo nó com chave 8 se torna por sua vez o filho à direita de uma nova raiz r com chave 4 cujo filho à esquerda é o nó existente com chave 3 Assim copiamos apenas parte da árvore e compartilhamos alguns dos nós com a árvore original como mostra a Figura 138b Considere que cada nó da árvore tenha os atributos chave esquerda e direita mas nenhum pai Consulte também o Exercício 1336 No caso geral de uma árvore de busca binária persistente identifique os nós que precisamos mudar para inserir uma chave k ou eliminar um nó y Escreva um procedimento PERSISTENTTREEINSERT que dada uma árvore persistente T e uma chave k a ser inserida retorne uma nova árvore persistente T que é o resultado da inserção de k em T Se a altura da árvore de busca binária persistente T é h quais são os requisitos de tempo e espaço da sua implementação de PERSISTENTTREEINSERT O requisito de espaço é proporcional ao número de novos nós alocados Suponha que tivéssemos incluído o atributo pai em cada nó Nesse caso PERSISTENTTREEINSERT precisaria executar cópia adicional Prove que então PERSISTENTTREEINSERT exigiria tempo e espaço n onde n é o número de nós na árvore Mostre como usar árvores vermelhopreto para garantir que o tempo de execução do pior caso e o espaço são Olg n por inserção ou eliminação 132 a b c d e f 133 Figura 138 a Uma árvore de busca binária com chaves 2 3 4 7 8 10 b A árvore de busca binária persistente que resulta da inserção da chave 5 A versão mais recente do conjunto consiste nos nós acessíveis que partem da raiz r e a versão anterior consiste nos nós acessíveis a partir de r Os nós sombreados em tom mais escuro são adicionados quando a chave 5 é inserida Operação de junção em árvores vermelhopreto A operação de junção toma dois conjuntos dinâmicos S1 e S2 e um elemento x tal que para qualquer x1 S1 e x2 S2 temos x1chave xchave x2chave Ela retorna um conjunto S S1 x S2 Neste problema investigamos como implementar a operação de junção em árvores vermelhopreto Dada uma árvore vermelhopreto T armazenamos sua altura preta como o novo atributo Tbh Mostre que RBINSERT e RBDELETE podem manter o atributo bh sem exigir armazenamento extra nos nós da árvore e sem aumentar os tempos de execução assintóticos Mostre que enquanto descemos em T podemos determinar a altura preta de cada nó que visitamos no tempo O1 por nó visitado Desejamos implementar a operação RBJOINT1 x T2 o que destrói T1 e T2 e retorna uma árvore vermelho preto T T1 x T2 Seja n o número de nós em T1 e T2 Suponha que T1bh T2bh Descreva um algoritmo de tempo Olg n que encontre um nó preto y em T1 com a maior chave entre os nós cuja altura preta é T2bh Seja Ty a subárvore com raiz em y Descreva como Ty x T2 pode substituir Ty no tempo O1 sem destruir a propriedade de árvore de busca binária Que cor x deve ter para que as propriedades vermelhopreto 1 3 e 5 sejam mantidas Descreva como impor as propriedades 2 e 4 no tempo Olg n Demonstre que nenhuma generalidade é perdida por adotarmos a premissa na parte b Descreva a situação simétrica que surge quando T1bh T2bh Mostre que o tempo de execução de RBJOIN é Olg n Árvores AVL Uma árvore AVL é uma árvore de busca binária de altura balanceada para cada nó x a diferença entre as alturas das subárvores à esquerda e à direita de x é no máximo 1 Para implementar uma árvore AVL a b c d 134 mantemos um atributo extra em cada nó xh é a altura do nó x Como em qualquer outra árvore de busca binária T supomos que Traiz aponta para o nó raiz Prove que uma árvore AVL com n nós tem altura Olg n Sugestão Prove que uma árvore AVL de altura h tem no mínimo Fh nós onde Fh é o hésimo número de Fibonacci No caso da inserção em uma árvore AVL primeiro colocamos um nó no lugar adequado em ordem de árvore de busca binária Depois disso a árvore poderia deixar de ser de altura balanceada Especificamente a diferença entre as alturas dos filhos à esquerda e à direita de algum nó poderia ser 2 Descreva um procedimento BALANCEx que toma uma subárvore com raiz em x na qual os filhos à esquerda e à direita são de altura balanceada e a diferença entre suas alturas é no máximo 2 isto é hxdireita hxesquerda 2 e altera a subárvore com raiz em x de modo que ela se torne de altura balanceada Sugestão Use rotações Usando a parte b descreva um procedimento recursivo AVLINSERTx z que toma um nó x dentro de uma árvore AVL e um nó z recentemente criado cuja chave já foi preenchida e adiciona z à subárvore com raiz em x mantendo a propriedade de x ser a raiz de uma árvore AVL Como no procedimento TREEINSERT da Seção 123 considere que zchave já foi preenchida e que zesquerda NIL e zdireita NIL considere também que zh 0 Assim para inserir o nó z na árvore AVL T chamamos AVL INSERTTraiz z Mostre que executar AVLINSERT em uma árvore AVL de n nós leva o tempo Olg n e efetua O1 rotações Treaps Se inserirmos um conjunto de n itens em uma árvore de busca binária a árvore resultante pode ficar terrivelmente desbalanceada o que resulta em tempos de busca longos Porém como vimos na Seção 124 árvores de busca binária construídas aleatoriamente tendem a ser balanceadas Portanto uma estratégia que em média constrói uma árvore balanceada para um conjunto fixo de itens seria permutar aleatoriamente os itens e então inserilos na árvore nessa ordem E se não tivermos todos os itens ao mesmo tempo Se recebermos os itens um de cada vez ainda poderemos construir uma árvore de busca binária aleatoriamente com eles Examinaremos uma estrutura de dados que dá uma resposta afirmativa a essa pergunta Um treap é uma árvore de busca binária cujo modo de ordenar os nós é modificado A Figura 139 mostra um exemplo Como sempre cada nó x na árvore tem um valor de chave xchave Além disso atribuímos xprioridade que é um número aleatório escolhido independentemente para cada nó Supomos que todas as prioridades são distintas e também que todas as chaves são distintas Os nós do treap são ordenados de modo que as chaves obedeçam à propriedade de árvore de busca binária e que as prioridades obedeçam à propriedade de ordem de heap de mínimo Se é um filho à esquerda de u então vchave uchave Se é um filho à direita de u então vchave uchave Se é um filho de u então vprioridade uprioridade Essa combinação de propriedades é o motivo por que a árvore é denominada treap ela tem características de uma árvore tree em inglês de busca binária e de um heap É conveniente pensar em treaps como descrevemos a seguir Suponha que inserimos nós x1 x2 xn com chaves associadas em um treap Então o treap resultante é a árvore que teria sido formada se os nós fossem inseridos em uma árvore de busca a b c binária normal na ordem dada por suas prioridades escolhidas aleatoriamente isto é xiprioridade xjprioridade significa que xi foi inserido antes de xj Mostre que dado um conjunto de nós x1 x2 xn com chaves e prioridades associadas todas distintas existe um único treap associado a esses nós Mostre que a altura esperada de um treap é Qlg n e consequentemente o tempo para procurar um valor no treap é Qlg n Vamos ver como inserir um novo nó em um treap existente A primeira coisa a fazer é atribuir uma prioridade aleatória ao novo nó Então chamamos o algoritmo de inserção que denominamos TREAPINSERT cuja operação está ilustrada na Figura 1310 Explique como TREAPINSERT funciona Explique a ideia em linguagem comum e dê o pseudocódigo Sugestão Execute o procedimento habitual de inserção em árvore de busca binária e depois execute rotações para restaurar a propriedade de ordem de heap de mínimo Figura 139 Um treap Cada nó x é identificado com xchave xprioridade Por exemplo a raiz tem chave G e prioridade 4 d Figura 1310 A operação de tREAPiNSERT a O treap original antes da inserção b O treap depois da inserção de um nó com chave C e prioridade 25 cd Fases intermediárias quando é inserido um nó com chave D e prioridade 9 e O treap depois de terminada a inserção das partes c e d f O treap depois da inserção de um nó com chave F e prioridade 2 Mostre que o tempo de execução esperado de TREAPINSERT é Qlg n TREAPINSERT executa uma busca e depois uma sequência de rotações Embora tenham o mesmo tempo de execução esperado essas duas operações têm custos diferentes na prática Uma busca lê informações do treap sem modificála Ao contrário uma rotação muda ponteiros pai e filho dentro do treap Na maioria dos computadores operações de leitura são muito mais rápidas que operações de escrita Assim seria bom que TREAPINSERT executasse poucas rotações Mostraremos que o número esperado de rotações executadas é limitado por uma constante Para tal precisaremos de algumas definições que estão ilustradas na Figura 1311 A espinha esquerda de uma árvore de busca binária T é o caminho simples da raiz até o nó que tenha a menor chave Em outras palavras a espinha esquerda é o caminho simples que parte da raiz e consiste apenas em arestas à esquerda Simetricamente a espinha direita de T é o caminho simples que parte da raiz e consiste somente em arestas à direita O comprimento de uma espinha é o número de nós que ela contém e f g h i Figura 1311 Espinhas de uma árvore de busca binária A espinha esquerda está sombreada em a e a espinha direita está sombreada em b Considere que o treap T imediatamente após TREAPINSERT inseriu o nó x Seja C o comprimento da espinha direita da subárvore esquerda de x Seja D o comprimento da espinha esquerda da subárvore direita de x Prove que o número total de rotações que foram executadas durante a inserção de x é igual a C D Agora calcularemos os valores esperados de C e D Sem prejuízo da generalidade consideramos que as chaves são 1 2 n já que estamos comparando essas chaves apenas entre si Para os nós x e y no treap T onde y x seja k xchave e i ychave Definimos variáveis aleatórias indicadoras Xi k I y está na espinha direita da subárvore esquerda de x Mostre que Xik 1 se e somente se yprioridade xprioridade ychave xchave e para todo z tal que ychave zchave xchave temos yprioridade zprioridade Mostre que Mostre que Use um argumento de simetria para mostrar que j Conclua que o número esperado de rotações executadas quando um nó é inserido em um treap é menor que 2 NOTAS DO CAPÍTULO A ideia de balancear uma árvore de busca se deve a AdelsonVelinski e Landis 2 que apresentaram em 1962 uma classe de árvores de busca balanceadas denominada árvores AVL descrita no Problema 133 Uma outra classe de árvores de busca denominada árvores 23 foi apresentada por J E Hopcroft mas não publicada em 1970 Uma árvore 23 mantém o equilíbrio manipulando os graus de nós na árvore O Capítulo 18 apresenta uma generalização de árvores 23 apresentada por Bayer e McCreight 32 denominadas árvores B Árvores vermelhopreto foram criadas por Bayer 34 sob o nome árvores B binárias simétricas Guibas e Sedgewick 155 estudaram extensamente suas propriedades e introduziram a convenção de cores vermelhopreto Andersson 15 dá uma variante de árvores vermelhopreto mais simples de codificar Weiss 351 chama essa variante de árvores AA Uma árvore AA é semelhante a uma árvore vermelhopreto exceto que os filhos à esquerda nunca podem ser vermelhos Treaps o assunto do Problema 134 foram propostas por Seidel e Aragon 309 São a implementaçãopadrão de um dicionário em LEDA Library of Efficient Data types and Algorithms 253 que é uma coleção bem implementada de estruturas de dados e algoritmos Há muitas outras variantes em árvores binárias balanceadas incluindo árvores de peso balanceado 264 árvores de k vizinhos 245 e as árvores de bode expiatório 127 Talvez as mais curiosas sejam as árvores oblíquas splay trees introduzidas por Sleator e Tarjan 320 que são autoajustáveis Uma boa descrição de árvores oblíquas é dada por Tarjan 330 Árvores oblíquas mantêm equilíbrio sem qualquer condição explícita de equilíbrio como cor Em vez disso operações oblíquas que envolvem rotações são executadas dentro da árvore toda vez que um acesso é executado O custo amortizado veja o Capítulo 17 de cada operação em uma árvore de n nós é Olg n As listas de saltos 286 dão uma alternativa às árvores binárias balanceadas Uma lista de saltos é uma lista ligada que é ampliada com uma quantidade de ponteiros adicionais Cada operação de dicionário é executada no tempo esperado Olg n em uma lista de saltos de n itens 1 O caso 2 volta a cair no caso 3 e portanto esses dois casos não são mutuamente exclusivos 2 Como em RBInsertFixup os casos em RBDeleteFixup não são mutuamente exclusivos 141 14 AUMENTANDO ESTRUTURAS DE DADOS Algumas situações de engenharia não exigem mais que uma estrutura de dados de livro didático como uma lista duplamente ligada uma tabela hash ou uma árvore de busca binária mas muitas outras exigem uma pitada de criatividade Entretanto apenas em raras situações você precisará criar um tipo inteiramente novo de estrutura de dados No mais das vezes será suficiente aumentar uma estrutura de dados comum e nela armazenar informações adicionais Então você poderá programar novas operações para que a estrutura de dados suporte a aplicação desejada Porém aumentar uma estrutura de dados nem sempre é uma operação direta já que as informações adicionadas devem ser atualizadas e mantidas pelas operações originais da estrutura Este capítulo discute duas estruturas de dados que construímos aumentando as árvores vermelhopreto A Seção 141 descreve uma estrutura de dados que suporta operações gerais de estatísticas de ordem em um conjunto dinâmico Então poderemos encontrar rapidamente o iésimo menor número em um conjunto ou o posto de um dado elemento na ordenação total do conjunto A Seção 142 abstrai o processo de aumentar uma estrutura de dados e fornece um teorema que pode simplificar o processo de aumento de árvores vermelhopreto A Seção 143 utiliza esse teorema para ajudar a projetar uma estrutura de dados para manter um conjunto dinâmico de intervalos como intervalos de tempo Dado um intervalo de consultas poderemos encontrar rapidamente um intervalo no conjunto que se sobreponha a ele ESTATÍSTICAS DE ORDEM DINÂMICAS O Capítulo 9 apresentou a noção de estatística de ordem Especificamente a iésima estatística de ordem de um conjunto de n elementos onde i 1 2 n é simplesmente o elemento no conjunto que tenha a iésima menor chave Vimos como determinar qualquer estética de ordem no tempo On em um conjunto não ordenado Nesta seção veremos como modificar as árvores vermelhopreto para podermos determinar qualquer estatísttica de ordem no tempo Olg n Veremos também como calcular o posto de um elemento sua posição na ordem linear do conjunto no tempo Olg n A Figura 141 mostra uma estrutura de dados que pode suportar operações rápidas de estatísticas de ordem Uma árvore de estatísticas de ordem T é simplesmente uma árvore vermelhopreto com informações adicionais armazenadas em cada nó Além dos atributos habituais da árvore vermelhopreto xchave xcor xp xesquerda e xdireita em um nó x temos outro atributo xtamanho Esse atributo contém o número de nós internos na subárvore com raiz em x incluindo o próprio x isto é o tamanho da subárvore Se definirmos o tamanho da sentinela como 0 isto é se definirmos tamanhonilT como 0 então teremos a identidade xtamanho xesquerdatamanho xdireitatamanho 1 Figura 141 Uma árvore de estatísticas de ordem que é uma árvore vermelhopreto aumentada Os nós em cinzento são vermelhos e os nós em negro são pretos Além de seus atributos habituais cada nó x tem um atributo xtamanho que é o número de nós na subárvore com raiz em x Não exigimos que as chaves sejam distintas em uma árvore de estatísticas de ordem Por exemplo a árvore da Figura 141 tem duas chaves com valor 14 e duas chaves com valor 21 Na presença de chaves iguais a noção de posto que citamos não é bem definida Eliminamos essa ambiguidade para uma árvore de estatísticas de ordem definindo o posto de um elemento como a posição na qual ele seria impresso em um percurso em inordem da árvore Por exemplo na Figura 141 a chave 14 armazenada em um nó preto tem ordem 5 e a chave 14 armazenada em um nó vermelho tem ordem 6 Recuperação de um elemento com determinado posto Antes de mostrar como manter as informações de tamanho durante inserção e eliminação vamos examinar a implementação de duas consultas de estatísticas de ordem que utilizam essas informações adicionais Começamos com uma operação que recupera um elemento com um determinado posto O procedimento OSSELECTx i retorna um ponteiro para o nó que contém a iésima menor chave na subárvore com raiz em x Para encontrar o nó com a iésima menor chave em uma árvore de estatísticas de ordem T chamamos OSSELECTraizT i Na linha 1 de OSSELECT calculamos r o posto do nó x dentro da subárvore com raiz em x O valor de xesquerdatamanho é o número de nós que vêm antes de x em um percurso de árvore em um percurso em inordem da subárvore com raiz em x Assim xesquerdatamanho 1 é o posto de x dentro da subárvore com raiz em x Se i r então o nó x é o iésimo menor elemento e assim retornamos x na linha 3 Se i r então o iésimo menor elemento encontrase na subárvore esquerda de x e portanto fazemos recursão em xesquerda na linha 5 Se i r então o iésimo menor elemento encontrase na subárvore direita de x Visto que a subárvore com raiz em x contém r elementos que vêm antes da subárvore direita de x em um percurso de árvore em ordem o iésimo menor elemento na subárvore com raiz em x é o i résimo menor elemento na subárvore com raiz em xdireita A linha 6 determina esse elemento recursivamente Para ver como OSSELECT funciona considere uma busca pelo 17o menor elemento na árvore de estatísticas de ordem da Figura 141 Começamos com x como a raiz cuja chave é 26 e com i 17 Como o tamanho da subárvore esquerda de 26 é 12 seu posto é 13 Assim sabemos que o nó com posto 17 é o 17 13 4o menor elemento na subárvore direita de 26 Após a chamada recursiva x é o nó com chave 41 e i 4 Visto que o tamanho da subárvore esquerda de 41 é 5 seu posto dentro da sua subárvore é 6 Portanto sabemos que o nó com posto 4 está no 4o menor elemento da subárvore esquerda de 41 Após a chamada recursiva x é o nó com chave 30 e seu posto dentro de sua subárvore é 2 Assim faremos mais uma vez uma recursão para encontrar o 4 2 2o menor elemento na subárvore com raiz no nó com chave 38 Agora descobrimos que sua subárvore esquerda tem tamanho 1 o que significa que ele é o segundo menor elemento Assim o procedimento retorna um ponteiro para o nó com chave 38 Como cada chamada recursiva desce um nível na árvore de estatísticas de ordem o tempo total para OSSELECT é na pior das hipóteses proporcional à altura da árvore Visto que se trata de uma árvore vermelhopreto sua altura é Olg n onde n é o número de nós Assim o tempo de execução de OSSELECT é Olg n para um conjunto dinâmico de n elementos Determinação do posto de um elemento Dado um ponteiro para um nó x em uma árvore de estatísticas de ordem T o procedimento OSRANK retorna a posição de x na ordem linear determinada por um percurso em inordem da árvore T O procedimento funciona da maneira descrita a seguir Podemos considerar o posto de x como o número de nós que precedem x em um percurso de árvore em inordem mais 1 para o próprio x OSRA N K mantém o seguinte invariante de laço No início de cada iteração do laço while das linhas 3 a 6 r é o posto de xchave na subárvore com raiz no nó y Usamos esse invariante de laço para mostrar que OSRANK funciona corretamente como a seguir Inicialização Antes da primeira iteração a linha 1 atribui a r o posto de xchave dentro da subárvore com raiz em x Fazer y x na linha 2 torna o invariante verdadeiro na primeira vez que o teste na linha 3 é executado Manutenção No fim de cada iteração do laço while atribuímos y yp Assim devemos mostrar que se r é o posto de xchave na subárvore com raiz em y no início do corpo do laço então r é o posto de xchave na subárvore com raiz em yp no fim do corpo do laço Em cada iteração do laço while consideramos a subárvore com raiz em yp Já contamos o número de nós na subárvore com raiz no nó y que precedem x em um percurso em inordem assim devemos adicionar os nós na subárvore com raiz no irmão de y que precedem x em um percurso em inordem mais 1 para yp se ele também precede x Se y é um filho da esquerda nem yp nem qualquer nó na subárvore direita de yp precede x portanto deixamos r como está Caso contrário y é um filho à direita e todos os nós na subárvore esquerda de yp precedem x assim como o próprioyp Portanto na linha 5 adicionamos ypesquerdatamanho 1 ao valor atual de r Término O laço termina quando y Traiz de modo que a subárvore com raiz em y é a árvore inteira Assim o valor de r é o posto de xchave na árvore toda Como exemplo quando executamos OSRANK na árvore de estatísticas de ordem da Figura 141 para encontrar o posto do nó com chave 38 obtemos a seguinte sequência de valores de ychave e r no início do laço while iteração ychave r 1 38 2 2 30 4 3 41 4 4 26 17 O procedimento retorna o posto 17 Visto que cada iteração do laço while leva o tempo O1 e y sobe um nível na árvore com cada iteração o tempo de execução de OSRA N K é na pior das hipóteses proporcional à altura da árvore Olg n em uma árvore de estatísticas de ordem de n nós Manutenção de tamanhos de subárvores Dado o atributo tamanho em cada nó OSSELECT e OSRA N K podem calcular rapidamente informações de estatísticas de ordem Porém a menos que possamos manter eficientemente esses atributos dentro das operações modificadoras básicas em árvores vermelhopreto nosso trabalho terá sido em vão Agora mostraremos como manter tamanhos de subárvores para inserção e eliminação sem afetar os tempos de execução assintóticos de qualquer das operações Observamos na Seção 133 que a inserção em uma árvore vermelhopreto consiste em duas fases A primeira fase percorre a árvore de cima para baixo a partir da raiz inserindo o novo nó como um filho de um nó existente A segunda fase sobe a árvore alterando cores e executando rotações para manter as propriedades vermelhopreto Para manter os tamanhos das subárvores na primeira fase simplesmente incrementamos xtamanho para cada nó x no caminho descendente simples percorrido da raiz até às folhas O novo nó adicionado obtém um tamanho igual a 1 Visto que existem Olg n nós no caminho percorrido o custo adicional de manter os atributos tamanho é Olg n Na segunda fase as únicas mudanças estruturais na árvore vermelhopreto subjacente são causadas por rotações das quais existem no máximo duas Além disso uma rotação é uma operação local somente dois nós têm seus atributos tamanho invalidados A ligação em torno da qual a rotação é executada incide nesses dois nós Referindonos ao código de LEFTROTATE T x na Seção 132 adicionamos as seguintes linhas 12ytamanho xtamanho 13xtamanho xesquerdatamanho xdireitatamanho 1 A Figura 142 ilustra como os atributos são atualizados A mudança em RIGHTROTATE é simétrica Figura 142 Atualização de tamanhos de subárvores durante rotações A ligação em torno da qual a rotação é executada é incidente nos dois nós cujos atributos tamanho precisam ser atualizados As atualizações são locais exigindo apenas as informações tamanho armazenadas em x y e nas raízes das subárvores mostradas como triângulos 1411 1412 1413 1414 1415 1416 1417 1418 142 Visto que são executadas no máximo duas rotações durante a inserção em uma árvore vermelhopreto gastamos somente o tempo adicional O1 na atualização de atributos tamanho na segunda fase Portanto o tempo total para inserção em uma árvore de estatísticas de ordem de n nós é Olg n assintoticamente igual ao de uma árvore vermelhopreto comum A eliminação em uma árvore vermelhopreto também consiste em duas fases a primeira age na árvore de busca subjacente e a segunda provoca no máximo três rotações fora isso não executa nenhuma mudança estrutural consulte a Seção 134 A primeira fase extrai um nó y da árvore ou move esse nó para cima dentro da árvore Para atualizar os tamanhos das subárvores simplesmente percorremos um caminho simples do nó y começando em sua posição original dentro da árvore até a raiz decrementando o atributo tamanho de cada nó no caminho Visto que esse caminho tem o comprimento Olg n em uma árvore vermelhopreto de n nós o tempo adicional despendido na manutenção de atributos tamanho na primeira fase é Olg n Tratamos as O1 rotações na segunda fase de eliminação da mesma maneira que a inserção Assim tanto a inserção quanto a eliminação incluindo a manutenção dos atributos tamanho demoram o tempo Olg n para uma árvore de estatísticas de ordem de n nós Exercícios Mostre como OSSELECTTraiz 10 funciona na árvore vermelhopreto T da Figura 141 Mostre como OSRANKT x funciona na árvore vermelhopreto T da Figura 141 e no nó x com xchave 35 Escreva uma versão não recursiva de OSSELECT Escreva um procedimento recursivo OSKEYRANKT k que tome como entrada uma árvore de estatísticas de ordem T e uma chave k e retorne o posto de k no conjunto dinâmico representado por T Suponha que as chaves de T sejam distintas Dado um elemento x em uma árvore de estatísticas de ordem de n nós e um número natural i de que modo podemos determinar o iésimo sucessor de x na ordem linear da árvore no tempo Olg n Observe que sempre que referenciamos o atributo tamanho de um nó em OSSELECT ou OSRANK o usamos somente para calcular um posto De acordo com isso suponha que armazenemos em cada nó seu posto na subárvore da qual ele é a raiz Mostre como manter essas informações durante inserção e eliminação Lembrese de que essas duas operações podem provocar rotações Mostre como usar uma árvore de estatísticas de ordem para contar o número de inversões ver o Problema 2 4 em um arranjo de tamanho n no tempo On lg n Considere n cordas em um círculo cada uma definida por suas extremidades Descreva um algoritmo de tempo On lg n para determinar o número de pares de cordas que se interceptam no interior do círculo Por exemplo se as n cordas são todas diâmetros que se encontram no centro então a resposta correta é n 2 Suponha que nenhum par de cordas compartilhe um ponto extremo COMO AUMENTAR UMA ESTRUTURA DE DADOS O processo de aumentar uma estrutura de dados básica para suportar funcionalidade adicional ocorre com bastante frequência no projeto de algoritmos Nós o usaremos novamente na próxima seção para projetar uma estrutura 1 2 3 4 de dados que suporta operações em intervalos Nesta seção examinaremos as etapas envolvidas em tal aumento Também provaremos um teorema que nos permite aumentar árvores vermelhopreto facilmente em muitos casos Podemos dividir o processo de aumento de uma estrutura de dados em quatro etapas Escolher uma estrutura de dados subjacente Determinar informações adicionais que devem ser mantidas na estrutura de dados subjacente Verificar se podemos manter as informações adicionais para as operações modificadoras básicas na estrutura de dados subjacente Desenvolver novas operações Como ocorre com qualquer método de projeto prescritivo você não deve seguir cegamente as etapas na ordem dada Praticamente todo trabalho de projeto contém um elemento de tentativa e erro e de modo geral todas as etapas são executadas em paralelo Por exemplo não tem sentido algum determinar informações adicionais e desenvolver novas operações etapas 2 e 4 se não conseguirmos manter as informações adicionais eficientemente Apesar disso esse método de quatro etapas dá um bom foco para seus esforços de aumentar uma estrutura de dados e é também um bom modo de organizar a documentação de uma estrutura de dados aumentada Seguimos essas etapas na Seção 141 para projetar nossas árvores de estatísticas de ordem Na etapa 1 escolhemos as árvores vermelhopreto como a estrutura de dados subjacente Uma pista para determinar a adequação de árvores vermelhopreto vem de seu suporte eficiente para outras operações de conjuntos dinâmicos em uma ordem total como MINIMUM MAXIMUM SUCCESSOR e PREDECESSOR Na etapa 2 acrescentamos o atributo tamanho no qual cada nó x armazena o tamanho da subárvore com raiz em x Em geral as informações adicionais melhoram a eficiência das operações Por exemplo poderíamos ter implementado OSSELECT e OSRA N K usando apenas as chaves armazenadas na árvore mas eles não teriam sido executados em tempo Olg n Algumas vezes as informações adicionais são informações de ponteiros e não de dados como no Exercício 1421 Na etapa 3 asseguramos que a inserção e a eliminação poderiam manter os atributos tamanho e ainda assim serem executadas no tempo Olg n No caso ideal precisaríamos atualizar somente alguns elementos da estrutura de dados para manter as informações adicionais Por exemplo se simplesmente armazenássemos em cada nó o posto que ele ocupa na árvore os procedimentos OSSELECT e OSRANK seriam executados rapidamente mas inserir um novo elemento mínimo causaria uma mudança nessas informações em todos os nós da árvore Porém quando armazenamos tamanhos de subárvores inserir um novo elemento provoca mudanças nas informações de apenas Olg n nós Na etapa 4 desenvolvemos as operações OSSELECT e OSRANK Afinal a necessidade de novas operações é o motivo pelo qual nos preocupamos em aumentar uma estrutura de dados Ocasionalmente em vez de desenvolver novas operações usamos as informações adicionais para acelerar operações existentes como no Exercício 1421 Como aumentar árvores vermelhopreto Quando árvores vermelhopreto formam a base de uma estrutura de dados aumentada podemos provar que inserção e eliminação sempre podem manter eficientemente certos tipos de informações adicionais o que torna a etapa 3 muito fácil A prova do teorema a seguir é semelhante ao argumento da Seção 141 de que podemos manter o atributo tamanho em árvores de estatísticas de ordem Teorema 141 Como aumentar uma árvore vermelhopreto Seja f um atributo que aumenta uma árvore vermelhopreto T de n nós e suponha que o valor de f para cada nó x dependa somente das informações nos nós x xesquerda e xdireita incluindo possivelmente xesquerdaf e xdireitaf Então podemos manter os valores de f em todos os nós de T durante inserção e eliminação sem afetar assintoticamente o desempenho Olg n dessas operações 1421 1422 1423 1424 Prova A principal ideia da prova é que uma mudança em um atributo f em um nó x se propaga apenas até os ancestrais de x na árvore Isto é mudar xf pode exigir que xpf seja atualizado mas nada além disso atualizar xpf pode exigir que xppf seja atualizado mas nada além disso e assim por diante subindo a árvore Uma vez atualizado Traizf nenhum outro nó dependerá do novo valor e assim o processo termina Visto que a altura de uma árvore vermelho preto é Olg n mudar um atributo f em um nó custa o tempo Olg n na atualização de todos os nós que dependem da mudança A inserção de um nó x em T consiste em duas fases consulte a Seção 133 A primeira fase insere x como um filho de um nó existente xp Podemos calcular o valor de xf no tempo O1 já que por hipótese ele depende apenas das informações nos outros atributos do próprio x e das informações nos filhos de x mas os filhos de x são a sentinela Tnil Uma vez calculado xf a mudança se propaga para cima na árvore Assim o tempo total para a primeira fase de inserção é Olg n Durante a segunda fase as únicas mudanças estruturais na árvore vêm de rotações Visto que apenas dois nós mudam em uma rotação o tempo total para atualizar os atributos f é Olg n por rotação Como o número de rotações durante a inserção é no máximo dois o tempo total para inserção é Olg n Como a inserção a eliminação tem duas fases consulte a Seção 134 Na primeira fase as mudanças na árvore ocorrem quando o nó eliminado é removido da árvore Se o nó eliminado tiver dois filhos naquele momento seu sucessor passará para a posição do nó eliminado A propagação até f das atualizações causadas por essas mudanças custa no máximo Olg n já que as mudanças na árvore são locais Corrigir a árvore vermelhopreto durante a segunda fase requer no máximo três rotações e cada rotação requer no máximo o tempo Olg n para propagar as atualizações até f Portanto como a inserção o tempo total para eliminação é Olg n Em muitos casos tal como a manutenção de atributos tamanho em árvores de estatísticas de ordem o custo de atualizar após uma rotação é O1 em vez do custo Olg n deduzido na prova do Teorema 141 O Exercício 1424 dá um exemplo Exercícios Mostre adicionando ponteiros aos nós como suportar cada uma das consultas de conjuntos dinâmicos MINIMUM MAXIMUM SUCCESSOR e PREDECESSOR no tempo de pior caso O1 em uma árvore de estatísticas de ordem aumentada O desempenho assintótico de outras operações em árvores de estatísticas de ordem não deve ser afetado Podemos manter as alturas pretas de nós em uma árvore vermelhopreto como atributos nos nós da árvore sem afetar o desempenho assintótico de qualquer das operações de árvores vermelhopreto Mostre como se sua resposta for positiva ou justifique uma resposta negativa E se quiséssemos manter a profundidade dos nós Seja um operador binário associativo e seja a um atributo mantido em cada nó de uma árvore vermelho preto Suponha que queiramos incluir em cada nó x um atributo adicional f tal que f x x1a x2a xma onde x1 x2 xm é a listagem em ordem de nós da subárvore com raiz em x Mostre como atualizar os atributos f em tempo O1 após uma rotação Modifique ligeiramente seu argumento para aplicálo aos atributos tamanho em árvores de estatísticas de ordem Desejamos aumentar árvores vermelhopreto com uma operação RBENUMERATEx a b que produza todas as chaves k tais que a k b em uma árvore vermelhopreto com raiz em x Descreva como implementar RBENUMERATE em tempo Qm lg n onde m é o número de chaves na saída e n é o número de nós internos na árvore Sugestão Não há necessidade de adicionar novos atributos à árvore vermelhopreto 143 a b c ÁRVORES DE INTERVALOS Nesta seção ampliaremos as árvores vermelhopreto para suportar operações em conjuntos dinâmicos de intervalos Um intervalo fechado é um par ordenado de números reais t1 t2 com t1 t2 O intervalo t1 t2 representa o conjunto t t1 t t2 Intervalos abertos e semiabertos excluem ambas ou uma das extremidades do conjunto respectivamente Nesta seção suporemos que os intervalos são fechados a extensão dos resultados a intervalos abertos e semiabertos é conceitualmente direta Intervalos são convenientes para representar eventos tais que cada um ocupe um período contínuo de tempo Por exemplo poderíamos querer consultar um banco de dados de intervalos de tempo para descobrir quais eventos ocorreram durante um determinado intervalo A estrutura de dados nesta seção fornece um meio eficiente para manter esse banco de dados de intervalos Podemos representar um intervalo t1 t2 como um objeto i com atributos ibaixo t1 o ponto extremo baixo e ialto t2 o ponto extremo alto Dizemos que os intervalos i e i se sobrepõem se i i isto é se ibaixo ialto e ibaixo ialto Como mostra a Figura 143 quaisquer dois intervalos i e i satisfazem a tricotomia de intervalos isto é exatamente uma das três propriedades a seguir é válida i e i se sobrepõem i está à esquerda de i isto é ialto ibaixo i está à direita de i isto é ialto ibaixo Uma árvore de intervalos é uma árvore vermelhopreto que mantém um conjunto dinâmico de elementos sendo que cada elemento x contém um intervalo xint Árvores de intervalos suportam as seguintes operações INTERVALINSERTT x acrescenta o elemento x à árvore de intervalos T Supõese que o atributo int desse elemento contém um intervalo INTERVALDELETET x remove o elemento x da árvore de intervalos T INTERVALSEARCHT i retorna um ponteiro para um elemento x na árvore de intervalos T tal que xint se sobrepõe ao intervalo i ou um ponteiro para a sentinela Tnil se não existir tal elemento no conjunto A Figura 144 mostra como uma árvore de intervalos representa um conjunto de intervalos Acompanharemos o método de quatro etapas da Seção 142 ao mesmo tempo que revisamos o projeto de uma árvore de intervalos e as operações nela executadas Figura 143 A tricotomia de intervalos para dois intervalos fechados i e i a Se i e i se sobrepõem há quatro situações em cada uma ibaixo ialto e ibaixo ialto b Os intervalos não se sobrepõem e ialto ibaixo c Os intervalos não se sobrepõem e ialto ibaixo Etapa 1 Estrutura de dados subjacente Escolhemos uma árvore vermelhopreto na qual cada nó x contém um intervalo xint e a chave de x é o ponto extremo baixo xintbaixo do intervalo Assim um percurso de árvore em inordem pela estrutura de dados produz uma lista de intervalos em sequência ordenada pelo ponto extremo menor Etapa 2 Informações adicionais Além dos próprios intervalos cada nó x contém um valor xmax que é o valor máximo de qualquer ponto extremo de intervalo armazenado na subárvore com raiz em x Etapa 3 Manutenção das informações Temos de verificar que inserção e eliminação em uma árvore de intervalos de n nós demoram o tempo Olg n Podemos determinar xmax dado o intervalo xint e os valores max dos filhos do nó x xmax maxxintalto xesquerdamax xdireitamax Assim pelo Teorema 141 inserção e eliminação são executadas no tempo Olg n De fato podemos atualizar os atributos max após uma rotação no tempo O1 como mostram os Exercícios 1423 e 1431 Figura 144 Uma árvore de intervalos a Um conjunto de 10 intervalos mostrados em sequência ordenada de baixo para cima por ponto extremo esquerdo b A árvore de intervalos que os representa Cada nó x contém um intervalo mostrado acima da linha tracejada e o máximo valor de qualquer ponto extremo de intervalo na subárvore com raiz em x mostrado abaixo da linha tracejada Um percurso em inordem da árvore produz uma lista de nós em sequência ordenada por ponto extremo esquerdo Etapa 4 Desenvolvimento de novas operações A única operação nova de que necessitamos é INTERVALSEARCHT i que encontra um nó na árvore T cujo intervalo se sobrepõe ao intervalo i Se não existir nenhum intervalo que se sobreponha a i na árvore o procedimento retorna um ponteiro para a sentinela nilT A busca de um intervalo que se sobreponha a i começa com x na raiz da árvore prossegue no sentido descendente e termina quando encontra um intervalo sobreposto ou quando x aponta para a sentinela Tnil Como cada iteração do laço básico demora o tempo O1 e visto que a altura de uma árvore vermelhopreto de n nós é Olg n o procedimento INTERVALSEARCH demora o tempo Olg n Antes de vermos por que INTERVALSEARCH é correto vamos examinar como ele funciona na árvore de intervalos da Figura 144 Vamos supor que desejamos encontrar um intervalo que se sobreponha ao intervalo i 22 25 Começamos com o nó x como raiz o qual contém 16 21 e não se sobrepõe a i Visto que xesquerdamax 23 é maior que ibaixo 22 o laço continua com x como o filho à esquerda da raiz o nó que contém 8 9 que também não se sobrepõe a i Dessa vez xesquerdamax 10 é menor que ibaixo 22 e assim o laço continua com o filho à direita de x como o novo x Como o intervalo 15 23 armazenado nesse nó se sobrepõe a i o procedimento retorna esse nó Como exemplo de uma busca malsucedida suponha que desejemos encontrar um intervalo que se sobreponha a i 11 14 na árvore de intervalos da Figura 144 Mais uma vez começamos com x como a raiz Visto que o intervalo 16 21 da raiz não se sobrepõe a i e visto que xesquerdamax 23 é maior que ibaixo 11 vamos para a esquerda até o nó que contém 8 9 O intervalo 8 9 não se sobrepõe a i e xesquerdamax 10 é menos que ibaixo 11 e portanto vamos para a direita Observe que nenhum intervalo na subárvore à esquerda se sobrepõe a i O intervalo 15 23 não se sobrepõe a i e seu filho à esquerda é Tnil assim vamos novamente para a direita o laço termina e retornamos a sentinela Tnil Para ver por que INTERVALSEARCH é correto devemos entender por que basta examinar um único caminho simples que parte da raiz A ideia básica é que em qualquer nó x se xint não se sobrepõe a i a busca sempre prossegue em uma direção segura a busca definitivamente encontrará um intervalo sobreposto se a árvore contiver algum O teorema a seguir enuncia essa propriedade de modo mais preciso Teorema 142 Qualquer execução de INTERVALSEARCHT i devolve um nó cujo intervalo se sobrepõe a i ou devolve Tnil e a árvore T não contém nenhum nó cujo intervalo se sobrepõe a i Prova O laço while das linhas 2 a 5 termina quando x Tnil ou i se sobrepõe a xint Nesse último caso certamente é correto devolver x Portanto vamos focalizar o primeiro caso no qual o laço while termina porque x Tnil Usamos o seguinte invariante para o laço while das linhas 2 a 5 Se a árvore T contém um intervalo que se sobrepõe a i então a subárvore com raiz em x contém tal intervalo Figura 145 Intervalos na prova do Teorema 142 O valor de xesquerdamax é mostrado em cada caso como uma linha tracejada a A busca vai para a direita Nenhum intervalo i na subárvore à esquerda de x pode se sobrepor a i b A busca vai para a esquerda A subárvore à esquerda de x contém um intervalo que se sobrepõe a i situação não mostrada ou a árvore à esquerda de x contém um intervalo i tal que ialto xesquerdamax Visto que i não se sobrepõe a i também não se sobrepõe a nenhum intervalo i na subárvore à direita de x já que ibaixo ibaixo Usamos esse invariante de laço da seguinte maneira Inicialização Antes da primeira iteração a linha 1 atribui a raiz de T a x de modo que o invariante é válido Manutenção Cada iteração do laço while executa a linha 4 ou a linha 5 Mostraremos que ambos os casos mantêm o invariante de laço Se a linha 5 é executada em razão da condição de desvio na linha 3 temos xesquerda Tnil ou xesquerdamax ibaixo Se xesquerda Tnil a subárvore com raiz em xesquerda claramente não contém nenhum intervalo que se sobreponha a i e assim definir x como xdireita mantém o invariante Portanto suponha que xesquerda Tnil e xesquerdamax ibaixo Como mostra a Figura 145 para cada intervalo i na subárvore à esquerda de x temos Portanto pela tricotomia de intervalos i e i não se sobrepõem Assim a subárvore à esquerda de x não contém nenhum intervalo que se sobreponha a i de modo que atribuir xdireita a x como mantém o invariante Se por outro lado a linha 4 for executada mostraremos que o contrapositivo do invariante de laço é válido Isto é se a subárvore com raiz em xesquerda não contiver nenhum intervalo que se sobreponha a i não há nenhum intervalo em nenhum lugar da árvore que se sobreponha a i Visto que a linha 4 é executada em razão da condição de desvio na linha 3 temos xesquerdamax ibaixo Além disso pela definição do atributo max a subárvore esquerda de x deve conter algum intervalo i tal que A Figura 145b ilustra a situação Visto que i e i não se sobrepõem e como não é verdade que ialto ibaixo decorre pela tricotomia de intervalos que ialto ibaixo As árvores de intervalos são chaveadas nas extremidades baixas de intervalos e assim a propriedade de árvore de busca implica que para qualquer intervalo i na subárvore direita de x 1431 1432 1433 1434 1435 1436 1437 Pela tricotomia de intervalos i e i não se sobrepõem Concluímos que independentemente de qualquer intervalo na subárvore esquerda de x se sobrepor ou não a i atribuir xesquerda a x mantém o invariante Término Se o laço termina quando x Tnil a subárvore com raiz em x não contém nenhum intervalo que se sobreponha a i O contrapositivo do invariante de laço implica que T não contém nenhum intervalo que se sobreponha a i Daí é correto retornar x Tnil Portanto o procedimento INTERVALSEARCH funciona corretamente Exercícios Escreva pseudocódigo para LEFTROTATE que opere em nós em uma árvore de intervalos e atualize os atributos max no tempo O1 Reescreva o código para INTERVALSEARCH de modo que ele funcione adequadamente quando todos os intervalos são abertos Descreva um algoritmo eficiente que dado um intervalo i retorne um intervalo que se sobreponha a i que tenha o ponto extremo baixo mínimo ou Tnil se aquele intervalo não existir Dada uma árvore de intervalos T e um intervalo i descreva como produzir uma lista com todos os intervalos em T que se sobrepõem a i no tempo Ominn k lg n onde k é o número de intervalos na lista de saída Sugestão Um método simples executa várias consultas modificando a árvore entre as consultas Um método ligeiramente mais complicado não modifica a árvore Sugira modificações para os procedimentos de árvores de intervalos para suportar a nova operação INTERVAL SEARCHEXACTLYT i onde T é uma árvore de intervalos e i é um intervalo A operação deve retornar um ponteiro para um nó x em T tal que xint baixo ibaixo e xintalto ialto ou Tnil se T não contiver nenhum nó desse tipo Todas as operações incluindo INTERVALSEARCHEXACTILY devem ser executadas no tempo Olg n em uma árvore de n nós Mostre como manter um conjunto dinâmico Q de números que suporta a operação MINGAP que dá a magnitude da diferença entre os dois números mais próximos em Q Por exemplo se Q 1 5 9 15 18 22 então MINGAPQ retorna 18 15 3 já que 15 e 18 são os dois números mais próximos em Q Maximize a eficiência das operações INSERT DELETE SEARCH e MINGAP e analise seus tempos de execução Normalmente os bancos de dados de VLSI representam um circuito integrado como uma lista de retângulos Suponha que os lados de cada retângulo estejam alinhados paralelamente aos eixos x e y de modo que podemos representar cada um deles por suas coordenadas x e y mínima e máxima Dê um algoritmo de tempo On lg n para decidir se um conjunto de n retângulos assim representados contém ou não dois retângulos que se sobrepõem Seu algoritmo não precisa informar todos os pares que se interceptam mas deve informar que existe uma sobreposição se um retângulo cobrir inteiramente outro retângulo ainda que as linhas de contorno não se interceptem Sugestão Movimente uma linha de varredura pelo conjunto de retângulos 141 a b 142 a b a Problemas Ponto de sobreposição máxima Suponha que desejemos manter o controle de um ponto de sobreposição máxima em um conjunto de intervalos um ponto que tenha o maior número de intervalos no banco de dados que se sobreponham a ele Mostre que sempre existirá um ponto de sobreposição máxima que é uma extremidade de um dos segmentos Projete uma estrutura de dados que suporte eficientemente as operações INTERVALINSERT INTERVALDELETE e FINDPOM que retorna um ponto de sobreposição máxima Sugestão Mantenha uma árvore vermelho preto de todas as extremidades Associe o valor 1 a cada ponto extremo esquerdo e associe o valor 1 a cada ponto extremo direito Aumente cada nó da árvore com algumas informações extras para manter o ponto de sobreposição máxima Permutação de Josephus Definimos o problema de Josephus da seguinte maneira Suponha que n pessoas formem um círculo e que temos um inteiro positivo m n Começando com uma primeira pessoa designada prosseguimos em torno do círculo retirando cada mésima pessoa Depois que cada pessoa é retirada a contagem continua em torno do círculo restante Esse processo continua até retirarmos todas as n pessoas do círculo A ordem em que as pessoas são retiradas do círculo define a permutação de Josephus n m dos inteiros 1 2 n Por exemplo a permutação de Josephus 7 3 é 3 6 2 7 5 1 4 Suponha que m seja uma constante Descreva um algoritmo de tempo On que dado um inteiro n dê como saída a permutação de Josephus n m Suponha que m não seja uma constante Descreva um algoritmo de tempo On lg n que dados os inteiros n e m dê como saída a permutação de Josephus n m NOTAS DO CAPÍTULO Em seu livro Preparata e Shamos 282 descrevem várias árvores de intervalos que aparecem na literatura citando o trabalho de H Edelsbrunner 1980 e E M McCreight 1981 O livro detalha uma árvore de intervalos que dado um banco de dados estático de n intervalos nos permite enumerar no tempo Ok lg n todos os k intervalos que se sobrepõem a um determinado intervalo de consulta Parte IV TÉCNICAS AVANÇADAS DE PROJETO E ANÁLISE INTRODUÇÃO Esta parte focaliza três técnicas importantes para projeto e análise de algoritmos eficientes programação dinâmica Capítulo 15 algoritmos gulosos Capítulo 16 e análise amortizada Capítulo 17 Partes anteriores apresentaram outras técnicas de extensa aplicação como divisão e conquista aleatorização e solução de recorrências As técnicas aqui apresentadas são um pouco mais sofisticadas mas nos ajudam a abordar muitos problemas de computação Os temas introduzidos nesta parte aparecerão mais adiante no livro A programação dinâmica se aplica tipicamente a problemas de otimização nos quais fazemos um conjunto de escolhas para chegar a uma solução ótima Ao fazermos cada escolha muitas vezes surgem subproblemas do mesmo tipo do problema geral abordado A programação dinâmica é efetiva quando um determinado subproblema pode surgir de mais de um conjunto parcial de escolhas a técnica fundamental é armazenar a solução para cada um desses subproblemas para usar caso eles apareçam novamente O Capítulo 15 mostra como essa ideia simples às vezes pode transformar algoritmos de tempo exponencial em algoritmos de tempo polinomial Como os algoritmos de programação dinâmica os algoritmos gulosos em geral se aplicam a problemas de otimização nos quais fazemos diversas escolhas para chegar a uma solução ótima A ideia de um algoritmo guloso é fazer cada escolha de uma maneira ótima local Um exemplo simples é o troco para minimizar o número de moedas necessárias para dar o troco para uma determinada quantia podemos selecionar repetidamente a moeda de maior denominação valor de face que não seja maior que a quantia que resta Uma abordagem gulosa dá uma solução ótima para muitos problemas desse tipo muito mais rapidamente do que uma abordagem de programação dinâmica daria Porém nem sempre é fácil dizer se uma abordagem gulosa será efetiva O Capítulo 16 apresenta a teoria dos matroides que dá uma base matemática que pode nos ajudar a mostrar que um algoritmo guloso produz uma solução ótima Usamos análise amortizada para analisar certos algoritmos que executam uma sequência de operações semelhantes Em vez de estimar o custo da sequência de operações limitando o custo real de cada operação separadamente uma análise amortizada impõe um limite para o custo real da sequência inteira Uma vantagem dessa abordagem é que embora algumas operações possam ser caras muitas outras podem ser baratas Em outras palavras muitas das operações poderiam ser executadas em tempos bem menores que o tempo do pior caso Porém a análise amortizada não é apenas uma ferramenta de análise é também um modo de pensar no projeto de algoritmos já que o projeto de um algoritmo e a análise de seu tempo de execução muitas vezes estão intimamente relacionados O Capítulo 17 apresenta três modos de executar uma análise amortizada de um algoritmo 1 2 3 4 151 15 PROGRAMAÇÃO DINÂMICA A programação dinâmica assim como o método de divisão e conquista resolve problemas combinando as soluções para subproblemas Nesse contexto programação se refere a um método tabular não ao processo de escrever código de computador Como vimos nos Capítulos 2 e 4 os algoritmos de divisão e conquista subdividem o problema em subproblemas independentes resolvem os subproblemas recursivamente e depois combinam suas soluções para resolver o problema original Ao contrário a programação dinâmica se aplica quando os subproblemas se sobrepõem isto é quando os subproblemas compartilham subsubproblemas Nesse contexto um algoritmo de divisão e conquista trabalha mais que o necessário resolvendo repetidamente os subsubproblemas comuns Um algoritmo de programação dinâmica resolve cada subsubproblema só uma vez e depois grava sua resposta em uma tabela evitando assim o trabalho de recalcular a resposta toda vez que resolver cada subsubproblema Em geral aplicamos a programação dinâmica a problemas de otimização Tais problemas podem ter muitas soluções possíveis Cada solução tem um valor e desejamos encontrar uma solução com o valor ótimo mínimo ou máximo Denominamos tal solução uma solução ótima para o problema ao contrário de a solução ótima já que podem existir várias soluções que alcançam o valor ótimo O desenvolvimento de um algoritmo de programação dinâmica segue uma sequência de quatro etapas Caracterizar a estrutura de uma solução ótima Definir recursivamente o valor de uma solução ótima Calcular o valor de uma solução ótima normalmente de baixo para cima Construir uma solução ótima com as informações calculadas As etapas 1 a 3 formam a base de uma solução de programação dinâmica para um problema Se precisarmos apenas do valor de uma solução ótima e não da solução em si podemos omitir a etapa 4 Quando executamos a etapa 4 às vezes mantemos informações adicionais durante a etapa 3 para facilitar a construção de uma solução ótima As seções a seguir usam o método de programação dinâmica para resolver alguns problemas de otimização A Seção 151 examina o problema de cortar uma haste em hastes de menor comprimento de modo a maximizar os valores totais A Seção 152 pergunta como podemos multiplicar uma cadeia de matrizes e ao mesmo tempo executar o menor número total de multiplicações escalares Dados esses exemplos de programação dinâmica a Seção 153 discute duas características fundamentais que um problema deve ter para que a programação dinâmica seja uma técnica de solução viável Em seguida a Seção 154 mostra como determinar a subsequência comum mais longa de duas sequências por programação dinâmica Finalmente a Seção 155 utiliza programação dinâmica para construir árvores de busca binária que são ótimas dada uma distribuição conhecida de chaves que devem ser examinadas CORTE DE HASTES Nosso primeiro exemplo usa programação dinâmica para resolver um problema simples que é decidir onde cortar hastes de aço A Serling Enterprises compra hastes de aço longas e as corta em hastes mais curtas para vendêlas Cada corte é livre A gerência da Serling Enterprises quer saber qual é o melhor modo de cortar as hastes Suponhamos que conhecemos para i 1 2 n o preço pi em dólares que a Serling Enterprises cobra por uma haste de i polegadas de comprimento Os comprimentos das hastes são sempre um número inteiro de polegadas A Figura 151 apresenta uma amostra de tabela de preços O problema do corte de hastes é o seguinte Dada uma haste de n polegadas de comprimento e uma tabela de preços pi para i 1 2 n determine a receita máxima rn que se pode obter cortando a haste e vendendo os pedaços Observe que se o preço pn para uma haste de comprimento n for suficientemente grande uma solução ótima pode exigir que ela não seja cortada Considere o caso quando n 4 A Figura 152 mostra todas as maneiras de cortar uma haste de 4 polegadas de comprimento incluindo não cortála Vemos que cortar uma haste de 4 polegadas em duas peças de 2 polegadas produz a receita p2 p2 5 5 10 que é ótima Podemos cortar uma haste de comprimento n de 2n1 modos diferentes já que temos uma opção independente de cortar ou não cortar à distância de i polegadas da extremidade esquerda para i 1 2 n 11 Denotamos um desdobramento em pedaços usando notação de adição comum portanto 7 2 2 3 indica que uma haste de comprimento 7 foi cortada em três peças duas de comprimento 2 e uma de comprimento 3 Se uma solução ótima cortar a haste em k pedaços para algum 1 k n então o desdobramento ótimo n i1 i2 ik Figura 151 Uma amostra de tabela de preços para hastes Cada haste de comprimento i polegadas rende pi dólares de receita para a empresa Figura 152 Os oito modos possíveis de cortar uma haste de comprimento 4 Acima de cada pedaço está o valor de cada um de acordo com a amostra de tabela de preços na Figura 151 A estratégia ótima é a parte c cortar a haste em duas peças de comprimento 2 cujo valor total é 10 da haste em peças de comprimentos i1 i2 ik dá a receita máxima correspondente Em nossa problemaamostra podemos determinar os números da receita ótima ri para i 1 2 10 por inspeção com os correspondentes desdobramentos ótimos r1 1 pela solução 1 1 nenhum corte r2 5 pela solução 2 2 nenhum corte r3 8 pela solução 3 3 nenhum corte r4 10 pela solução 4 2 2 r5 13 pela solução 5 2 3 r6 17 pela solução 6 6 nenhum corte r7 18 pela solução 7 1 6 ou 7 2 2 3 r8 22 pela solução 8 2 6 r9 25 pela solução 9 3 6 r10 30 pela solução 10 10 nenhum corte De modo mais geral podemos enquadrar os valores rn para n 1 em termos de receitas ótimas advindas de hastes mais curtas O primeiro argumento pn corresponde a não fazer nenhum corte e vender a haste de comprimento n como tal Os outros n 1 argumentos para max correspondem à receita máxima obtida de um corte inicial da haste em duas peças de tamanhos i e n i para cada i 1 2 n 1 e prosseguindo com o corte ótimo dessas peças obtendo as receitas ri e rni dessas duas peças Visto que não sabemos de antemão qual é o valor de i que otimiza a receita temos de considerar todos os valores possíveis para i e escolher aquele que maximize a receita Temos também a opção de não escolher nenhum i se pudermos obter mais receita vendendo a haste inteira Observe que para resolver o problema original de tamanho n resolvemos problemas menores do mesmo tipo porém de tamanhos menores Uma vez executado o primeiro corte podemos considerar os dois pedaços como instâncias independentes do problema do corte da haste A solução ótima global incorpora soluções ótimas para os dois subproblemas relacionados maximizando a receita gerada por esses dois pedaços Dizemos que o problema do corte de hastes exibe subestrutura ótima soluções ótimas para um problema incorporam soluções ótimas para subproblemas relacionados que podemos resolver independentemente Um modo relacionado mas ligeiramente mais simples de arranjar uma estrutura recursiva para o problema do corte de hastes considera que um desdobramento consiste em uma primeira peça de comprimento i cortada da extremidade esquerda e o que restou do lado direito com comprimento n i Somente o resto e não a primeira peça pode continuar a ser dividido Podemos considerar cada desdobramento de uma haste de comprimento n desse modo uma primeira peça seguida por algum desdobramento do resto Quando fazemos isso podemos expressar a solução que não contém nenhum corte dizendo que a primeira peça tem tamanho i n e receita pn e que o resto tem tamanho 0 com receita correspondente r0 0 Assim obtemos a seguinte versão mais simples da equação 151 Nessa formulação uma solução ótima incorpora a solução para somente um subproblema relacionado o resto em vez de dois Implementação recursiva de cima para baixo O procedimento a seguir implementa o cálculo implícito na equação 152 de um modo direto recursivo de cima para baixo O procedimento CUTROD toma como entrada um arranjo p1 n de preços e um inteiro n e retorna a máxima receita possível para uma haste de comprimento n Se n 0 nenhuma receita é possível e portanto CUTROD retorna 0 na linha 2 A linha 3 inicializa a receita máxima q para de modo que o laço for na linhas 45 calcula corretamente q max1inpi CUTRODp n i então a linha 6 retorna esse valor Uma simples indução em n prova que essa resposta é igual à resposta desejada rn dada pela equação 152 Se você tivesse de codificar CUTROD em sua linguagem de programação favorita e executálo em seu computador veria que tão logo o tamanho se torna moderadamente grande seu programa levaria um longo tempo para executálo Para n 40 você verificaria que seu programa demoraria no mínimo vários minutos e o que é mais provável mais de uma hora Na verdade constataria que cada vez que n aumentasse de 1 o tempo de execução de seu programa seria aproximadamente duas vezes maior Por que CUTROD é tão ineficiente O problema é que CUTROD chama a si mesmo recursivamente repetidas vezes com os mesmos valores de parâmetros resolve os mesmos problemas repetidamente A Figura 153 ilustra o que acontece para n 4 CUTRODp n chama CUTRODp n i para i 1 2 n Equivalentemente CUTROD p n chama CUTRODp j para cada j 0 1 n 1 Quando esse processo se desenrola recursivamente a quantidade de trabalho realizada em função de n cresce explosivamente Para analisar o tempo de execução de CUTROD denotamos por Tn o número total de chamadas feitas a CUTROD se chamado quando seu segundo parâmetro é igual a n Essa expressão é igual ao número de nós em uma subárvore cuja raiz é identificada por n na árvore de recursão A contagem inclui a chamada inicial à raiz Assim T0 1 e Figura 153 A árvore de recursão que mostra chamadas recursivas resultantes de uma chamada a CUTRODp n para n 4 Cada rótulo dá o tamanho n do subproblema correspondente de modo que uma aresta de um pai com rótulo s para um filho com rótulo t corresponde a cortar uma peça inicial de tamanho s t e deixar um subproblema restante de tamanho t Um caminho da raiz a uma folha corresponde a um dos 2n1 modos de cortar uma haste de comprimento n Em geral essa árvore de recursão tem 2n nós e 2n1 folhas O 1 inicial é para a chamada na raiz e o termo Tj conta o número de chamadas incluindo chamadas recursivas resultantes da chamada CUTRODp n i onde j n i Como o Exercício 1511 pede que você mostre e assim o tempo de execução de CUTROD é exponencial em n Em retrospectiva esse tempo de execução exponencial não é surpresa CUTROD considera explicitamente todos os 2n1 modos possíveis de cortar uma haste de comprimento n A árvore de chamadas recursivas tem 2n1 folhas uma para cada modo possível de cortar a haste Os rótulos no caminho simples da raiz até uma folha dão os tamanhos de cada pedaço restante do lado direito da haste antes de cada corte Isto é os rótulos dão os pontos de corte correspondentes medidos em relação à extremidade direita da haste Utilização de programação dinâmica para o corte ótimo de hastes Agora mostramos como converter CUTROD em um algoritmo eficiente usando programação dinâmica O método da programação dinâmica funciona da seguinte maneira agora que já observamos que uma solução recursiva ingênua é ineficiente porque resolve os mesmos problemas repetidas vezes nós a adaptamos para resolver cada problema somente uma vez e armazenar sua solução Se precisarmos nos referir novamente a esse problema mais tarde bastará que o examinemos em vez de o recalcular Assim a programação dinâmica usa memória adicional para poupar tempo de computação serve como exemplo de uma permuta tempomemória As economias de tempo podem ser espetaculares uma solução de tempo exponencial pode ser transformada em uma solução de tempo polinomial Uma abordagem de programação dinâmica é executada em tempo polinomial quando o número de problemas distintos envolvido é polinomial no tamanho da entrada e podemos resolver cada subproblema em tempo polinomial Normalmente há dois modos equivalentes de implementar uma abordagem de programação dinâmica Ilustraremos ambos com nosso exemplo do corte de hastes A primeira abordagem é de cima para baixo com memoização2 Nessa abordagem escrevemos o procedimento recursivamente de maneira natural porém modificado para salvar o resultado de cada subproblema normalmente em um arranjo ou tabela hash Agora o procedimento primeiro verifica se já resolveu anteriormente esse subproblema Se já o resolveu retorna o valor salvo poupando computação adicional nesse nível se ainda não o resolveu o procedimento calcula o valor da maneira usual Dizemos que o procedimento recursivo foi memoizado ele lembra quais resultados já calculou anteriormente A segunda abordagem é o método de baixo para cima Essa abordagem depende tipicamente de alguma noção natural do tamanho de um subproblema tal que resolver qualquer subproblema particular depende somente de resolver subproblemas menores Ordenamos os subproblemas por tamanho e os resolvemos em ordem de tamanho o menor primeiro Ao resolvemos um determinado problema já resolvemos todos os subproblemas menores dos quais sua solução depende e já salvamos suas soluções Resolvemos cada subproblema somente uma vez e na primeira vez que o vemos já estão resolvidos todos os seus subproblemas prérequisitados Essas duas abordagens produzem algoritmos com o mesmo tempo de execução assintótico exceto em circunstâncias incomuns quando a abordagem de cima para baixo não executa recursão propriamente dita para examinar todos os subproblemas possíveis Muitas vezes a abordagem de baixo para cima tem fatores constantes muito melhores visto que tem menos sobrecarga para chamadas de procedimento Apresentamos a seguir o pseudocódigo para o procedimento CUTR O D de cima para baixo acrescido de memoização Aqui o procedimento principal MEMOIZEDCUTROD inicializa um novo arranjo auxiliar r0 n com o valor uma escolha conveniente para denotar desconhecido Valores de receita conhecidos são sempre não negativos Então ele chama sua rotina auxiliar MEMOIZEDCUTRODAUX O procedimento MEMOIZEDCUTRODAUX é apenas a versão memoizada de nosso procedimento anterior CUTROD Primeiro ele consulta a linha 1 para verificar se o valor desejado já é conhecido se for a linha 2 retorna esse valor Caso contrário as linhas 37 calculam o valor desejado q na maneira usual a linha 8 o salva em rn e a linha 9 o retorna A versão de baixo para cima é ainda mais simples No caso da abordagem da programação dinâmica de baixo para cima BOTTOMUPCUTROD usa a ordenação natural dos subproblemas um subproblema de tamanho i é menor do que um subproblema de tamanho j se i j Assim o procedimento resolve subproblemas de tamanhos j 0 1 n naquela ordem A linha 1 do procedimento BOTTOMUPCUTRO D cria um novo arranjo r0 n no qual salvar os resultados dos subproblemas e a linha 2 inicializa r0 com 0 visto que uma haste de comprimento 0 não rende nenhuma receita As linhas 36 resolvem cada subproblema de tamanho j para j 1 2 n em ordem crescente de tamanho A abordagem usada para resolver um problema de determinado tamanho j é a mesma usada por CUTROD exceto que agora a linha 6 referencia diretamente a entrada rj i em vez de fazer uma chamada recursiva para resolver o subproblema de tamanho j i A linha 7 salva em rj a solução do subproblema de tamanho j Finalmente a linha 8 retorna rn que é igual ao valor ótimo rn As versões de baixo para cima e de cima para baixo têm o mesmo tempo de execução assintótico O tempo de execução do procedimento BOTTOMUPCUTROD é Qn2 devido à sua estrutura de laço duplamente aninhado O número de iterações de seu laço for interno nas linhas 56 forma uma série aritmética O tempo de execução de sua contraparte de cima para baixo MEMOIZEDCUTROD também é Qn2 embora esse tempo de execução possa ser um pouco mais difícil de ver Como uma chamada recursiva para resolver um subproblema já resolvido antes retorna imediatamente MEMOIZEDCUTROD resolve cada subproblema apenas uma vez Esse procedimento resolve subproblemas para tamanhos 0 1 n Para resolver um subproblema de tamanho n o laço for das linhas 67 itera n vezes Assim o número total de iterações desse laço for para todas as chamadas recursivas de MEMOIZEDCUTROD forma uma série aritmética que dá um total de Qn2 iterações exatamente como o laço for interno de BOTTOMUPCUTROD Na verdade aqui estamos usando uma forma de análise agregada Veremos os detalhes da análise agregada na Seção 171 Figura 154 O grafo do subproblema para o problema do corte de haste com n 4 Os rótulos nos vértices dão os tamanhos dos subproblemas correspondentes Um vértice dirigido x y indica que precisamos de uma solução para o subproblema y quando resolvemos o subproblema x Esse grafo é uma versão reduzida da árvore da Figura 153 na qual todos os nós que têm o mesmo rótulo são integrados em um único vértice e todas as arestas vão de pai para filho Grafos de subproblemas Quando pensamos em um problema de programação dinâmica temos de entender o conjunto de subproblemas envolvido e como os subproblemas dependem uns dos outros O grafo de subproblemas para o problema incorpora exatamente essa informação A Figura 154 mostra o grafo de subproblemas para o problema do corte de haste com n 4 É um grafo dirigido que contém um vértice para cada subproblema distinto O grafo de subproblemas tem um vértice dirigido do vértice para o subproblema x até o vértice para o subproblema y se a determinação de uma solução ótima para o subproblema x envolver considerar diretamente uma solução ótima para o subproblema y Por exemplo o grafo de subproblema contém um vértice de x a y se um procedimento recursivo de cima para baixo para resolver x diretamente chamar a si mesmo para resolver y Podemos imaginar o grafo de subproblema como uma versão reduzida ou colapsada da árvore de recursão para o método recursivo de cima para baixo na qual reunimos todos os nós para o mesmo subproblema em um único vértice e orientamos todos os vértices de pai para filho O método de baixo para cima para programação dinâmica considera os vértices do grafo de subproblema em uma ordem tal que resolvemos os subproblemas y adjacentes a um dado subproblema x antes de resolvermos o subproblema x Lembrese de que dissemos na Seção B4 que a relação de adjacência não é necessariamente simétrica Usando a terminologia do Capítulo 22 em um algoritmo de programação dinâmica de baixo para cima consideramos os vértices do grafo de subproblema em uma ordem que é uma ordenação topológica reversa ou uma ordenação topológica do transposto veja a Seção 224 do grafo de subproblema Em outras palavras nenhum subproblema é considerado até que todos os subproblemas dos quais ele depende tenham sido resolvidos De modo semelhante usando noções do mesmo capítulo podemos considerar o método de cima para baixo com memoização para programação dinâmica como uma busca em profundidade do grafo de subproblema veja a Seção 223 O tamanho do grafo de subproblema G V E pode nos ajudar a determinar o tempo de execução do algoritmo de programação dinâmica Visto que resolvemos cada subproblema apenas uma vez o tempo de execução é a soma dos tempos necessários para resolver cada subproblema Normalmente o tempo para calcular a solução de um subproblema é proporcional ao grau número de vértices dirigidos para fora do vértice correspondente no grafo de subproblema e o número de subproblemas é igual ao número de vértices no grafo de subproblema Nesse caso comum o tempo de execução da programação dinâmica é linear em relação ao número de vértices e arestas Reconstruindo uma solução Nossas soluções de programação dinâmica para o corte de hastes devolvem o valor de uma solução ótima mas não devolvem uma solução propriamente dita uma lista de tamanhos de peças Podemos estender a abordagem da programação dinâmica para registrar não apenas o valor ótimo calculado para cada subproblema mas também uma escolha que levou ao valor ótimo Com essa informação podemos imprimir imediatamente uma solução ótima Apresentamos a seguir uma versão estendida de BOTTOMUPCUTROD que calcula para cada tamanho de haste j não somente a receita máxima rj mas também sj o tamanho ótimo da primeira peça a ser cortada 1511 1512 1513 1514 Esse procedimento é semelhante a BOTTOMUPCUTROD exceto pela criação do arranjo s na linha 1 e pela atualização de sj na linha 8 para conter o tamanho ótimo i da primeira peça a cortar ao resolver um subproblema de tamanho j O procedimento apresentado a seguir toma um tabela de preços p e um tamanho de haste n e chama EXTENDED BOTTOMUPCUTROD para calcular o arranjo s1 n de tamanhos ótimos da primeira peça e depois imprime a lista completa de tamanho de peças conforme um desdobramento ótimo de uma haste de comprimento n Em nosso exemplo do corte de haste a chamada EXTENDEDBOTTOMUPCUTRODp10 retornaria os seguintes arranjos Uma chamada a PRINTCUTRODSOLUTIONp10 imprimiria apenas 10 mas uma chamada com n 7 imprimiria os cortes 1 e 6 correspondentes ao primeiro desdobramento ótimo para r7 dado anteriormente Exercícios Mostre que a equação 154 decorre da equação 153 e da condição inicial T0 1 Mostre por meio de um contraexemplo que a seguinte estratégia gulosa nem sempre determina um modo ótimo de cortar hastes Defina a densidade de uma haste de comprimento i como pii isto é seu valor por polegada A estratégia gulosa para uma haste de comprimento n corta uma primeira peça de comprimento i onde 1 i n om densidade máxima Então continua aplicando a estratégia gulosa à peça resultante de comprimento n i Considere uma modificação do problema do corte da haste no qual além de um preço pi para cada haste cada corte incorre em um custo fixo c A receita associada à solução agora é a soma dos preços das peças menos os custos da execução dos cortes Dê um algoritmo de programação dinâmica para resolver esse problema modificado Modifique MEMOIZEDCUTROD para retornar não somente o valor mas também a solução propriamente dita 1515 152 Os números de Fibonacci são definidos pela recorrência 322 Dê um algoritmo de programação dinâmica de tempo On para calcular o nésimo número de Fibonacci Desenhe o grafo de subproblema Quantos vértices e arestas existem no grafo MULTIPLICAÇÃO DE CADEIAS DE MATRIZES Nosso próximo exemplo de programação dinâmica é um algoritmo que resolve o problema de multiplicação de cadeias de matrizes Temos uma sequência cadeia A1 A2 An de n matrizes para multiplicar e desejamos calcular o produto Podemos avaliar a expressão 155 usando o algoritmopadrão para multiplicação de pares de matrizes como uma subrotina tão logo a tenhamos parentizado para resolver todas as ambiguidades relativas à multiplicação das matrizes entre si A multiplicação de matrizes é associativa e portanto não importa como são colocadas entre parênteses o produto entre elas é sempre o mesmo Um produto de matrizes é totalmente parentizado se for uma única matriz ou o produto de dois produtos de matrizes totalmente parentizadas também expresso entre parênteses Por exemplo se a cadeia de matrizes é A1 A2 A3 A4 podemos expressar o produto A1 A2 A3 A4 como totalmente parentizado de cinco modos distintos O modo como colocamos parênteses em uma cadeia de matrizes pode ter um impacto expressivo sobre o custo de avaliação do produto Considere primeiro o custo de multiplicar duas matrizes O algoritmopadrão é dado pelo pseudocódigo a seguir que generaliza o procedimento SQUAREMATRIXMULTIPLY da Seção 42 Os atributos linhas e colunas são os números de linhas e colunas em uma matriz Podemos multiplicar duas matrizes A e B somente se elas forem compatíveis o número de colunas de A deve ser igual ao número de linhas de B Se A é uma matriz p q e B é uma matriz q r a matriz resultante C é uma matriz p r O tempo para calcular C é dominado pelo número de multiplicações escalares na linha 8 que é pqr A seguir expressaremos os custos em termos do número de multiplicações escalares Para ilustrar os diferentes custos incorridos pelas diferentes posições dos parênteses em um produto de matrizes considere o problema de uma cadeia A1 A2 A3 de três matrizes Suponha que as dimensões das matrizes sejam 10 100 100 5 e 5 50 respectivamente Se multiplicarmos as matrizes de acordo com a posição dos parênteses A1A2A3 executaremos 10 100 5 5000 multiplicações escalares para calcular o produto 10 5 de matrizes A1 A2 mais outras 10 5 50 2500 multiplicações escalares para multiplicar essa matriz por A3 produzindo um total de 7500 multiplicações escalares Se em vez disso multiplicarmos de acordo com a posição dos parênteses A1A2 A3 executaremos 100 5 50 25000 multiplicações escalares para calcular o produto 100 50 de matrizes A2 A3 mais outras 10 100 50 50000 multiplicações escalares para multiplicar A1 por essa matriz dando um total de 75000 multiplicações escalares Assim o cálculo do produto de acordo com a primeira posição dos parênteses é 10 vezes mais rápido Enunciamos o problema de multiplicação de cadeias de matrizes da seguinte maneira dada uma cadeia A1 A2 An de n matrizes onde para i 1 2 n a matriz Ai tem dimensão pi 1 pi expresse o produto A1 A2 An como um produto totalmente parentizado de modo a minimizar o número de multiplicações escalares Observe que no problema de multiplicação de cadeias de matrizes não estamos realmente multiplicando matrizes Nossa meta é apenas determinar uma ordem para multiplicar matrizes que tenha o custo mais baixo Em geral o tempo investido na determinação dessa ordem ótima é mais que compensado pelo tempo economizado mais tarde quando as multiplicações de matrizes são de fato executadas por exemplo executar apenas 7500 multiplicações escalares em vez de 75000 Contagem do número de parentizações Antes de resolver o problema de multiplicação de cadeias de matrizes por programação dinâmica temos de nos convencer de que a verificação exaustiva de todas as possíveis parentizações não resulta em um algoritmo eficiente Vamos representar por Pn o número de parentizações alternativas de uma sequência de n matrizes Quando n 1 há apenas uma matriz e portanto somente um modo de parentizar totalmente o produto de matrizes Quando n 2 um produto de matrizes totalmente parentizado é o produto de dois subprodutos de matrizes totalmente parentizados e a separação entre os dois subprodutos pode ocorrer entre a késima e a k 1ésima matrizes para qualquer k 1 2 n 1 Assim obtemos a recorrência 1 2 3 4 O Problema 124 pediu para mostrar que a solução para uma recorrência semelhante é a sequência de números de Catalan que cresce como 4nn32 Um exercício mais simples veja o Exercício 1523 é mostrar que a solução para a recorrência 156 é 2n Portanto o número de soluções é exponencial em n e o método de força bruta de busca exaustiva é uma estratégia ruim para determinar a parentização ótima de uma cadeia de matrizes Aplicação da programação dinâmica Usaremos o método da programação dinâmica para determinar a parentização ótima de uma cadeia de matrizes Para tal seguiremos a sequência de quatro etapas declaradas no início deste capítulo Caracterizar a estrutura de uma solução ótima Definir recursivamente o valor de uma solução ótima Calcular o valor de uma solução ótima Construir uma solução ótima com as informações calculadas Percorreremos essas etapas em ordem demonstrando claramente como aplicar cada etapa ao problema Etapa 1 A estrutura de uma parentização ótima Em nossa primeira etapa do paradigma de programação dinâmica determinamos a subestrutura ótima e depois a usamos para construir uma solução ótima para o problema partindo de soluções ótimas para subproblemas No problema de multiplicação de cadeias de matrizes podemos executar essa etapa da maneira descrita a seguir Por conveniência vamos adotar a notação Aij onde i j para a matriz que resulta da avaliação do produto Ai Ai1 Aj Observe que se o problema é não trivial isto é se i j então para parentizar o produto Ai Ai1 Aj temos de separálo entre Ak e Ak1 para algum inteiro k no intervalo i k j Isto é para algum valor de k primeiro calculamos as matrizes Ai k e Ak1 j e depois multiplicamos as duas para gerar o produto final Ai j O custo dessa parentização é o custo de calcular a matriz Aik mais o custo de calcular Ak1 j mais o custo de multiplicálas uma pela outra A subestrutura ótima desse problema é dada a seguir Suponha que para efetuar a parentização ótima de Ai Ai1 Aj separamos o produto entre Ak e Ak1 Então o modo como posicionamos os parênteses na subcadeia prefixo Ai Ai1 Ak dentro dessa parentização ótima de Ai Ai1 Aj deve ser uma parentização ótima de Ai Ai1 Ak Por quê Se existisse um modo menos dispendioso de parentizar Ai Ai1 Ak então poderíamos substituir essa parentização na parentização ótima de Ai Ai1 Aj para produzir um outro modo de parentizar Ai Ai1 Aj cujo custo seria mais baixo que o custo ótimo uma contradição Uma observação semelhante é válida para parentizar a subcadeia Ak1 Ak2 Aj na parentização ótima de Ai Ai1 Aj ela deve ser uma parentização ótima de Ak1 Ak2 Aj Agora usamos nossa subestrutura ótima para mostrar que podemos construir uma solução ótima para o problema pelas soluções ótimas para subproblemas Vimos que qualquer solução para uma instância não trivial do problema de multiplicação de cadeias de matrizes requer que separemos o produto e que qualquer solução ótima contém em si soluções ótimas para instâncias de subproblemas Assim podemos construir uma solução ótima para uma instância do problema de multiplicação de cadeias de matrizes separando o problema em dois subproblemas pela parentização ótima de Ai Ai1 Ak e Ak1 Ak2 Aj determinando soluções ótimas para instâncias de subproblemas e depois combinando essas soluções ótimas de subproblemas Devemos assegurar que quando procurarmos o lugar correto para separar o produto consideremos todos os lugares possíveis para termos certeza de que examinamos a opção ótima Etapa 2 Uma solução recursiva Em seguida definimos recursivamente o custo de uma solução ótima em termos das soluções ótimas para subproblemas No caso do problema de multiplicação de cadeias de matrizes escolhemos como nossos subproblemas os problemas da determinação do custo mínimo da parentização de Ai Ai1 Aj para 1 i j n Seja mi j o número mínimo de multiplicações escalares necessárias para calcular a matriz Ai j para o problema completo o custo mínimo para calcular A1 n seria portanto m1 n Podemos definir mi j recursivamente da maneira descrita a seguir Se i j o problema é trivial a cadeia consiste em apenas uma matriz Ai i Ai de modo que nenhuma multiplicação escalar é necessária para calcular o produto Assim mi i 0 para i 1 2 n Para calcular mi j quando i j tiramos proveito da estrutura de uma solução ótima da etapa 1 Vamos considerar que para obter a parentização ótima separamos o produto Ai Ai1 Aj entre Ak e Ak1 onde i k j Então mi j é igual ao custo mínimo para calcular os subprodutos Ai k e Ak1 j mais o custo de multiplicar essas duas matrizes Recordando que cada matriz Ai é pi 1 pi vemos que o cálculo do produto de matrizes Ai k Ak1 j exige pi 1 pk pj multiplicações escalares Assim obtemos Essa equação recursiva supõe que conhecemos o valor de k o que não é verdade Porém há somente j i valores possíveis para k isto é k i i 1 j 1 Visto que a parentização ótima deve usar um desses valores para k precisamos apenas verificar todos eles para determinar o melhor Assim nossa definição recursiva para o custo mínimo de colocar o produto Ai Ai1 Aj entre parênteses se torna Os valores mi j dão os custos de soluções ótimas para subproblemas mas não dão todas as informações de que necessitamos para construir uma solução ótima Para nos ajudar a fazer isso definimos si j como um valor de k no qual separamos o produto Ai Ai1 Aj para obter uma parentização ótima Isto é si j é igual a um valor k tal que mi j mi k mk 1 j pi 1 pk pj Etapa 3 Cálculo dos custos ótimos Neste ponto seria fácil escrever um algoritmo recursivo baseado na recorrência 157 para calcular o custo mínimo m1 n para multiplicar A1 A2 An Como vimos no problema do corte de hastes de aço e como veremos na Seção 153 esse algoritmo recursivo demora um tempo exponencial o que não é nada melhor que o método da força bruta de verificar cada maneira de parentizar o produto Observe que temos um número relativamente pequeno de subproblemas distintos um problema para cada escolha de i e j que satisfaça 1 i j n ou n 2 n Qn2 no total Um algoritmo recursivo pode encontrar cada subproblema muitas vezes em diferentes ramos de sua árvore de recursão Essa propriedade de sobrepor subproblemas é a segunda indicação da aplicabilidade da programação dinâmica a subestrutura ótima é a primeira Em vez de calcular a solução para a recorrência 157 recursivamente calculamos o custo ótimo usando uma abordagem tabular de baixo para cima Na Seção 153 apresentaremos a abordagem de cima para baixo correspondente usando memoização Implementaremos o método tabular de cima para baixo no procedimento MATRIXCHAINORDER que aparece mais adiante Esse procedimento supõe que a matriz Ai tem dimensões pi 1 pi para i 1 2 n Sua entrada é uma sequência p p0 p1 pn onde pcomprimento n 1 O procedimento utiliza uma tabela auxiliar m1 n 1 n para armazenar os custos mi j e uma outra tabela auxiliar s1 n 1 n que registra qual índice de k alcançou o custo ótimo no cálculo de mi j Usaremos a tabela s para construir uma solução ótima Para implementar a abordagem de baixo para cima devemos determinar a quais entradas da tabela nos referimos para calcular mi j A equação 157 mostra que o custo mi j de calcular um produto de cadeias de j i 1 matrizes só depende dos custos de calcular os produtos de cadeias de menos que j i 1 matrizes Isto é para k i i 1 j 1 a matriz Ai k é um produto de k i 1 j i 1 matrizes e a matriz Ak1 j é um produto de j k j i 1 matrizes Assim o algoritmo deve preencher a tabela m de um modo que corresponda a resolver o problema da parentização em cadeias de matrizes de comprimento crescente Para o subproblema da parentização ótima da cadeia Ai Ai1 Aj admitimos que o tamanho do subproblema é o comprimento j i 1 da cadeia O algoritmo calcula primeiro mi i 0 para i 1 2 n os custos mínimos para cadeias de comprimento 1 nas linhas 34 Então usa a recorrência 157 para calcular mi i 1 para i 1 2 n 1 os custos mínimos para cadeias de comprimento l 2 durante a primeira execução do laço for nas linhas 513 Na segunda passagem pelo laço o algoritmo calcula mi i 2 para i 1 2 n 2 os custos mínimos para cadeias de comprimento l 3 e assim por diante Em cada etapa o custo mi j calculado nas linhas 1013 depende apenas das entradas de tabela mi k e mk 1 j já calculadas A Figura 155 ilustra esse procedimento em uma cadeia de n 6 matrizes Visto que definimos mi j somente para i j apenas a porção da tabela m estritamente acima da diagonal principal é usada A tabela mostrada na figura sofreu uma rotação para colocar a diagonal principal na posição horizontal A lista ao longo da parte inferior da figura mostra a cadeia de matrizes Usando esse leiaute podemos determinar o custo mínimo mi j para multiplicar uma subcadeia de matrizes Ai Ai1 Aj na interseção de linhas que partem de Ai na direção nordeste e de Aj Cada linha horizontal na tabela contém as entradas para cadeias de matrizes do mesmo comprimento MATRIXCHAINORDER calcula as linhas de baixo para cima e da esquerda para a direita dentro de cada linha Calcula cada entrada mi j usando os produtos pi 1 pk pj para k i i 1 j 1 e todas as entradas a sudoeste e a sudeste de mi j Uma simples inspeção da estrutura de laços aninhados de MATRIXCHAINORDER produz um tempo de execução de On3 para o algoritmo Os laços estão aninhados com profundidade três e cada índice de laço l i e k adota no máximo n valores O Exercício 1525 pede que você mostre que o tempo de execução desse algoritmo é mesmo n3 O algoritmo requer espaço Qn2 para armazenar as tabelas m e s Assim MATRIXCHAINORDER é muito mais eficiente que o método de tempo exponencial que enumera todas as possíveis parentizações e verifica cada uma delas Figura 155 As tabelas m e s calculadas por MATRIXCHAINoRDER para n 6 e as seguintes dimensões de matrizes As tabelas sofreram uma rotação para colocar a diagonal principal na posição horizontal A tabela m usa somente a diagonal principal e o triângulo superior e a tabela s usa somente o triângulo superior O número mínimo de multiplicações escalares para multiplicar as seis matrizes é m1 6 15125 Entre as entradas sombreadas nos três tons mais escuros os pares que têm o mesmo sombreado são tomados juntos na linha 10 quando se calcula Etapa 4 Construção de uma solução ótima Embora determine o número ótimo de multiplicações escalares necessárias para calcular um produto de cadeias de matrizes MATRIXCHAINORDER não mostra diretamente como multiplicar as matrizes A tabela s1 n 1 2 n nos dá a informação que precisamos para fazer isso Cada entrada si j registra um valor de k tal que uma parentização ótima de Ai Ai1 Aj separa o produto entre Ak e Ak1 Assim sabemos que a multiplicação de matrizes final no cálculo ótimo de A1n é A1 s1 n As1 n 1n Podemos determinar as multiplicações de matrizes anteriores recursivamente já que s1 s1 n determina a última multiplicação de matrizes no cálculo de A1 s1 n e ss1 n 1 n determina a última multiplicação de matrizes no cálculo de As1 n1 n O procedimento recursivo a seguir imprime uma parentização ótima de Ai Ai1 Aj dada a tabela s calculada por MATRIXCHAINORDER e os índices i e j A chamada inicial PRINT OPTIMALPARENSs 1 n imprime uma parentização ótima de A1 A2 An 1521 1522 1523 1524 1525 1526 153 No exemplo da Figura 155 a chamada PRINTOPTIMALPARENSs 1 6 imprime a parentização de A1 A2 A3 A4 A5 A6 Exercícios Determine uma parentização ótima de um produto de cadeias de matrizes cuja sequência de dimensões é 5 10 3 12 5 50 6 Dê um algoritmo recursivo MATRIXCHAINMULTIPLYA s i j que realmente execute a multiplicação ótima de cadeias de matrizes dadas a sequência de matrizes A1 A2 An a tabela s calculada por MATRIXCHAIN ORDER e os índices i e j A chamada inicial seria MATRIXCHAINMULTIPLYA s 1 n Use o método de substituição para mostrar que a solução para a recorrência 156 é Ω2n Descreva o grafo de subproblema para multiplicação de cadeia de matrizes com uma cadeia de entrada de comprimento n Quantos vértices ele tem Quantas arestas ele tem e quais são essas arestas Seja Ri j o número de vezes que a entrada de tabela mi j é referenciada durante o cálculo de outras entradas de tabela em uma chamada de MATRIXCHAINORDER Mostre que o número total de referências para a tabela inteira é Sugestão A equação A3 pode ser útil Mostre que uma parentização completa de uma expressão de n elementos tem exatamente n 1 pares de parênteses ELEMENTOS DE PROGRAMAÇÃO DINÂMICA Embora tenhamos acabado de analisar dois exemplos do método de programação dinâmica é bem possível que você ainda esteja imaginando exatamente quando aplicar o método Do ponto de vista da engenharia quando devemos procurar uma solução de programação dinâmica para um problema Nesta seção examinamos os dois elementos fundamentais que um problema de otimização deve ter para que a programação dinâmica seja aplicável subestrutura ótima e sobreposição de subproblemas Também voltaremos a discutir mais completamente como a memoização pode 1 2 3 4 1 2 nos ajudar a aproveitar a propriedade de sobreposição de subproblemas em uma abordagem recursiva de cima para baixo Subestrutura ótima O primeiro passo para resolver um problema de otimização por programação dinâmica é caracterizar a estrutura de uma solução ótima Lembramos que um problema apresenta uma subestrutura ótima se uma solução ótima para o problema contiver soluções ótimas para subproblemas Sempre que um problema exibir subestrutura ótima temos uma boa indicação de que a programação dinâmica pode se aplicar Porém como discutiremos no Capítulo 16 isso também pode significar que uma estratégia gulosa é aplicável Em programação dinâmica construímos uma solução ótima para o problema partindo de soluções ótimas para subproblemas Consequentemente devemos ter o cuidado de garantir que a faixa de subproblemas que consideramos inclui aqueles usados em uma solução ótima Encontramos uma subestrutura ótima em ambos os problemas examinados neste capítulo até agora Na Seção 151 observamos que o modo mais rápido de cortar uma haste de comprimento n se a cortarmos envolve cortar otimamente as duas peças resultantes do primeiro corte Na Seção 152 observamos que uma parentização ótima de Ai Ai1 Aj que separa o produto entre Ak e Ak1 contém soluções ótimas para os problemas de parentização de Ai Ai1 Ak e Ak1 Ak2 Aj Você perceberá que está seguindo um padrão comum para descobrir a subestrutura ótima Mostrar que uma solução para o problema consiste em fazer uma escolha como a de escolher um corte inicial em uma haste ou um índice no qual separar a cadeia de matrizes Essa escolha produz um ou mais subproblemas a resolver Supor que para um dado problema existe uma escolha que resulta em uma solução ótima Você ainda não se preocupa com a maneira de determinar essa escolha Basta supor que ela existe Dada essa escolha determinar quais subproblemas dela decorrem e como caracterizar melhor o espaço de subproblemas resultante Mostrar que as soluções para os subproblemas usados dentro de uma solução ótima para o problema também devem ser ótimas utilizando uma técnica de recortar e colar Para tal você supõe que alguma das soluções de subproblemas não é ótima e então deduz uma contradição Em particular recortando a solução não ótima para cada subproblema e colando a solução ótima você mostra que pode conseguir uma solução melhor para o problema original o que contradiz a suposição de que você já tinha uma solução ótima Se uma solução ótima der origem a mais de um subproblema normalmente eles serão tão semelhantes que você pode modificar o argumento recortar e colar usado para um deles e aplicálo aos outros com pouco esforço Para caracterizar o espaço de subproblemas uma boa regra prática é tentar manter o espaço tão simples quanto possível e depois expandilo conforme necessário Por exemplo o espaço de subproblemas que consideramos para o problema do corte da haste continha os problemas de determinar o corte ótimo para uma haste de comprimento i para cada tamanho i Esse espaço de subproblemas funcionou bem e não tivemos nenhuma necessidade de tentar um espaço de subproblemas mais geral Ao contrário suponha que tivéssemos tentado restringir nosso espaço de subproblemas para a multiplicação de cadeias de matrizes a produtos de matrizes da forma A1 A2 AJ Como antes uma parentização ótima deve separar esse produto entre Ak e Ak1 para algum 1 k j A menos que possamos garantir que k é sempre igual a j 1 constataremos que tínhamos subproblemas da forma A1 A2 Ak e Ak1 Ak2 Aj e que este último subproblema não é da forma A1 A2 Aj Para esse problema tivemos que permitir que nossos subproblemas variassem em ambas as extremidades isto é permitir que i e j variassem no subproblema Ai Ai1 Aj A subestrutura ótima varia nos domínios de problemas de duas maneiras o número de subproblemas usados em uma solução ótima para o problema original o número de opções que temos para determinar qualis subproblemas usar em uma solução ótima No problema do corte da haste uma solução ótima para cortar uma haste de tamanho n usa apenas um subproblema de tamanho n i mas temos de considerar n escolhas para i para determinar qual deles produz uma solução ótima A multiplicação de cadeias de matrizes para a subcadeia Ai Ai1 Aj serve como um exemplo com dois subproblemas e j i escolhas Para uma dada matriz Ak na qual separamos o produto temos dois subproblemas a parentização de Ai Ai1 Ak e a parentização de Ak1 Ak2 Aj e devemos resolver ambos otimamente Uma vez determinadas as soluções ótimas para subproblemas escolhemos entre j i candidatos para o índice k Informalmente o tempo de execução de um algoritmo de programação dinâmica depende do produto de dois fatores o número global de subproblemas e quantas escolhas consideramos que existem para cada subproblema No corte de hastes tínhamos Qn subproblemas no total e no máximo n escolhas para examinar para cada um resultando no tempo de execução On2 Na multiplicação de cadeias de matrizes tínhamos Qn2 subproblemas no total e em cada um deles tínhamos no máximo n 1 escolhas dando um tempo de execução On3 na verdade um tempo de execução Qn3 pelo Exercício 1525 Normalmente o grafo de subproblemas dá um modo alternativo de executar a mesma análise Cada vértice corresponde a um subproblema e as escolhas para um subproblema são as arestas que nele incidem Lembrese de que no corte de hastes o grafo do subproblema tinha n vértices e no máximo n arestas por vértice resultando no tempo de execução On2 Na multiplicação de cadeia de matrizes o grafo de subproblemas se o tivéssemos desenhado teria Qn2 vértices e cada vértice teria um grau de no máximo n 1 o que resultaria em um total de On3 vértices e arestas A programação dinâmica usa frequentemente a subestrutura ótima de baixo para cima Isto é primeiro encontramos soluções ótimas para subproblemas e resolvidos os subproblemas encontramos uma solução ótima para o problema Encontrar uma solução ótima para o problema acarreta escolher entre os subproblemas aqueles que usaremos na solução do problema Normalmente o custo da solução do problema é igual aos custos dos subproblemas mais um custo atribuível diretamente à escolha em si Por exemplo no corte de hastes primeiro resolvemos os subproblemas de determinar maneiras ótimas de cortar hastes de comprimento i para i 0 1n 1 e depois determinamos qual subproblema produz uma solução ótima para uma haste de comprimento n usando a equação 152 O custo atribuível à escolha em si é o termo pi na equação 152 Na multiplicação de cadeias de matrizes determinamos a parentização ótima de subcadeias de Ai Ai1 Aj e então escolhemos a matriz Ak na qual separar o produto O custo atribuível à escolha propriamente dita é o termo pi 1 pk pj No Capítulo 16 examinaremos os algoritmos gulosos que guardam muitas semelhanças com a programação dinâmica Em particular os problemas aos quais os algoritmos gulosos se aplicam têm subestrutura ótima Uma diferença notável entre algoritmos gulosos e programação dinâmica é que em vez de primeiro encontrar soluções ótimas para subproblemas e depois fazer uma escolha informada os algoritmos gulosos primeiro fazem uma escolha gulosa a que parece melhor no momento e depois resolvem um problema resultante sem se darem ao trabalho de resolver todos os possíveis subproblemas menores relacionados Surpreendentemente em alguns casos a estratégia funciona Sutilezas Devemos ter cuidado para não presumir que a subestrutura ótima seja aplicável quando não é Considere os dois problemas a seguir nos quais temos um grafo dirigido G V E e vértices u v V Caminho mais curto não ponderado3 Encontrar um caminho de u para v que consista no menor número de arestas Tal caminho deve ser simples já que remover um ciclo de um caminho produz um caminho com menos arestas Caminho simples mais longo não ponderado Encontrar um caminho simples de u para v que consista no maior número de arestas Precisamos incluir o requisito de simplicidade porque do contrário acabamos percorrendo um ciclo tantas vezes quantas quisermos para criar caminhos com um número arbitrariamente grande de arestas O problema do caminho mais curto não ponderado exibe subestrutura ótima como mostramos a seguir Suponha que u v de modo que o problema é não trivial Então qualquer caminho p de u para v deve conter um vértice intermediário digamos w Observe que w pode ser u ou v Assim podemos decompor o caminho u p v em subcaminhos u p1 w p2 v É claro que o número de arestas em p é igual ao número de arestas em p1 mais o número de arestas em p2 Afirmamos que se p é um caminho ótimo isto é o mais curto de u para v então p1 deve ser um caminho mais curto de u para w Por quê Usamos um argumento de recortar e colar se existisse outro caminho digamos de u para w com menos arestas que p1 poderíamos recortar p1 e colar em p1 para produzir um caminho u p1 w p2 v com menos arestas que p assim contradizendo a otimalidade de p Simetricamente p2 deve ser um caminho mais curto de w para v Assim podemos encontrar um caminho mais curto de u para v considerando todos os vértices intermediários w encontrando um caminho mais curto de u para w e um caminho mais curto de w para v e escolhendo um vértice intermediário w que produza o caminho mais curto global Na Seção 252 usamos uma variante dessa observação de subestrutura ótima para encontrar um caminho mais curto entre cada par de vértices em um grafo ponderado e dirigido É tentador supor que o problema de encontrar um caminho simples mais longo não ponderado também exibe subestrutura ótima Afinal se desdobrarmos um caminho simples mais longo u v em subcaminhos u w v então p não deve ser um caminho simples mais longo de u para w e p2 não deve ser um caminho simples mais longo de w para v A resposta é não A Figura 156 nos dá um exemplo Considere o caminho q r t que é um caminho simples mais longo de q para t O caminho q r é um caminho simples mais longo de q para r Não já que o caminho q s t r é um caminho simples mais longo r t é um caminho simples mais longo de r para t Novamente não já que o caminho r q s t é um caminho simples mais longo Esse exemplo mostra que para caminhos simples mais longos não apenas falta uma subestrutura ótima para o problema mas tampouco podemos montar necessariamente uma solução legítima para o problema a partir de soluções para subproblemas Se combinarmos os caminhos simples mais longos q s t r e r q s t obteremos o caminho q s t r q s t que não é simples Na realidade o problema de encontrar um caminho simples mais longo não ponderado não parece ter nenhum tipo de subestrutura ótima Nenhum algoritmo eficiente de programação dinâmica foi encontrado para esse problema até hoje De fato esse problema é NP completo que como veremos no Capítulo 34 significa que é improvável que ele possa ser resolvido em tempo polinomial Por que a subestrutura de um caminho simples mais longo é tão diferente da subestrutura de um caminho mais curto Embora uma solução para um problema para ambos o caminho mais longo e o mais curto use dois subproblemas os subproblemas para encontrar o caminho simples mais longo não são independentes mas o são para caminhos mais curtos O que significa subproblemas independentes Significa que a solução para um subproblema não afeta a solução para outro subproblema do mesmo problema No exemplo da Figura 156 temos o problema de encontrar um caminho simples mais longo de q para t com dois subproblemas encontrar caminhos simples mais longos de q para r e de r para t Para o primeiro desses subproblemas escolhemos o caminho q s t r e portanto também usamos os vértices s e t Não podemos mais usar esses vértices no segundo subproblema já que a combinação das duas soluções para subproblemas produziria um caminho que não é simples Se não podemos usar o vértice t no segundo problema não podemos resolvêlo já que t tem de estar no caminho que encontrarmos e ele não é o vértice no qual estamos encaixando as soluções do subproblema esse vértice é r Como usamos os vértices s e t em uma solução de subproblema não podemos usálos na solução do outro subproblema Porém temos de usar no mínimo um deles para resolver o outro subproblema e temos de usar ambos para resolvêlo otimamente Assim dizemos que esses subproblemas não são independentes Visto de outro modo usar recursos para resolver um subproblema sendo esses recursos os vértices tornaos indisponíveis para o outro subproblema Figura 156 Um grafo dirigido mostrando que o problema de encontrar um caminho simples mais longo em um grafo dirigido não ponderado não tem subestrutura ótima O caminho q r t é um caminho simples mais longo de q para t mas o subcaminho q r não é um caminho simples mais longo de q para r nem o subcaminho r t é um caminho simples mais longo de r para t Então por que os subproblemas são independentes para encontrar um caminho mais curto A resposta é que por natureza os subproblemas não compartilham recursos Afirmamos que se um vértice w está em um caminho mais curto p de u para v então podemos emendar qualquer caminho mais curto u w e qualquer caminho mais curto w v para produzir um caminho mais curto de u para v Estamos seguros de que além de w nenhum vértice pode aparecer nos caminhos p1 e p2 Por quê Suponha que algum vértice x w apareça tanto em p1 quanto em p2 de modo que podemos decompor p1 como u x w e p2 como w v Pela subestrutura ótima desse problema o caminho p tem tantas arestas quanto p1 e p2 juntos vamos dizer que p tenha e arestas Agora vamos construir um caminho p u pux w pxv v de u para v Como cortamos os caminhos de x para w e de w para x e cada um deles contém no mínimo uma aresta o caminho p0 contém no máximo e 2 arestas o que contradiz a hipótese de p ser um caminho mais curto Assim estamos seguros de que os subproblemas para o problema do caminho mais curto são independentes Ambos os problemas examinados nas Seções 151 e 152 têm subproblemas independentes Na multiplicação de cadeias de matrizes os subproblemas são multiplicar subcadeias Ai Ai1 Ak e Ak1 Ak2 Aj Essas subcadeias são disjuntas de modo que não haveria possibilidade de alguma matriz ser incluída em ambas No corte de hastes para determinar o melhor modo de cortar uma haste de comprimento n consideramos os melhores modos de cortar hastes de comprimento i para i 0 1 n 1 Como uma solução ótima para o problema do comprimento n inclui apenas uma dessas soluções de subproblemas após termos cortado o primeiro pedaço a independência de subproblemas nem entra no assunto Subproblemas sobrepostos O segundo elemento que um problema de otimização deve ter para a programação dinâmica ser aplicável é que o espaço de subproblemas deve ser pequeno no sentido de que um algoritmo recursivo para o problema resolve os mesmos subproblemas repetidas vezes em lugar de sempre gerar novos subproblemas Em geral o número total de subproblemas distintos é um polinômio no tamanho de entrada Quando um algoritmo recursivo reexamina o mesmo problema repetidamente dizemos que o problema de otimização tem subproblemas sobrepostos4 Ao contrário um problema para o qual uma abordagem de divisão e conquista é adequada normalmente gera problemas absolutamente novos em cada etapa da recursão Algoritmos de programação dinâmica normalmente tiram proveito de subproblemas sobrepostos resolvendo cada subproblema uma vez e depois armazenando a solução em uma tabela onde ela pode ser examinada quando necessário usando um tempo constante por busca Na Seção 151 examinamos brevemente como uma solução recursiva para o problema do corte de hastes faz exponencialmente muitas chamadas para encontrar soluções para problemas menores Nossa solução de programação dinâmica toma um algoritmo recursivo de tempo exponencial e o reduz a um algoritmo de tempo linear Para ilustrar a propriedade de subproblemas sobrepostos com mais detalhes vamos examinar novamente o problema de multiplicação de cadeias de matrizes Consultando mais uma vez a Figura 155 observe que MATRIXCHAIN ORDER consulta repetidamente a solução para subproblemas em linhas inferiores quando está resolvendo subproblemas em linhas superiores Por exemplo referencia a entrada m3 4 quatro vezes durante os cálculos de m2 4 m1 4 m3 5 e m3 6 Se tivéssemos de recalcular m3 4 toda vez em vez de apenas consultála o tempo de execução aumentaria expressivamente Para ver como considere o seguinte procedimento recursivo ineficiente que determina mi j o número mínimo de multiplicações escalares necessárias para calcular o produto de cadeias de matrizes Ai j Ai Ai1 Aj O procedimento é diretamente baseado na recorrência 157 A Figura 157 mostra a árvore de recursão produzida pela chamada RECURSIVEMATRIXCHAINp 1 4 Cada nó é identificado pelos valores dos parâmetros i e j Observe que alguns pares de valores ocorrem muitas vezes De fato podemos mostrar que o tempo para calcular m1 n por esse procedimento recursivo é no mínimo exponencial em n Seja Tn o tempo tomado por RECURSIVEMATRIXCHAIN para calcular uma parentização ótima de uma cadeia de n matrizes Como cada uma das execuções das linhas 12 e das linhas 67 demora no mínimo tempo unitário assim como a multiplicação na linha 5 a inspeção do procedimento produz a recorrência Figura 157 A árvore de recursão para a execução de RECURSIVEMATRIXCHAINp 1 4 Cada nó contém os parâmetros i e j Os cálculos executados em uma subárvore sombreada são substituídos por uma única consulta à tabela em MEMOIZEDMATRIXCHAIN Observando que para i 1 2 n 1 cada termo Ti aparece uma vez como Tk e uma vez como Tn k e reunindo os n 1 valores 1 no somatório com o valor 1 à frente podemos Provaremos que Tn Ω2n usando o método de substituição Especificamente mostraremos que Tn 2n 1 para todo n 1 A base é fácil já que T1 1 20 Por indução para n 2 temos o que conclui a prova Assim a quantidade total de trabalho executado pela chamada RECURSIVEMATRIXCHAINp 1 n é no mínimo exponencial em n Compare esse algoritmo recursivo de cima para baixo sem memoização com o algoritmo de programação dinâmica de baixo para cima Este último é mais eficiente porque tira proveito da propriedade de subproblemas sobrepostos A multiplicação de cadeias de matrizes tem somente Qn2 subproblemas distintos e o algoritmo de programação dinâmica resolve cada um deles exatamente uma vez Por outro lado novamente o algoritmo recursivo deve resolver cada subproblema toda vez que ele reaparece na árvore de recursão Sempre que uma árvore de recursão para a solução recursiva natural para um problema contiver o mesmo subproblema repetidamente e o número total de subproblemas distintos for pequeno a programação dinâmica pode melhorar a eficiência às vezes expressivamente Reconstrução de uma solução ótima Como regra prática muitas vezes armazenamos em uma tabela a opção que escolhemos em cada subproblema de modo que não tenhamos de reconstruir essa informação com base nos custos que armazenamos Na multiplicação de cadeias de matrizes a tabela si j poupa uma quantidade significativa de trabalho durante a reconstrução de uma solução ótima Suponha que não mantivéssemos a tabela si j tendo preenchido apenas a tabela mi j que contém custos de subproblemas ótimos Escolhemos entre j i possibilidades quando determinamos quais subproblemas usar em uma solução ótima para parentizar Ai Ai1 Aj e j i não é uma constante Portanto demoraria o tempo Q j i ω1 para reconstruir os subproblemas que escolhemos para uma solução de um problema dado Armazenando em si j o índice da matriz nos quais separamos o produto Ai Ai1 Aj podemos reconstruir cada escolha no tempo O1 Memoização 1 2 Como vimos no problema do corte de hastes há uma abordagem alternativa para a programação dinâmica que frequentemente oferece a eficiência da abordagem de programação dinâmica de baixo para cima e ao mesmo tempo mantém uma estratégia de cima para baixo A ideia é memoizar o algoritmo recursivo natural mas ineficiente Como na abordagem de baixo para cima mantemos uma tabela com soluções de subproblemas mas a estrutura de controle para preencher a tabela é mais semelhante ao algoritmo recursivo Um algoritmo recursivo memoizado mantém uma entrada em uma tabela para a solução de cada subproblema Cada entrada da tabela contém inicialmente um valor especial para indicar que a entrada ainda tem de ser preenchida Quando o subproblema é encontrado pela primeira vez durante a execução do algoritmo recursivo sua solução é calculada e depois armazenada na tabela Cada vez subsequente que encontrarmos esse subproblema simplesmente consultamos o valor armazenado na tabela e o devolvemos5 Apresentamos a seguir uma versão memoizada de RECURSIVEMATRIXCHAIN Observe os pontos de semelhança com o método de cima para baixo memoizado para o problema do corte de hastes O procedimento MEMOIZEDMATRIXCHAIN assim como o procedimento MATRIXCHAINORDER mantém uma tabela m1n 1n de valores calculados de mi j o número mínimo de multiplicações escalares necessárias para calcular a matriz Aij Cada entrada de tabela contém inicialmente o valor para indicar que a entrada ainda tem de ser preenchida Quando a chamada LOOKUPCHAINp i j é executada se a linha 1 verificar que mi j o procedimento simplesmente retorna o custo mi j calculado anteriormente na linha 2 Caso contrário o custo é calculado como em RECURSIVEMATRIXCHAIN armazenado em mi j e retornado Assim LOOKUPCHAINp i j sempre retorna o valor de mi j mas só o calcula na primeira chamada de LOOKUPCHAIN que tenha esses valores específicos de i e j A Figura 157 ilustra como MEMOIZEDMATRIXCHAIN poupa tempo em comparação com RECURSIVEMATRIXCHAIN As subárvores sombreadas representam valores que o procedimento consulta em vez de recalcular Do mesmo modo que o algoritmo de programação dinâmica de baixo para cima MATRIXCHAINORDER o procedimento MEMOIZEDMATRIXCHAIN é executado em tempo On3 A linha 5 de MEMOIZEDMATRIXCHAIN é executada On2 vezes Podemos classificar as chamadas de LOOKUPCHAIN em dois tipos Chamadas nas quais mi j de modo que as linhas 39 são executadas Chamadas nas quais mi j de modo que LOOKUPCHAIN simplesmente retorna na linha 2 1531 1532 1533 1534 1535 Há Qn2 chamadas do primeiro tipo uma por entrada de tabela Todas as chamadas do segundo tipo são feitas como chamadas recursivas por chamadas do primeiro tipo Sempre que uma dada chamada de LOOKUPCH A IN faz chamadas recursivas ela faz On chamadas Assim há ao todo On3 chamadas do segundo tipo Cada chamada do segundo tipo demora o tempo O1 e cada chamada do primeiro tipo demora o tempo On mais o tempo gasto em suas chamadas recursivas Portanto o tempo total é On3 Assim a memoização transforma um algoritmo de tempo 2n em um algoritmo de tempo On3 Resumindo podemos resolver o problema de multiplicação de cadeias de matrizes no tempo On3 por um algoritmo de programação dinâmica de cima para baixo memoizado ou por um algoritmo de programação dinâmica de baixo para cima Ambos os métodos tiram proveito da propriedade dos subproblemas sobrepostos Há apenas Qn2 subproblemas distintos no total e qualquer um desses métodos calcula a solução para cada subproblema somente uma vez Sem memoização o algoritmo recursivo natural é executado em tempo exponencial já que subproblemas resolvidos são resolvidos repetidas vezes Na prática geral se todos os subproblemas devem ser resolvidos no mínimo uma vez o desempenho de um algoritmo de programação dinâmica de baixo para cima normalmente supera o de um algoritmo de cima para baixo memoizado por um fator constante porque o algoritmo de baixo para cima não tem nenhuma sobrecarga para recursão e a sobrecarga associada à manutenção da tabela é menor Além disso em alguns problemas podemos explorar o padrão regular de acessos a tabelas no algoritmo de programação dinâmica para reduzir ainda mais os requisitos de tempo ou espaço Alternativamente se alguns subproblemas no espaço de subproblemas não precisarem ser resolvidos de modo algum a solução memoizada tem a vantagem de resolver somente os subproblemas que são definitivamente necessários Exercícios Qual modo é mais eficiente para determinar o número ótimo de multiplicações em um problema de multiplicação de cadeias de matrizes enumerar todos os modos de parentizar o produto e calcular o número de multiplicações para cada um ou executar RECURSIVEMATRIXCHAIN Justifique sua resposta Desenhe a árvore de recursão para o procedimento MERGESO RT da Seção 231 em um arranjo de 16 elementos Explique por que a memoização não aumenta a velocidade de um bom algoritmo de divisão e conquista como MERGESORT Considere uma variante do problema da multiplicação de cadeias de matrizes na qual a meta é parentizar a sequência de matrizes de modo a maximizar em vez de minimizar o número de multiplicações escalares Esse problema exibe subestrutura ótima Como já dissemos em programação dinâmica primeiro resolvemos os subproblemas e depois escolhemos qual deles utilizar em uma solução ótima para o problema A professora Capulet afirma que nem sempre é necessário resolver todos os subproblemas para encontrar uma solução ótima Ela sugere que podemos encontrar uma solução ótima para o problema de multiplicação de cadeias de matrizes escolhendo sempre a matriz Ak na qual separar o subproduto Ai Ai1 Aj selecionando k para minimizar a quantidade pi 1 pk pj antes de resolver os subproblemas Determine uma instância do problema de multiplicação de cadeias de matrizes para a qual essa abordagem gulosa produz uma solução subótima Suponha que no problema do corte de hastes da Seção 151 tivéssemos também o limite li para o número de peças de comprimento i que era permitido produzir para i 1 2n Mostre que a propriedade de subestrutura ótima descrita na Seção 151 deixa de ser válida 1536 154 Imagine que você queira fazer o câmbio de uma moeda por outra e percebe que em vez de trocar diretamente uma moeda por outra seria melhor efetuar uma série de trocas intermediárias por outras moedas por fim tendo em mãos a moeda que queria Suponha que você possa trocar n moedas diferentes numeradas de 12n que começará com a moeda 1 e quer terminar com a moeda n Você tem para cada par de moedas i e j uma taxa de câmbio rij o que significa que se você começar com d unidades da moeda i poderá trocálas por drij unidades da moeda j Uma sequência de trocas pode acarretar uma comissão que depende do número de trocas que você faz Seja ck a comissão cobrada quando você faz k trocas Mostre que se ck 0 para todo k 12n o problema de determinar a melhor sequência de trocas da moeda 1 para a moeda n exibe subestrutura ótima Então mostre que se as comissões ck são valores arbitrários o problema de determinar a melhor sequência de trocas da moeda 1 para a moeda n não exibe necessariamente subestrutura ótima SUBSEQUÊNCIA COMUM MAIS LONGA Em aplicações biológicas muitas vezes é preciso comparar o DNA de dois ou mais organismos diferentes Um filamento de DNA consiste em uma cadeia de moléculas denominadas bases na qual as bases possíveis são adenina guanina citosina e timina Representando cada uma dessas bases por sua letra inicial podemos expressar um filamento de DNA como uma cadeia no conjunto finito ACGT O Apêndice C dá a definição de uma cadeia Por exemplo o DNA de um organismo pode ser S1 ACCGGTCGAGTGCGCGGAAGCCGGCCGAA e o DNA de outro organismo pode ser S2 GTCGTTCGGAATGCCGTTGCTCTGTAAA Uma razão para a comparação de dois filamentos de DNA é determinar o grau de semelhança entre eles que serve como alguma medida da magnitude da relação entre os dois organismos Podemos definir e definimos a semelhança de muitas maneiras diferentes Por exemplo podemos dizer que dois filamentos de DNA são semelhantes se um deles for uma subcadeia do outro O Capítulo 32 explora algoritmos para resolver esse problema Em nosso exemplo nem S1 nem S2 é uma subcadeia do outro Alternativamente poderíamos dizer que dois filamentos são semelhantes se o número de mudanças necessárias para transformar um no outro for pequeno O Problema 153 explora essa noção Ainda uma outra maneira de medir a semelhança entre filamentos S1 e S2 é encontrar um terceiro filamento S3 no qual as bases em S3 aparecem em cada um dos filamentos S1 e S2 essas bases devem aparecer na mesma ordem mas não precisam ser necessariamente consecutivas Quanto mais longo o filamento S3 que pudermos encontrar maior será a semelhança entre S1 e S2 Em nosso exemplo o filamento S3 mais longo é GTCGTCGGAAGCCGGCCGAA Formalizamos essa última noção de semelhança como o problema da subsequência comum mais longa Uma subsequência de uma determinada sequência é apenas a sequência dada na qual foram omitidos zero ou mais elementos Em termos formais dada uma sequência X x1 x2 xm uma outra sequência Z z1 z2 zk é uma subsequência de X se existir uma sequência estritamente crescente i1 i2 ik de índices de X tais que para todo j 1 2 k temos xi zj Por exemplo Z B C D B é uma subsequência de X A B C B D A B com sequência de índices correspondente 2 3 5 7 Dadas duas sequências X e Y dizemos que uma sequência Z é uma subsequência comum de X e Y se Z é uma subsequência de X e Y Por exemplo se X A B C B D A B e Y B D C A B A a sequência B C A é uma subsequência comum das sequências X e Y Porém a sequência B C A não é uma subsequência comum mais longa LCS longest common subsequence de X e Y já que tem comprimento 3 e a sequência B C B A que também é comum a X e Y tem comprimento 4 A sequência B C B A é uma LCS de X e Y assim como a sequência B D A B visto que não existe nenhuma subsequência comum de comprimento 5 ou maior No problema da subsequência comum mais longa temos duas sequências X x1 x2 xm e Y y1 y2 yn e desejamos encontrar uma subsequência comum de comprimento máximo de X e Y Esta seção mostra como resolver o problema da LCS eficientemente usando programação dinâmica 1 2 3 Etapa 1 Caracterização de uma subsequência comum mais longa Uma abordagem de força bruta para resolver o problema da LCS seria enumerar todas as subsequências de X e conferir cada subsequência para ver se ela também é uma subsequência de Y sem perder de vista a subsequência mais longa encontrada Cada subsequência de X corresponde a um subconjunto dos índices 1 2 m de X Como X tem 2m subsequências essa abordagem requer tempo exponencial o que a torna impraticável para sequências longas Porém o problema da LCS tem uma propriedade de subestrutura ótima como mostra o teorema a seguir Como veremos as classes naturais de subproblemas correspondem a pares de prefixos das duas sequências de entrada Mais precisamente dada uma sequência X x1 x2 xm definimos o iésimo prefixo de X para i 0 1 m como Xi x1 x2 xi Por exemplo se X A B C B D A B então X4 A B C B e X0 é a sequência vazia Teorema 151 Subestrutura ótima de uma LCS Sejam X x1 x2 xm e Y y1 y2 yn as sequências e seja Z z1 z2 zk qualquer LCS de X e Y Se xm yn então zk xm yn e Zk 1 é uma LCS de Xm 1 e Yn 1 Se xm yn então zk xm implica que Z é uma LCS de Xm 1 e Y Se xm yn então zk ym implica que Z é uma LCS de X e Yn 1 Prova 1 Se zk xm então podemos anexar xm yn a Z para obter uma subsequência comum de X e Y de comprimento k 1 contradizendo a suposição de que Z é uma subsequência comum mais longa de X e Y Assim devemos ter zk xm yn Agora o prefixo Zk 1 é uma subsequência comum de comprimento k 1 de Xm1 e Yn1 Desejamos mostrar que ela é uma LCS Suponha por contradição que exista uma subsequência comum W de Xm1 e Yn1 com comprimento maior que k 1 Então anexar xm yn a W produz uma subsequência comum de X e Y cujo comprimento é maior que k o que é uma contradição 2 Se zk xm então Z é uma subsequência comum de Xm1 e Y Se existisse uma subsequência comum W de Xm 1 e Y com comprimento maior que k então W seria também uma subsequência comum de Xm e Y contradizendo a suposição de que Z é uma LCS de X e Y 3 A prova é simétrica a 2 O modo como o Teorema 151 caracteriza subsequências comuns mais longas nos diz que uma LCS de duas sequências contém uma LCS de prefixos das duas sequências Assim o problema de LCS tem uma propriedade de subestrutura ótima Uma solução recursiva também tem a propriedade de subproblemas sobrepostos como veremos em breve Etapa 2 Uma solução recursiva O Teorema 151 subentende que devemos examinar um ou dois subproblemas quando queremos encontrar uma LCS de X x1 x2 xm e Y y1 y2 yn Se xm yn devemos encontrar uma LCS de Xm1 e Yn1 Anexar xm yn a essa LCS produz uma LCS de X e Y Se xm yn então devemos resolver dois subproblemas encontrar uma LCS de Xm1 e Y e encontrar uma LCS de X e Yn1 A mais longa de qualquer dessas duas LCS é uma LCS de X e Y Como esses casos esgotam todas as possibilidades sabemos que uma das soluções ótimas de subproblemas certamente aparecerá dentro de uma LCS de X e Y É fácil ver a propriedade de subproblemas sobrepostos no problema da LCS Para encontrar uma LCS de X e Y pode ser necessário encontrar as LCS de X e Yn1 e de Xm1 e Y Porém cada um desses subproblemas tem o subsubproblema de encontrar uma LCS de Xm1 e Yn1 Muitos outros subproblemas compartilham subsubproblemas Como ocorreu no problema de multiplicação de cadeias de matrizes nossa solução recursiva para o problema da LCS envolve estabelecer uma recorrência para o valor de uma solução ótima Vamos definir ci j como o comprimento de uma LCS das sequências Xi e Yj Se i 0 ou j 0 uma das sequências tem comprimento 0 e portanto a LCS tem comprimento 0 A subestrutura ótima do problema da LCS dá a fórmula recursiva Observe que nessa formulação recursiva uma condição no problema restringe os subproblemas que podemos considerar Quando xi yj podemos e devemos considerar o subproblema de encontrar a LCS de Xi1 e Yj1 Caso contrário consideramos os dois subproblemas de encontrar uma LCS de Xi e Yj1 e de Xi1 e Yj Nos algoritmos de programação dinâmica que já examinamos para corte de hastes e para multiplicação de cadeias de matrizes não descartamos nenhum subproblema por causa de condições no problema O algoritmo para encontrar uma LCS não é o único algoritmo de programação dinâmica que descarta subproblemas com base em condições no problema Por exemplo o problema da distância de edição ver o Problema 153 tem essa característica Etapa 3 Cálculo do comprimento de uma LCS Tendo como base a equação 159 seria fácil escrever um algoritmo recursivo de tempo exponencial para calcular o comprimento de uma LCS de duas sequências Contudo visto que o problema da LCS tem somente Qmn subproblemas distintos podemos usar programação dinâmica para calcular as soluções de baixo para cima O procedimento LCSLENGTH toma duas sequências X x1 x2 xm e Y y1 y2 yn como entradas Armazena os valores ci j em uma tabela c0 m 0 n e calcula as entradas em ordem orientada por linha isto é preenche a primeira linha de c da esquerda para a direita depois a segunda linha e assim por diante O procedimento também mantém a tabela b1 m 1 n para ajudar a construir uma solução ótima Intuitivamente bi j aponta para a entrada da tabela correspondente à solução ótima de subproblema escolhida ao se calcular ci j O procedimento retorna as tabelas b e c cm n contém o comprimento de uma LCS de X e Y A Figura 158 mostra as tabelas produzidas por LCSLENGTH nas sequências X A B C B D A B e Y B D C A B A O tempo de execução do procedimento é Qmn já que cada entrada de tabela demora o tempo Q1 para ser calculada Etapa 4 Construção de uma LCS A tabela b retornada por LCSLENGTH nos habilita a construir rapidamente uma LCS de X x1 x2 xm e Y y1 y2 yn Simplesmente começamos em bm n e percorremos a tabela seguindo as setas Sempre que encontramos uma na entrada bi j ela implica que xi yj é um elemento da LCS que LCSLENGTH encontrou Com esse método encontramos os elementos da LCS em ordem inversa O procedimento recursivo a seguir imprime uma LCS de X e Y na ordem direta adequada A invocação inicial é PRINTLCSb X Xcomprimento Ycomprimento PrintLCSb X i j Figura 158 As tabelas c e b calculadas por LCSLENGTH para as sequências X A B C B D A B e Y B D C A B A O quadrado na linha i e coluna j contém o valor de ci j e a seta adequada para o valor de bi j A entrada 4 em c7 6 o canto inferior direito da tabela é o comprimento de uma LCS B C B A de X e Y Para i j 0 a entrada ci j depende apenas de xi yj e dos valores nas entradas ci 1 j ci j 1 e ci 1 j 1 que são calculados antes de ci j Para reconstruir os elementos de uma LCS siga as setas bi j desde o canto inferior direito a sequência está sombreada Cada na sequência sombreada corresponde a uma entrada destacada para a qual xi yj é membro de uma LCS Para a tabela b na Figura 158 esse procedimento imprime BCBA O procedimento demora o tempo Om n já que decrementa no mínimo um de i e j em cada fase da recursão Melhorando o código Depois de ter desenvolvido um algoritmo você muitas vezes constatará que é possível melhorar o tempo ou o espaço que ele utiliza Algumas mudanças podem simplificar o código e melhorar fatores constantes porém quanto ao 1541 1542 1543 1544 1545 1546 155 mais não produzem nenhuma melhora assintótica no desempenho Outras podem resultar em economias assintóticas significativas de tempo e de espaço Por exemplo no algoritmo LCS podemos eliminar totalmente a tabela b Cada entrada ci j depende apenas de três outras entradas na tabela ci 1 j 1 ci 1 j e ci j 1 Dado o valor de ci j podemos determinar em tempo O1 de qual desses três valores foi usado para calcular ci j sem inspecionar a tabela b Assim podemos reconstruir uma LCS em tempo Om n usando um procedimento semelhante a PRINTLCS O Exercício 1542 pede que você dê o pseudocódigo Embora economizemos espaço Qmn por esse método o requisito de espaço auxiliar para calcular uma LCS não diminui assintoticamente já que de qualquer modo precisamos do espaço Qmn para a tabela c Entretanto podemos reduzir os requisitos de espaço assintótico para LCSLENGTH já que esse procedimento só precisa de duas linhas da tabela c por vez a linha que está sendo calculada e a linha anterior De fato como o Exercício 1544 pede que você mostre podemos usar apenas um pouquinho mais que o espaço para uma linha de c para calcular o comprimento de uma LCS Esse aperfeiçoamento funciona se necessitamos apenas do comprimento de uma LCS se precisarmos reconstruir os elementos de uma LCS a tabela menor não guardará informações suficientes para reconstituir nossas etapas no tempo Om n Exercícios Determine uma LCS de 1 0 0 1 0 1 0 1 e 0 1 0 1 1 0 1 1 0 Dê o pseudocódigo para reconstruir uma LCS partindo da tabela c concluída e das sequências originais X x1 x2 xm e Y y1 y2 yn em tempo Om n sem usar a tabela b Dê uma versão memoizada de LCSLENGTH que seja executada no tempo Omn Mostre como calcular o comprimento de uma LCS usando apenas 2 minm n entradas na tabela c mais o espaço adicional O1 Em seguida mostre como fazer a mesma coisa usando minm n entradas mais o espaço adicional O1 Dê um algoritmo de tempo On2 para encontrar a subsequência monotonicamente crescente mais longa de uma sequência de n números Dê um algoritmo de tempo On lg n para encontrar a subsequência mais longa monotonicamente crescente de uma sequência de n números Sugestão Observe que o último elemento de uma subsequência candidata de comprimento i é no mínimo tão grande quanto o último elemento de uma subsequência candidata de comprimento i 1 Mantenha as subsequências candidatas ligandoas por meio da sequência de entrada ÁRVORES DE BUSCA BINÁRIA ÓTIMAS Suponha que estejamos projetando um programa para traduzir texto do inglês para o francês Para cada ocorrência de cada palavra inglesa no texto precisamos procurar sua equivalente em francês Um modo de executar essas operações de busca é construir uma árvore de busca binária com n palavras inglesas como chaves e suas equivalentes francesas como dados satélites Como pesquisaremos a árvore para cada palavra individual no texto queremos que o tempo total gasto na busca seja tão baixo quanto possível Poderíamos assegurar um tempo de busca Olg n por ocorrência usando uma árvore vermelhopreto ou qualquer outra árvore de busca binária balanceada Porém as palavras aparecem com frequências diferentes e uma palavra usada frequentemente como the pode aparecer longe da raiz enquanto uma palavra raramente usada como machicolation apareceria perto da raiz Tal organização reduziria a velocidade da tradução já que o número de nós visitados durante a busca de uma chave em uma árvore de busca binária é igual a uma unidade mais a profundidade do nó que contém a chave Queremos que palavras que ocorrem com frequência no texto sejam colocadas mais próximas à raiz6 Além disso algumas palavras no texto podem não ter nenhuma tradução para o francês7 e portanto não apareceriam em nenhum lugar na árvore de busca binária Como organizamos uma árvore de busca binária para minimizar o número de nós visitados em todas as buscas considerando que sabemos com que frequência cada palavra ocorre O que precisamos é conhecido como árvore de busca binária ótima Formalmente temos uma sequência K k1 k2 kn de n chaves distintas em sequência ordenada de modo que k1 k2 kn e desejamos construir uma árvore de busca binária com essas chaves Para cada chave ki temos uma probabilidade pi de que uma busca seja para ki Algumas buscas podem ser para valores que não estão em K e então também temos n 1 chaves fictícias d0 d1 d2 dn que representam valores que não estão em K Em particular d0 representa todos os valores menores que k1 dn representa todos os valores maiores que kn e para i 1 2 n 1 a chave fictícia di representa todos os valores entre ki e ki1 Para cada chave fictícia di temos uma probabilidade qi de que uma busca corresponda a di A Figura 159 mostra duas árvores de busca binária para um conjunto n 5 chaves Cada chave ki é um nó interno e cada chave fictícia di é uma folha Toda busca é bem sucedida quando encontra alguma chave ki ou mal sucedida quando encontra alguma chave fictícia di e então temos Figura 159 Duas árvores de busca binária para um conjunto de n 5 chaves com as seguintes probabilidades a Uma árvore de busca binária com custo de busca esperado 280 b Uma árvore de busca binária com custo de busca esperado 275 Essa árvore é ótima Como temos probabilidades de busca para cada chave e cada chave fictícia podemos determinar o custo esperado de uma busca em uma árvore de busca binária dada T Vamos supor que o custo real de uma busca seja igual ao número de nós examinados isto é a profundidade do nó encontrado pela busca em T mais 1 Então o custo esperado de uma busca em T é onde profundidadeT denota a profundidade de um nó na árvore T A última igualdade decorre da equação 1510 Na Figura 159a podemos calcular o custo esperado da busca por nó nó profundidade probabilidade contribuição k1 1 015 030 k2 0 010 010 k3 2 005 015 k4 1 010 020 k5 2 020 060 d0 2 005 015 d1 2 010 030 d2 3 005 020 d3 3 005 020 d4 3 005 020 d5 3 010 040 Total 280 Para um dado conjunto de probabilidades queremos construir uma árvore de busca binária cujo custo de busca esperado seja o menor de todos Damos a essa árvore o nome de árvore de busca binária ótima A Figura 159b mostra uma árvore de busca binária ótima para as probabilidades dadas na legenda da figura seu custo esperado é 275 Esse exemplo mostra que uma árvore de busca binária ótima não é necessariamente uma árvore cuja altura global seja a menor Nem funciona necessariamente construir uma árvore de busca binária ótima sempre colocando a chave com maior probabilidade na raiz Aqui a chave k5 tem a maior probabilidade de busca de qualquer chave entretanto a raiz da árvore de busca binária ótima mostrada é k2 O custo esperado mais baixo de qualquer árvore de busca binária com k5 na raiz é 285 Como ocorre com a multiplicação de cadeias de matrizes a verificação exaustiva de todas as possibilidades não produz um algoritmo eficiente Podemos identificar os nós de qualquer árvore binária de n nós com as chaves k1 k2 kn para construir uma árvore de busca binária e depois adicionar as chaves fictícias como folhas No Problema 124 vimos que o número de árvores binárias com n nós é 4nn32 e portanto em uma busca exaustiva teríamos de examinar um número exponencial de árvores de busca binária Então não é nenhuma surpresa que resolvamos esse problema com programação dinâmica Etapa 1 A estrutura de uma árvore de busca binária ótima Para caracterizar a subestrutura ótima de árvores de busca binária ótima começamos com uma observação sobre subárvores Considere qualquer subárvore de uma árvore de busca binária Ela deve conter chaves em uma faixa contígua kikj para algum 1 i j n Além disso uma subárvore que contém chaves kikj também deve ter como folhas as chaves fictícias di1dj Agora podemos expressar a subestrutura ótima se uma árvore de busca binária ótima T tem uma subárvore T que contém chaves kikj então essa subárvore T deve também ser ótima para o subproblema com chaves kikj e chaves fictícias di1dj O argumento habitual de recortar e colar é aplicável Se houvesse uma subárvore T cujo custo esperado fosse mais baixo que o de T poderíamos recortar T de T e colar T no seu lugar resultando em uma árvore de busca binária de custo esperado mais baixo que T contradizendo assim a otimalidade de T Precisamos usar a subestrutura ótima para mostrar que podemos construir uma solução ótima para o problema partindo de soluções ótimas para subproblemas Dadas as chaves kikj uma dessas chaves digamos kr i r j é a raiz de uma subárvore ótima que contém essas chaves A subárvore esquerda da raiz kr contém as chaves kikr1 e chaves fictícias di1dr1 e a subárvore direita contém as chaves kr1kj e chaves fictícias drdj Desde que examinemos todas as raízes candidatas kr onde i r j e determinemos todas as árvores de busca binária ótimas que contêm kikr1 e as que contêm kr1kj é garantido que encontraremos uma árvore de busca binária ótima Há um detalhe que vale a pena observar sobre subárvores vazias Suponha que em uma subárvore com chaves kikj selecionemos ki como a raiz Pelo argumento que acabamos de apresentar a subárvore esquerda de ki contém as chaves kiki1 Interpretamos que essa sequência não contém nenhuma chave Contudo lembrese de que subárvores também contêm chaves fictícias Adotamos a seguinte convenção uma subárvore que contém chaves kiki1 não tem nenhuma chave real mas contém a única chave fictícia di1 Simetricamente se selecionarmos kj como a raiz a subárvore direita de kj contém as chaves kj1kj essa subárvore direita não contém nenhuma chave real mas contém a chave fictícia dj Etapa 2 Uma solução recursiva Estamos prontos para definir o valor de uma solução ótima recursivamente Escolhemos como domínio de nosso subproblema encontrar uma árvore de busca binária ótima que contenha as chaves kikj onde i 1 j n e j i 1 Quando j i 1 não existe nenhuma chave real temos apenas a chave fictícia di1 Vamos definir ei j como o custo esperado de pesquisar uma árvore de busca binária ótima que contenha as chaves kikJ Em última análise desejamos calcular e1 n O caso fácil ocorre quando j i 1 Então temos apenas a chave fictícia di1 O custo de busca esperado é ei i 1 qi1 Quando j i precisamos selecionar uma raiz k que esteja entre kikj e fazer de uma árvore de busca binária ótima com chaves kikr1 sua subárvore esquerda e de uma árvore de busca binária ótima com chaves kr1kj sua subárvore direita O que acontece com o custo de busca esperado de uma subárvore quando ela se torna uma subárvore de um nó A profundidade de cada nó na subárvore aumenta de 1 Pela equação 1511 o custo de busca esperado dessa subárvore aumenta de uma quantidade igual à soma de todas as probabilidades na subárvore Para uma subárvore com chaves kikj vamos denotar essa soma de probabilidades como Assim se kr é a raiz de uma subárvore ótima contendo chaves kikj temos Observando que reescrevemos ei j como A equação recursiva 1513 pressupõe que sabemos qual nó kr usar como raiz Escolhemos a raiz que dá o custo de busca esperado mais baixo o que dá nossa formulação recursiva final Os valores ei j dão os custos de busca esperados em árvores de busca binária ótimas Para ajudar a controlar a estrutura de árvores de busca binária ótimas definimos raizi j para 1 i j n como o índice r para o qual kr é a raiz de uma árvore de busca binária ótima contendo chaves kikj Veremos como calcular os valores de raizi j mas deixamos a construção da árvore de busca binária ótima com esses valores para o Exercício 1551 Etapa 3 Cálculo do custo de busca esperado de uma árvore de busca binária ótima Até aqui você deve ter notado algumas semelhanças entre as caracterizações que fizemos de árvores de busca binária ótimas e multiplicação de cadeias de matrizes Para ambos os domínios de problemas nossos subproblemas consistem em subfaixas de índices contíguos Uma implementação recursiva direta da equação 1514 seria tão ineficiente quanto um algoritmo recursivo direto de multiplicação de cadeias de matrizes Em vez disso armazenamos os valores ei j em uma tabela e1 n 1 0 n O primeiro índice precisa ir até n 1 em vez de n porque para ter uma subárvore contendo apenas a chave fictícia dn precisaremos calcular e armazenar en 1 n O segundo índice tem de começar de 0 porque para ter uma subárvore contendo apenas a chave fictícia d0 precisaremos calcular e armazenar e1 0 Usamos somente as entradas ei j para as quais j i 1 Empregamos também uma tabela raizi j para registrar a raiz da subárvore que contém as chaves kikj Essa tabela utiliza somente as entradas para as quais 1 i j n Precisaremos de uma outra tabela para eficiência Em vez de calcular o valor de wi j desde o início toda vez que estamos calculando ei j o que exigiria Q j i adições armazenamos esses valores em uma tabela w1n 1 0n Para o casobase calculamos wi i 1 qi1 para 1 i n Para j i calculamos Assim podemos calcular cada um dos Qn2 valores de wi j no tempo Q1 O pseudocódigo a seguir toma como entradas as probabilidades p1pn e q0qn e o tamanho n e retorna as tabelas e e raiz 1551 Pela descrição anterior e pela semelhança com o procedimento MATRIXCHAINORD E R da Seção 152 você constatará que a operação desse procedimento é razoavelmente direta O laço for das linhas 24 inicializa os valores de ei i 1 e wi i 1 Então o laço for das linhas 514 usa as recorrências 1514 e 1515 para calcular ei j e wi j para 1 i j n Na primeira iteração quando l 1 o laço calcula ei i e wi i para i 1 2n A segunda iteração com l 2 calcula ei i 1 e wi i 1 para i 1 2n 1 e assim por diante O laço for mais interno nas linhas 1014 experimenta cada índice candidato r para determinar que chave kr usar como raiz de uma árvore de busca binária ótima contendo chaves kikj Esse laço for salva o valor atual do índice r em raizi j sempre que encontra uma chave melhor para usar como raiz A Figura 1510 mostra as tabelas ei j wi j e raizi j calculadas pelo procedimento OPTIMALBST para a distribuição de chaves mostrada na Figura 159 Como no exemplo de multiplicação de cadeias de matrizes da Figura 155 as tabelas sofreram uma rotação para colocar a diagonal principal na posição horizontal OPTIMALBST calcula as linhas de baixo para cima e da esquerda para a direita dentro de cada linha O procedimento OPTIMALBST demora o tempo Qn3 exatamente como MATRIXCHAINORDER É fácil verificar que o tempo de execução é On3 já que seus laços for estão aninhados em profundidade três e cada índice de laço exige no máximo n valores Os índices de laços em OPTIMALBST não têm exatamente os mesmos limites que os de MATRIXCHAIN ORDER mas eles estão abrem no máximo 1 em todas as direções Assim exatamente como MATRIXCHAINORDER o procedimento OPTIMALBST demora o tempo n3 Exercícios Escreva o pseudocódigo para o procedimento CONSTRCUTOPTIMALBSTraiz que dada a tabela raiz dê como saída a estrutura de uma árvore de busca binária ótima No exemplo da Figura 1510 seu procedimento deve imprimir a estrutura 1552 Figura 1510 As tabelas ei j wi j e raizi j calculadas por oPTIMALBST para a distribuição de chaves mostrada na Figura 159 As tabelas sofreram uma rotação para colocar as diagonais principais na posição horizontal k2 é a raiz k1 é o filho à esquerda de k2 d0 é o filho à esquerda de k1 d1 é o filho à direita de k1 k5 é o filho à direita de k2 k4 é o filho à esquerda de k5 k3 é o filho à esquerda de k4 d2 é o filho à esquerda de k3 d3 é o filho à direita de k3 d4 é o filho à direita de k4 d5 é o filho à direita de k5 correspondente à árvore de busca binária ótima mostrada na Figura 159b Determine o custo e a estrutura de uma árvore de busca binária ótima para um conjunto de n 7 chaves com as seguintes probabilidades 1553 1554 151 152 Suponha que em vez de manter a tabela wi j calculássemos o valor de wi j diretamente da equação 1512 na linha 9 de OPTIMALBST e utilizássemos esse valor calculado na linha 11 Como essa mudança afetaria o tempo de execução assintótico de OPTIMALBST Knuth 214 mostrou que sempre existem raízes de subárvores ótimas tais que raizi j 1 raizi j raizi 1 j para todo 1 i j n Use esse fato para modificar o procedimento OPTIMALBST de modo que ele seja executado no tempo Qn2 Problemas Caminho simples mais longo em um grafo acíclico dirigido Suponha que tenhamos um grafo acíclico dirigido G V E com pesos de arestas com valores reais e dois vértices distinguidos s e t Descreva uma abordagem de programação dinâmica para determinar um caminho simples ponderado mais longo de s a t Qual é a aparência do grafo de subproblema Qual é a eficiência do seu algoritmo Figura 1511 Sete pontos no plano mostrados sobre uma grade unitária a O caminho fechado mais curto com comprimento aproximado de 2489 Esse caminho não é bitônico b O caminho fechado bitônico mais curto para o mesmo conjunto de pontos Seu comprimento é aproximadamente 2558 Subsequência palíndromo mais longa Um palíndromo é uma cadeia não vazia em algum alfabeto que é lida do mesmo modo da esquerda para a direita ou da direita para a esquerda Exemplos de palíndromos são todas cadeias de comprimento 1 radar asa reter e oco Dê um algoritmo eficiente para encontrar o palíndromo mais longo que é uma subsequência de uma cadeia de entrada dada Por exemplo dada a entrada character nosso algoritmo retornaria carac Qual é o tempo de execução do seu algoritmo 153 154 155 Problema do caixeiroviajante euclidiano bitônico No problema do caixeiroviajante euclidiano temos um conjunto de n pontos no plano e queremos determinar o caminho fechado mais curto que conecta todos os n pontos A Figura 1511a mostra a solução para um problema de sete pontos O problema geral é NPdifícil e portanto acreditase que sua solução requeira mais que tempo polinomial ver Capítulo 34 J L Bentley sugeriu que simplificássemos o problema restringindo nossa atenção a caminhos fechados bitônicos isto é caminhos fechados que começam no ponto da extrema esquerda seguem estritamente da esquerda para a direita até o ponto da extrema direita e depois voltam estritamente da direita para a esquerda até o ponto de partida A Figura 1511b mostra o caminho fechado bitônico mais curto para os mesmos sete pontos Nesse caso é possível um algoritmo de tempo polinomial Descreva um algoritmo de tempo On2 para determinar um caminho fechado bitônico ótimo Você pode considerar que não existem dois pontos com a mesma coordenada x Sugestão Desloquese da esquerda para a direita mantendo possibilidades ótimas para as duas partes do caminho fechado Como obter uma impressão nítida Considere o problema de obter em uma impressora uma impressão nítida de um parágrafo em fonte monoespaçada todos os caracteres têm a mesma largura O texto de entrada é uma sequência de n palavras de comprimentos l1 l2 ln medidos em caracteres Queremos imprimir esse parágrafo nitidamente em uma série de linhas que contêm no máximo M caracteres cada uma Nosso critério de nitidez é dado a seguir Se determinada linha contém palavras de i até j onde i j e deixamos exatamente um espaço entre as palavras o número de caracteres de espaço extras no final da linha é M j i que deve ser não negativo para que as palavras caibam na linha Desejamos minimizar a soma em todas as linhas exceto a última dos cubos dos números de caracteres de espaço extras nas extremidades das linhas Dê um algoritmo de programação dinâmica para imprimir um parágrafo de n palavras nitidamente em uma impressora Analise o tempo de execução e os requisitos de espaço do seu algoritmo Distância de edição Para transformar uma cadeia de texto de origem x1m na cadeia de texto que desejamos y1n podemos executar várias operações de transformação Nossa meta é dados x e y produzir uma série de transformações que mudam x para y Usamos um arranjo z considerado grande o suficiente para conter todos os caracteres de que precisará para conter os resultados intermediários Inicialmente z está vazio e no término devemos ter zj yj para j 1 2 n Mantemos índices atuais i em x e j em z e as operações podem alterar z e esses índices Inicialmente i j 1 Temos de examinar cada caractere em x durante a transformação o que significa que no fim da sequência de operações de transformação devemos ter i m 1 Podemos escolher entre seis operações de transformação Copiar um caractere de x para z fazendo zj xi e incrementar i e j Essa operação examina xi Substituir um caractere de x por outro caractere c fazendo zj c e incrementar i e j Essa operação examina xi Excluir um caractere de x incrementando i mas deixando j inalterado Essa operação examina xi a Inserir o caractere c em z definindo zj c e incrementar j mas deixar i inalterado Essa operação não examina nenhum caractere de x Transpor os dois caracteres seguintes copiandoos de x para z mas na ordem oposta para tal fazemos zj xi 1 e zj 1 xi e fazemos i i 2 e j j 2 Essa operação examina xi e xi 1 Eliminar o restante de x fazendo i m 1 Essa operação examina todos os caracteres em x que ainda não foram examinados Essa operação se executada deverá ser a última Como exemplo um modo de transformar a corrente de origem algorithm na corrente desejada altruistic é usar a sequência de operações a seguir onde os caracteres sublinhados são xi e zj após a operação Observe que há várias outras sequências de operações de transformação que convertem algorithm em altruistic Cada uma das operações de transformação tem um custo associado O custo de uma operação depende da aplicação específica mas consideramos que o custo de cada operação é uma constante que conhecemos Supomos também que os custos individuais das operações copiar e substituir são menores que os custos combinados das operações excluir e inserir senão as operações de copiar e substituir não seriam usadas O custo de uma dada sequência de operações de transformação é a soma dos custos das operações individuais na sequência Para a sequência que estudamos neste exercício o custo de transformar algorithm em altruistic é 3 custocopiar custosubstituir custoexcluir 4 custoinserir custogirar custoeliminar Dadas duas sequências x1m e y1n e um conjunto de custos de operação a distância de edição de x para y é o custo da sequência menos dispendiosa de operações que transforma x em y Descreva um algoritmo de programação dinâmica que determine a distância de edição de x1m para y1n e imprime uma sequência de operações ótima Analise o tempo de execução e os requisitos de espaço de seu algoritmo O problema da distância de edição generaliza o problema de alinhar duas sequências de DNA veja por exemplo Setubal e Meidanis 310 Seção 32 Há vários métodos para medir a semelhança entre duas sequências de DNA por alinhamento Um dos métodos para alinhar duas sequências x e y consiste em inserir b 156 157 a espaços em posições arbitrárias nas duas sequências inclusive em qualquer extremidade de modo que as sequências resultantes x e y tenham o mesmo comprimento mas não um espaço na mesma posição isto é para nenhuma posição j xj e yj são espaços Então atribuímos uma pontuação a cada posição A posição j recebe uma pontuação da seguinte maneira 1 se xj yj e nenhum deles é um espaço 1 se xj yj e nenhum deles é um espaço 2 se xj ou yj é um espaço A pontuação para o alinhamento é a soma das pontuações das posições individuais Por exemplo dadas as sequências x GATCGGCAT e y CAATGTGAATC um alinhamento é Um sob uma posição indica uma pontuação 1 para aquela posição um indica a pontuação 1 e um indica a pontuação 2 portanto esse alinhamento tem uma pontuação total igual a 6 1 2 1 4 2 4 Explique como expressar o problema de determinar um alinhamento ótimo como um problema de distância de edição usando um subconjunto das operações de transformação copiar substituir excluir inserir girar e eliminar Planejamento de uma festa da empresa O professor Stewart presta consultoria ao presidente de uma corporação que está planejando uma festa da empresa A empresa tem uma estrutura hierárquica isto é as relações entre os supervisores formam uma árvore com raiz no presidente O pessoal do escritório classificou cada funcionário segundo uma avaliação de sociabilidade que é um número real Para tornar a festa divertida para todos os participantes o presidente não quer que um funcionário e seu supervisor imediato participem O professor Stewart recebe a árvore que descreve a estrutura da corporação usando a representação de filho à esquerda irmão à direita descrita na Seção 104 Cada nó da árvore contém além dos ponteiros o nome de um funcionário e o posto que ele ocupa na escala de classificação de sociabilidade Descreva um algoritmo para compor uma lista de convidados que maximize a soma das avaliações de sociabilidade dos convidados Analise o tempo de execução do seu algoritmo Algoritmo de Viterbi Podemos usar programação dinâmica em um grafo dirigido G V E para reconhecimento de voz Cada aresta u v E é identificada por um som u v de um conjunto finito Σ de sons O grafo rotulado é um modelo formal de uma pessoa falando uma linguagem restrita Cada caminho no grafo que parte de um vértice distinto v0 V corresponde a uma sequência possível de sons produzidos pelo modelo Definimos o rótulo de um caminho dirigido como a concatenação dos rótulos das arestas nesse caminho Descreva um algoritmo eficiente que dado um grafo com arestas rotuladas G contendo um vértice distinto v0 e uma sequência s s1 s2 sk de sons pertencentes ao conjunto Σ retorne um caminho em b 158 a b 159 G que começa em v0 e tenha s como rótulo se tal caminho existir Caso contrário o algoritmo deve retornar NOSUCHPATH Analise o tempo de execução de seu algoritmo Sugestão Os conceitos do Capítulo 22 poderão ser úteis Agora suponha que toda aresta u v E tenha uma probabilidade associada não negativa pu v de percorrer a aresta u v desde o vértice u e assim produzir o som correspondente A soma das probabilidades das arestas que saem de qualquer vértice é igual a 1 A probabilidade de um caminho é definida como o produto das probabilidades de suas arestas Podemos considerar a probabilidade de um caminho que começa em v0 como a probabilidade de um percurso aleatório começando em v0 seguir o caminho especificado onde escolhemos aleatoriamente qual aresta que sai de um vértice u tomar de acordo com as probabilidades das arestas disponíveis que partem de u Amplie sua resposta à parte a de modo que se um caminho for retornado ele é um caminho mais provável que começa em v0 e tem rótulo s Analise o tempo de execução do seu algoritmo Compressão de imagem por descostura seam carving Temos uma figura em cores que consiste em um arranjo mn A1m 1n de pixels onde cada pixel especifica uma tripla de intensidades de vermelho verde e azul RGB Suponha que queiramos comprimir ligeiramente essa figura Especificamente queremos remover um pixel de cada uma das m linhas de modo que a figura inteira fique um pixel mais estreita Porém para evitar distorção nos efeitos visuais é necessário que os pixels removidos em duas linhas adjacentes estejam na mesma coluna ou em colunas adjacentes Os pixels removidos formam uma costura da linha superior até a linha inferior Nessa costura os pixels sucessivos são adjacentes na vertical e na diagonal Mostre que o número de tais costuras possíveis cresce no mínimo exponencialmente em m considerando que n 1 Agora suponha que juntamente com cada pixel Ai j calculamos uma medida de distorção de valor real di j que indica qual seria o grau de distorção causado pela remoção do pixel Ai j Intuitivamente quanto mais baixa a medida de distorção causada por um pixel mais semelhante a seus vizinhos é esse pixel Suponha ainda que definimos a medida de distorção de uma costura como a soma das medidas de distorção de seus pixels Dê um algoritmo para encontrar uma costura que tenha a medida de distorção mais baixa Qual seria a eficiência desse algoritmo Quebra de cadeia Certa linguagem de processamento de cadeias permite que um programador quebre uma cadeia em dois pedaços Como essa operação copia a cadeia quebrar uma cadeia de n caracteres em dois pedaços tem um custo de n unidades de tempo Suponha que um programador queira quebrar uma cadeia em muitos pedaços A ordem em que as quebras ocorrem pode afetar a quantidade total de tempo gasto Por exemplo suponha que a programadora queira quebrar uma cadeia de 20 caracteres depois dos caracteres 2 8 e 10 numerando os caracteres em ordem ascendente a partir da extremidade esquerda e começando de 1 Se ela programar as quebras da esquerda para a direita a primeira quebra custará 20 unidades de tempo a segunda quebra custará 18 unidades de tempo quebra da cadeia dos caracteres 3 a 20 no caractere 8 e a terceira quebra custará 12 unidades de tempo totalizando 50 unidades de tempo Entretanto se ela programar as quebras da direita para a esquerda a primeira quebra custará 20 unidades de tempo a segunda quebra custará 10 unidades de tempo e a terceira quebra custará 8 unidades de tempo totalizando 38 unidades de tempo 1510 a b c d 1511 Ainda em uma outra ordem ela poderia programar a primeira quebra em 8 custo 20 quebrar o pedaço à esquerda em 2 custo 8 e finalmente o pedaço à direita em 10 custo 12 o que dá um custo total de 40 Projete um algoritmo que dados os números de posição dos caracteres após os quais ocorrerão as quebras determine uma sequência de menor custo dessas quebras Mais formalmente dada uma cadeia S com n caracteres e um arranjo L1m que contém os pontos de quebra calcule o menor custo para uma sequência de quebras juntamente com uma sequência de quebras que atinja esse custo Planejamento de uma estratégia de investimento Como você conhece bem algoritmos consegue um emprego interessante na Acme Computer Company além de um bônus contratual de 10000 Você decide investir esse dinheiro com o objetivo de maximizar o retorno em 10 anos Então decide contratar a Amalgamated Investment Company para gerenciar os seus investimentos Essa empresa exige que você observe as regras descritas a seguir Ela oferece n investimentos diferentes numerados de 1 a n Em cada ano j o investimento dá uma taxa de retorno de rij Em outras palavras se você investiu d dólares no investimento i no ano j ao final do ano j terá drij dólares As taxas de retorno são garantidas isto é a empresa informa todas as taxas de retorno para os próximos 10 anos para cada investimento Você decide o rumo de seus investimentos uma vez por ano Ao fim de cada ano você pode deixar o dinheiro ganho no ano anterior nos mesmos investimentos ou pode transferir dinheiro para outros investimentos seja por transferência entre investimentos existentes ou seja por transferência para um novo investimento Se você não movimenta o dinheiro entre dois anos consecutivos você paga uma taxa de f1 dólares enquanto que se houver transferência você paga uma taxa de f2 dólares onde f2 f1 O problema como enunciado permite que você aplique seu dinheiro em vários investimentos a cada ano Prove que existe uma estratégia de investimento ótima que a cada ano investe todo o dinheiro em um único investimento Lembrese de que uma estratégia de investimento ótima maximiza a quantia investida após 10 anos e não se preocupa com outros objetivos como minimizar riscos Prove que o problema de planejar sua estratégia de investimentos ótima exibe subestrutura ótima Projete um algoritmo que planeje sua estratégia de investimentos ótima Qual é o tempo de execução desse algoritmo Suponha que a Amalgamated Investments tenha imposto a seguinte restrição adicional a qualquer instante você não pode ter mais de 15000 em qualquer dos investimentos Mostre que o problema de maximizar sua receita ao final de 10 anos deixa de exibir subestrutura ótima Planejamento de estoque A Ricky Dink Company fabrica máquinas para restaurar a superfície de rinques de patinação no gelo A demanda por tais produtos varia de mês a mês e por isso a empresa precisa desenvolver uma estratégia de planejamento de produção dada a demanda flutuante porém previsível A empresa quer projetar um plano para os próximos n meses e sabe qual é a demanda di para cada mês i isto é o número de máquinas que venderá nesse mês Seja D a demanda total para os próximos n meses A empresa mantém um quadro permanente de funcionários de tempo integral que fornecem a mão de obra para produzir até m máquinas por mês Se ela precisar fabricar mais de m máquinas em determinado mês pode contratar mão de obra temporária adicional a um custo calculado de c dólares por máquina Além disso se ao final de um mês a empresa tiver em estoque qualquer número de máquinas não vendidas terá de pagar custos de estoque O custo de estocar j máquinas é dado como uma função h j para j 1 2 D onde h j 0 1512 para 1 j D e h j h j 1 para 1 j D 1 Dê um algoritmo para calcular um plano de produção para a empresa que minimize seus custos e ao mesmo tempo atenda à demanda O tempo de execução deve ser polinomial em n e D Contratação de jogadores de beisebol donos de seu passe Suponha que você seja o gerente geral de um time de beisebol da primeira divisão No período entre temporadas você precisa contratar para sua equipe alguns jogadores donos de seu próprio passe O dono do time disponibilizou X para gastar com esses jogadores e você pode gastar menos de X no total mas será demitido se gastar mais de X Você está considerando N posições diferentes e para cada posição há P jogadores disponíveis8 Como não quer sobrecarregar seu plantel com muitos jogadores em alguma posição você decide contratar no máximo um jogador reserva adicional para cada posição Se não contratar nenhum jogador para uma determinada posição você planeja continuar apenas com os jogadores de seu time titular para tal posição Para determinar o valor futuro de um jogador você decide usar uma estatística sabermétrica9 conhecida como VORP value over replacement player valor de um reserva Um jogador que tenha um VORP mais alto é mais valioso que um jogador com VORP mais baixo Contratar um jogador que tenha um VORP mais alto não é necessariamente mais caro que contratar um com VORP mais baixo porque há outros fatores que determinam o custo do contrato além do valor do jogador Para cada jogador reserva você tem três informações a posição do jogador quanto custará contratar o jogador e o VORP do jogador Projete um algoritmo que maximize o VORP total dos jogadores que você contrata e ao mesmo tempo não gaste mais de X no total Suponha que o contrato de cada jogador seja sempre um múltiplo de 100000 Seu algoritmo deve dar como saída o VORP total dos jogadores contratados o total de dinheiro gasto e uma lista dos jogadores contratados Analise o tempo de execução e o requisito de espaço do seu algoritmo NOTAS DO CAPÍTULO R Bellman começou o estudo sistemático de programação dinâmica em 1955 A palavra programação tanto aqui quanto em programação linear se refere ao uso de um método de solução tabular Embora as técnicas de otimização que incorporam elementos de programação dinâmica fossem conhecidas antes Bellman deu à área uma sólida base matemática 37 Galil e Park 125 classificam algoritmos de programação dinâmica de acordo com o tamanho da tabela e o número de outras entradas de tabela das quais cada entrada depende Eles denominam um algoritmo de programação dinâmica tDeD se o tamanho de sua tabela for Ont e cada entrada depender de outras One entradas Por exemplo o algoritmo de multiplicação de cadeia de matrizes na Seção 152 seria 2D1D e o algoritmo da subsequência comum mais longa na Seção 154 seria 2D0D Hu e Shing 182 183 apresentam um algoritmo de tempo On lg n para o problema de multiplicação de cadeias de matrizes O algoritmo de tempo Omn para o problema da subsequência comum mais longa parece ser um algoritmo folclórico Knuth 70 levantou a questão da existência ou não de algoritmos subquadráticos para o problema da LCS Masek e Paterson 244 responderam afirmativamente a essa pergunta dando um algoritmo que é executado no tempo Omnlg n onde n m e as sequências são extraídas de um conjunto de tamanho limitado Para o caso especial no qual nenhum elemento aparece mais de uma vez em uma sequência de entrada Szymanski 326 mostra como resolver o problema no tempo On mlgn m Muitos desses resultados se estendem ao problema de calcular distâncias de edição de cadeias Problema 155 Um artigo anterior sobre codificações binárias de comprimento variável apresentado por Gilbert e Moore 133 teve aplicações na construção de árvores de busca binária ótimas para o caso no qual todas as probabilidades pi sejam 0 esse artigo contém um algoritmo de tempo On3 Aho Hopcroft e Ullman 5 apresentam o algoritmo da Seção 155 O Exercício 1554 se deve a Knuth 212 Hu e Tucker 184 criaram um algoritmo para o caso no qual todas as probabilidades pi sejam 0 e utiliza o tempo On2 e o espaço On mais tarde Knuth 211 reduziu o tempo para On lg n O Problema 158 se deve a Avidan e Shamir 27 que apresentaram na Web um maravilhoso vídeo que ilustra essa técnica de compressão de imagem 1 Se exigíssemos que as peças fossem cortadas em ordem não decrescente de tamanho haveria um número menor de modos a considerar Para n 4 consideraríamos somente cinco desses modos partes a b c e e h na Figura 152 O número de modos é denominado função partição é aproximadamente igual a eπ2n3 4n3 Essa quantidade é menor que 2n1 porém ainda muito maior do que qualquer polinômio em n Todavia não prosseguiremos nessa linha de raciocínio 2 Isso não é um erro de ortografia A palavra é realmente memoização e não memorização Memoização vem de memo já que a técnica consiste em gravar um valor de modo que possamos consultálo mais tarde 3 Usamos o termo não ponderado para distinguir esse problema do problema de encontrar caminhos mais curtos com arestas ponderadas que veremos nos Capítulos 24 e 25 Podemos usar a técnica da busca em largura apresentada no Capítulo 22 para resolver o problema não ponderado 4 Pode parecer estranho que programação dinâmica dependa de subproblemas que são ao mesmo tempo independentes e sobrepostos Embora possam parecer contraditórios esses requisitos descrevem duas noções diferentes em vez de dois pontos no mesmo eixo Dois subproblemas do mesmo subproblema são independentes se não compartilharem recursos Dois subproblemas são sobrepostos se realmente forem o mesmo subproblema que ocorre como um subproblema de problemas diferentes 5 Essa abordagem pressupõe que conhecemos o conjunto de todos os parâmetros de subproblemas possíveis e que estabelecemos a relação entre posições de tabela e subproblemas Uma outra abordagem mais geral é memoizar usando hashing com os parâmetros do subproblema como chave 6 Se o assunto do texto fosse arquitetura de castelos talvez quiséssemos que machicolation aparecesse perto da raiz 7 Sim machicolation tem uma contraparte em francês mâchicoulis 8 Embora haja nove posições em um time de beisebol N não é necessariamente igual a 9 porque o modo como alguns gerentes gerais pensam sobre posições é peculiar Por exemplo um gerente geral poderia considerar que há duas posições distintas para arremessadores pitchers isto é os arremessadores destros e os arremessadores canhotos além do primeiro arremessador da partida dos arremessadores de longo prazo que podem arremessar por vários turnos e dos de curto prazo que normalmente arremessam no máximo um turno 9 Sabermétrica é a aplicação de análise estatística a registros de dados de jogos de beisebol A sabermétrica dá vários modos para comparar valores relativos de jogadores individuais 161 16 ALGORITMOS GULOSOS Algoritmos para problemas de otimização normalmente passam por uma sequência de etapas e cada etapa tem um conjunto de escolhas Para muitos problemas de otimização é um exagero utilizar programação dinâmica para determinar as melhores escolhas algoritmos mais simples e mais eficientes servirão Um algoritmo guloso sempre faz a escolha que parece ser a melhor no momento em questão Isto é faz uma escolha localmente ótima na esperança de que essa escolha leve a uma solução globalmente ótima Este capítulo explora problemas de otimização para os quais os algoritmos gulosos dão soluções ótimas Antes de ler este capítulo você deve ler sobre programação dinâmica no Capítulo 15 em particular a Seção 153 Algoritmos gulosos nem sempre produzem soluções ótimas mas as produzem para muitos problemas Primeiro examinaremos na Seção 161 um problema simples mas não trivial o problema da seleção de atividades para o qual um algoritmo guloso calcula eficientemente uma solução Chegaremos ao algoritmo guloso considerando primeiro uma abordagem de programação dinâmica e depois mostrando que sempre podemos fazer escolhas gulosas para chegar a uma solução ótima A Seção 162 revê os elementos básicos da abordagem gulosa dando uma abordagem direta para provar a correção de algoritmos gulosos A Seção 163 apresenta uma aplicação importante das técnicas gulosas o projeto de códigos de compressão de dados Huffman Na Seção 164 investigamos um pouco da teoria subjacente às estruturas combinatórias denominadas matroides para as quais um algoritmo guloso sempre produz uma solução ótima Finalmente a Seção 165 aplica matroides para resolver um problema de programação de tarefas de tempo unitário com prazos finais e multas O método guloso é bastante poderoso e funciona bem para uma ampla faixa de problemas Capítulos posteriores apresentarão muitos algoritmos que podem ser vistos como aplicações do método guloso entre eles os algoritmos de árvore geradora mínima Capítulo 23 o algoritmo de Dijkstra para caminhos mais curtos que partem de uma origem única Capítulo 24 e a heurística gulosa de cobertura de conjuntos de Chvátal Capítulo 35 Os algoritmos de árvores geradoras mínimas são um exemplo clássico do método guloso Embora este capítulo e o Capítulo 23 possam ser lidos independentemente um do outro aconselhamos que você os leia juntos UM PROBLEMA DE SELEÇÃO DE ATIVIDADES Nosso primeiro exemplo é o problema de programar várias atividades concorrentes que requerem o uso exclusivo de um recurso comum com o objetivo de selecionar um conjunto de tamanho máximo de atividades mutuamente compatíveis Suponha que tenhamos um conjunto S a1 a2 an de n atividades propostas que desejam usar um recurso por exemplo uma sala de conferências que só pode ser utilizado por uma única atividade por vez Cada atividade ai tem um tempo de início si e um tempo de término fi onde 0 si fi Se selecionada a atividade ai ocorre durante o intervalo de tempo meio aberto si fi As atividades ai e aj são compatíveis se os intervalos si fi e sj fj não se sobrepõem Isto é ai e aj são compatíveis se si fj ou sj fi No problema de seleção de atividades queremos selecionar um subconjunto de tamanho máximo de atividades mutuamente compatíveis Supomos que as atividades estão organizadas em ordem monotonicamente crescente de tempo de término Veremos mais tarde como isso é vantajoso Por exemplo considere o seguinte conjunto S de atividades Para este exemplo o subconjunto a3 a9 a11 consiste em atividades mutuamente compatíveis Porém não é um subconjunto máximo já que o subconjunto a1 a4 a8 a11 é maior De fato a1 a4 a8 a11 é um dos subconjuntos maiores de atividades mutuamente compatíveis um outro subconjunto maior é a2 a4 a9 a11 Resolveremos esse problema em várias etapas Começamos examinando uma solução de programação dinâmica na qual consideraremos várias escolhas para determinar quais subproblemas usar em uma solução ótima Então observaremos que precisamos considerar somente uma escolha a escolha gulosa e que quando optamos pela escolha gulosa restará apenas um subproblema Com base nessas observações desenvolveremos um algoritmo guloso recursivo para resolver o problema da programação de atividades Concluiremos o processo de desenvolver uma solução gulosa convertendo o algoritmo recursivo em um algoritmo iterativo Embora as etapas que percorreremos nesta seção sejam ligeiramente mais complicadas do que é comum no desenvolvimento de um algoritmo guloso elas ilustram a relação entre algoritmos gulosos e programação dinâmica A subestrutura ótima do problema de seleção de atividades É fácil verificar que o problema de seleção de atividades exibe subestrutura ótima Vamos denotar por Sij o conjunto de atividades que começam após o término da atividade ai e terminam antes do início da atividade aj Suponha que queremos determinar um conjunto máximo de atividades mutuamente compatíveis em Sij e suponha ainda mais que tal subconjunto máximo é Aij que inclui alguma atividade ak Incluindo ak em uma solução ótima ficamos com dois subproblemas em mãos determinar atividades mutuamente compatíveis no conjunto Sik atividades que começam após o término da atividade ai e terminam antes do início da atividade ak e determinar atividades mutuamente compatíveis no conjunto Skj atividades que começam após o término da atividade ak e terminam antes do início da atividade aj Sejam Aik Aij Sik e Akj Aij Skj de modo que Aik contém as atividades em Aij que terminam antes do início de ak e Akj contém as atividades em Aij que começam após o término de ak Assim temos Aij Aik ak Akj e portanto o conjunto de tamanho máximo Aij de atividades mutuamente compatíveis em Sij consiste em Aij Aik Akj 1 atividades O argumento usual de recortar e colar mostra que a solução ótima Aij deve incluir também soluções ótimas para os dois subproblemas para Sik e Skj Se pudéssemos determinar um conjunto Akj de atividades mutuamente compatíveis em Skj onde Akj Akj poderíamos usar Akj m vez de Akj em uma solução para os subproblemas para Sij Poderíamos ter construído um conjunto de Aik Akj 1 Aik Akj 1 Aij atividades mutuamente compatíveis o que contradiz a suposição de que Aij seja uma solução ótima Um argumento simétrico se aplica às atividades em Sik Esse modo de caracterizar subestrutura ótima sugere que poderíamos resolver o problema de seleção de atividades por programação dinâmica Se denotarmos o tamanho de uma solução ótima para o conjunto Sij por ci j teremos a recorrência É claro que se não soubermos que uma solução ótima para o conjunto Sij inclui a atividade ak teremos de examinar todas as atividades em Sij para determinar qual delas escolher de modo que Então poderemos desenvolver um algoritmo recursivo e memoizálo ou trabalhar de baixo para cima e preencher entradas de tabela durante o processo Porém estaríamos ignorando uma outra característica importante do problema de seleção de atividades que podemos usar e que seria muito vantajoso Fazendo a escolha gulosa E se pudéssemos escolher uma atividade para acrescentar à nossa solução ótima sem ter de resolver primeiro todos os subproblemas Isso nos pouparia de ter de considerar todas as escolhas inerentes à recorrência 162 Na verdade no caso do problema de seleção de atividades precisamos considerar somente uma escolha a escolha gulosa O que quer dizer escolha gulosa para o problema de seleção de atividades A intuição sugere que deveríamos escolher uma atividade que deixa o recurso disponível para o maior número possível de outras atividades Agora entre as atividades que acabamos escolhendo uma deve ser a primeira a terminar Portanto nossa intuição nos diz para escolher a atividade em S que tenha o tempo de término mais cedo já que isso deixaria o recurso disponível para o maior número possível de atividades que ocorram depois dessa Se mais de uma atividade em S tiver o mesmo tempo de término mais cedo poderemos escolher qualquer uma delas Em outras palavras visto que as atividades são ordenadas em ordem monotônica crescente por tempo de término a escolha gulosa é a atividade a1 Escolher a primeira atividade a terminar não é o único modo de fazer uma escolha gulosa para esse problema o Exercício 1613 pede que você explore outras possibilidades Se fizermos a escolha gulosa restará somente um subproblema para resolver determinar atividades que começam após o término de a1 Por que não temos de considerar atividades que terminam antes de a1 começar Temos que s1 f1 e f1 é o tempo mais cedo de término de qualquer atividade portanto nenhuma atividade pode ter um tempo de término menor ou igual a s1 Assim todas as atividades que são compatíveis com a atividade a1 devem começar depois que a1 terminar Além do mais já estabelecemos que o problema de seleção de atividades exibe subestrutura ótima Seja Sk ai S si fk o conjunto de atividades que começam após o término de ak Se fizermos a escolha gulosa da atividade a S permanecerá como o único problema a resolver1 A subestrutura ótima nos diz que se a1 estiver na solução ótima uma solução ótima para o problema original consistirá na atividade a1 e todas as atividades em uma solução ótima para o subproblema S1 Resta uma grande pergunta nossa intuição está correta A escolha gulosa na qual escolhemos a primeira atividade a terminar é sempre parte de alguma solução ótima O teorema que apresentamos a seguir prova que é Teorema 161 Considere um subproblema qualquer não vazio Sk e seja am uma atividade em Sk com o tempo de término mais cedo Então am estará incluída em algum subconjunto de tamanho máximo de atividades mutuamente compatíveis de Sk Prova Seja Ak um subconjunto de tamanho máximo de atividades mutuamente compatíveis em Sk e seja aj a atividade em Ak que tem o tempo de término mais cedo Se aj am terminamos aqui visto que já mostramos que am está em algum subconjunto de tamanho máximo de atividades mutuamente compatíveis de Sk Se aj am considere o conjunto Ak Ak aj am que é Ak substituindo aj por am As atividades em Ak são disjuntas o que decorre porque as atividades em Ak são disjuntas aj é a primeira atividade a terminar em Ak e fm fj Visto que Ak Ak concluímos que Ak é um subconjunto de tamanho máximo de atividades mutuamente compatíveis de Sk e ele inclui am Assim vemos que ainda que pudéssemos resolver o problema da seleção de atividades com programação dinâmica não precisamos fazêlo Ademais ainda não verificamos se o problema de seleção de atividades tem subproblemas sobrepostos Em vez disso podemos escolher repetidamente a atividade que termina primeiro manter somente as atividades compatíveis com essa atividade e repetir o processo até não restar nenhuma atividade Além do mais como sempre escolhemos a atividade que tem o tempo de término mais cedo os tempos de término das atividades que escolhermos deve crescer estritamente Podemos considerar cada atividade apenas uma vez no total em ordem monotonicamente crescente de tempos de término Um algoritmo para resolver o problema de seleção de atividades não precisa funcionar de baixo para cima como um algoritmo de programação dinâmica baseado em tabela Em vez disso pode trabalhar de cima para baixo escolhendo uma atividade para colocar na solução ótima e resolvendo o problema de escolher atividades entre as que são compatíveis com as já escolhidas Algoritmos gulosos normalmente têm o seguinte projeto de cima para baixo faça um escolha e resolva um subproblema em vez da técnica de baixo para cima que resolve subproblemas antes de fazer uma escolha Um algoritmo guloso recursivo Agora que já vimos como evitar a abordagem da programação dinâmica e usar um algoritmo guloso de cima para baixo no lugar dela podemos escrever um procedimento recursivo direto para resolver o problema da seleção de atividades O procedimento RECURSIVEACTIVITYSELECTOR toma os tempos de início e término das atividades representados como arranjos s e f2 o índice k que define o subproblema Sk que ele deve resolver e o tamanho n do problema original e retorna um conjunto de tamanho máximo de atividades mutuamente compatíveis em Sk Consideramos que as n atividades de entrada já estão organizadas em ordem monotonicamente crescente de tempos de término de acordo com a equação 161 Se não podemos ordenálas nessa ordem no tempo On lg n rompendo vínculos arbitrariamente Para começar acrescentamos a atividade fictícia a0 com f0 0 de modo que o subproblema S0 é o conjunto inteiro de atividades S A chamada inicial que resolve o problema inteiro é RECURSIVEACTIVITYSELECTORs f 0 n A Figura 161 mostra como o algoritmo funciona Em determinada chamada recursiva RECURSIVEACTIVITYSELECTORs f k n o laço while das linhas 23 procura em Sk a primeira atividade que termina O laço examina ak 1 ak 2 an até encontrar a primeira atividade am que é compatível com ak tal atividade tem sm fk Se o laço terminar porque encontrou tal atividade a linha 5 retorna a união de am com o subconjunto de tamanho máximo de Sm retornado pela chamada recursiva RECURSIVEACTIVITYSELECTOR s f m n Alternativamente o laço pode terminar porque m n caso em que já examinamos todas as atividades em Sk e não encontramos uma que seja compatível com ak Nesse caso Sk 0 e portanto o procedimento devolve na linha 6 Considerando que as atividades já foram ordenadas por tempos de término o tempo de execução da chamada RECURSIVEACTIVITYSELECTOR s f 0 n é Θn o que podemos verificar da maneira descrita a seguir Em todas as chamadas recursivas cada atividade é examinada exatamente uma vez no teste do laço while da linha 2 Em particular a atividade ai é examinada na última chamada feita na qual k i Um algoritmo guloso iterativo É fácil converter nosso procedimento recursivo em um iterativo O procedimento RECURSIVEACTIVITYSELECTOR é quase recursivo de cauda veja o Problema 74 ele termina com uma chamada recursiva a si mesmo seguida por uma operação de união Em geral transformar um procedimento recursivo de cauda em uma forma iterativa é uma tarefa direta de fato alguns compiladores para certas linguagens de programação executam essa tarefa automaticamente Como está escrito RECURSIVEACTIVITYSELECTOR funciona para subproblemas Sk isto é subproblemas que consistem nas últimas atividades a terminar O procedimento GREEDYACTIVITYSELECTOR é uma versão iterativa do procedimento RECURSIVEACTIVITYSELECTOR Ele também considera que as atividades de entrada estão organizadas em ordem monotonicamente crescente de tempos de término O procedimento reúne atividades selecionadas em um conjunto A e retorna esse conjunto quando termina O procedimento funciona da maneira descrita a seguir A variável k indexa a adição mais recente a A correspondente à atividade ak na versão recursiva Visto que consideramos as atividades em ordem monotonicamente crescente de tempos de término fk é sempre o tempo de término máximo de qualquer atividade em A Isto é As linhas 23 selecionam a atividade a1 inicializam A para conter apenas essa atividade e inicializam k para indexar essa atividade O laço for das linhas 47 encontra a atividade que termina mais cedo em Sk O laço considera cada atividade am por vez e acrescenta am a A se ela for compatível com todas as atividades selecionadas anteriormente tal atividade é a que termina mais cedo Sk Para ver se a atividade am é compatível com cada atividade presente em A no momento em questão basta utilizar a equação 163 para verificar na linha 5 se seu tempo de início sm não é anterior ao tempo de término fk da atividade mais recentemente adicionada a A Se a atividade am é compatível as linhas 67 adicionam a atividade am a A e atribuem k com m O conjunto A retornado pela chamada GREEDYACTIVITYSELECTORs f é exatamente o conjunto retornado pela chamada RECURSIVEACTIVITYSELECTORs f 0 n 1611 Figura 161 O funcionamento de RECURSIVEACTIVITYsELECTOR para as 11 atividades dadas anteriormente As atividades consideradas em cada chamada recursiva aparecem entre linhas horizontais A atividade fictícia a0 termina no tempo 0 e a chamada inicial RECURSIVE ACTIVITYsELECTORs f 0 11 seleciona a atividade a1 Em cada chamada recursiva as atividades que já foram selecionadas estão sombreadas e a atividade mostrada em branco está sendo considerada Se o tempo de início de uma atividade ocorre antes do tempo de término da atividade mais recentemente adicionada a seta entre elas aponta para a esquerda ela é rejeitada Caso contrário a seta aponta diretamente para cima ou para a direita ela é selecionada A última chamada recursiva RECURSIVEACTIVITYsELECTORs f 11 11 devolve 0 O conjunto resultante de atividades selecionadas é a1 a4 a8 a11 Como a versão recursiva o procedimento GREEDYACTIVITYSELECTOR programa um conjunto de n atividades no tempo Qn considerando que as atividades já estavam ordenadas inicialmente por seus tempos de término Exercícios Dê um algoritmo de programação dinâmica para o problema de seleção de atividades baseado na recorrência 162 Seu algoritmo deve calcular os tamanhos ci j como definidos anteriormente e também produzir o subconjunto de tamanho máximo de atividades mutuamente compatíveis Suponha que as entradas estão ordenadas como na equação 161 Compare o tempo de execução da sua solução com o tempo de 1612 1613 1614 1615 162 1 2 3 4 5 6 execução de GREEDYACTIVITYSELECTOR Suponha que em vez de sempre selecionar a primeira atividade a terminar selecionemos a última atividade a começar que seja compatível com todas as atividades selecionadas anteriormente Descreva como essa abordagem é um algoritmo guloso e prove que ela produz uma solução ótima Não é qualquer abordagem gulosa para o problema de seleção de atividades que produz um conjunto de tamanho máximo de atividades mutuamente compatíveis Dê um exemplo para mostrar que a abordagem de selecionar a atividade de menor duração entre aquelas que são compatíveis com atividades selecionadas anteriormente não funciona Faça o mesmo para a abordagem de sempre selecionar a atividade que se sobrepõe ao menor número de outras atividades e para a abordagem de sempre selecionar a atividade restante compatível com o tempo de início mais cedo Suponha que temos um conjunto de atividades para programar entre um grande número de salas de conferência Desejamos programar todas as atividades usando o menor número possível de salas de conferências Dê um algoritmo guloso eficiente para determinar qual atividade deve usar cada sala de conferências Este problema também é conhecido como problema de colorir grafos de intervalos Podemos criar um grafo de intervalos cujos vértices são as atividades dadas e cujas arestas conectam atividades incompatíveis O menor número de cores necessárias para colorir cada vértice de modo que dois vértices adjacentes nunca tenham a mesma cor corresponde a encontrar o menor número de salas de conferências necessárias para programar todas as atividades dadas Considere uma modificação para o problema de seleção de atividades no qual além de um tempo de início e fim cada atividade ai tem um valor vi O objetivo não é mais maximizar o número de atividades programadas mas maximizar o valor total das atividades programadas Isto é queremos escolher um conjunto A de atividades compatíveis tal que seja maximizado Dê um algoritmo de tempo polinomial para esse problema ELEMENTOS DA ESTRATÉGIA GULOSA Um algoritmo guloso obtém uma solução ótima para um problema fazendo uma sequência de escolhas Para cada ponto de decisão o algoritmo escolhe a opção que parece melhor no momento Essa estratégia heurística nem sempre produz uma solução ótima mas como vimos no problema de seleção de atividades algumas vezes funciona Esta seção discute algumas propriedades gerais de métodos gulosos O processo que seguimos na Seção 161 para desenvolver um algoritmo guloso foi um pouco mais complicado que o normal Seguimos estas etapas Determinar a subestrutura ótima do problema Desenvolver uma solução recursiva Para o problema de seleção de atividades formulamos a recorrência 162 mas evitamos desenvolver um algoritmo recursivo baseado nessa recorrência Provar que se fizermos a escolha gulosa restará somente um subproblema Provar que é sempre seguro fazer a escolha gulosa As etapas 3 e 4 podem ocorrer em qualquer ordem Desenvolver um algoritmo recursivo que implemente a estratégia gulosa Converter o algoritmo recursivo em um algoritmo iterativo 1 2 3 Seguindo essas etapas vimos bem detalhadamente os fundamentos da programação dinâmica de um algoritmo guloso Por exemplo no problema da seleção de atividades primeiro definimos os subproblemas Sij no qual i e j variavam Então constatamos que se sempre fizéssemos a escolha gulosa poderíamos restringir os subproblemas à forma Sk Alternativamente poderíamos ter conformado nossa subestrutura ótima tendo em mente uma escolha gulosa de modo que a escolha deixasse apenas um problema para resolver No problema de seleção de atividades poderíamos ter começado descartando o segundo índice e definindo subproblemas da forma Sk Então poderíamos ter provado que uma escolha gulosa a primeira atividade am a terminar em Sk combinada com uma solução ótima para o conjunto restante Sm de atividades compatíveis produz uma solução ótima para Sk De modo mais geral projetamos algoritmos gulosos de acordo com a seguinte sequência de etapas Expressar o problema de otimização como um problema no qual fazemos uma escolha e ficamos com um único subproblema para resolver Provar que sempre existe uma solução ótima para o problema original que usa a escolha gulosa de modo que a escolha gulosa é sempre segura Demonstrar subestrutura ótima mostrando que tendo feito a escolha gulosa o que resta é um subproblema com a seguinte propriedade se combinarmos uma solução ótima para o subproblema com a escolha gulosa que fizemos chegamos a uma solução ótima para o problema original Usaremos esse processo mais direto em seções posteriores deste capítulo Apesar disso embaixo de todo algoritmo guloso quase sempre existe uma solução de programação dinâmica mais incômoda Como saber se um algoritmo guloso resolverá determinado problema de otimização Nenhum método funciona todas as vezes mas a propriedade de escolha gulosa e a subestrutura ótima são os dois componentes fundamentais Se pudermos demonstrar que o problema tem essas propriedades estaremos no bom caminho para desenvolver um algoritmo guloso para ele Propriedade de escolha gulosa O primeiro componente fundamental é a propriedade de escolha gulosa podemos montar uma solução globalmente ótima fazendo escolhas gulosas locais ótimas Em outras palavras quando estamos considerando qual escolha fazer escolhemos a que parece melhor para o problema em questão sem considerar resultados de subproblemas É nesse ponto que os algoritmos gulosos são diferentes da programação dinâmica Na programação dinâmica fazemos uma escolha em cada etapa mas normalmente a escolha depende das soluções para subproblemas Consequentemente em geral resolvemos problemas de programação dinâmica de baixo para cima passando de subproblemas menores para subproblemas maiores Alternativamente podemos resolvêlos de cima para baixo mas usando memoização É claro que mesmo que o código funcione de cima para baixo ainda temos de resolver os subproblemas antes de fazer uma escolha Em um algoritmo guloso fazemos qualquer escolha que pareça melhor no momento e depois resolvemos o subproblema que resta A escolha feita por um algoritmo guloso pode depender das escolhas até o momento em questão mas não pode depender de nenhuma escolha futura ou das soluções para subproblemas Assim diferentemente da programação dinâmica que resolve os subproblemas antes de fazer a primeira escolha um algoritmo guloso faz sua primeira escolha antes de resolver qualquer subproblema Um algoritmo de programação dinâmica age de baixo para cima ao passo que uma estratégia gulosa em geral age de cima para baixo fazendo uma escolha gulosa após outra reduzindo cada instância do problema dado a uma instância menor É claro que temos de provar que uma escolha gulosa em cada etapa produz uma solução globalmente ótima Normalmente como no caso do Teorema 161 a prova examina uma solução globalmente ótima para algum subproblema Então mostra como modificar a solução para usar a escolha gulosa no lugar de alguma outra escolha resultando em um subproblema semelhante porém menor Normalmente podemos fazer a escolha gulosa com maior eficiência do que quando temos de considerar um conjunto de escolha mais amplo Por exemplo no problema de seleção de atividades considerando que já tivéssemos organizado as atividades em ordem monotonicamente crescente de tempos de término precisávamos examinar cada atividade apenas uma vez Reprocessando a entrada ou usando uma estrutura de dados apropriada quase sempre uma fila de prioridades muitas vezes podemos fazer escolhas gulosas rapidamente produzindo assim um algoritmo eficiente Subestrutura ótima Um problema exibe subestrutura ótima se uma solução ótima para o problema contiver soluções ótimas para subproblemas Essa propriedade é um componente fundamental para avaliar a aplicabilidade da aplicação da programação dinâmica e também a de algoritmos gulosos Como exemplo de subestrutura ótima lembrese de como demonstramos na Seção 161 que se uma solução ótima para o subproblema Sij incluir uma atividade ak então ela também deve conter soluções ótimas para os subproblemas Sik e Skj Dada essa subestrutura ótima demonstramos que se soubéssemos qual atividade usar como ak poderemos construir uma solução ótima para Sij selecionando ak juntamente com todas as atividades em soluções ótimas para os subproblemas Sik e Skj Com base nessa observação de subestrutura ótima pudemos criar a recorrência 162 que descrevia o valor de uma solução ótima Normalmente usamos uma abordagem mais direta em relação à subestrutura ótima quando a aplicamos a algoritmos gulosos Conforme já mencionamos podemos nos permitir o luxo de supor que chegamos a um subproblema por termos feito a escolha gulosa no problema original Na realidade basta que demonstremos que uma solução ótima para o subproblema combinada com a escolha gulosa já feita produz uma solução ótima para o problema original Esse esquema utiliza implicitamente indução em relação aos subproblemas para provar que fazer a escolha gulosa em cada etapa produz uma solução ótima Estratégia gulosa versus programação dinâmica Como as estratégias gulosa e de programação dinâmica exploram subestrutura ótima bem que você poderia ser tentado a gerar uma solução de programação dinâmica para um problema quando uma solução gulosa seria suficiente ou ao contrário achar erroneamente que uma solução gulosa funciona quando na verdade seria preciso uma solução de programação dinâmica Para ilustrar as sutilezas entre as duas técnicas vamos investigar duas variantes de um problema clássico de otimização Apresentamos a seguir o problema da mochila 01 Um ladrão que assalta uma loja encontra n itens O iésimo item vale vi reais e pesa wi quilos onde vi e wi são inteiros Ele deseja levar consigo a carga mais valiosa possível mas só pode carregar no máximo W quilos em sua mochila sendo W um número inteiro Que itens ele deve levar Esse problema da mochila chamase 01 porque para cada item o ladrão tem de decidir se o carrega consigo ou se o deixa para trás ele não pode levar uma quantidade fracionária de um item nem um item mais de uma vez No problema fracionário da mochila a configuração é a mesma mas o ladrão pode levar frações de itens em vez de ter de fazer uma escolha binária 01 para cada item Para perceber melhor a diferença imagine que um item no problema da mochila 01 seja como um lingote de ouro enquanto um item no problema da mochila fracionário seria semelhante a ouro em pó Ambos os problemas da mochila exibem a propriedade de subestrutura ótima No caso do problema 01 considere a carga mais valiosa que pesa no máximo W quilos Se removermos o item j dessa carga a carga restante deverá ser a carga mais valiosa que pese no máximo W wj que o ladrão pode levar dos n 1 itens originais excluindo j Por comparação no caso do problema fracionário considere que se removermos um peso w de um item j da carga ótima a carga restante deverá ser a carga mais valiosa que pese no máximo W w que o ladrão pode levar dos n 1 itens originais mais wj w quilos do item j 1621 1622 1623 Embora os problemas sejam semelhantes podemos resolver o problema fracionário da mochila por uma estratégia gulosa mas não podemos usar essa mesma estratégia para resolver o problema 01 Para resolver o problema fracionário primeiro calculamos o valor por quilo viwi para cada item Obedecendo a uma estratégia gulosa o ladrão começa levando o máximo possível do item que tenha o maior valor por quilo Se o suprimento desse item se esgotar e o ladrão ainda puder carregar mais levará o máximo possível do próximo item que tenha o maior valor por quilo e assim por diante até alcançar seu peso limite W Portanto ordenando os itens por valor por quilo o algoritmo guloso é executado no tempo On lg n Deixamos para o Exercício 1621 a prova de que o problema fracionário da mochila tem a propriedade de escolha gulosa Para ver que essa estratégia gulosa não funciona para o problema da mochila 01 considere a instância do problema ilustrada na Figura 162a Esse exemplo tem três itens e uma mochila que pode conter 50 quilos O item 1 pesa 10 quilos e vale 60 reais O item 2 pesa 20 quilos e vale 100 reais O item 3 pesa 30 quilos e vale 120 reais Portanto o valor por quilo do item 1 é 6 reais por quilo que é maior que o valor por quilo do item 2 5 reais por quilo ou do item 3 4 reais por quilo Assim a estratégia gulosa levaria o item 1 primeiro Porém como podemos ver pela análise de caso na Figura 162b a solução ótima leva os itens 2 e 3 e deixa o item 1 para trás As duas soluções possíveis que envolvem o item 1 são subótimas Contudo por comparação a estratégia gulosa para o problema fracionário que leva o item 1 primeiro realmente produz uma solução ótima como mostra a Figura 162c Levar o item 1 não funciona no problema 01 porque o ladrão não consegue encher sua mochila até a capacidade máxima e o espaço vazio reduz o valor efetivo por quilo de sua carga No problema 01 quando consideramos incluir um item na mochila temos de comparar a solução para o subproblema que inclua tal item com a solução para o subproblema que exclua esse mesmo item antes de podermos fazer a escolha O problema formulado desse modo dá origem a muitos subproblemas sobrepostos uma marca registrada da programação dinâmica Realmente como o Exercício 1622 pede que você mostre podemos usar programação dinâmica para resolver o problema 01 Figura 162 Um exemplo que mostra que a estratégia gulosa não funciona para o problema da mochila 01 a O ladrão deve selecionar um subconjunto dos três itens mostrados cujo peso não pode exceder 50 quilos b O subconjunto ótimo inclui os itens 2 e 3 Qualquer solução com o item 1 é subótima embora o item 1 tenha o maior valor por quilo c Para o problema fracionário da mochila tomar os itens em ordem de maior valor por quilo produz uma solução ótima Exercícios Prove que o problema fracionário da mochila tem a propriedade de escolha gulosa Dê uma solução de programação dinâmica para o problema da mochila 01 que seja executado no tempo OnW onde n é número de itens e W é o peso máximo de itens que o ladrão pode pôr em sua mochila Suponha que em um problema da mochila 01 a ordem dos itens quando ordenados por peso crescente seja igual à ordem quando ordenados por valor decrescente Dê um algoritmo eficiente para determinar uma 1624 1625 1626 1627 163 solução ótima para essa variante do problema da mochila e mostre que seu algoritmo é correto O professor Gekko sempre sonhou em atravessar o estado de Dakota do Norte de patins Ele planeja atravessar o estado pela rodovia US 2 que vai de Grand Forks na divisa leste com o estado de Minnesota até Williston perto da divisa oeste com o estado de Montana O professor pode carregar dois litros de água e patinar m quilômetros antes de esgotar seu estoque de água Como o relevo de Dakota do Norte é relativamente plano ele não precisa se preocupar com beber uma quantidade maior de água em trechos em aclive do que em trechos em declive e planos O professor partirá de Grand Forks com dois litros de água completos O mapa oficial do estado de Dakota do Norte mostra todos os lugares ao longo da rodovia US 2 onde ele poderá reabastecer seu estoque de água e as distâncias entre eles A meta do professor é minimizar o número de paradas para reabastecimento de água ao longo de sua rota pelo estado Dê um método eficiente pelo qual ele possa determinar em quais lugares deverá repor seu estoque de água Prove que tal estratégia produz uma solução ótima e dê o tempo de execução dessa estratégia Descreva um algoritmo eficiente que dado um conjunto x1 x2 xn de pontos na reta de números reais determina o menor conjunto de intervalos fechados de comprimento unitário que contém todos os pontos dados Mostre que seu algoritmo é correto Mostre como resolver o problema fracionário da mochila no tempo On Suponha que você tenha dois conjuntos A e B cada um contendo n inteiros positivos e que possa reordenar cada conjunto como preferir Depois da reordenação seja ai o iésimo elemento do conjunto A e seja bi o i ésimo elemento do conjunto B Então você obtém uma compensação de Dê um algoritmo que maximize essa compensação Prove que seu algoritmo maximiza a compensação e dê seu tempo de execução CÓDIGOS DE HUFFMAN Códigos de Huffman comprimem dados muito efetivamente economias de 2090 são típicas dependendo das características dos dados que estão sendo comprimidos Consideramos os dados como uma sequência de caracteres O algoritmo guloso de Huffman utiliza uma tabela que dá o número de vezes que cada caractere ocorre isto é suas frequências para elaborar um modo ótimo de representar cada caractere como uma cadeia binária Suponha que tenhamos um arquivo de dados de 100000 caracteres que desejamos armazenar compactamente Observamos que os caracteres no arquivo ocorrem com as frequências dadas pela Figura 163 Isto é somente seis caracteres diferentes aparecem e o caractere a ocorre 45000 vezes Há muitas opções para representar tal arquivo de informações Aqui consideramos o problema de projetar um código de caracteres binários ou código para abreviar no qual cada caractere seja representado por uma cadeia binária única que denominaremos palavra de código Se usarmos um código de comprimento fixo precisaremos de três bits para representar seis caracteres a 000 b 001 f 101 Esse método requer 300000 bits para codificar o arquivo inteiro Podemos fazer algo melhor Um código de comprimento variável pode funcionar consideravelmente melhor que um código de comprimento fixo atribuindo palavras de código curtas a caracteres frequentes e palavras de código longas a caracteres pouco frequentes A Figura 163 mostra um código desse tipo aqui a cadeia de 1 bit 0 representa a e a cadeia de 4 bits 1100 representa f Esse código requer 45 1 13 3 12 3 16 3 9 4 5 4 1000 224000 bits para representar o arquivo uma economia de aproximadamente 25 De fato esse é um código de caracteres ótimo para esse arquivo como veremos Códigos de prefixo Consideramos aqui apenas códigos nos quais nenhuma palavra de código seja também um prefixo de alguma outra palavra de código Tais códigos são denominados códigos de prefixo3 Embora não o provemos aqui um código de prefixo sempre consegue a compressão de dados ótima em qualquer código de caracteres portanto não haverá prejuízo para a generalidade se restringirmos nossa atenção a códigos de prefixo Codificar é sempre simples para qualquer código de caracteres binários simplesmente concatenamos as palavras de código que representam cada caractere do arquivo Por exemplo com o código de prefixo de comprimento variável da Figura 163 codificamos o arquivo de três caracteres abc como 0 101 100 0101100 onde denota concatenação Códigos de prefixo são desejáveis porque simplificam a decodificação Como nenhuma palavra de código é um prefixo de qualquer outra a palavra de código que inicia um arquivo codificado não é ambígua Podemos simplesmente identificar a palavra de código inicial traduzila de volta para o caractere original e repetir o processo de decodificação no restante do arquivo codificado Em nosso exemplo a cadeia 001011101 é analisada unicamente como 0 0 101 1101 que é decodificada como aabe O processo de decodificação precisa de uma representação conveniente para o código de prefixo de modo que possamos extrair facilmente a palavra de código inicial Uma árvore binária cujas folhas são os caracteres nos dá tal representação Interpretamos a palavra de código binária para um caractere como o caminho simples da raiz até esse caractere onde 0 significa vá para o filho à esquerda e 1 significa vá para o filho à direita A Figura 164 mostra as árvores para os dois códigos do nosso exemplo Observe que elas não são árvores de busca binária já que as folhas não precisam aparecer em sequência ordenada e os nós internos não contêm chaves de caracteres Um código ótimo para um arquivo é sempre representado por uma árvore binária cheia na qual cada nó que não é uma folha tem dois filhos veja o Exercício 1632 O código de comprimento fixo em nosso exemplo não é ótimo já que sua árvore mostrada na Figura 164a não é uma árvore binária cheia ela contém palavras de código que começam com 10 mas nenhuma com 11 Visto que agora podemos restringir nossa atenção a árvores binárias completas podemos dizer que se C é o alfabeto do qual os caracteres são extraídos e todas as frequências de caracteres são positivas então a árvore para um código de prefixo ótimo tem exatamente C folhas uma para cada letra do alfabeto e exatamente C 1 nós internos veja o Exercício B53 Figura 163 Um problema de codificação de caracteres Um arquivo de dados de 100000 caracteres contém somente os caracteres af com as frequências indicadas Se atribuirmos a cada caractere uma palavra de código de três bits poderemos codificar o arquivo em 300000 bits Usando o código de comprimento variável mostrado podemos codificar o arquivo em apenas 224000 bits Figura 164 Árvores correspondentes aos esquemas de codificação na Figura 163 Cada folha é identificada com um caractere e sua frequência de ocorrência Cada nó interno é identificado com a soma das frequências das folhas em sua subárvore a A árvore correspondente ao código de comprimento fixo a 000 f 101 b A árvore correspondente ao código de prefixo ótimo a 0 b 101 f 1100 Dada uma árvore T correspondente a um código de prefixo é fácil calcular o número de bits exigidos para codificar um arquivo Para cada caractere c no alfabeto C o atributo cfreq denota a frequência de c no arquivo e dTc denota a profundidade de folha de c na árvore Observe que dTc é também o comprimento da palavra de código para o caractere c Assim o número de bits exigidos para codificar um arquivo é que definimos como o custo da árvore T Construção de um código de Huffman Huffman criou um algoritmo guloso que produz um código de prefixo ótimo denominado código de Huffman De acordo com nossas observações na Seção 162 a prova de sua correção se baseia na propriedade de escolha gulosa e subestrutura ótima Em vez de demonstrar que essas propriedades são válidas e depois desenvolver pseudocódigo apresentamos primeiro o pseudocódigo Isso ajudará a esclarecer como o algoritmo faz escolhas gulosas No pseudocódigo a seguir supomos que C seja um conjunto de n caracteres e que cada caractere c C seja um objeto com um atributo cfreq que dá sua frequência O algoritmo constrói de baixo para cima a árvore T correspondente ao código ótimo Começa com um conjunto de C folhas e executa uma sequência de C 1 operações de intercalação para criar a árvore final O algoritmo usa uma fila de prioridade mínima Q chaveada no atributo freq para identificar os dois objetos menos frequentes que serão intercalados Quando intercalamos dois objetos o resultado é um novo objeto cuja frequência é a soma das frequências dos dois objetos que foram intercalados Em nosso exemplo o algoritmo de Huffman procede como mostra a Figura 165 Visto que o alfabeto contém seis letras o tamanho da fila inicial é n 6 e cinco etapas de intercalação constroem a árvore A árvore final representa o código de prefixo ótimo A palavra de código para uma letra é a sequência de etiquetas de arestas no caminho simples da raiz até a letra A linha 2 inicializa a fila de prioridade mínima Q com os caracteres em C O laço for nas linhas 38 extrai repetidamente da fila os dois nós x e y de frequência mais baixa e os substitui na fila por um novo nó z que representa sua intercalação A frequência de z é calculada como a soma das frequências de x e y na linha 7 O nó z tem x como seu filho à esquerda e y como seu filho à direita Essa ordem é arbitrária trocar o filho à esquerda pelo filho à direita de qualquer nó produz um código diferente que tem o mesmo custo Depois de n 1 intercalações a linha 9 retorna o único nó que sobrou na fila que é a raiz da árvore de código Figura 165 Etapas do algoritmo de Huffman para as frequências dadas na Figura 163 Cada parte mostra o conteúdo da fila ordenado em ordem crescente de frequência Em cada etapa as duas árvores com frequências mais baixas são intercaladas As folhas são mostradas como retângulos contendo um caractere e sua frequência Nós internos são mostrados como círculos contendo a soma das frequências de seus filhos Uma aresta conectando um nó interno a seus filhos é rotulada por 0 se é uma aresta para um filho à esquerda e com 1 se é uma aresta para um filho à direita A palavra de código para uma letra é a sequência de rótulos nas arestas que conectam a raiz à folha correspondente a essa letra a O conjunto inicial de n 6 nós um para cada letra be Estágios intermediários f A árvore final Apesar de que o algoritmo produziria o mesmo resultado se tivéssemos excluído as variáveis x e y atribuindo diretamente zesquerda e zdireita nas linhas 5 e 6 e mudando a linha 7 para zfreq zesquerdafreq zdireitafreq usaremos os nomes de nó x e y na prova de correção do algoritmo Portanto achamos conveniente deixálos onde estão Para analisar o tempo de execução do algoritmo de Huffman supomos que Q seja implementada como um heap de mínimo binário veja o Capítulo 6 Para um conjunto C de n caracteres podemos inicializar Q na linha 2 em tempo On usando o procedimento BUILDMINHEAP discutido na Seção 63 O laço for nas linhas 38 é executado exatamente n 1 vezes e visto que cada operação de heap requer o tempo Olg n o laço contribui com On lg n para o tempo de execução Assim o tempo de execução total de HUFFMAN em um conjunto de n caracteres é On lg n Podemos reduzir o tempo de execução para On lg lg n substituindo o heap de mínimo binário por uma árvore de van Emde Boas veja o Capítulo 20 Correção do algoritmo de Huffman Para provar que o algoritmo guloso HUFFMAN é correto mostramos que o problema de determinar um código de prefixo ótimo exibe as propriedades de escolha gulosa e subestrutura ótima O lema a seguir mostra que a propriedade de escolha gulosa é válida Lema 162 Seja C um alfabeto no qual cada caractere c C tem frequência cfreq Sejam x e y dois caracteres em C que têm as frequências mais baixas Então existe um código de prefixo ótimo para C no qual as palavras de código para x e y têm o mesmo comprimento e diferem apenas no último bit Prova A ideia da prova é tomar a árvore T que representa um código de prefixo ótimo arbitrário e modificála para criar uma árvore que represente outro código de prefixo ótimo tal que os caracteres x e y apareçam como folhas irmãs de profundidade máxima na nova árvore Se pudermos construir tal árvore suas palavras de código para x e y terão o mesmo comprimento e serão diferentes apenas no último bit Sejam a e b dois caracteres que são folhas irmãs de profundidade máxima em T Sem prejuízo da generalidade supomos que a freq b freq e x freq y freq Visto que x freq e y freq são as duas frequências de folha mais baixas em ordem e a freq e b freq são duas frequências arbitrárias em ordem temos x freq a freq e y freq b freq No restante da prova é possível que tivéssemos x freq a freq ou y freq b freq Contudo se tivéssemos x freq b freq teríamos também a freq b freq x freq y freq veja o Exercício 1631 e o lema seria trivialmente verdadeiro Assim suporemos que x freq b freq o que implica em x b Figura 166 Uma ilustração da etapa fundamental na prova do Lema 162 Na árvore ótima T as folhas a e b são duas irmãs de profundidade máxima As folhas x e y são os dois caracteres que têm as frequências mais baixas eles aparecem em posições arbitrárias em T Considerando que x b permutar as folhas a e x produz a árvore T e permutar as folhas b e y produz a árvore T Visto que cada permuta não aumenta o custo a árvore resultante T é também uma árvore ótima Como a Figura 166 mostra permutamos as posições de a e x em T para produzir uma árvore T e então permutamos as posições de b e y em T para produzir uma árvore T na qual x e y são folhas irmãs de profundidade máxima Observe que se x b mas y a então a árvore T não tem x e y como folhas irmãs de profundidade máxima Como supomos que x b essa situação não pode ocorrer Pela equação 164 a diferença de custo entre T e T é porque a freq x freq e dT a dT x são não negativas Mais especificamente afreq x freq é não negativa porque x é uma folha de frequência mínima e dTa dTx é não negativa porque a é uma folha de profundidade máxima em T De modo semelhante permutar y e b não aumenta o custo e assim BT BT é não negativa Por consequência BT BT e visto que T é ótima temos BT BT o que implica BT BT Assim T é uma árvore ótima na qual x e y aparecem como folhas irmãs de profundidade máxima da qual o lema decorre O Lema 162 implica que o processo de construir uma árvore ótima por intercalações pode sem prejuízo da generalidade começar com a escolha gulosa de intercalar os dois caracteres de frequência mais baixa Por que essa é uma escolha gulosa Podemos ver o custo de uma intercalação isolada como a soma das frequências dos dois itens que estão sendo intercalados O Exercício 1634 mostra que o custo total da árvore construída é igual à soma dos custos de suas intercalações De todas as intercalações possíveis em cada etapa HUFFMAN escolhe aquela que incorre no menor custo O próximo lema mostra que o problema de construir códigos de prefixo ótimos tem a propriedade de subestrutura ótima Lema 163 Seja C um dado alfabeto com frequência cfreq definida para cada caractere c C Sejam x e y dois caracteres em C com frequência mínima Seja C o alfabeto C do qual os caracteres x e y foram removidos e um novo caractere z foi acrescentado de modo que C C x y z Defina freq para C como foi definido para C exceto que z freq x freq y freq Seja T qualquer árvore que represente um código de prefixo ótimo para o alfabeto C Então a árvore T obtida de T pela substituição do nó folha com z por um nó interno que tem x e y como filhos representa um código de prefixo ótimo para o alfabeto C Prova Primeiro mostramos como expressar o custo BT da árvore T em termos do custo BT da árvore T considerando os custos componentes na equação 164 Para cada caractere c C x y temos que dTc dTc e portanto cfreq dTc cfreq dTc Visto que dTx dTy dTz temos do qual concluímos que ou o que é equivalente 1631 1632 1633 1634 1635 1636 1637 1638 Agora provamos o lema por contradição Suponha que T não represente um código de prefixo ótimo para C Então existe uma árvore T tal que BT BT Sem prejuízo da generalidade pelo Lema 162 T tem x e y como irmãos Seja T a árvore T na qual o pai comum de x e y seja substituído por uma folha z com frequência zfreq x freq y freq Então o que produz uma contradição para a suposição de que T representa um código de prefixo ótimo para C Assim T deve representar um código de prefixo ótimo para o alfabeto C Teorema 164 O procedimento HUFFMAN produz um código de prefixo ótimo Prova Imediata pelos Lemas 162 e 163 Exercícios Explique por que na prova do Lema 162 se x freq b freq devemos ter a freq b freq x freq y freq Prove que uma árvore binária que não é completa não pode corresponder a um código de prefixo ótimo Qual é o código de Huffman ótimo para o conjunto de frequências a seguir baseado nos oito primeiros números de Fibonacci a1 b1 c2 d3 e5 f8 g13 h21 Você pode generalizar sua resposta para determinar o código ótimo quando as frequências são os primeiros n números de Fibonacci Prove que também podemos expressar o custo total de uma árvore para um código como a soma para todos os nós internos das frequências combinadas dos dois filhos do nó Prove que se ordenarmos os caracteres em um alfabeto de modo que suas frequências sejam monotonicamente decrescentes existe um código ótimo no qual os comprimentos de palavras de código são monotonicamente crescentes Suponha que tenhamos um código de prefixo ótimo para um conjunto de caracteres C 0 1 n 1 e desejamos transmitir esse código usando o menor número de bits possível Mostre como representar qualquer código de prefixo ótimo para C usando somente 2n 1 n lg n bits Sugestão Use 2n 1 bits para especificar a estrutura da árvore como constatada por um percurso da árvore Generalize o algoritmo de Huffman para palavras de código ternárias isto é palavras de código que utilizam os símbolos 0 1 e 2 e prove que ele produz códigos ternários ótimos Suponha que um arquivo de dados contenha uma sequência de caracteres de 8 bits tal que todos os 256 caracteres são quase todos igualmente comuns a frequência máxima de caracteres é menor que duas vezes a 1639 164 1 2 3 frequência mínima de caracteres Prove que a codificação de Huffman nesse caso não é mais eficiente que usar um código normal de comprimento fixo de 8 bits Mostre que nenhum esquema de compressão pode esperar comprimir em um arquivo de caracteres de 8 bits escolhidos aleatoriamente nem um único bit sequer Sugestão Compare o número de arquivos possíveis com o número de arquivos codificados possíveis MATROIDES E MÉTODOS GULOSOS Nesta seção esboçamos uma bela teoria para algoritmos gulosos que descreve muitas situações nas quais o método guloso produz soluções ótimas Tal teoria envolve estruturas combinatórias conhecidas como matroides Embora não abranja todos os casos aos quais um método guloso se aplica por exemplo não abrange o problema de seleção de atividades da Seção 161 nem o problema de codificação de Huffman da Seção 163 ela inclui muitos casos de interesse prático Além disso essa teoria foi estendida para abranger muitas aplicações as notas no final deste capítulo citam referências Matroides Um matroide é um par ordenado M S I que satisfaz as seguintes condições S é um conjunto finito é uma família não vazia de subconjuntos de S denominados subconjuntos independentes de S tais que se B I e A B então A I Dizemos que I é hereditário se satisfaz essa propriedade Observe que o conjunto vazio é necessariamente um membro de I Se A I B I e A B então existe algum elemento x B A tal que A x I Dizemos que M satisfaz a propriedade de troca A palavra matroide se deve a Hassler Whitney Ele estava estudando matroides matriciais nos quais os elementos de S são as linhas de uma dada matriz e um conjunto de linhas é independente se elas são linearmente independentes no sentido usual Como o Exercício 1642 pede para mostrar essa estrutura define um matroide Como outro exemplo de matroides considere o matroide gráfico MG SG IG definido em termos de um determinado grafo não dirigido G V E da seguinte maneira O conjunto SG é definido como E o conjunto de arestas de G Se A é um subconjunto de E então A IG se e somente se A é acíclico Ou seja um conjunto de arestas A é independente se e somente se o subgrafo GA V A forma uma floresta O matroide gráfico MG está intimamente relacionado com o problema da árvore geradora mínima apresentado em detalhes no Capítulo 23 Teorema 165 Se G V E é um grafo não dirigido então MG SG IG é um matroide Prova Claramente SG E é um conjunto finito Além disso é hereditário já que um subconjunto de uma floresta é uma floresta Em outros termos remover arestas de um conjunto acíclico de aresta não pode criar ciclos Assim resta mostrar que MG satisfaz a propriedade de troca Suponha que GA V A e GB V B sejam florestas de G e que B A Isto é A e B são conjuntos acíclicos de arestas e B contém mais arestas que A Afirmamos que uma floresta F VF EF contém exatamente VF EF árvores Para ver por que suponha que F consista de três árvores onde a iésima árvore contenha vi vértices e ei arestas Então temos que implica que t VF EF Assim a floresta GA contém V A árvores e a floresta GB contémV B árvores Visto que a floresta GB tem menos árvores que a floresta GA a floresta GB deve conter alguma árvore T cujos vértices estão em duas árvores diferentes na floresta GA Além disso como T está conectada ela deve conter uma aresta u v tal que os vértices u e v estão em árvores diferentes na floresta GA Visto que a aresta u v conecta vértices em duas árvores diferentes na floresta GA podemos adicionar a aresta u v à floresta GA sem criar um ciclo Então MG satisfaz a propriedade de troca completando a prova de que MG é um matroide Dado um matroide M S I dizemos que um elemento x A é uma extensão de A I se x pode ser acrescentado a A preservando independência isto é x é uma extensão de A se A x I Como exemplo considere um matroide gráfico M G Se A é um conjunto independente de arestas então a aresta e é uma extensão de A se e somente se e não está em A e o acréscimo de x a A não criar um ciclo Se A é um subconjunto independente em um matroide M dizemos que A é maximal se não tem nenhuma extensão Isto é A é maximal se não está contido em nenhum subconjunto independente maior de M A propriedade dada a seguir é muito útil Teorema 166 Todos os subconjuntos independentes maximais em um matroide têm o mesmo tamanho Prova Suponha por contradição que A seja um subconjunto independente maximal de M e que exista um outro subconjunto independente maximal maior B de M Então a propriedade de troca implica que para algum x B A podemos estender A até um conjunto independente maior A x contradizendo a hipótese de que A é maximal Como ilustração desse teorema considere um matroide gráfico MG para um grafo conexo e não dirigido G Todo subconjunto independente máximo de MG deve ser uma árvore livre com exatamente V 1 arestas que conecta todos os vértices de G Tal árvore é denominada árvore geradora de G Dizemos que um matroide M S I é ponderado se está associado a uma função peso w que atribui um peso estritamente positivo wx a cada elemento x S A função peso w se estende a subconjuntos de S por somatório para qualquer A S Por exemplo se we denota o peso de uma aresta e em um matroide gráfico MG então wA é o peso total das arestas no conjunto de arestas A Algoritmos gulosos em um matroide ponderado Muitos problemas para os quais uma abordagem gulosa dá soluções ótimas podem ser formulados em termos de encontrar um subconjunto independente de peso máximo em um matroide ponderado Isto é temos um matroide ponderado M S I e desejamos encontrar um conjunto independente A I tal que wA seja maximizado Denominamos tal subconjunto que é independente e tem peso máximo possível subconjunto ótimo do matroide Como o peso wx de qualquer elemento x S é positivo um subconjunto ótimo é sempre um subconjunto independente maximal ele sempre ajuda a tornar A tão grande quanto possível Por exemplo no problema da árvore geradora mínima temos um grafo conexo não dirigido G V E e uma função comprimento w tal que we é o comprimento positivo da aresta e Usamos o termo comprimento aqui em referência aos pesos de arestas originais para o grafo reservando o termo peso para nos referirmos aos pesos no matroide associado Devemos encontrar um subconjunto das arestas que conecte todos os vértices e tenha comprimento total mínimo Para ver esse problema como um problema de encontrar um subconjunto ótimo de um matroide considere o matroide ponderado MG com função peso w onde we w0 we e w0 é maior que o comprimento máximo de qualquer aresta Nesse matroide ponderado todos os pesos são positivos e um subconjunto ótimo é uma árvore geradora de comprimento total mínimo no grafo original Mais especificamente cada subconjunto independente máximo A corresponde a uma árvore geradora com V 1 arestas e visto que para qualquer subconjunto independente máximo A um subconjunto independente que maximiza a quantidade wA deve minimizar wA Assim qualquer algoritmo que pode encontrar um subconjunto ótimo A em um matroide arbitrário pode resolver o problema da árvore geradora mínima O Capítulo 23 dá algoritmos para o problema da árvore geradora mínima mas aqui daremos um algoritmo guloso que funciona para qualquer matroide ponderado O algoritmo toma como entrada um matroide ponderado M S I com uma função peso positivo associada w e retorna um subconjunto ótimo A Em nosso pseudocódigo denotamos os componentes de M por MS e MI e a função peso por w O algoritmo é guloso porque considera cada elemento x S por vez em ordem monotonicamente decrescente de peso e o adiciona imediatamente ao conjunto A que está sendo acumulado se Ax é independente A linha 4 verifica se acrescentar cada elemento x a A manteria A como um conjunto independente Se A permanecer independente a linha 5 acrescentará x a A Caso contrário x é descartado Visto que o conjunto vazio é independente e já que cada iteração do laço for mantém a independência de A o subconjunto A é sempre independente por indução Consequentemente GREEDY sempre retorna um subconjunto independente A Veremos em breve que A é um subconjunto cujo peso é o máximo possível e portanto A é um subconjunto ótimo O tempo de execução de GREEDY é fácil de analisar Considere que n denota S A fase de ordenação de GREEDY demora o tempo On lg n A linha 4 é executada exatamente n vezes uma vez para cada elemento de S Cada execução da linha 4 requer verificar se o conjunto A x é ou não independente Se cada verificação demorar o tempo O fn o algoritmo inteiro será executado no tempo On lg n nfn Agora provaremos que GREEDY retorna um subconjunto ótimo Lema 167 Matroides exibem a propriedade de escolha gulosa Suponha que M S I seja um matroide ponderado com função peso w e que S esteja ordenado em ordem monotonicamente decrescente de peso Seja x o primeiro elemento de S tal que x seja independente se tal x existir Se x existe então existe um subconjunto ótimo A de S que contém x Prova Se nenhum tal x existe então o único subconjunto independente é o conjunto vazio e o lema é verdadeiro por vacuidade Senão seja B qualquer subconjunto ótimo não vazio Suponha que x B caso contrário fazer A B dá um subconjunto ótimo de S que contém x Nenhum elemento de B tem peso maior que wx Para ver por que observe que y B implica que y é independente já que B I e I é hereditário Portanto nossa escolha de x assegura que wx wy para qualquer y B Construa o conjunto A como descrevemos a seguir Comece com A x Pela escolha de x o conjunto A é independente Usando a propriedade de troca determine repetidamente um novo elemento de B que podemos acrescentar a A até A B e ao mesmo tempo preservar a independência de A Nesse ponto A e B são iguais exceto que A tem x e B tem algum outro elemento y Isto é A B y x para algum y B e assim Como o conjunto B é ótimo o conjunto A que contém x também deve ser ótimo Mostraremos em seguida que se um elemento não é uma opção inicialmente não poderá ser uma opção mais tarde Lema 168 Seja M S I um matroide Se x é um elemento de S que é uma extensão de algum subconjunto independente A de S então x também é uma extensão de 0 Prova Como x é uma extensão de A temos que A x é independente Como é hereditário x tem de ser independente Assim x é uma extensão de 0 Corolário 169 Seja M S I um matroide Se x é um elemento de S tal que x não é uma extensão de 0 então x não é uma extensão de nenhum subconjunto independente A de S Prova Este corolário é simplesmente o contrapositivo do Lema 168 1641 1642 1643 1644 O Corolário 169 diz que qualquer elemento que não pode ser usado imediatamente nunca poderá ser usado Então GREEDY não pode gerar um erro por ignorar quaisquer elementos iniciais em S que não sejam uma extensão de 0 já que eles nunca poderão ser usados Lema 1610 Matroides exibem a propriedade de subestrutura ótima Seja x o primeiro elemento de S escolhido por GREEDY para o matroide ponderado M S I O problema restante de determinar um subconjunto independente de peso máximo contendo x se reduz a determinar um subconjunto independente de peso máximo do matroide ponderado M S I onde e a função peso para M é a função peso para M restrita a S Denominamos M a contração de M pelo elemento x Prova Se A é um subconjunto independente de peso máximo de M contendo x então A A x é um subconjunto independente de M Reciprocamente qualquer subconjunto independente A de M produz um subconjunto independente A A x de M Visto que em ambos os casos temos que wA wA wx uma solução de peso máximo em M contendo x produz uma solução de peso máximo em M e viceversa Teorema 1611 Correção do algoritmo guloso em matroides Se M S I é um matroide ponderado com função peso w então GREEDYM w retorna um subconjunto ótimo Prova Pelo Corolário 169 quaisquer elementos que GREEDY ignorar inicialmente porque não são extensões de 0 podem ser esquecidos já que nunca serão úteis Tão logo GREEDY selecione o primeiro elemento x o Lema 167 implica que o algoritmo não erra por acrescentar x a A já que existe um subconjunto ótimo contendo x Por fim o Lema 1610 implica que o problema restante é o de encontrar um subconjunto ótimo no matroide M que seja a contração de M por x Depois que o procedimento GREEDY atribui A com xpodemos interpretar que todas as suas etapas restantes agem no matroide M S 0 porque B é independente em M se e somente se B x é independente em M para todos os conjuntos B I Assim a operação subsequente de GREEDY encontrará um subconjunto independente de peso máximo para M e a operação global de GREEDY encontrará um subconjunto independente de peso máximo para M Exercícios Mostre que S Ik é um matroide onde S é qualquer conjunto finito e Ik é o conjunto de todos os subconjuntos de S de tamanho no máximo k onde k S Dada uma matriz T m n em algum corpo como os números reais mostre que S I é um matroide onde S é o conjunto de colunas de T e A I se e somente se as colunas em A são linearmente independentes Mostre que se S I é um matroide então S I é um matroide onde I A S A contém algum A I máximo Isto é os conjuntos independentes maximais de S I são exatamente os complementos dos conjuntos independentes maximais de S I Seja S um conjunto finito e seja S1 S2 Sk uma partição de S em subconjuntos disjuntos não vazios Defina a estrutura S I pela condição de que I A A S 1 para i 1 2 k Mostre que S I é um 1645 165 matroide Isto é o conjunto de todos os conjuntos A que contêm no máximo um membro em cada subconjunto na partição determina os conjuntos independentes de um matroide Mostre como transformar a função peso de um problema de matroide ponderado onde a solução ótima desejada é um subconjunto independente maximal de peso mínimo para fazer dele um problemapadrão de matroide ponderado Mostre cuidadosamente que sua transformação está correta UM PROBLEMA DE PROGRAMAÇÃO DE TAREFAS COMO UM MATROIDE Um problema interessante que podemos resolver utilizando matroides é o de programar otimamente tarefas de tempo unitário em um único processador onde cada tarefa tem um prazo final e uma multa que deve ser paga se esse prazo final não for cumprido O problema parece complicado mas podemos resolvêlo de um modo surpreendentemente simples expressandoo como um matroide e utilizando um algoritmo guloso Uma tarefa de tempo unitário é um trabalho como um programa a ser executado em um computador que requer exatamente uma unidade de tempo para ser concluído Dado um conjunto finito S de tarefas de tempo unitário uma programação para S é uma permutação de S especificando a ordem em que essas tarefas devem ser executadas A primeira tarefa na programação começa no tempo 0 e termina no tempo 1 a segunda tarefa começa no tempo 1 e termina no tempo 2 e assim por diante O problema de programar tarefas de tempo unitário com prazos finais e multas para um único processador tem as seguintes entradas um conjunto S a1 a2 an de n tarefas de tempo unitário um conjunto de n prazos finais inteiros d1 d2 dn tal que cada di satisfaz 1 di n e a tarefa a1 deve terminar até o tempo di um conjunto de n pesos não negativos ou multas w1 w2 wn tal que incorremos em uma multa wi se a tarefa ai não termina até o tempo di e não incorremos em nenhuma multa se uma tarefa termina em seu prazo final Queremos determinar uma programação para S que minimize a multa total incorrida quando prazos finais não são cumpridos Considere uma dada programação Dizemos que uma tarefa está atrasada nessa programação se ela termina após seu prazo final Caso contrário a tarefa está adiantada na programação Sempre podemos transformar uma programação arbitrária para a forma adiantada na qual as tarefas adiantadas precedem as tarefas atrasadas Para ver isso observe que se alguma tarefa adiantada ai seguir alguma tarefa atrasada aj poderemos trocar as posições de ai e aj e ai ainda estará adiantada e aj ainda estará atrasada Além do mais podemos afirmar que sempre podemos transformar uma programação arbitrária para a forma canônica na qual as tarefas adiantadas precedem as tarefas atrasadas e programamos as tarefas adiantadas em ordem monotonicamente crescentes de prazos finais Para tal colocamos a programação na forma adiantada Então desde que existam duas tarefas adiantadas ai e aj terminando nos tempos respectivos k e k 1 na programação tais que dj di trocamos as posições de ai e aj Como a tarefa aj está adiantada antes da troca k 1 dj Portanto k 1 di e assim a tarefa ai ainda está adiantada após a troca Como a tarefa aj é movida antes na programação permanece adiantada após a troca Assim a busca por uma programação ótima se reduz a encontrar um conjunto A de tarefas que designamos como adiantadas na programação ótima Tendo determinado A podemos criar a programação propriamente dita organizando uma lista dos elementos de A em ordem monotonicamente crescente de prazo final e em seguida organizando uma lista de tarefas atrasadas isto é S A em qualquer ordem produzindo uma ordenação canônica da programação ótima Dizemos que um conjunto A de tarefas é independente se existe uma programação para essas tarefas tal que nenhuma tarefa está atrasada É claro que o conjunto de tarefas adiantadas para uma programação forma um conjunto 1 2 3 independente de tarefas Seja I o conjunto de todos os conjuntos independentes de tarefas Considere o problema de determinar se um dado conjunto A de tarefas é independente Para t 0 1 2 n seja NtA o número de tarefas em A cujo prazo final é t ou mais cedo Observe que N0A 0 para qualquer conjunto A Lema 1612 Para qualquer conjunto de tarefas A as declarações a seguir são equivalentes O conjunto A é independente Para t 0 1 2 n temos NtA t Se as tarefas em A estão programadas em ordem monotonicamente crescente de prazos finais então nenhuma tarefa está atrasada Prova Para mostrar que 1 implica 2 provamos o contrapositivo se NtA t para algum t então não existe nenhum modo de fazer uma programação sem nenhuma tarefa atrasada para o conjunto A porque mais de t tarefas devem terminar antes do tempo t Por essa razão 1 implica 2 Se 2 é válida então 3 deve ser válida não existe nenhum modo de ficarmos emperrados quando programamos tarefas em ordem monotonicamente crescente de prazos finais já que 2 implica que o iésimo maior prazo final é no mínimo i Finalmente 3 implica trivialmente 1 Usando a propriedade 2 do Lema 1612 podemos calcular facilmente se um dado conjunto de tarefas é independente ou não veja o Exercício 1652 O problema de minimizar a soma das multas por tarefas atrasadas é igual ao problema de maximizar a soma das multas das tarefas adiantadas Assim o teorema a seguir assegura que podemos usar o algoritmo guloso para encontrar um conjunto independente A de tarefas com a multa total máxima Teorema 1613 Se S é um conjunto de tarefas de tempo unitário com prazos finais e se I é o conjunto de todos os conjuntos de tarefas independentes então o sistema correspondente S I é um matroide Prova Todo subconjunto de um conjunto independente de tarefas certamente é independente Para provar a propriedade de troca suponha que B e A sejam conjuntos de tarefas independentes e que B A Seja k o maior t tal que NtB NtA Tal valor de t existe já que N0A N0B 0 Como NnB B e NnA A mas B A devemos ter que k n e que NjB NjA para todo j na faixa k 1 j n Portanto B contém mais tarefas com prazo final k 1 do que A Seja ai uma tarefa em B A com prazo final k 1 Seja A A ai Agora mostraremos que A deve ser independente usando a propriedade 2 do Lema 1612 Para 0 t k temos NtA NtA t já que A é independente Para k t n temos NtA NtB t já que B é independente Portanto A é independente o que conclui nossa prova de que S I é um matroide Pelo Teorema 1611 podemos usar um algoritmo guloso para encontrar um conjunto independente de peso máximo de tarefas A Então podemos criar uma programação ótima na qual as tarefas em A sejam suas tarefas adiantadas Esse método é um algoritmo eficiente para programação de tarefas de tempo unitário com prazos finais e multas para um único processador O tempo de execução é On2 utilizando GREEDY já que cada uma das On verificações de independência feitas por esse algoritmo demora o tempo On veja o Exercício 1652 O Problema 164 dá uma implementação mais rápida 1651 1652 161 a b c d Figura 167 Uma instância do problema de programar tarefas de tempo unitário com prazos finais e multas para um único processador A Figura 167 demonstra um exemplo do problema de programação de tarefas de tempo unitário com prazos finais e multas para um único processador Nesse exemplo o algoritmo guloso seleciona as tarefas a1 a2 a3 e a4 em ordem depois rejeita a5 porque N4a1 a2 a3 a4 a5 5 e a6 porque N4a1 a2 a3 a4 a6 5 e finalmente aceita a tarefa a7 A programação final ótima é que incorre em uma multa total de w5 w6 50 Exercícios Resolva a instância do problema de programação dado na Figura 167 mas substituindo cada multa wi por 80 wi Mostre como usar a propriedade 2 do Lema 1612 para determinar no tempo OA se um dado conjunto A de tarefas é independente ou não Problemas Troco em moedas Considere o problema de dar troco para n centavos usando o menor número de moedas Suponha que o valor de cada moeda seja um inteiro Descreva um algoritmo guloso para dar um troco utilizando moedas de 25 centavos 10 centavos 5 centavos e 1 centavo Prove que seu algoritmo produz uma solução ótima Suponha que as moedas disponíveis estejam nas denominações que são potências de c isto é as denominações são c0 c1 ck para alguns inteiros c 1 e k 1 Mostre que o algoritmo guloso sempre produz uma solução ótima Dê um conjunto de denominações de moedas para o qual o algoritmo guloso não produz uma solução ótima Seu conjunto deve incluir um centavo de modo que exista uma solução para todo valor de n Dê um algoritmo de tempo Onk que dê o troco para qualquer conjunto de k denominações diferentes de moeda considerando que uma das moedas é 1 centavo 162 a b 163 a b c d e Programação para minimizar o tempo médio de conclusão Suponha que você tenha um conjunto S a1 a2 an de tarefas no qual a tarefa ai requeira pi unidades de tempo de processamento para ser concluída desde que seja iniciada Você tem um computador no qual executar essas tarefas e o computador só pode executar uma tarefa por vez Seja ci o tempo de conclusão da tarefa ai isto é o tempo no qual o processamento da tarefa ai é concluído Sua meta é minimizar o tempo médio de conclusão ou seja minimizar Por exemplo suponha que haja duas tarefas a1 e a2 com p1 3 e p2 5 e considere a programação na qual a2 é executada primeiro seguida por a1 Então c2 5 c1 8 e o tempo médio de conclusão é 5 82 65 Todavia se a tarefa a1 for executada primeiro c1 3 c2 8 e o tempo médio de conclusão é 3 82 55 Dê um algoritmo que programe as tarefas de modo a minimizar o tempo médio de conclusão Cada tarefa deve ser executada de modo não preemptivo isto é uma vez iniciada a tarefa ai ela deve ser executada continuamente durante pi unidades de tempo Prove que seu algoritmo minimiza o tempo médio de conclusão e informe o tempo de execução do seu algoritmo Suponha agora que as tarefas não estejam todas disponíveis ao mesmo tempo Isto é nenhuma tarefa pode começar antes de seu tempo de liberação ri Suponha também que permitimos a preempção de modo que uma tarefa pode ser suspensa e reiniciada mais tarde Por exemplo uma tarefa ai com tempo de processamento pi 6 e tempo de liberação ri 1 poderia iniciar sua execução no tempo 1 e ser suspensa no tempo 4 Então ela poderia recomeçar no tempo 10 mas ser suspensa no tempo 11 e por fim recomeçar no tempo 13 e concluir no tempo 15 A tarefa ai é executada durante um total de seis unidades de tempo mas seu tempo de execução foi dividido em três partes Com isso o tempo de conclusão de ai é 15 Dê um algoritmo que programe as tarefas de modo a minimizar o tempo médio de conclusão nesse novo cenário Prove que seu algoritmo minimiza o tempo médio de conclusão e informe o tempo de execução do seu algoritmo Subgrafos acíclicos A matriz de incidência para um grafo não dirigido G V E é uma matriz V E M tal que Mve 1 se a aresta e incidir no vértice v caso contrário Mve 0 Mostre que um conjunto de colunas de M é linearmente independente no corpo dos inteiros módulo 2 se e somente se o conjunto correspondente de arestas é acíclico Então use o resultado do Exercício 1642 para dar uma prova alternativa de que E I da parte a é um matroide Suponha que associamos um peso não negativo we a cada aresta em um grafo não dirigido G V E Dê um algoritmo eficiente para encontrar um subconjunto acíclico de E de peso total máximo Seja GV E um grafo dirigido arbitrário e seja E I definido de tal modo que A se e somente se A não contém nenhum ciclo dirigido Dê um exemplo de um grafo dirigido G tal que o sistema associado E I não seja um matroide Especifique qual condição de definição para um matroide deixa de ser válida A matriz de incidência para um grafo dirigido G V E sem nenhum laço é uma matrizVE M tal que Mve 1 se a aresta e sai do vértice v Mve 1 se a aresta e entra no vértice v e Mve 0 em qualquer outro caso Mostre que se um conjunto de colunas de M é linearmente independente o conjunto correspondente de arestas não contém um ciclo dirigido O Exercício 1642 nos diz que o conjunto de conjuntos linearmente independentes de colunas de qualquer matriz M forma um matroide Explique cuidadosamente por que os resultados das partes c e 164 a b 165 a d não são contraditórios Como poderia deixar de haver uma perfeita correspondência entre a noção de que um conjunto de arestas é acíclico e a noção de que um conjunto associado de colunas da matriz de incidência é linearmente independente Variações de programação Considere o algoritmo a seguir para resolver o problema da Seção 165 de programar tarefas de tempo unitário com prazos finais e multas Sejam todos os n intervalos de tempo inicialmente vazios onde um intervalo de tempo i é o intervalo de tempo de comprimento unitário que termina no tempo i Consideramos as tarefas em ordem monotonicamente decrescente de multa Quando consideramos a tarefa aj se existir um intervalo de tempo no prazo final dj de aj ou antes dele que ainda esteja vazio atribua aj a tal intervalo mais recente preenchendoo Se tal intervalo de tempo não existir atribua a tarefa aj ao intervalo de tempo mais recente ainda não preenchido Mostre que esse algoritmo sempre dá uma resposta ótima Use a floresta rápida de conjuntos disjuntos apresentada na Seção 213 para implementar o algoritmo eficientemente Considere que o conjunto de tarefas de entrada já esteja ordenado em ordem monotonicamente decrescente de multa Analise o tempo de execução de sua implementação Caching Offline Computadores modernos usam uma cache para armazenar uma pequena quantidade de dados em memória rápida Embora um programa possa acessar grande quantidade de dados armazenar um pequeno subconjunto da memória principal na cache uma memória pequena porém rápida pode resultar em grande redução do tempo de acesso global Quando executado um programa de computador faz uma sequência r1r2rn de n solicitações à memória e cada uma dessas solicitações é para um determinado elemento de dados Por exemplo um programa que acessa 4 elementos distintos a b c d poderia fazer a sequência de solicitações d b d b d a c d b a c b Seja k o tamanho da cache Quando ela contém k elementos e o programa solicita o k 1ésimo elemento o sistema tem de decidir para essa solicitação e para cada uma das solicitações subsequentes quais k elementos manter na cache Mais exatamente para cada solicitação ri o algoritmo de gerenciamento de cache verifica se o elemento ri já está na cache Se está temos uma presença na cache senão temos uma ausência da cache Quando ocorre uma ausência da cache o sistema retira ri da memória principal e o algoritmo de gerenciamento da cache deve decidir se mantém ri na cache Se decidir manter ri e a cache já contiver k elementos o algoritmo tem de excluir um elemento para dar lugar a ri O algoritmo de gerenciamento da cache exclui dados com o objetivo de minimizar o número de ausências da cache para a seção de solicitações inteira Normalmente caching é um problema online Isto é temos de tomar decisões sobre quais dados manter na cache sem conhecer as solicitações futuras Entretanto aqui consideramos a versão offline desse problema na qual temos de antemão toda a sequência de n solicitações e o tamanho da cache k e desejamos minimizar o número total de ausências da cache Podemos resolver esse problema offline por uma estratégia gulosa denominada futuro mais longínquo que escolhe excluir o item presente na cache cujo próximo acesso na sequência de solicitações ocorre no futuro mais longínquo Escreva pseudocódigo para um gerenciador de cache que usa a estratégia do futuro mais longínquo A entrada deve ser uma sequência r1 r2 rn de solicitações e um tamanho de cache k a saída deve ser uma sequência de decisões sobre qual elemento de dado se houver algum eliminar a cada solicitação b c Qual é o tempo de execução do seu algoritmo Mostre que o problema de caching offline exibe subestrutura ótima Prove que a estratégia futuro mais longínquo produz o menor número possível de ausências da cache NOTAS DO CAPÍTULO Uma quantidade muito maior de material sobre algoritmos gulosos e matroides pode ser encontrada em Lawler 224 e em Papadimitriou e Steiglitz 271 O algoritmo guloso apareceu pela primeira vez na literatura de otimização combinatória em um artigo de 1971 por Edmonds 101 embora a teoria de matroides date de um artigo de 1935 por Whitney 355 Nossa prova da correção do algoritmo guloso para o problema de seleção de atividades se baseia na de Gavril 131 O problema de programação de tarefas é estudado em Lawler 224 Horowitz Sahni e Rajasekaran 181 e Brassard e Bratley 55 Os códigos de Huffman foram criados em 1952 185 Lelewer e Hirschberg 231 pesquisaram técnicas de compressão de dados conhecidas desde 1987 Uma extensão da teoria de matroides para a teoria de guloides greedoids em inglês teve como pioneiros Korte e Lovász 216 217 218 219 que generalizam bastante a teoria apresentada aqui 1 Às vezes nos referimos aos conjuntos S como subproblemas em vez de apenas conjuntos de atividades Sempre ficará claro pelo contexto se estamos nos referindo a Sk como um conjunto de atividades ou como um subproblema cuja entrada é aquele conjunto 2 Como o pseudocódigo toma s e f como arranjos é indexado a eles com chaves em vez de subscritos 3 Talvez códigos livres de prefixo fosse um nome melhor mas a expressão códigos de prefixo é padrão na literatura 171 17 ANÁLISE AMORTIZADA Em uma análise amortizada calculamos a média do tempo requerido para executar uma sequência de operações de estruturas de dados em todas as operações executadas Com análise amortizada podemos mostrar que o custo médio de uma operação é pequeno se calculada a média de uma sequência de operações ainda que uma única operação dentro da sequência possa ser custosa A análise amortizada é diferente da análise do caso médio porque não envolve probabilidade uma análise amortizada garante o desempenho médio de cada operação no pior caso As três primeiras seções deste capítulo abordam as três técnicas mais comuns usadas em análise amortizada A Seção 171 começa com a análise agregada na qual determinamos um limite superior Tn para o custo total de uma sequência de n operações Depois o custo amortizado por operação é Tnn Adotamos o custo médio como o custo amortizado de cada operação de modo que todas as operações têm o mesmo custo amortizado A Seção 172 focaliza o método de contabilidade no qual determinamos um custo amortizado de cada operação Quando há mais de um tipo de operação cada tipo de operação pode ter um custo amortizado diferente O método de contabilidade cobra a mais por algumas operações no início da sequência e armazena essa quantia a mais como crédito prépago para objetos específicos na estrutura de dados Mais adiante na sequência o crédito paga operações que foram cobradas a menor que seu custo real A Seção 173 discute o método do potencial que é semelhante ao método de contabilidade no sentido de que determinamos o custo amortizado de cada operação e podemos cobrar a mais por operações no início para mais tarde compensar cobranças a menor O método do potencial mantém o crédito como a energia potencial da estrutura de dados como um todo em vez de associar o crédito a objetos individuais dentro da estrutura de dados Usaremos dois exemplos para examinar esses três métodos Um é uma pilha com a operação adicional MULTIPOP que retira de uma pilha vários objetos de uma vez O outro é um contador binário que conta a partir de 0 por meio da operação isolada INCREMENT Ao ler este capítulo tenha em mente que as cobranças atribuídas durante uma análise amortizada servem apenas para a análise Elas não precisam e não devem aparecer no código Se por exemplo atribuirmos um crédito a um objeto x quando usamos o método de contabilidade não precisamos atribuir um valor adequado a algum atributo no código tal como xcrédito Muitas vezes a análise amortizada nos dá uma certa percepção de uma determinada estrutura de dados e essa percepoção pode nos ajudar a otimizar o projeto Na Seção 174 por exemplo usaremos o método do potencial para analisar uma tabela que se expande e se contrai dinamicamente ANÁLISE AGREGADA Em análise agregada mostramos que para todo n uma sequência de n operações demora o tempo do pior caso Tn no total Portanto no pior caso o custo médio ou custo amortizado por operação é Tnn Observe que esse custo amortizado se aplica a cada operação mesmo quando há vários tipos de operações na sequência Os outros dois métodos que estudaremos neste capítulo o método de contabilidade e o método do potencial podem atribuir custos amortizados diferentes a tipos de operações diferentes Operações de pilha Em nosso primeiro exemplo de análise agregada analisamos pilhas que foram aumentadas com uma nova operação A Seção 101 apresentou as duas operações fundamentais de pilha cada uma das quais demora o tempo O1 PUSHS x insere o objeto x sobre a pilha S POPS retira o topo da pilha S e retorna o objeto retirado da pilha Chamar POP em uma pilha vazia gera um erro Visto que cada uma dessas operações é executada no tempo O1 vamos considerar o custo de cada uma igual a 1 Então o custo total de uma sequência de n operações PUSH e POP é n e por consequência o tempo de execução real para n operações é Qn Agora acrescentamos a operação de pilha MULTIPOPS k que remove os k objetos no topo da pilha S ou a pilha inteira se ela contiver menos de k objetos Claro que tomaremos k positivo senão a operação MULTIPOP deixaria a pilha como está No pseudocódigo a seguir a operação STACKEMPTY retorna TRUE se não há nenhum objeto na pilha no momento considerado caso contrário retorna FALSE A Figura 171 mostra um exemplo de MULTIPOP Qual é o tempo de execução de MULTIPOPS k em uma pilha de s objetos O tempo de execução real é linear em relação ao número de operações POP realmente executadas e assim podemos analisar MULTIPOP considerando o custo abstrato de 1 para cada uma das operações PUSH e POP O número de iterações do laço while é o número mins k de objetos retirados da pilha Cada iteração do laço faz uma chamada a POP na linha 2 Assim o custo total de MULTIPOP é mins k e o tempo de execução real é uma função linear desse custo Vamos analisar uma sequência de n operações PUSH POP e MULTIPOP em uma pilha inicialmente vazia O custo do pior caso de uma operação MULTIPOP na sequência é On já que o tamanho da pilha é no máximo n Portanto o tempo do pior caso de qualquer operação de pilha é On e consequentemente uma sequência de n operações custa On2 já que podemos ter On operações MULTIPOP custando On cada uma Embora essa análise esteja correta o resultado On2 que obtivemos considerando o custo do pior caso de cada operação individual não é preciso Figura 171 A ação de MULTIPOP em uma pilha S mostrada inicialmente em a Os quatro objetos no topo são retirados por MULTIPOPS 4 e o resultado é mostrado em b A próxima operação é MULTIPOPS 7 que esvazia a pilha mostrada em c já que restam menos de sete objetos Usando análise agregada podemos obter um limite superior melhor que considera a sequência inteira de n operações De fato embora uma única operação MULTIPOP possa ser custosa qualquer sequência de n operações PUSH POP e MULTIPOP em uma pilha inicialmente vazia custará no máximo On Por quê Podemos retirar cada objeto de uma pilha no máximo uma vez para cada vez que o inserimos na pilha Portanto o número de vezes que PO P pode ser chamada em uma pilha não vazia incluídas as chamadas dentro de MULTIPOP é no máximo o número de operações PUSH que é no máximo n Para qualquer valor de n qualquer sequência de n operações PUSH POP e MULTIPOP demora o tempo total On O custo médio de uma operação é Onn O1 Em análise agregada o custo amortizado atribuído a cada operação é o custo médio Portanto nesse exemplo todas as três operações de pilha têm um custo amortizado de O1 Destacamos novamente que embora tenhamos acabado de mostrar que o custo médio e consequentemente o tempo de execução de uma operação de pilha é O1 não usamos raciocínio probabilístico Na realidade mostramos um limite de pior caso On em uma sequência de n operações Dividindo esse custo total por n temos o custo médio por operação ou o custo amortizado Incrementar um contador binário Como outro exemplo de análise agregada considere o problema de implementar um contador binário de k bits que efetua contagem crescente a partir de 0 Usamos como contador um arranjo A0 k 1 de bits onde Acomprimento k Um número binário x que é armazenado no contador tem seu bit de ordem mais baixa em A0 e seu bit de ordem mais alta em Ak 1 de modo que x Inicialmente x 0 e assim Ai 0 para i 0 1 k 1 Para somar 1 módulo 2k ao valor do contador utilizamos o seguinte procedimento A Figura 172 mostra o que acontece a um contador binário quando o incrementamos 16 vezes começando com o valor inicial 0 e terminando com o valor 16 No início de cada iteração do laço while nas linhas 24 desejamos adicionar um 1 na posição i Se Ai 1 então a adição de 1 inverte o bit para 0 na posição i e produz vaium de 1 que será somado na posição i 1 na próxima iteração do laço Caso contrário o laço termina e então se i k sabemos que Ai 0 de modo que a linha 6 adiciona um 1 na posição i invertendo o bit de 0 para 1 O custo de cada operação INCREMENT é linear em relação ao número de bits invertidos Como ocorre no exemplo da pilha uma análise superficial produz um limite que é correto mas não preciso Uma única execução de INCREMENT demora o tempo Qk no pior caso no qual o arranjo A contém somente 1s Portanto uma sequência de n operações INCREMENT em um contador inicialmente igual a zero demora o tempo Onk no pior caso Podemos restringir nossa análise para produzir um custo de pior caso On para uma sequência de n operações INCREMENT observando que nem todos os bits são invertidos toda vez que INCREMENT é chamada Como mostra a Figura 172 A0 é invertido toda vez que INCREMENT é chamada O bit de ordem mais alta seguinte A1 só é invertido em vezes alternadas uma sequência de n operações INCREMENT em um contador que é inicialmente zero faz A1 inverter n2 vezes De modo semelhante o bit A2 é invertido somente de quatro em quatro vezes ou n4 vezes em uma sequência de n operações INCREMENT Em geral para i 0 1 k 1 o bit Ai é invertido n2i vezes em uma sequência de n operações INCREMENT em um contador que inicialmente é zero Para i k o bit Ai não existe portanto não pode ser invertido Assim o número total de inversões na sequência é Figura 172 Um contador binário de 8 bits à medida que seu valor vai de 0 a 16 por uma sequência de 16 operações iNCREMENT Bits que são invertidos para chegar ao próximo valor estão sombreados O custo de execução para a inversão de bits é mostrado à direita Observe que o custo total é sempre menor que duas vezes o número total de operações iNCREMENT 1711 1712 1713 172 pela equação A6 Portanto o tempo do pior caso para uma sequência de n operações INCREMENT em um contador inicialmente igual a zero é On O custo médio de cada operação e portanto o custo amortizado por operação é Onn O1 Exercícios Se o conjunto de operações de pilha incluísse uma operação MULTIPUSH que introduz k itens na pilha o limite O1 para o custo amortizado de operações de pilha continuaria válido Mostre que se uma operação DECREMENT fosse incluída no exemplo do contador de k bits n operações poderiam custar até o tempo Qnk Suponha que executamos uma sequência de n operações em uma estrutura de dados na qual a iésima operação custa i se i é uma potência exata de 2 e 1 em caso contrário Utilize a análise agregada para determinar o custo amortizado por operação O MÉTODO DE CONTABILIDADE No método da contabilidade de análise amortizada atribuímos cobranças diferentes a operações diferentes sendo que algumas operações são cobradas a mais ou a menos do que realmente custam Denominamos custo amortizado o valor que cobramos por uma operação Quando o custo amortizado de uma operação excede seu custo real atribuímos a diferença a objetos específicos na estrutura de dados como crédito Mais adiante o crédito pode ajudar a pagar operações posteriores cujo custo amortizado é menor que seu custo real Assim podemos considerar o custo amortizado de uma operação como repartido entre seu custo real e o crédito que é depositado ou consumido Esse método é muito diferente da análise agregada na qual todas as operações têm o mesmo custo amortizado Devemos escolher os custos amortizados de operações cuidadosamente Se quisermos mostrar que no pior caso o custo médio por operação é pequeno por análise com custos amortizados temos de assegurar que o custo amortizado total de uma sequência de operações dá um limite superior para o custo real total da sequência Além disso como ocorre na análise agregada essa relação deve se manter válida para todas as sequências de operações Se denotarmos o custo real da iésima operação por ci e o custo amortizado da iésima operação por cˆi exigiremos para todas as sequências de n operações O crédito total armazenado na estrutura de dados é a diferença entre o custo amortizado total e o custo real total ou Pela desigualdade 171 o crédito total associado à estrutura de dados deve ser não negativo em todos os momentos Se alguma vez permitíssemos que o crédito total se tornasse negativo o resultado de cobrar a menos por operações anteriores com a promessa de reembolsar a quantia mais tarde então os custos amortizados totais incorridos naquele momento estariam abaixo dos custos reais totais incorridos para a sequência de operações até aquele mesmo momento o custo amortizado total não seria um limite superior para custo real total Assim devemos cuidar para que o crédito total na estrutura de dados nunca se torne negativo Operações de pilha Para ilustrar o método de contabilidade de análise amortizada vamos voltar ao exemplo da pilha Lembrese de que os custos reais das operações eram onde k é o argumento fornecido a MULTIPOP e s é o tamanho da pilha quando ela é chamada Vamos atribuir os seguintes custos amortizados Observe que o custo amortizado de MULTIPOP é uma constante 0 enquanto o custo real é variável Aqui todos os três custos amortizados são constantes Em geral os custos amortizados das operações sob consideração podem ser diferentes um do outro e até mesmo assintoticamente diferentes Agora mostraremos que é possível pagar qualquer sequência de operações de pilha debitando dos custos amortizados Suponha que usamos uma nota de um real para representar cada unidade de custo Começamos com uma pilha vazia Lembrese da analogia da Seção 101 entre a estrutura de dados de pilha e uma pilha de pratos em um restaurante Quando introduzimos um prato na pilha usamos 1 real para pagar o custo propriamente dito do empilhamento e ficamos com um crédito de 1 real além dos 2 reais cobrados que deixamos em cima do prato Em qualquer instante há um real de crédito em cima de cada prato na pilha O real guardado no prato serve como pagamento prévio do custo de retirálo da pilha Quando executamos uma operação POP não cobramos nada por ela e pagamos seu custo real usando o crédito armazenado na pilha Para retirar um prato da pilha tomamos o real de crédito do prato e o utilizamos para pagar o custo real da operação Assim cobrando um pouco mais pela operação PUSH não precisamos cobrar nada pela operação POP Além disso também não precisamos cobrar nada por operações MULTIPOP Para retirar o primeiro prato da pilha tomamos o real de crédito do prato e o utilizamos para pagar o custo propriamente dito de uma operação POP Para retirar um segundo prato temos novamente um real de crédito no prato para pagar a operação POP e assim sucessivamente Então sempre cobramos antecipadamente o suficiente para pagar operações MULTIPOP Em outras palavras visto que cada prato na pilha tem 1 real de crédito e a pilha sempre tem um número não negativo de pratos asseguramos que a quantia que temos de crédito é sempre não negativa Assim para qualquer sequência de n operações PUSH POP e MULTIPOP o custo amortizado total é um limite superior para o custo real total Visto que o custo amortizado total é On também é esse o custo real total Incrementar um contador binário Como outra ilustração do método de contabilidade analisamos a operação INCREMENT em um contador binário que começa em zero Conforme observamos antes o tempo de execução dessa operação é proporcional ao número de bits invertidos que usaremos como nosso custo para esse exemplo Vamos utilizar uma vez mais uma nota de 1 real para representar cada unidade de custo a inversão de um bit nesse exemplo No caso da análise amortizada vamos cobrar um custo amortizado de 2 reais para atribuir um bit com 1 ligar Quando um bit é ligado usamos 1 real dos 2 reais cobrados para pagar a própria configuração do bit e colocamos o outro real no bit como crédito para ser usado mais tarde quando convertermos o bit de volta para 0 Em qualquer 1721 1722 1723 173 instante todo 1 no contador tem um real de crédito e assim não precisamos cobrar nada para desligar um bit apenas pagamos o desligamento com a nota de real no bit Agora podemos determinar o custo amortizado de INCREMENT O custo de desligar os bits dentro do laço while é pago pelos reais nos bits que são desligados O procedimento INCREMENT liga no máximo um bit na linha 6 e portanto o custo amortizado de uma operação INCREMENT é no máximo 2 reais A quantidade de 1s no contador nunca se torna negativa e portanto a quantia de crédito permanece não negativa o tempo todo Assim para n operações INCREMENT o custo amortizado total é On o que limita o custo real total Exercícios Suponha que executamos uma sequência de operações de pilha em uma pilha cujo tamanho nunca excede k Após cada k operações fazemos uma cópia da pilha inteira como backup Mostre que o custo de n operações de pilha incluindo copiar a pilha é On atribuindo custos amortizados adequados às várias operações de pilha Faça novamente o Exercício 1713 usando um método de análise da contabilidade Suponha que desejamos não apenas incrementar um contador mas também reinicializálo em zero isto é fazer com que todos os seus bits sejam 0 Contando como Q1 o tempo para examinar ou modificar um bit mostre como implementar um contador como um arranjo de bits de modo tal que qualquer sequência de n operações INCREMENT e RE SE T demore o tempo On em um contador inicialmente em zero Sugestão Mantenha um ponteiro para o valor 1 de ordem mais alta O MÉTODO DO POTENCIAL Em vez de representar o trabalho pago antecipadamente como crédito armazenado por objetos específicos na estrutura de dados o método do potencial de análise amortizada representa o trabalho pago antecipadamente como energia potencial ou apenas potencial que pode ser liberado para pagamento de operações futuras Associamos o potencial à estrutura de dados como um todo em vez de associálo a objetos específicos dentro da estrutura de dados O método do potencial funciona da maneira descrita a seguir Executaremos n operações começando com uma estrutura de dados inicial D0 Para cada i 1 2 n seja ci o custo real da iésima operação e seja Di a estrutura de dados que resulta após a aplicação da iésima operação à estrutura de dados Di1 Uma função potencial mapeia cada estrutura de dados Di para um número real Di que é o potencial associado à estrutura de dados Di O custo amortizado da iésima operação referente à função potencial é definido por Então o custo amortizado de cada operação é seu custo real mais a mudança no potencial devido à operação Pela equação 172 o custo amortizado total das n operações é A segunda igualdade decorre da equação A9 porque os termos Di se cancelam Se pudermos definir uma função potencial de tal modo que Dn D0 então o custo amortizado total dá um limite superior para o custo real total Na prática nem sempre sabemos quantas operações poderiam ser executadas Portanto se exigimos que Di D0 para todo i então garantimos como no método da contabilidade que pagamos antecipadamente Normalmente apenas definimos D0 como 0 e então mostramos que Di 0 para todo i Veja no Exercício 1731 um modo fácil para tratar os casos nos quais D0 0 Intuitivamente se a diferença de potencial Di Di1 da iésima operação é positiva o custo amortizado representa uma cobrança a mais para a iésima operação e o potencial da estrutura de dados aumenta Se a diferença de potencial é negativa o custo amortizado representa uma cobrança a menos para a iésima operação e a redução no potencial paga o custo real da operação Os custos amortizados definidos pelas equações 172 e 173 dependem da escolha da função potencial Diferentes funções potenciais podem produzir custos amortizados diferentes e ainda assim serem limites superiores para os custos reais Muitas vezes constatamos que podemos fazer permutas quando escolhemos uma função potencial a melhor função potencial a utilizar depende dos limites de tempo desejados Operações de pilha Para ilustrar o método do potencial retornamos mais uma vez ao exemplo das operações de pilha PUSH PO P e MULTIPOP Definimos a função potencial em uma pilha como o número de objetos na pilha Para a pilha vazia D0 com a qual começamos temos D0 0 Como o número de objetos na pilha nunca é negativo a pilha Di que resulta após a i ésima operação tem potencial não negativo e assim Portanto o custo amortizado total de n operações em relação a representa um limite superior para o custo real Agora vamos calcular os custos amortizados das várias operações de pilha Se a iésima operação em uma pilha que contém s objetos é uma operação PUSH a diferença de potencial é Pela equação 172 o custo amortizado dessa operação PUSH é Suponha que a iésima operação na pilha seja MULTIPOS k o que resulta na retirada de k mink s objetos da pilha O custo real da operação é k e a diferença de potencial é Assim o custo amortizado da operação MULTIPOP é De modo semelhante o custo amortizado de uma operação POP comum é 0 O custo amortizado de cada uma das três operações é O1 e por isso o custo amortizado total de uma sequência de n operações é On Visto que já demonstramos que Di D0 o custo amortizado total de n operações é um limite superior para o custo real total Portanto o custo do pior caso de n operações é On Incrementar um contador binário Como outro exemplo do método do potencial examinamos novamente como incrementar um contador binário Dessa vez definimos o potencial do contador após a iésima operação INCREMENT como bi a quantidade de 1s no contador após a iésima operação Vamos calcular o custo amortizado de uma operação INCREMENT Suponha que a iésima operação INCREMENT modifique ti bits Então o custo real da operação é no máximo ti 1 já que além de modificar ti bits ela liga no máximo um bit Se bi 0 então a iésima operação modifica todos os k bits e bi1 ti k Se bi 0 então bi bi1 ti 1 Em qualquer dos casos bi bi1 ti 1 e a diferença de potencial é Portanto o custo amortizado é Se o contador começa em zero então D0 0 Visto que Di 0 para todo i o custo amortizado total de uma sequência de n operações INCREMENT é um limite superior para o custo real total e assim o custo do pior caso de n operações INCREMENT é On O método do potencial nos dá um caminho fácil para analisar o contador até mesmo quando ele não começa em zero O contador começa com uma quantidade b0 de 1s e após n operações INCREMENT ele tem uma quantidade bn de 1s onde 0 b0 bn k Lembrese de que k é o número de bits no contador Podemos reescrever a equação 173 como Temos cˆ i 2 para todo 1 i n Visto que D b e D b o custo real total de n operações INCREMENT é 1731 1732 1733 1734 1735 1736 1737 174 Observe em particular que como b0 k o custo real total é On contanto que k On Em outras palavras se executarmos no mínimo k operações INCREMENT o custo real total será On não importando o valor inicial que o contador contém Exercícios Suponha que tenhamos uma função potencial tal que Di D0 para todo i mas Di 0 Mostre que existe uma função potencial tal que D0 0 Di 0 para todo i 1 e os custos amortizados se usarmos são iguais aos custos amortizados se usarmos Faça novamente o Exercício 1713 usando um método de potencial para a análise Considere uma estrutura de dados de heap de mínimo binário comum com n elementos que suporte as instruções INSERT e EXTRACTMIN no tempo do pior caso Olg n Dê uma função potencial tal que o custo amortizado de INSERT seja Olg n e o custo amortizado de EXTRACTMIN seja O1 e mostre que ela funciona Qual é o custo total de executar n das operações de pilha PUSH PO P e MULTIPOP considerando que a pilha começa com s0 objetos e termina com sn objetos Suponha que um contador comece em um número que tem a quantidade b de 1s em sua representação binária em vez de começar em 0 Mostre que o custo de executar n operações INCREMENT é On se n b Não considere b constante Mostre como implementar uma fila com duas pilhas comuns Exercício 1016 de modo que o custo amortizado de cada operação ENQUEUE e de cada operação DEQUEUE seja O1 Projete uma estrutura de dados para suportar as duas operações a seguir para um multiconjunto dinâmico S de inteiros que permite valores duplicados INSERTS x insere x no conjunto S DELETELARGERHALFS elimina os S2 maiores elementos de S Explique como implementar essa estrutura de dados de modo que qualquer sequência de m operações INSERT e DELETELARGERHALF seja executada no tempo Om Sua implementação deve também incluir um modo de obter como saída os elementos de S no tempo OS TABELAS DINÂMICAS Nem sempre sabemos antecipadamente quantos objetos algumas aplicações armazenarão em uma tabela Poderíamos alocar espaço para uma tabela e só mais tarde constatar que tal espaço não é suficiente Então teríamos de realocar a tabela com um tamanho maior e copiar todos os objetos armazenados na tabela original para a nova tabela maior De modo semelhante se muitos objetos já foram eliminados da tabela poderia ser vantajoso realocar tal tabela com um tamanho menor Nesta seção estudaremos esse problema de expandir e contrair dinamicamente uma tabela Usando a análise amortizada mostraremos que o custo amortizado das operações de inserção e eliminação é apenas O1 embora o custo real de uma operação seja grande quando ela ativa uma expansão ou uma contração Além disso veremos como garantir que o espaço não utilizado em uma tabela dinâmica nunca exceda uma fração constante do espaço total Supomos que a tabela dinâmica suporta as operações TABLEINSERT e TABLEDELETE TABLEINSERT insere na tabela um item que ocupa uma única posição isto é um espaço para um só item Do mesmo modo TABLEDELETE 1741 elimina um item da tabela e por isso libera uma posição Os detalhes do método de estruturação de dados usado para organizar a tabela não são importantes poderíamos usar uma pilha Seção 101 um heap Capítulo 6 ou uma tabela hash Capítulo 11 Também poderíamos usar um arranjo ou uma coleção de arranjos para implementar armazenamento de objetos como fizemos na Seção 103 Veremos que é conveniente utilizar um conceito introduzido em nossa análise do hashing Capítulo 11 Definimos o fator de carga aT de uma tabela não vazia T como o número de itens armazenados na tabela dividido pelo tamanho número de posições da tabela Atribuímos tamanho 0 a uma tabela vazia uma tabela sem itens e definimos seu fator de carga como 1 Se o fator de carga de uma tabela dinâmica é limitado por baixo por uma constante o espaço não utilizado na tabela nunca é maior que uma fração constante da quantidade total de espaço Começamos analisando uma tabela dinâmica na qual só inserimos itens Em seguida consideramos o caso mais geral em que inserimos e eliminamos itens EXPANSÃO DE TABELAS Vamos supor que o armazenamento para uma tabela seja alocado como um arranjo de posições Uma tabela está cheia quando todas as posições foram usadas ou o que é equivalente quando seu fator de carga é 11 Em alguns ambientes de software se é feita uma tentativa para inserir um item em uma tabela cheia a única alternativa é abortar a operação com um erro Porém levaremos em conta que nosso ambiente de software como muitos ambientes modernos fornece um sistema de gerenciamento de memória que pode alocar e liberar blocos de armazenamento por requisição Assim ao inserirmos um item em uma tabela cheia poderemos expandila alocando uma nova tabela com mais posições que a tabela antiga Como sempre precisamos que a tabela resida em memória contígua temos de alocar um novo arranjo para a tabela maior e depois copiar itens da tabela antiga para a tabela nova Uma heurística comum aloca uma nova tabela que tenha duas vezes o número de posições da antiga Se as únicas operações de tabela são inserções então o fator de carga da tabela é sempre no mínimo 12 e assim a quantidade de espaço desperdiçado nunca excede metade do espaço total na tabela No pseudocódigo a seguir consideramos que T é um objeto que representa a tabela O atributo Ttabela contém um ponteiro para o bloco de armazenamento que representa a tabela Tnum contém o número de itens na tabela e Ttamanho dá o número total de posições na tabela Inicialmente a tabela está vazia Tnum Ttamanho 0 Observe que temos dois procedimentos de inserção aqui o procedimento TABLEINSERT propriamente dito e a inserção elementar em uma tabela nas linhas 6 e 10 Podemos analisar o tempo de execução de TABLEINSERT em termos do número de inserções elementares atribuindo um custo igual a 1 para cada inserção elementar Supomos que o tempo de execução real de TABLEINSERT é linear em relação ao tempo gasto para inserir itens individuais de modo que a sobrecarga de alocação para uma tabela inicial na linha 2 é constante e a sobrecarga de alocação e liberação de armazenamento nas linhas 5 e 7 é dominada pelo custo de transferir itens na linha 6 Denominamos expansão o evento no qual as linhas 59 são executadas Vamos analisar uma sequência de n operações TABLEINSERT em uma tabela inicialmente vazia Qual é o custo ci da iésima operação Se há espaço para o novo item na tabela atual ou se essa é a primeira operação então ci 1 visto que só precisamos executar a única inserção elementar na linha 10 Entretanto se a tabela atual está cheia e ocorre uma expansão então ci i o custo é 1 para a inserção elementar na linha 10 mais i 1 para os itens que temos de copiar da tabela antiga para a tabela nova na linha 6 Se executarmos n operações o custo do pior caso de uma operação é On o que acarreta um limite superior de On2 para o tempo total de execução de n operações Esse limite não é justo porque raramente expandimos a tabela no curso de n operações TABLEINSERT Especificamente a iésima operação provoca uma expansão somente quando i 1 é uma potência exata de 2 O custo amortizado de uma operação é de fato O1 como podemos mostrar usando análise agregada O custo da iésima operação é Portanto o custo total de n operações TABLEINSERT é já que no máximo n operações custam 1 e os custos das operações restantes formam uma série geométrica Visto que o custo total de n operações TABLEINSERT é limitado por 3n o custo amortizado de uma única operação é no máximo 3 Usando o método de contabilidade podemos ter uma ideia do motivo por que o custo amortizado de uma operação TABLEINSERT deve ser 3 Intuitivamente cada item paga três inserções elementares a sua própria inserção na tabela atual a sua movimentação quando a tabela é expandida e a modificação de um outro item que já tinha sido movido uma vez quando a tabela foi expandida Por exemplo suponha que o tamanho da tabela seja m imediatamente após uma expansão Então a tabela contém m2 itens e não dispõe de nenhum crédito Cobramos 3 reais para cada inserção A inserção elementar que ocorre imediatamente custa 1 real Colocamos um outro real como crédito no item inserido Colocamos o terceiro real como crédito em um dos m2 itens que já estão na tabela A tabela só estará cheia novamente quando inserirmos outros m2 1 itens assim quando a tabela contiver m itens e estiver cheia teremos colocado um real em cada item para pagar pela sua reinserção durante a expansão Podemos usar o método do potencial para analisar uma sequência de n operações TABLEINSERT e o usaremos na Seção 1742 para projetar uma operação TABLEDELETE que também tem custo amortizado O1 Começamos definindo uma função potencial que é igual a 0 imediatamente após uma expansão mas que aumenta até chegar no tamanho da tabela no momento em que ela está cheia de modo que podemos pagar a próxima expansão com o potencial A função é uma possibilidade Imediatamente após uma expansão temos Tnum Ttamanho2 e assim T 0 como desejado Imediatamente antes de uma expansão temos Tnum Ttamanho e assim T Tnum como desejado O valor inicial do potencial é 0 e visto que a tabela está sempre no mínimo metade cheia Tnum Ttamanho2 o que implica que T é sempre não negativo Assim a soma dos custos amortizados de n operações TABLEINSERTE é um limite superior para a soma dos custos reais Para analisar o custo amortizado da iésima operação TABLEINSERT representamos por numi o número de itens armazenados na tabela após a iésima operação por tamanhoi o tamanho total da tabela após a iésima operação e por i o potencial após a iésima operação Inicialmente temos num0 0 tamanho0 0 e 0 0 Se a iésima operação TABLEINSERTE não ativa uma expansão temos tamanhoi tamanhoi 1 e o custo amortizado da operação é Se a iésima operação ativa uma expansão temos tamanhoi 2 tamanhoi1 e tamanhoi1 numi1 numi 1 o que implica tamanhoi 2 numi 1 Assim o custo amortizado da operação é A Figura 173 mostra a representação gráfica dos valores de numi tamanhoi e i em relação a i Observe como o potencial aumenta para pagar a expansão da tabela 1742 Figura 173 Efeito de uma sequência de n operações tABLEiNSERT sobre o número numi de itens na tabela o número tamanhoi de posições na tabela e o potencial i 2 numi tamanhoi cada um medido após a iésima operação A linha fina mostra numi a linha tracejada mostra tamanhoi e a linha grossa mostra i Observe que imediatamente antes de uma expansão o potencial cresceu até o número de itens na tabela e assim ele pode pagar a movimentação de todos os itens para a nova tabela Depois o potencial cai até 0 mas é imediatamente aumentado de 2 quando da inserção do item que causou a expansão EXPANSÃO E CONTRAÇÃO DE TABELAS Para implementar uma operação TABLEDELETE é bastante simples remover o item especificado da tabela Porém para limitar a quantidade de espaço desperdiçado seria interessante contrair a tabela quando o fator de carga da tabela se tornar demasiadamente pequeno A contração de tabelas é análoga à expansão quando o número de itens na tabela fica muito baixo alocamos uma nova tabela menor e em seguida copiamos os itens da tabela antiga na tabela nova Então podemos liberar o armazenamento usado para a tabela antiga devolvendoo ao sistema de gerenciamento de memória No caso ideal devemos preservar duas propriedades o fator de carga da tabela dinâmica é limitado por baixo por uma constante o custo amortizado de uma operação de tabela é limitado por cima por uma constante Consideramos o custo medido em termos de inserções e eliminações elementares Seria natural pensar que devemos dobrar o tamanho da tabela quando um item é inserido em uma tabela cheia e reduzilo à metade quando a eliminação de um item resulta em uma tabela menos da metade cheia Essa estratégia garantiria que o fator de carga da tabela nunca cairia abaixo de 12 mas infelizmente pode resultar em custo amortizado por operação muito grande Considere o cenário a seguir Executamos n operações em uma tabela T onde n é uma potência exata de 2 As primeiras n2 operações são inserções que de acordo com nossa análise anterior têm custo total Qn Ao final dessa sequência de inserções Tnum Ttamanho n2 Para a segunda série de n2 operações executamos a seguinte sequência inserir eliminar eliminar inserir inserir eliminar eliminar inserir inserir A primeira inserção causa uma expansão da tabela até o tamanho n As duas eliminações seguintes provocam uma contração da tabela de volta ao tamanho n2 Duas inserções adicionais provocam outra expansão e assim por diante O custo de cada expansão e contração é Qn e há Qn dessas operações Assim o custo total das n operações é Qn2 e o custo amortizado de uma operação é Qn A desvantagem dessa estratégia é óbvia após expandirmos a tabela não eliminamos itens suficientes para pagar uma contração Do mesmo modo após contrairmos a tabela não inserimos itens suficientes para pagar uma expansão Podemos aperfeiçoar essa estratégia permitindo que o fator de carga da tabela caia abaixo de 12 Especificamente continuamos a duplicar o tamanho da tabela quando um item é inserido em uma tabela cheia mas o reduzimos à metade quando a eliminação de um item resulta em uma tabela menos de 14 cheia em vez de 12 cheia como antes Então o fator de carga da tabela tem um limite inferior dado pela constante 14 Intuitivamente consideramos que um fator de carga de 12 seja ideal e o potencial da tabela seria 0 À medida que o fator de carga se desvia de 12 o potencial cresce de modo que ao tempo em que expandimos ou contraímos a tabela ela já acumulou potencial suficiente para pagar a cópia de todos os itens para a tabela recémalocada Assim precisaremos de uma função potencial que cresceu até Tnum ao tempo em que o fator de carga tiver crescido até 1 ou diminuído até 14 Após expandir ou contrair a tabela o fator de carga volta a 12 e o potencial da tabela diminui e volta a 0 Omitimos o código para TABLEDELETE por ser análogo a TABLEINSERT Para a nossa análise consideraremos que sempre que o número de itens na tabela cair a 0 liberamos o armazenamento para a tabela Isto é se Tnum 0 então Ttamanho 0 Agora podemos usar o método do potencial para analisar o custo de uma sequência de n operações TABLEINSERT e TABLEDELETE Começamos definindo uma função potencial que é 0 imediatamente após uma expansão ou contração e aumenta à medida que o fator de carga aumenta até 1 ou diminui até 14 Vamos denotar o fator de carga de uma tabela não vazia T por aT TnumTtamanho Visto que para uma tabela vazia Tnum Ttamanho 0 e aT 1 sempre temos Tnum aT Ttamanho quer a tabela esteja vazia ou não Utilizaremos como nossa função potencial Observe que o potencial de uma tabela vazia é 0 e que o potencial nunca é negativo Portanto o custo amortizado total de uma sequência de operações em relação a dá um limite superior para o custo real da sequência Antes de continuar com uma análise precisa fazemos uma pausa para examinar algumas propriedades da função potencial Observe que quando o fator de carga é 12 o potencial é 0 Quando o fator de carga é 1 temos Ttamanho Tnum o que implica Tnum e assim o potencial pode pagar uma expansão se um item é inserido Quando o fator de carga é 14 temos Ttamanho 4 Tnum o que implica Tnum e assim o potencial pode pagar uma contração se um item é eliminado Para analisar uma sequência de n operações TABLEINSERT e TABLEDELETE sejam ci o custo real da iésima operação cˆi seu custo amortizado em relação a numi o número de itens armazenados na tabela após a iésima operação tamanhoi o tamanho total da tabela após a iésima operação ai o fator de carga da tabela após a iésima operação e i o potencial após a iésima operação Inicialmente num0 0 tamanho0 0 a0 1 e 0 0 Começamos com o caso no qual a iésima operação é TABLEINSERT A análise é idêntica à da expansão de tabela da Seção 1741 se ai 1 12 Quer a tabela seja expandida ou não o custo amortizado cˆ ida operação é no máximo 3 Se a i 1 12 a tabela não pode se expandir como esultado da operação já que ela se expande somente quando ai 1 1 Se ai 12 então o custo amortizado da iésima operação será Figura 174 Efeito de uma sequência de n operações tABLEiNSERT e tABLEDELETE sobre o número numi de itens na tabela o número tamanhoi de posições na tabela e o potencial cada um medido após a iésima operação A linha fina mostra numi a linha tracejada mostra tamanhoi e a linha grossa mostra i Observe que imediatamente antes de uma expansão o potencial aumentou até o número de itens na tabela e portanto pode pagar a movimentação de todos os itens para a nova tabela Da mesma forma imediatamente antes de uma contração o potencial aumentou até o número de itens na tabela 1741 1742 1743 Assim o custo amortizado de uma operação TABLEINSERT é no máximo 3 Examinaremos agora o caso no qual a iésima operação é TABLEDELETE Nesse caso numi numi 1 1 Se ai 1 12 devemos considerar se a operação provoca ou não contração da tabela Se não provoca tamanhoi tamanhoi 1 e o custo amortizado da operação é Se ai 1 12 e a iésima operação ativa uma contração o custo real da operação é ci numi 1 visto que eliminamos um item e movemos numi itens Temos tamanhoi2 tamanhoi 14 numi 1 e o custo amortizado da operação é Quando a iésima operação é uma TABLEDELETE e ai 1 12 o custo amortizado também é limitado por cima por uma constante A análise fica para o Exercício 1742 Resumindo visto que o custo amortizado de cada operação é limitado por cima por uma constante o tempo real para qualquer sequência de n operações em uma tabela dinâmica é On Exercícios Suponha que desejamos implementar uma tabela hash dinâmica de endereço aberto Por que poderíamos considerar que a tabela está cheia quando seu fator de carga alcança algum valor a que é estritamente menor que 1 Descreva brevemente como fazer a inserção em uma tabela hash dinâmica de endereço aberto funcionar de tal maneira que o valor esperado do custo amortizado por inserção seja O1 Por que o valor esperado do custo real por inserção não é necessariamente O1 para todas as inserções Mostre que se ai 1 12 e a iésima operação em uma tabela dinâmica é TABLEDELETE o custo amortizado da operação em relação à função potencial 176 é limitado por cima por uma constante Suponha que em vez de contrair uma tabela reduzindo seu tamanho à metade quando seu fator de carga cai abaixo de 14 nós a contraíssemos multiplicando seu tamanho por 23 quando seu fator de carga cai abaixo de 13 Usando a função potencial T 2 Tnum Ttamanho mostre que o custo amortizado de uma operação TABLEDELETE que utiliza essa estratégia é limitado por cima por uma constante 171 a b c 172 Problemas Contador binário com inversão de bits O Capítulo 30 examina um importante algoritmo denominado transformação rápida de Fourier FFT fast Fourier transform A primeira etapa do algoritmo FFT executa uma permutação com reversão de bits em um arranjo de entrada A0 n 1 cujo comprimento é n 2k para algum inteiro não negativo k Essa permutação troca entre si elementos cujos índices têm representações binárias que são o reverso uma da outra Podemos expressar cada índice a como uma sequência de k bits ak1 ak2 a0 onde Definimos Por exemplo se n 16 ou o que é equivalente k 4 então revk3 12 já que a representação de 3 com 4 bits é 0011 que ao ser invertido dá 1100 a representação com 4 bits de 12 Dada uma função revk que é executada no tempo Qk escreva um algoritmo para executar a permutação com reversão de bits em um arranjo de comprimento n 2k no tempo Onk Podemos usar um algoritmo baseado em uma análise amortizada para melhorar o tempo de execução da permutação com reversão de bits Mantemos um contador com bits reversos e um procedimento BIT REVERSEDINCREMENT que dado um valor a do contador com bits reversos produz revkrevka 1 Por exemplo se k 4 e o contador com inversão de bits começa em 0 chamadas sucessivas a BITREVERSED INCREMENT produzem a sequência 0000 1000 0100 1100 0010 1010 0 8 4 12 2 10 Suponha que as palavras em seu computador armazenem valores de k bits e que no tempo unitário o computador pode manipular os valores binários com operações tais como deslocamentos para a esquerda ou para a direita de valores arbitrários AND em relação a bits OR em relação a bits etc Descreva uma implementação do procedimento BITREVERSEDINCREMENT que permita que a permutação com reversão de bits em um arranjo de n elementos seja executada no tempo total On Suponha que você possa deslocar uma palavra somente um bit para a esquerda ou para a direita em tempo unitário Ainda é possível implementar uma permutação com reversão de bits no tempo On Como tornar dinâmica a busca binária A busca binária de um arranjo ordenado demora um tempo de busca logarítmico mas o tempo para inserir um novo elemento é linear em relação ao tamanho do arranjo Podemos melhorar o tempo para inserção mantendo vários arranjos ordenados Especificamente suponha que desejemos suportar SEARCH e INSERT em um conjunto de n elementos Seja k lgn 1 e seja nk 1 nk 2 n0 a representação binária de n Temos k arranjos ordenados A0 A1 Ak1 onde para i 0 1 k 1 o comprimento do arranjo Ai é 2 Cada arranjo está cheio ou vazio dependendo de ni 1 ou ni 0 respectivamente O número total de elementos contidos em todos os k arranjos é portanto Embora cada arranjo individual seja ordenado não há nenhuma relação particular entre elementos de arranjos diferentes a b c 173 a b c d e 174 a Descreva como executar a operação SEARCH para essa estrutura de dados Analise seu tempo de execução do pior caso Descreva como executar a operação INSERT Analise seu tempo de execução do pior caso e seu tempo de execução amortizado Discuta como implementar DELETE Árvores de peso balanceado amortizadas Considere uma árvore de busca binária comum aumentada pelo acréscimo a cada nó x do atributo xtamanho que dá o número de chaves armazenadas na subárvore com raiz em x Seja a uma constante na faixa 12 a 1 Dizemos que um dado nó x é a balanceado se xesquerdatamanho a xtamanho e xdireitatamanho a xtamanho A árvore como um todo é abalanceada se todo nó na árvore é a balanceado A abordagem amortizada para manter árvores de peso balanceado que apresentamos a seguir foi sugerida por G Varghese Uma árvore 12balanceada é em certo sentido tão balanceada quanto possível Dado um nó x em uma árvore de busca binária arbitrária mostre como reconstruir a subárvore com raiz em x de modo que ela se torne 12balanceada Seu algoritmo deve ser executado no tempo Qxtamanho e pode utilizar armazenamento auxiliar Oxtamanho Mostre que executar uma busca em uma árvore de busca binária abalanceada de n nós demora Olg n tempo do pior caso Para o restante deste problema considere que a constante a seja estritamente maior que 12 Suponha que implementamos INSERT e DELETE da maneira usual para uma árvore de busca binária de n nós exceto que após cada uma dessas operações se qualquer nó na árvore não for mais abalanceado reconstruímos a subárvore com raiz no mais alto nó com essa propriedade de modo tal que ela se torne 12balanceada Analisaremos esse esquema de reconstrução usando o método do potencial Para um nó x em uma árvore de busca binária T definimos onde c é uma constante suficientemente grande que depende de a Demonstre que qualquer árvore de busca binária tem potencial não negativo e que uma árvore 12 balanceada tem potencial 0 Suponha que m unidades de potencial possam pagar a reconstrução de uma subárvore de m nós Que tamanho deve ter c em termos de a de modo que o tempo amortizado para a reconstrução de uma subárvore que não seja abalanceada seja O1 Mostre que a inserção ou a eliminação de um nó de uma árvore abalanceada de n nós tem o custo de tempo amortizado Olg n O custo de reestruturação de árvores vermelhopreto a b c d e f Há quatro operações básicas em árvores vermelhopreto que executam modificações estruturais inserções de nós eliminações de nós rotações e mudanças de cor Vimos que RBINSERT e RBDELETE utilizam somente O1 rotações inserções de nós e eliminações de nós para manter as propriedades vermelhopreto mas podem fazer um número muito maior de mudanças de cor Descreva uma árvore vermelhopreto correta com n nós tal que chamar RBINSERT para adicionar o n 1ésimo nó provoque lg n mudanças de cor Então descreva uma árvore vermelhopreto correta com n nós para a qual chamar RBDELETE em um nó particular provoca lg n mudanças de cor Embora o número de mudanças de cor do pior caso por operação possa ser logarítmico provaremos que qualquer sequência de m operações RBINSERT e RBDELETE em uma árvore vermelhopreto inicialmente vazia provoca Om modificações estruturais no pior caso Observe que contamos cada mudança de cor como uma modificação estrutural Alguns dos casos tratados pelo laço principal do código de RBINSERTFIXUP e RBDELETEFIXUP são terminais uma vez encontrados eles fazem o laço terminar após um número constante de operações adicionais Para cada um dos casos de RBINSERTFIXUP e RBDELETEFIXUP especifique quais são terminais e quais não são Sugestão Observe as Figuras 135 136 e 137 Primeiro analisaremos as modificações estruturais quando são executadas somente inserções Seja T uma árvore vermelhopreto e defina T como o número de nós vermelhos em T Suponha que uma unidade de potencial pode pagar as modificações estruturais executadas por qualquer dos três casos de RBINSERTFIXUP Seja T o resultado da aplicação do Caso 1 de RBINSERTFIXUP a T Mostre que T T 1 Quando inserimos um nó em uma árvore vermelhopreto utilizando RBINSERT podemos desmembrar a operação em três partes Faça uma lista das modificações estruturais e mudanças de potencial resultantes das linhas 116 de RBINSERT para casos não terminais de RBINSERTFIXUP e para casos terminais de RB INSERTFIXUP Usando a parte d demonstre que o número amortizado de modificações estruturais executadas por qualquer chamada de RBINSERT é O1 Agora desejamos provar que existem Om modificações estruturais quando ocorrem inserções e eliminações Vamos definir para cada nó x Agora redefinimos o potencial de uma árvore vermelhopreto T como e seja T a árvore que resulta da aplicação de qualquer caso não terminal de RBINSERTFIXUP ou RBDELETE FIXUP a T Mostre que T T 1 para todos os casos não terminais de RBINSERTFIXUP Demonstre que o número amortizado de modificações estruturais executadas por qualquer chamada de RBINSERTFIXUP é g h 175 1 2 a O1 Mostre que T T 1 para todos os casos não terminais de RBDELETEFIXUP Demonstre que o número amortizado de modificações estruturais executadas por qualquer chamada de RBDELETEFIXUP é O1 Complete a prova de que no pior caso qualquer sequência de m operações RBINSERT e RBDELETE executa modificações estruturais O m Análise competitiva de listas autoorganizadas com movaparafrente Uma lista autoorganizada é uma lista ligada de n elementos na qual cada elemento tem uma chave exclusiva Quando procuramos um elemento na lista recebemos uma chave e queremos encontrar um elemento que tenha essa chave A lista autoorganizada tem duas propriedades importantes Para encontrar um elemento na lista dada a sua chave devemos percorrer a lista desde o início até encontrar o elemento que tem a chave dada Se esse elemento é o késimo elemento desde o início da lista o custo de encontrar o elemento é k Podemos reordenar os elementos da lista após qualquer operação de acordo com uma regra dada com um custo dado Podemos escolher qualquer heurística que quisermos para decidir como reordenar a lista Suponha que começamos com um determinada lista de n elementos e que recebemos uma sequência de acesso s s1 s2 sm de chaves a encontrar em ordem O custo da sequência é a soma dos custos dos acessos individuais na sequência Dentre os vários modos possíveis de reordenar a lista após uma operação este problema focaliza a transposição de elementos adjacentes na lista permutação de suas posições na lista com um custo unitário para cada operação de transposição Você mostrará por meio de uma função potencial que determinada heurística para reordenação da lista denominada movaparafrente acarreta um custo total que não é pior que quatro vezes o de qualquer outra heurística para manter a ordem da lista mesmo que a outra heurística conheça antecipadamente a sequência de acesso Esse tipo de análise é chamada de análise competitiva Para uma heurística H e uma determinada ordenação inicial da lista denote por CHs o custo de acesso da sequência s Seja m o número de acessos em s Mostre que se a heurística H não conhecer antecipadamente a sequência de acesso o pior caso para H em uma sequência de acesso s é CHs mn Com a heurística movaparafrente imediatamente após procurar um elemento x passamos x para a primeira posição na lista isto é para a frente da lista Vamos denotar por rankLx o posto do elemento x na lista L isto é a posição de x na lista L Por exemplo se x é o quarto elemento em L rankLx 4 Seja ci o custo de acesso si usando a heurística movetofront que inclui o custo de encontrar o elemento na lista e o custo de passálo para a frente da lista por uma série de transposições de elementos adjacentes na lista b c d e f g h Mostre que se Ti acessa o elemento x na lista L usando a heurística movetofront então ci 2 rankLx 1 Agora comparamos movaparafrente com qualquer outra heurística H que processe uma sequência de acesso de acordo com as duas propriedades já citadas A heurística H pode transpor elementos na lista do jeito que quiser e poderia até conhecer antecipadamente toda a sequência de acesso Seja Li a lista após acesso si usando movaparafrente e seja Li a lista após acesso si usando heurística H Denotamos o custo de acesso si por ci para a heurística movetofront e por c i para a heurística H Suponha que a heurística H execute t transposições durante o acesso si Na parte b você mostrou que ci 2 rankLi1 x 1 Agora mostre que ci rankLi1 x ti Definimos uma inversão na lista Li como um par de elementos y e z tal que y precede z em Li e z precede y na lista Li Suponha que a lista Li tenha qi inversões após processar a sequência de acesso s1 s2 si Então definimos uma função potencial que mapeia Li para um número real por Li 2qi Por exemplo se Li tiver os elementos e c a d b e L tiver os elementos c a b d e L terá cinco inversões e c e a e d e b d b e portanto Li 10 Observe que Li 0 para todo i e que se movaparafrente e heurística H começarem com a mesma lista L0 L0 0 Mostre que uma transposição aumenta o potencial de 2 ou reduz o potencial de 2 Suponha que acesso Ti encontre o elemento x Para entender como o potencial muda devido a Ti vamos particionar os elementos exceto x em quatro conjuntos dependendo de onde eles estão posicionados nas listas exatamente antes do iésimo acesso Conjunto A consiste em elementos que precedem x nas listas L i1 e Li1 Conjunto B consiste em elementos que precedem x em Li1 e vêm depois de x em Li1 Conjunto C consiste em elementos que vêm depois de x em L i1 e precedem x em Li1 Conjunto D consiste em elementos que vêm depois de x nas listas L i1e Li1 Mostre que rankLi1 x A B 1 e rankL x A C 1 Mostre que acesso si provoca uma mudança no potencial de onde como antes a heurística H executa t transposições durante acesso si Defina o custo amortizado cˆ i de acesso si por cˆ i ci Li Li1 Mostre que o custo amortizado cˆ i do acesso s i é limitado por cima por 4ci Conclua que o custo CMTFs da sequência de acesso s com movaparafrente é no máximo quatro vezes o custo CHs de s com qualquer outra heurística H supondo que ambas as heurísticas começam com a mesma lista NOTAS DO CAPÍTULO Aho Hopcroft e Ullman 5 usaram análise agregada para determinar o tempo de execução de operações em uma floresta de conjuntos disjuntos analisaremos essa estrutura de dados usando o método do potencial no Capítulo 21 Tarjan 331 examina os métodos da contabilidade e de potencial de análise amortizada e apresenta diversas aplicações Ele atribui o método da contabilidade a vários autores entre eles M R Brown R E Tarjan S Huddleston e K Mehlhorn e o método do potencial a D D Sleator O termo amortizado se deve a D D Sleator e R E Tarjan Funções potenciais também são úteis para provar limites inferiores para certos tipos de problemas Para cada configuração do problema definimos uma função potencial que mapeia a configuração para um número real Então determinamos o potencial inicial da configuração inicial o potencial final da configuração final e a máxima mudança no potencial Dmax que se deve aqualquer etapa Portanto o número de etapas deve ser no mínimo final inicialDmax Exemplos de funções potencial para provar limites inferiores para complexidade de ES aparecem em trabalhos de Cormen Sundquist e Wisniewski 79 e Floyd 107 e Aggarwal e Vitter 4 Krumme Cybenko e Venkataraman 221 aplicaram funções potenciais para provar limites inferiores para fofoca comunicar um único item de cada vértice em um grafo a todos os outros vértices A heurística movetofront do Problema 175 funciona muito bem na prática Além do mais se reconhecermos que quando encontramos um elemento podemos recortálo de sua posição na lista e passálo para a frente da lista em tempo constante podemos mostrar que o custo de movaparafrente é no máximo duas vezes o custo de qualquer outra heurística incluindo novamente uma que conheça antecipadamente toda a sequência de acesso 1Em algumas situações como no caso de uma tabela hash de endereço aberto poderemos querer considerar uma tabela cheia se seu fator de carga for igual a alguma constante estritamente menor que 1 veja o Exercício 1741 Parte V ESTRUTURAS DE DADOS AVANÇADAS INTRODUÇÃO Esta parte volta ao estudo de estruturas de dados que suportam operações em conjuntos dinâmicos porém em um nível mais avançado que o da Parte III Por exemplo dois dos capítulos fazem uso extensivo das técnicas de análise amortizada que vimos no Capítulo 17 O Capítulo 18 apresenta as Bárvores que são árvores de busca balanceadas projetadas especificamente para armazenamento em discos Visto que discos funcionam muito mais lentamente que memória de acesso aleatório medimos o desempenho de Bárvores não apenas pela quantidade de tempo de computação que as operações em conjuntos dinâmicos consomem mas também pela quantidade de acessos a disco que elas executam Para cada operação de Bárvore o número de acessos a disco aumenta com a altura da Bárvore porém operações de Bárvore mantêm a altura baixa O Capítulo 19 apresenta uma implementação de um heap intercalável que dá suporte as operações INSERT MINIMUM EXTRACTMIN e UNION1 A operação UNION une ou intercala dois heaps Heaps de Fibonacci a estrutura de dados apresentada no Capítulo 19 também dão suporte as operações DELETE e DECREASEKEY Usamos limites de tempo amortizados para medir o desempenho de heaps de Fibonacci As operações INSERT MINIMUM e UNION demoram somente tempo real e amortizado O1 em heaps de Fibonacci e as operações EXTRACTMIN e DELETE demoram o tempo amortizado Olg n Entretanto a vantagem mais significativa dos heaps de Fibonacci é que DECREASEKEY leva somente o tempo amortizado O1 Como a operação DECREASEKEY demora tempo amortizado constante heaps de Fibonacci são componentes fundamentais de alguns dos algoritmos assintoticamente mais rápidos existentes até hoje para problemas de grafos Observando que podemos superar o limite inferior n lg n para ordenação quando as chaves são inteiros dentro de uma faixa restrita o Capítulo 20 questiona se podemos projetar uma estrutura de dados que suporta as operações de conjuntos dinâmicos SEARCH INSERT DELETE MINIMUM MAXIMUM SUCCESSOR e PREDECESSOR no tempo olg n quando as chaves são inteiros dentro de uma faixa restrita Acontece que a resposta diz que podemos se usarmos uma estrutura de dados recursiva conhecida como árvore de van Emde Boas Se as chaves forem inteiros distintos extraídos do conjunto 0 1 2 u 1 onde u é uma potência exata de 2 então as árvores de van Emde Boas suportam cada uma das operações citadas no tempo Olg lg u Finalmente o Capítulo 21 apresenta estruturas de dados para conjuntos disjuntos Temos um universo de n elementos que são particionados em conjuntos dinâmicos Inicialmente cada elemento pertence a seu próprio conjunto unitário A operação UNION une dois conjuntos e a consulta FINDSET identifica o único conjunto que contém um determinado elemento no momento em questão Representando cada conjunto por uma árvore enraizada simples obtemos operações surpreendentemente rápidas uma sequência de m operações é executada no tempo Om αn onde αn é uma função de crescimento incrivelmente lento αn é no máximo 4 em qualquer aplicação concebível A análise amortizada que prova esse limite de tempo é tão complexa quanto a estrutura de dados é simples Os tópicos abordados nesta parte não são de modo algum os únicos exemplos de estruturas de dados avançadas Entre outras estruturas de dados avançadas citamos as seguintes Árvores dinâmicas introduzidas por Sleator e Tarjan 319 e discutidas por Tarjan 330 mantêm uma floresta de árvores enraizadas disjuntas Cada aresta em cada árvore tem um custo de valor real Árvores dinâmicas suportam consultas para encontrar pais raízes custos de arestas e o custo de aresta mínimo em um caminho simples de um nó até uma raiz As árvores podem ser manipuladas por corte de arestas atualização de todos os custos de arestas em um caminho simples de um nó até uma raiz ligação de uma raiz a uma outra árvore e transformação de um nó em raiz da árvore na qual ele aparece Uma implementação de árvores dinâmicas dá um limite de tempo amortizado Olg n para cada operação uma implementação mais complicada produz limites de tempo Olg n no pior caso Árvores dinâmicas são usadas em alguns dos algoritmos de fluxo de rede assintoticamente mais rápidos Árvores oblíquas desenvolvidas por Sleator e Tarjan 320 e novamente discutidas por Tarjan 330 são uma forma de árvore de busca binária na qual as operações padrões de árvores de busca são executadas em tempo amortizado Olg n Uma das aplicações de árvores oblíquas simplifica árvores dinâmicas Estruturas de dados persistentes permitem consultas e às vezes também atualizações em versões anteriores de uma estrutura de dados Driscoll Sarnak Sleator e Tarjan 97 apresentam técnicas para transformar estruturas de dados ligadas em persistentes com apenas um pequeno custo de tempo e espaço O Problema 131 dá um exemplo simples de um conjunto dinâmico persistente Como veremos no Capítulo 20 várias estruturas de dados permitem uma implementação mais rápida de operações de dicionário INSERT DELETE e SEARCH para um universo restrito de chaves Tirando proveito dessas restrições elas podem conseguir melhores tempos de execução assintóticos do pior caso que estruturas de dados baseadas em comparação Fredman e Willard introduziram as árvores de fusão 115 as primeiras estruturas de dados a permitir operações de dicionário mais rápidas quando o universo está restrito a inteiros Eles mostraram como implementar essas operações no tempo Olg nlg lg n Várias estruturas de dados subsequentes entre elas as árvores exponenciais de busca 16 também deram limites melhorados para algumas ou todas as operações de dicionário e são mencionadas em notas de capítulos em todo este livro Estruturas de dados de grafos dinâmicos suportam várias consultas e ao mesmo tempo permitem que a estrutura de um grafo mude por meio de operações que inserem ou eliminam vértices ou arestas Entre os exemplos das consultas que elas suportam citamos a conectividade de vértices 166 a conectividade de arestas as árvores geradoras mínimas 165 a biconectividade e o fecho transitivo 164 Notas do capítulo em todo o livro mencionam outras estruturas de dados adicionais 1 Como no Problema 102 definimos um heap intercalável para suportar Minimum e ExtractMin e portanto também podemos nos referir a ele como um heap de mínimo intercalável Alternativamente se suportasse Maximum e ExtractMax ele seria um heap de máximo intercalável A menos que especifiquemos o contrário como padrão os heaps intercaláveis serão heaps de mínimo intercaláveis 18 ÁRVORES B Bárvores são árvores de busca balanceadas projetadas para funcionar bem em discos ou outros dispositivos de armazenamento secundário de acesso direto Bárvores são semelhantes a árvores vermelhopreto Capítulo 13 mas são melhores para minimizar operações de ES de disco Muitos sistemas de bancos de dados usam Bárvores ou variantes de Bárvores para armazenar informações As Bárvores são diferentes das árvores vermelhopreto no sentido de que os nós de Bárvores podem ter muitos filhos de alguns até milhares Isto é o fator de ramificação de uma Bárvore pode ser bastante grande embora normalmente dependa de características da unidade de disco utilizada As Bárvores são semelhantes às árvores vermelhopreto no sentido de que toda Bárvore de n nós tem altura Olg n Todavia a altura exata de uma Bárvore pode ser consideravelmente menor que a altura de uma árvore vermelhopreto porque seu fator de ramificação e por consequência a base do logaritmo que expressa sua altura pode ser muito maior Portanto também podemos usar B árvores para implementar muitas operações de conjuntos dinâmicos no tempo Olg n Bárvores generalizam árvores de busca binária de modo natural A Figura 181 mostra uma Bárvore simples Se um nó interno x de uma Bárvore contém xn chaves então x tem xn 1 filhos As chaves no nó x servem como pontos de divisão que separam a faixa de chaves manipulada por x em xn 1 subfaixas cada uma tratada por um filho de x Quando procuramos uma chave em uma Bárvore tomamos uma decisão de xn 1 vias com base em comparações com as xn chaves armazenadas no nó x A estrutura de nós de folhas é diferente da estrutura de nós internos examinaremos essas diferenças na Seção 181 A Seção 181 dá uma definição precisa de Bárvores e prova que o aumento da altura de uma Bárvore é apenas logarítmico de acordo com o número de nós que ela contém A Seção 182 descreve como procurar uma chave e como inserir uma chave em uma Bárvore e a Seção 183 discute eliminação Porém antes de prosseguir precisamos perguntar por que avaliamos estruturas de dados projetadas para funcionar em um disco de modo diferente das estruturas de dados projetadas para funcionar em memória principal de acesso aleatório Figura 181 Uma Bárvore cujas chaves são as consoantes do alfabeto latino Um nó interno x contendo xn chaves tem xn 1 filhos Todas as folhas estão na mesma profundidade na árvore Os nós sombreados em tom mais claro são examinados em uma busca pela letra R Estruturas de dados em armazenamento secundário Os sistemas de computador aproveitam várias tecnologias que fornecem capacidade de memória A memória primária ou memória principal de um sistema de computador normalmente consiste em chips de memória de silício Em geral essa tecnologia é mais de uma ordem de grandeza mais cara por bit armazenado que a tecnologia de armazenamento magnético como fitas ou discos A maioria dos sistemas de computador também tem armazenamento secundário baseado em discos magnéticos muitas vezes a quantidade de tal armazenamento secundário é no mínimo duas ordens de grandeza maior que a quantidade de memória primária A Figura 182 mostra uma unidade de disco típica A unidade consiste em uma ou várias lâminas que giram a uma velocidade constante em torno de um eixo comum Um material magnetizável cobre a superfície de cada lâmina A unidade de disco lê ou grava cada lâmina por meio de uma cabeça na extremidade de um braço Os braços podem movimentar suas cabeças aproximandose ou afastandose do fuso Quando determinada cabeça está estacionária a superfície que passa sob ela é denominada trilha Várias lâminas aumentam somente a capacidade da unidade de disco mas não seu desempenho Embora os discos sejam mais baratos e tenham maior capacidade que a memória principal eles são muito muito mais lentos porque têm peças mecânicas móveis1 O movimento mecânico tem dois componentes a rotação da lâmina e o movimento do braço Na época da redação desta edição a velocidade de rotação dos discos comerciais era 5400 15000 revoluções por minuto RPM O que existia normalmente no comércio eram velocidades de 15000 RPM em unidades de disco de grau de servidor 7200 RPM em unidades de disco de computadores de mesa e 5400 RPM em unidades de disco de laptops Embora a velocidade de 7200 RPM pareça alta uma rotação demora 833 milissegundos tempo que é mais de cinco ordens de grandeza maior que os tempos de acesso de 50 nanossegundos mais ou menos comumente encontrados em memória de silício Em outras palavras se temos de esperar uma rotação completa para um item específico cair sob a cabeça de leituragravação podemos acessar a memória principal mais de 100000 vezes durante esse mesmo período Em média temos de esperar somente metade de uma rotação mas ainda assim a diferença entre tempos de acesso para memórias de silício e para discos é enorme A movimentação dos braços também demora algum tempo Na época em que redigimos esta edição os tempos de acesso médios para discos comerciais estavam na faixa de 811 milissegundos Para amortizar o tempo gasto na espera de movimentos mecânicos os discos acessam vários itens de cada vez e não apenas um As informações são divididas em várias páginas de bits de igual tamanho que aparecem consecutivamente dentro de trilhas e cada leitura ou gravação de disco é de uma ou mais páginas inteiras Para um disco típico uma página pode ter 211 a 214 bytes de comprimento Tão logo a cabeça de leituragravação esteja posicionada corretamente e o disco tenha girado até o início da página desejada a leitura ou gravação em disco magnético é inteiramente eletrônica exceto a rotação do disco e o disco pode ler ou gravar rapidamente grande quantidade de dados Figura 182 Uma unidade de disco típica Ela é composta por uma ou mais lâminas aqui mostramos duas lâminas que giram em torno de um fuso Cada lâmina é lida e gravada com uma cabeça na extremidade de um braço Os braços giram ao redor de um eixo pivô comum Uma trilha é a superfície que passa sob a cabeça de leituragravação quando a cabeça está estacionária Muitas vezes acessar uma página de informações em um disco e ler essa página demora mais que examinar todas as informações lidas Por essa razão neste capítulo estudaremos separadamente os dois componentes principais do tempo de execução o número de acessos ao disco e o tempo de CPU ou de computação Medimos o número de acessos ao disco em termos do número de páginas de informações que precisam ser lidas do disco ou nele gravadas Observamos que o tempo de acesso ao disco não é constante depende da distância entre a trilha atual e a trilha desejada e também da posição de rotação inicial do disco Não obstante usaremos o número de páginas lidas ou gravadas como uma aproximação de primeira ordem do tempo total gasto no acesso ao disco Em uma aplicação típica de Bárvore a quantidade de dados manipulados é tão grande que os dados não cabem todos na memória principal de uma só vez Os algoritmos de Bárvores copiam páginas selecionadas do disco para a memória principal conforme necessário e gravam novamente em disco as páginas que foram alteradas Algoritmos de B árvores mantêm somente um número constante de páginas na memória principal em qualquer instante assim o tamanho da memória principal não limita o tamanho das Bárvores que podem ser manipuladas Modelamos operações de disco em nosso pseudocódigo da maneira ilustrada a seguir Seja x um ponteiro para um objeto Se o objeto estiver atualmente na memória principal do computador poderemos referenciar os atributos do objeto do modo usual por exemplo xchave Contudo se o objeto referenciado por x residir no disco teremos de executar a operação DISKREADx para ler o objeto x para a memória principal antes de podermos referenciar seus atributos Supomos que se x já está na memória principal DISKREADx não requer nenhum acesso ao disco é uma não operação noop De modo semelhante a operação DISKWRITEx é usada para gravar quaisquer alterações que tenham sido feitas nos atributos do objeto x Isto é o padrão típico de trabalho com um objeto é o seguinte 181 1 O sistema pode manter somente um número limitado de páginas na memória principal em qualquer instante Suporemos que o sistema descarrega da memória principal as páginas que não estão mais em uso nossos algoritmos de Bárvores ignorarão essa questão Visto que na maioria dos sistemas o tempo de execução de um algoritmo de Bárvore depende primariamente do número de operações DISKREAD e DISKWRITE que executa seria bom que cada uma dessas operações lesse ou gravasse o máximo possível de informações Assim um nó de Bárvore é normalmente tão grande quanto uma página de disco inteira e esse tamanho limita o número de filhos que um nó de Bárvore pode ter Para uma Bárvore grande armazenada em disco normalmente os fatores de ramificação estão entre 50 e 2000 dependendo do tamanho de uma chave em relação ao tamanho de uma página Um fator de ramificação grande reduz drasticamente a altura da árvore e também o número de acessos ao disco necessários para encontrar qualquer chave A Figura 183 mostra uma Bárvore com um fator de ramificação de 1001 e altura 2 que pode armazenar mais de um bilhão de chaves não obstante visto que podemos manter o nó de raiz permanentemente na memória principal podemos encontrar qualquer chave dessa árvore com no máximo dois acessos ao disco Figura 183 Uma Bárvore de altura 2 contendo mais de um bilhão de chaves Dentro de cada nó x aparece xn o número de chaves em x Cada nó interno e folha contêm 1000 chaves Essa Bárvore contém 1001 nós na profundidade 1 e mais de um milhão de folhas na profundidade 2 DEFINIÇÃO DE BÁRVORES Por questão de simplicidade supomos como fizemos para as árvores de busca binária e árvores vermelho preto que quaisquer informações satélites associadas a uma chave residem no mesmo nó que a chave Na prática poderíamos até mesmo armazenar com cada chave apenas um ponteiro para uma outra página de disco que contenha as informações satélites para essa chave O pseudocódigo neste capítulo supõe implicitamente que as informações satélites associadas a uma chave ou o ponteiro para tais informações satélites acompanham a chave sempre que esta passar de nó para nó Uma variante comum de Bárvore conhecida como Bárvore armazena todas as informações satélites nas folhas e apenas chaves e ponteiros de filhos nos nós internos o que maximiza o fator de ramificação dos nós internos Uma Bárvore T é uma árvore enraizada cuja raiz é Traiz que tem as seguintes propriedades Todo nó x tem os seguintes atributos a b c 2 3 4 5 a b xn o número de chaves atualmente armazenadas no nó x as próprias xn chaves xchave1 xchave2 xchavexn armazenadas em ordem não decrescente de modo que xchave1 xchave2 xchavexn xfolha um valor booleano que é VERDADEIRO se x é uma folha e FALSO se x é um nó interno Cada nó interno x também contém xn 1 ponteiros xc1 xc2 xc xn 1 para seus filhos Os nós de folhas não têm filhos e assim seus atributos ci são indefinidos As chaves xchavei separam as faixas de chaves armazenadas em cada subárvore se ki é qualquer chave armazenada na subárvore com raiz cix então Todas as folhas têm a mesma profundidade que é a altura h da árvore Os nós têm limites inferiores e superiores para o número de chaves que podem conter Expressamos esses limites em termos de um inteiro fixo t 2 denominado grau mínimo da Bárvore Todo nó exceto a raiz deve ter no mínimo t 1 chaves Assim todo nó interno exceto a raiz tem no mínimo t filhos Se a árvore é não vazia a raiz deve ter no mínimo uma chave Todo nó pode conter no máximo 2t 1 chaves Portanto um nó interno pode ter no máximo 2t filhos Dizemos que um nó está cheio se contém exatamente 2t 1 chaves2 A Bárvore mais simples ocorre quando t 2 Então todo nó interno tem dois três ou quatro filhos e temos uma árvore 234 Todavia na prática valores muito mais altos de t produzem Bárvores de menor altura A altura de uma Bárvore O número de acessos ao disco exigidos para a maioria das operações em uma Bárvore é proporcional à altura da Bárvore Analisamos agora a altura do pior caso de uma Bárvore Teorema 181 Se n 1 então para qualquer Bárvore T de n nós de altura h e grau mínimo t 2 Prova A raiz de uma Bárvore T contém no mínimo uma chave e todos os outros nós contêm no mínimo t 1 chaves Assim T cuja altura é h tem no mínimo dois nós na profundidade 1 no mínimo 2t nós na profundidade 2 e no mínimo 2t2 nós na profundidade 3 e assim por diante até que na profundidade h ela tem no mínimo 2th1 nós A Figura 184 ilustra tal árvore para h 3 Assim o número n de chaves satisfaz a desigualdade Por álgebra simples obtemos th n 12 Tomando logaritmos em base t de ambos os lados provase o teorema 1811 1812 1813 1814 1815 182 Vemos aqui o poder de Bárvores em comparação com árvores vermelhopreto Embora a altura da árvore cresça na proporção Olg n em ambos os casos lembrese de que t é uma constante para as Bárvores a base do logaritmo pode ser muitas vezes maior Assim Bárvores poupam um fator de aproximadamente lg t em relação a árvores vermelhopreto no que se refere ao número de nós examinados para a maioria das operações de árvore Como normalmente temos de acessar o disco para examinar um nó arbitrário em uma árvore as Bárvores evitam uma quantidade substancial de acessos ao disco Figura 184 Uma Bárvore de altura 3 contendo um número mínimo possível de chaves Mostramos xn dentro de cada nó x Exercícios Por que não permitimos um grau mínimo t 1 Para quais valores de t a árvore da Figura 181 é uma Bárvore válida Mostre todas as Bárvores válidas de grau mínimo 2 que representam 1 2 3 4 5 Qual é o número máximo de chaves que podem ser armazenadas em uma Bárvore de altura h em função do grau mínimo t Descreva a estrutura de dados que resultaria se cada nó preto em uma árvore vermelhopreto absorvesse seus filhos vermelhos incorporando os filhos vermelhos a seus próprios filhos pretos OPERAÇÕES BÁSICAS EM BÁRVORES Nesta seção apresentamos os detalhes das operações BTREESEARCH BTREECREATE e BTREEINSERT Nesses procedimentos adotamos duas convenções A raiz da Bárvore está sempre na memória principal de modo que nunca precisamos executar uma operação DISK READ na raiz porém temos de executar uma operação DISKWRITE da raiz sempre que o nó de raiz for modificado Qualquer nó só poderá ser passado como parâmetro após a execução de uma operação DISKREAD nesse mesmo nó Os procedimentos que apresentamos são algoritmos de uma passagem cuja execução ocorre na direção descendente em relação à raiz da árvore sem ter de retornar Busca em uma Bárvore Executar uma busca em uma Bárvore é muito semelhante a executar uma busca em uma árvore de busca binária exceto que em vez de tomar uma decisão de ramificação binária ou de duas vias em cada nó tomamos uma decisão de ramificação de várias vias de acordo com o número de filhos do nó Mais exatamente em cada nó interno x tomamos uma decisão de ramificação de xn 1 vias BTREESEARCH é uma generalização direta do procedimento TREESEARCH definido para árvores de busca binária B TREESEARCH toma como entrada um ponteiro para o nó de raiz x de uma subárvore e uma chave k que deve ser procurada nessa subárvore Assim a chamada de nível superior é da forma BTREESEARCHTraiz k Se k está na B árvore BTREESEARCH retorna o par ordenado y i que consiste em um nó y e um índice i tal que ychavei k Caso contrário o procedimento retorna NIL Usando um procedimento de busca linear as linhas 13 encontram o menor índice i tal que k xchavei ou definem i como xn 1 As linhas 45 verificam se agora descobrimos a chave e a retornam se a tivermos descoberto Caso contrário as linhas 69 terminam a busca sem sucesso se x é uma folha ou executam uma recursão para procurar a subárvore adequada de x após executar a necessária operação DISKREAD naquele filho A Figura 181 ilustra a operação de BTREESEARCH O procedimento examina os nós sombreados em tom mais claro durante uma operação de busca da chave R Como ocorre no procedimento TREESEARCH para árvores de busca binária os nós encontrados durante a recursão formam um caminho simples descendente desde a raiz da árvore Portanto o procedimento BTREESEARCH acessa Oh Ologt n páginas de disco onde h é a altura da Bárvore e n é o número de chaves na Bárvore Visto que xn 2t o laço while das linhas 23 demora o tempo Ot dentro de cada nó e o tempo total de CPU é Oth Ot logt n Criando uma Bárvore vazia Para construir uma Bárvore T primeiro utilizamos BTREECREATE para criar um nó de raiz vazio e depois chamamos BTREEINSERT para acrescentar novas chaves Esses dois procedimentos usam um procedimento auxiliar ALLOCATENODE que aloca uma página de disco para ser usada como um novo nó no tempo O1 Podemos considerar que um nó criado por ALLOCATENODE não requer nenhuma operação DISKREAD já que ainda não existe nenhuma informação útil armazenada no disco para esse nó Inserindo uma chave em uma Bárvore Inserir uma chave em uma Bárvore é significativamente mais complicado que inserir uma chave em uma árvore de busca binária Quando se trata de árvores de busca binária procuramos a posição de folha na qual inserir a nova chave Porém quando se trata de uma Bárvore não podemos simplesmente criar um novo nó de folha e inserilo já que a árvore resultante deixaria de ser uma Bárvore válida Em vez disso inserimos a nova chave em um nó de folha existente Visto que não podemos inserir uma chave em um nó de folha que está cheio recorremos a uma operação que reparte um nó cheio y que tem 2t 1 chaves em torno de sua chave mediana chavety em dois nós que têm somente t 1 chaves cada A chave mediana sobe para dentro do pai de y para identificar o ponto de repartição entre as duas novas árvores Porém se o pai de y também está cheio temos de repartilo antes de podermos inserir a nova chave e assim podemos acabar repartindo nós cheios por toda a árvore acima Como ocorre com uma árvore de busca binária podemos inserir uma chave em uma Bárvore em uma única passagem descendente pela árvore da raiz até uma folha Para tal não esperamos para verificar se realmente precisamos repartir um nó cheio para executar a inserção Em vez disso à medida que descemos a árvore à procura da posição à qual pertence a nova chave repartimos cada nó cheio que encontramos pelo caminho inclusive a própria folha Assim sempre que queremos repartir um nó cheio y temos a certeza de que seu pai não está cheio Repartindo um nó em uma Bárvore O procedimento BTREESPLITCHILD toma como entrada um nó interno x não cheio que consideramos estar na memória principal e um índice i tal que xci que também consideramos estar na memória principal que é um filho cheio de x Então o procedimento reparte esse filho em dois e ajusta x de modo que ele tenha um filho adicional Para repartir uma raiz cheia primeiro transformaremos a raiz em um filho de um novo nó de raiz vazio para podermos usar B TREESPLITCHILD Assim a altura da árvore aumenta de uma unidade repartir é o único meio de a árvore crescer A Figura 185 ilustra esse processo Repartimos o nó cheio y xci em torno de sua chave mediana S que sobe para o nó x pai de y As chaves em y que são maiores que a chave mediana passam para um novo nó z que se torna um novo filho de x BTREESPLITCHILD funciona pelo método direto de recortar e colar Aqui x é o nó que está sendo repartido e y é o iésimo filho de x definido na linha 2 O nó y tem originalmente 2t filhos 2t 1 chaves mas é reduzido a t filhos t 1 chaves por essa operação O nó z toma os t maiores filhos t 1 chaves de y e z se torna um novo filho de x posicionado logo após y na tabela de filhos de x A chave mediana de y sobe e tornase a chave em x que separa y e z As linhas 19 criam o nó z e dão a ele as t 1 chaves maiores e os t filhos correspondentes de y A linha 10 ajusta a contagem de chaves para y Finalmente as linhas 1117 inserem z como um filho de x passam a chave mediana de y para cima até x para separar y de z e ajustam a contagem de chaves de x As linhas 1820 gravam todas as páginas de disco modificadas O tempo de CPU usado por BTREESPLITCHILD é t devido aos laços nas linhas 56 e 89 Os outros laços são executados para Ot iterações O procedimento executa O1 operações de disco Figura 185 Repartição de um nó com t 4 O nó y xci é repartido em dois nós y e z e a chave mediana S de y sobe para dentro do pai de y Inserindo uma chave em uma Bárvore em uma única passagem descendente pela árvore Inserir uma chave k em uma Bárvore T de altura h em uma única passagem descendente pela árvore requer Oh acessos ao disco O tempo de CPU requerido é Oth Ot logt n O procedimento BTREEINSERT utiliza BTREESPLIT CHILD para garantir que a recursão nunca desça até um nó cheio As linhas 39 tratam o caso no qual o nó de raiz r está cheio a raiz é repartida e um novo nó s que tem dois filhos se torna a raiz Repartir a raiz é o único modo de aumentar a altura de uma Bárvore A Figura 186 ilustra esse caso Diferentemente de uma árvore de busca binária a altura de uma Bárvore aumenta em cima em vez de embaixo O procedimento termina chamando BTREEINSERTNONFULL para inserir a chave k na árvore com raiz no nó de raiz não cheio BTreeInsertNonfull executa recursão árvore abaixo conforme necessário e garante todas as vezes que o nó no qual executa a recursão não está cheio chamando BTREESPLITCHILD quando necessário O procedimento recursivo auxiliar BTREEINSERTNONFULL insere a chave k no nó x suposto não cheio quando o procedimento é chamado A operação de BTREEINSERT e a operação recursiva de BTREEINSERTNONFULL garantem que tal suposição seja válida Figura 186 Repartição da raiz com t 4 O nó de raiz r é repartido em dois e um novo nó de raiz s é criado A nova raiz contém a chave mediana de r e tem como filhos as duas metades de r A altura da Bárvore aumenta de uma unidade quando a raiz é repartida O procedimento BTREEINSERTNONFULL funciona da maneira descrita a seguir As linhas 38 tratam o caso no qual x é um nó folha inserindo a chave k em x Se x não é um nó folha devemos inserir k no nó folha adequado na subárvore com raiz no nó interno x Nesse caso as linhas 911 determinam o filho de x para o qual a recursão é descendente A linha 13 detecta se a recursão desceria até um filho cheio caso em que a linha 14 usa BTREESPLITCHILD para repartir esse filho em dois filhos não cheios e as linhas 1516 determinam qual dos dois filhos é agora o filho correto para o qual descer Observe que não há nenhuma necessidade de uma operação DISKREADxci após a linha 16 incrementar i já que nesse caso a recursão descerá até um filho que acabou de ser criado por BTREESPLITCHILD Portanto o efeito líquido das linhas 1316 é garantir que o procedimento nunca executará uma recursão em um nó cheio Então a linha 17 executa recursão para inserir k na subárvore adequada A Figura 187 ilustra os vários casos de inserção em uma B árvore Para uma Bárvore de altura h BTREEINSERT executa Oh acessos a disco já que ocorrem somente O1 operações DISKREAD e DISKWRITE entre chamadas a BTREEINSERTNONFULL O tempo total de CPU usado é Oth Ot logt n Visto que BTREEINSERTNONFULL é recursivo de cauda podemos implementálo alternativamente como um laço 1821 1822 1823 1824 while demonstrando assim que o número de páginas que precisam estar na memória principal em qualquer instante é O1 Exercícios Mostre os resultados da inserção das chaves F S Q K C L H T V W M R N P A B X Y D Z E em ordem em uma Bárvore vazia com grau mínimo 2 Desenhe apenas as configurações da árvore imediatamente antes de algum nó ter de ser repartido e desenhe também a configuração final Explique sob quais circunstâncias se houver ocorrem operações redundantes DISKREAD ou DISKWRITE durante o curso da execução de uma chamada a BTREEINSERT Uma operação DISKREAD redundante é uma operação DISKREAD para uma página que já está na memória Uma operação DISKWRITE redundante grava em disco uma página de informações idêntica à que já está ali armazenada Explique como encontrar a chave mínima armazenada em uma Bárvore e como encontrar o predecessor de uma determinada chave armazenada em uma Bárvore Suponha que inserimos as chaves 1 2 n em uma Bárvore vazia com grau mínimo 2 Quantos nós tem a Bárvore final 1825 1826 Figura 187 Inserção de chaves em uma Bárvore O grau mínimo t para essa Bárvore é 3 assim um nó pode conter no máximo cinco chaves Nós que são modificados pelo processo de inserção estão sombreados em tom mais claro a A árvore inicial para este exemplo b O resultado da inserção de B na árvore inicial essa é uma inserção simples em um nó de folha c O resultado da inserção de Q na árvore anterior O nó R S T U V é repartido em dois nós contendo R S e U V a chave T é passada para cima até a raiz e Q é inserido na metade mais à esquerda das duas metades o nó R S d O resultado da inserção de L na árvore anterior A raiz é repartida imediatamente já que está cheia e a altura da Bárvore aumenta de uma unidade Então L é inserido na folha que contém J K e O resultado da inserção de F na árvore anterior O nó A B C D E é repartido antes de F ser inserido na metade mais à direita das duas metades o nó D E Visto que nós folha não exigem nenhum ponteiro para filhos eles poderiam usar um valor t diferente maior do número de nós internos para o mesmo tamanho de página de disco Mostre como modificar os procedimentos de criação e inserção em uma Bárvore para tratar essa variação Suponha que quiséssemos implementar BTREESEARCH para usar busca binária em vez de busca linear dentro de cada nó Mostre que essa alteração resulta no tempo de CPU requerido Olg n independentemente do modo como t poderia ser escolhido em função de n 1827 183 1 2 a b c 3 a Suponha que o hardware de disco nos permita escolher arbitrariamente o tamanho de uma página de disco mas que o tempo necessário para ler a página de disco seja a bt onde a e b são constantes especificadas e t é o grau mínimo para uma Bárvore que utiliza páginas do tamanho selecionado Descreva como escolher t para minimizar aproximadamente o tempo de busca da Bárvore Sugira um valor ótimo de t para o caso em que a 5 milissegundos e b 10 microssegundos ELIMINAR UMA CHAVE EM UMA BÁRVORE Eliminar uma chave em uma Bárvore procedimento análogo à inserção mas é um pouco mais complicada porque podemos eliminar uma chave de qualquer nó não apenas uma folha e quando eliminamos uma chave de um nó interno temos de rearranjar os filhos do nó Como na inserção devemos nos prevenir para que a eliminação não produza uma árvore cuja estrutura viole as propriedades de Bárvores Exatamente como tivemos de assegurar que um nó não ficasse demasiadamente grande devido à inserção temos de garantir que um nó não fique demasiadamente pequeno durante a eliminação exceto a raiz que poder ter menos que o número mínimo t 1 de chaves Assim como um algoritmo de inserção simples poderia ter de retroceder se um nó no caminho até o ponto de inserção da chave estivesse cheio uma abordagem de eliminação simples poderia ter de retroceder se um nó exceto a raiz no caminho até o ponto de eliminação da chave tivesse o número mínimo de chaves O procedimento BTREEDELETE elimina a chave k da subárvore com raiz em x Projetamos esse procedimento para garantir que sempre que ele chamar a si mesmo recursivamente em um nó x o número de chaves em x é pelo menos o grau mínimo t Observe que essa condição requer uma chave a mais que o mínimo exigido pelas condições usuais de B árvores de modo que às vezes será preciso passar uma chave para dentro de um nó filho antes de a recursão descer até esse filho Essa condição reforçada nos permite eliminar uma chave da árvore em uma única passagem descendente sem ter de retroceder com uma única exceção que explicaremos Você deve interpretar a especificação dada a seguir para eliminação em uma Bárvore entendendo que se alguma vez o nó de raiz x se tornar um nó interno sem nenhuma chave essa situação pode ocorrer nos casos 2c e 3b então eliminamos x e o único filho de x xc1 se torna a nova raiz da árvore o que reduz a altura da árvore de uma unidade e preserva a propriedade de a raiz da árvore conter no mínimo uma chave a menos que a árvore esteja vazia Descrevemos como a eliminação funciona em vez de apresentarmos o pseudocódigo A Figura 188 ilustra os vários casos de eliminação de chaves em uma Bárvore Se a chave k está no nó x e x é uma folha elimine a chave k de x Se a chave k está no nó x e x é um nó interno faça o seguinte Se o filho y que precede k no nó x tem no mínimo t chaves então encontre o predecessor k de k na subárvore com raiz em y Elimine recursivamente k e substitua k por k em x Podemos encontrar k e eliminálo em uma única passagem descendente Se y tiver menos que t chaves então simetricamente examine o filho z que segue k no nó x Se z tiver no mínimo t chaves encontre o sucessor k de k na subárvore com raiz em z Elimine k recursivamente e substitua k por k em x Podemos encontrar k e eliminálo em uma única passagem descendente Caso contrário y e z têm apenas t 1 chaves junte k e todo o z com y de modo que x perde k e também o ponteiro para z e agora y contém 2t 1 chaves Em seguida libere z e elimine recursivamente k de y Se a chave k não estiver presente no nó interno x determine a raiz cix da subárvore adequada que deve conter k se k estiver na árvore Se xci tiver somente t 1 chaves execute a etapa 3a ou 3b conforme necessário para garantir que desceremos até um nó que contém no mínimo t chaves Então termine executando recursão no filho adequado de x Se xci tiver somente t 1 chaves mas tiver um irmão imediato com no mínimo t chaves dê a xci uma chave extra passando uma chave de x para baixo até xci passando uma chave do irmão imediato à esquerda ou à b direita de xci para cima até x e passando o ponteiro de filho adequado do irmão para xci Se xci e os irmãos imediatos de xci têm t 1 chaves junte xci com um irmão o que envolve passar uma chave de x para baixo até o novo nó resultante da junção que assim se torna a chave mediana para esse nó a árvore inicial 1831 1832 181 188 Eliminação de chaves em uma Bárvore O grau mínimo para essa Bárvore é t 3 portanto um nó exceto a raiz não pode ter menos de duas chaves Nós que são modificados estão sombreados em tom mais claro a A Bárvore da Figura 187e b Eliminação de F Esse é o caso 1 eliminação simples de uma folha c Eliminação de M Esse é o caso 2a o predecessor L de M passa para cima e ocupa a posição de M d Eliminação de G Esse é o caso 2c empurramos G para baixo para formar o nó D E G J K e depois eliminamos G dessa folha caso 1 e Eliminação de D Esse é o caso 3b a recursão não pode descer até o nó C L porque ele tem apenas duas chaves assim empurramos P para baixo e o intercalamos com C L e T X para formar C L P T X então eliminamos D de uma folha caso 1 e Após e eliminamos a raiz e a altura da árvore encolhe uma unidade f Eliminação de B Esse é o caso 3a C é movido para preencher a posição de B e E é movido para preencher a posição de C Visto que a maioria das chaves em uma Bárvore se encontra nas folhas podemos esperar que na prática operações de eliminação são usadas na maior parte das vezes para eliminar chaves de folhas Então o procedimento B TREEDELETE age em uma passagem descendente pela árvore sem ter de retroceder Contudo quando elimina uma chave em um nó interno o procedimento efetua uma passagem descendente pela árvore mas pode ter de retornar ao nó do qual a chave foi eliminada para substituir a chave por seu predecessor ou sucessor casos 2a e 2b Embora pareça complicado esse procedimento envolve apenas Oh operações de disco para uma Bárvore de altura h já que somente O1 chamadas a DISKREAD e DISKWRITE são efetuadas entre invocações recursivas do procedimento O tempo de CPU necessário é Oth Ot logt n Exercícios Mostre os resultados da eliminação de C P e V em ordem da árvore da Figura 188f Escreva o pseudocódigo para BTREEDELETE Problemas Pilhas em armazenamento secundário Considere a implementação de uma pilha em um computador que tem uma quantidade relativamente pequena de memória primária rápida e uma quantidade relativamente grande de armazenamento mais lento em disco As operações PUSH e POP funcionam com valores de uma única palavra A pilha que desejamos suportar pode crescer até seu tamanho tornarse tão grande que não cabe mais na memória por isso parte dela tem de ser armazenada em disco Uma implementação de pilha simples mas ineficiente mantém a pilha inteira no disco Mantemos na memória um ponteiro de pilha que é o endereço de disco do elemento do topo da pilha Se o ponteiro tiver o valor p o elemento do topo é a p mod mésima palavra na página pm do disco onde m é o número de palavras por página Para implementar a operação PUSH incrementamos o ponteiro da pilha lemos a página adequada para a memória de disco copiamos o elemento a ser inserido na pilha para a palavra adequada na página e gravamos a página de novo no disco Uma operação POP é semelhante Decrementamos o ponteiro da pilha lemos a página adequada no disco e voltamos ao topo da pilha Não precisamos gravar de novo a página já que ela não foi modificada Como operações de disco são relativamente caras contamos dois custos para qualquer implementação o número total de acessos ao disco e o tempo total de CPU Qualquer acesso de disco a uma página de m palavras incorre em gastos de um acesso de disco e mais m tempo de CPU a b c d 182 a b c d Assintoticamente qual é o número de acessos ao disco do pior caso para n operações de pilhas usando essa implementação simples Qual é o tempo de CPU para n operações de pilhas Expresse sua resposta em termos de m e n para esta parte e para as partes subsequentes Agora considere uma implementação de pilha na qual mantemos uma página da pilha na memória Mantemos também uma pequena quantidade de memória para controlar qual página está atualmente na memória Podemos executar uma operação de pilha somente se a página de disco relevante residir na memória Se necessário podemos gravar a página atualmente na memória no disco e ler a nova página do disco para a memória Se a página de disco relevante já estiver na memória não será necessário nenhum acesso ao disco Qual é o número de acessos ao disco do pior caso exigido para n operações PUSH Qual é o tempo de CPU Qual é o número de acessos ao disco do pior caso exigido para n operações de pilha Qual é o tempo de CPU Agora suponha que implementemos a pilha mantendo duas páginas na memória além de um pequeno número de palavras para contabilidade Descreva como gerenciar as páginas da pilha de modo que o número amortizado de acessos ao disco para qualquer operação de pilha seja O1m e o tempo de CPU amortizado para qualquer operação de pilha seja O1 Junção e repartição de árvores 234 A operação de junção toma dois conjuntos dinâmicos S e Se um elemento x tal que para qualquer x S e x S temos xchave xchave xchave A junção retorna um conjunto S S x S A operação de repartição é como uma junção inversa dado um conjunto dinâmico S e um elemento x S ela cria um conjunto S que consiste em todos os elementos de S x cujas chaves são menores que xchave e um conjunto S que consiste em todos os elementos em S x cujas chaves são maiores que xchave Neste problema investigaremos como implementar essas operações em árvores 234 Consideramos por conveniência que os elementos consistem apenas em chaves e que todos os valores de chaves são distintos Mostre como manter para todo nó x de uma árvore 234 a altura da subárvore com raiz em x como um atributo xaltura Certifiquese de que sua implementação não afeta os tempos de execução assintóticos de busca inserção e eliminação Mostre como implementar a operação de junção Dadas duas árvores 234 T e T e uma chave k a operação de junção deve ser executada no tempo O1 h h onde h e hsão as alturas de T e T respectivamente Considere o caminho simples p da raiz de uma árvore 234 T até uma dada chave k o conjunto S de chaves em T que são menores que k e o conjunto S de chaves em T que são maiores que k Mostre que p reparte S em um conjunto de árvores T0 T1 km e um conjunto de chaves k1 k2 km onde para i 1 2 m temos y ki z para quaisquer chaves y Ti1 e z Ti Qual é a relação entre as alturas de Ti1 e Ti Descreva o modo como p reparte S em conjuntos de árvores e chaves Mostre como implementar a operação de repartição em T Utilize a operação de junção para montar as chaves de S em uma única árvore 234 T e as chaves de S em uma única árvore 234 T O tempo de execução da operação de repartição deve ser Olg n onde n é o número de chaves em T Sugestão Os custos para as operações de junção devem se cancelar NOTAS DO CAPÍTULO Knuth 211 Aho Hopcroft e Ullman 5 e Sedgewick 306 apresentam discussões adicionais de esquemas de Bárvoresalanceadas e Bárvores Comer 74 dá um levantamento abrangente de Bárvores Guibas e Sedgewick 155 discutem as relações entre vários tipos de esquemas de Bárvoresalanceadas inclusive árvores vermelhopreto e árvores 234 Em 1970 J E Hopcroft criou as árvores 23 precursoras das Bárvores e das árvores 234 nas quais todo nó interno tem ou dois ou três filhos Bayer e McCreight 35 apresentaram as Bárvores em 1972 eles não explicaram a escolha desse nome Bender Demaine e FarachColton 40 estudaram como fazer Bárvores funcionarem bem na presença de efeitos de hierarquia de memória Seus algoritmos sem consciência de cache funcionam eficientemente sem conhecer explicitamente os tamanhos de transferência de dados dentro da hierarquia de memória 1 Na época da redação desta edição unidades de disco de estado sólido tinham acabado de chegar ao mercado de consumo Embora sejam mais rápidas que as unidades de disco mecânicas custam mais por gigabyte e têm menor capacidade que as unidades de disco mecânicas 2 Uma outra variante comum de uma Bárvore conhecida como Bárvore exige que cada nó interno esteja no mínimo 23 cheio em vez de no mínimo metade cheio como exige uma Bárvore 19 HEAPS DE FIBONACCI A estrutura de dados heap de Fibonacci tem dupla finalidade A primeira é suportar um conjunto de operações que constitui o que é conhecido como heap intercalável Em segundo lugar várias operações de heap de Fibonacci são executadas em tempo amortizado constante o que torna essa estrutura bem adequada para aplicações que invocam tais operações frequentemente Heaps intercaláveis Um heap intercalável é qualquer estrutura de dados que suporte as cinco operações seguintes nas quais cada elemento tem uma chave MAKEHEAP cria e retorna um novo heap que não contém nenhum elemento INSERTH x insere o elemento x cuja chave já foi preenchida no heap H MINIMUMH retorna um ponteiro para o elemento do heap H cuja chave é mínima EXTRACTMINH elimina o elemento do heap H cuja chave é mínima retornando um ponteiro para o elemento UNIONH1 H2 cria e retorna um novo heap que contém todos os elementos dos heaps H1 e H2 Os heaps H1 e H2 são destruídos por essa operação Além das operações de heap intercalável citadas os heaps de Fibonacci também suportam as duas operações seguintes DECREASEKEYH x k atribui ao elemento x dentro do heap H o novo valor de chave k que supomos não ser maior que seu valor de chave atual1 DELETEH x elimina o elemento x do heap H Como mostra a tabela na Figura 191 se não precisamos da operação UNION heaps binários comuns como os que são utilizados em heapsort Capítulo 6 funcionam razoavelmente bem Outras operações exceto a operação UNION são executadas no tempo do pior caso Olg n em um heap binário Contudo se precisarmos dar suporte à operação UNION o desempenho dos heaps binários é sofrível Como concatena os dois arranjos que contêm os heaps binários que serão intercalados e depois executa BUILDMINHEAP veja Seção 63 a operação UNION demora o tempo Qn no pior caso Heaps de Fibonacci por outro lado têm limites de tempo assintótico melhores que os heaps binários para as operações INSERT UNION e DECREASEKEY e os mesmos tempos de execução assintóticos para as operações restantes Observe entretanto que os tempos de execução de heaps de Fibonacci na Figura 191 são limites de tempo amortizado e não limites de tempo do pior caso por operação A operação UNION demora somente tempo amortizado constante em um heap de Fibonacci o que é significativamente melhor que o tempo linear do pior caso exigido em um heap binário considerando é claro que um limite de tempo amortizado seja suficiente Heaps de Fibonacci na teoria e na prática De um ponto de vista teórico os heaps de Fibonacci são especialmente desejáveis quando o número de operações EXTRACTMIN e DELETE é pequeno em relação ao número de outras operações executadas Essa situação surge em muitas aplicações Por exemplo alguns algoritmos para problemas de grafos podem chamar DECREASEKEY uma vez por aresta Para grafos densos que têm muitas arestas o tempo amortizado Q1 de cada chamada de DECREASEKEY significa uma grande melhoria em relação ao tempo do pior caso Qlg n de heaps binários Algoritmos rápidos para problemas como cálculo de árvores geradoras mínimas Capítulo 23 e localização de caminhos mais curtos de origem única Capítulo 24 tornam essencial o uso de heaps de Fibonacci Porém do ponto de vista prático os fatores constantes e a complexidade da programação de heaps de Fibonacci os tornam menos desejáveis que heaps binários ou kários comuns para a maioria das aplicações Assim os heaps de Fibonacci são predominantemente de interesse teórico Se uma estrutura de dados muito mais simples com os mesmos limites de tempo amortizado que os heaps de Fibonacci fosse desenvolvida ela também seria de utilidade prática Heaps binários e heaps de Fibonacci são ineficientes no suporte da operação SEARCH pode demorar um pouco para encontrar um elemento com determinada chave Por essa razão operações como DECREASEKEY e DELETE que se referem a um dado elemento requerem um ponteiro para esse elemento como parte de sua entrada Como em nossa discussão de filas de prioridades na Seção 65 quando usamos um heap intercalável em uma aplicação muitas vezes armazenamos um descritor para o objeto da aplicação correspondente em cada elemento de heap intercalável bem como um descritor para o elemento de heap intercalável correspondente em cada objeto da aplicação A natureza exata desses descritores depende da aplicação e de sua implementação Assim como várias outras estruturas de dados que vimos heaps de Fibonacci são baseados em árvores enraizadas Representamos cada elemento por um nó dentro de uma árvore e cada nó tem um atributo chave No restante deste capítulo usaremos o termo nó em vez de elemento Ignoraremos também questões de alocação de nós antes de inserção e liberação de nós após eliminação em vez disso suporemos que o código que chama os procedimentos de heap cuida desses detalhes A Seção 191 define heaps de Fibonacci discute sua representação e apresenta a função potencial usada para sua análise amortizada A Seção 192 mostra como implementar as operações de heaps intercaláveis e como obter os limites de tempo amortizado mostrados na Figura 191 As duas operações restantes DECREASEKEY e DELETE são apresentados na Seção 193 Finalmente a Seção 194 conclui uma parte fundamental da análise e também explica o curioso nome da estrutura de dados Figura 191 Tempos de execução para operações em duas implementações de heaps intercaláveis O número de itens nos heaps no momento de uma operação é denotado por n 191 ESTRUTURA DE HEAPS DE FIBONACCI Um heap de Fibonacci é uma coleção de árvores enraizadas que estão ordenadas por heap de mínimo Isto é cada árvore obedece à propriedade de heap de mínimo a chave de um nó é maior ou igual à chave de seu pai A Figura 192b mostra um exemplo de heap de Fibonacci Como mostra a Figura 192b cada nó x contém um ponteiro xp para seu pai e um ponteiro xfilho para algum de seus filhos Os filhos de x estão interligados em uma lista circular duplamente ligada que denominamos lista de filhos de x Cada filho y em uma lista de filhos tem ponteiros yesquerda e ydireita que apontam para os irmãos à esquerda e à direita de y respectivamente Se o nó y é um filho único então yesquerda ydireita y Filhos podem aparecer em qualquer ordem em uma lista de filhos Listas circulares duplamente ligadas veja Seção 102 têm duas vantagens para utilização em heaps de Fibonacci A primeira é que podemos inserir um nó em qualquer ponto ou remover um nó de qualquer lugar de uma lista circular duplamente ligada no tempo O1 A segunda é que dadas duas dessas listas podemos concatenálas ou entrelaçá las em uma única lista circular duplamente ligada no tempo O1 Nas descrições de operações de heaps de Fibonacci faremos referência a essas operações informalmente deixando a cargo do leitor preencher os detalhes de suas implementações como quiser Cada nó tem dois outros atributos Armazenamos o número de filhos na lista de filhos do nó x em xgrau O atributo do valor booleano xmarca indica se o nó x perdeu um filho desde a última vez que x se tornou o filho de um outro nó Os nós recémcriados não estão marcados e um nó x se torna desmarcado sempre que passa a ser o filho de outro nó Até examinarmos a operação DECREASEKEY na Seção 193 simplesmente definiremos todos os atributos marca como FALSE Figura 192 a Um heap de Fibonacci que consiste em cinco árvores ordenadas por heaps de mínimo e 14 nós A linha tracejada indica a lista de raízes O nó mínimo do heap é o nó que contém a chave 3 Nós pretos são nós marcados O potencial desse heap de Fibonacci particular é 5 2 3 11 b Uma representação mais completa que mostra ponteiros p setas para cima filho setas para baixo e 192 esquerda e direita setas laterais Esses detalhes são omitidos nas figuras restantes deste capítulo já que todas as informações mostradas aqui podem ser determinadas pelo que aparece na parte a Acessamos determinado heap de Fibonacci H por um ponteiro Hmin para a raiz de uma árvore que contém uma chave mínima esse nó é denominado nó mínimo do heap de Fibonacci Se mais de uma raiz tiver uma chave como o valor mínimo qualquer raiz pode servir como o nó mínimo Quando um heap de Fibonacci H está vazio Hmin NIL As raízes de todas as árvores em um heap de Fibonacci são interligadas por meio de seus ponteiros esquerda e direita em uma lista circular duplamente ligada denominada lista de raízes do heap de Fibonacci Assim o ponteiro Hmin aponta para o nó na lista de raízes cuja chave é mínima As árvores podem aparecer em qualquer ordem dentro de uma lista de raízes Contamos com um outro atributo para um heap de Fibonacci H Hn o número de nós atualmente em H Função potencial Como mencionamos usaremos o método do potencial da Seção 173 para analisar o desempenho de operações de heap de Fibonacci Para dado heap de Fibonacci H indicamos por tH o número de árvores na lista de raízes de H e por mH o número de nós marcados em H Então definimos o potencial H do heap de Fibonacci H por Entenderemos melhor essa função potencial na Seção 193 Por exemplo o potencial do heap de Fibonacci mostrado na Figura 191 é 5 2 3 11 O potencial de um conjunto de heaps de Fibonacci é a soma dos potenciais dos heaps de Fibonacci que o constituem Suporemos que uma unidade de potencial pode pagar uma quantidade constante de trabalho onde a constante é suficientemente grande para cobrir o custo de qualquer das peças de trabalho específicas de tempo constante que poderíamos encontrar Consideramos que uma aplicação de um heap de Fibonacci começa sem nenhum heap Então o potencial inicial é 0 e pela equação 191 o potencial é não negativo em todas as vezes subsequentes Pela equação 173 um limite superior para o custo total amortizado é um limite superior para o custo total real para a sequência de operações Grau máximo As análises amortizadas que realizaremos nas seções restantes deste capítulo supõem que conhecemos um limite superior Dn para o grau máximo de qualquer nó em um heap de Fibonacci de n nós Não provaremos isso mas quando somente as operações de heaps intercaláveis são suportadas Dn lg n O Problema 192d pede que você prove essa propriedade Nas Seções 193 e 194 mostraremos que quando suportamos também DECREASEKEY e DELETE Dn Olg n OPERAÇÕES DE HEAPS INTERCALÁVEIS As operações de heaps intercaláveis em heaps de Fibonacci retardam o trabalho o máximo possível As várias operações têm permutas de desempenho Por exemplo inserimos um nó acrescentandoo à lista de raízes o que demora apenas tempo constante Se começássemos com um heap de Fibonacci vazio e então inseríssemos k nós o heap de Fibonacci consistiria em apenas uma lista de raízes de k nós Em troca se executarmos em seguida uma operação EXTRACTMIN no heap de Fibonacci H após remover o nó para o qual Hmin aponta teremos de examinar cada um dos k 1 nós restantes na lista de raízes para encontrar o novo nó mínimo Ao mesmo tempo que temos de percorrer toda a lista de raízes durante a operação EXTRACTMIN também consolidamos nós em árvores ordenadas por heaps de mínimo para reduzir o tamanho da lista de raízes Veremos que não importando como era a lista antes de uma operação EXTRACTMIN depois dela cada nó na lista de raízes tem um grau que é exclusivo dentro da lista de raízes o que resulta em uma lista de tamanho no máximo Dn 1 Criando um novo heap de Fibonacci Para tornar um heap de Fibonacci vazio o procedimento MAKEFIBHEAP aloca e devolve o objeto heap de Fibonacci H onde Hn 0 e Hmin NIL não há nenhuma árvore em H Como tH 0 e mH 0 o potencial do heap de Fibonacci vazio é FH 0 Assim o custo amortizado de MAKEFIBHEAP é igual ao seu custo real O1 Inserindo um nó O procedimento a seguir insere o nó x no heap de Fibonacci H supondo que o nó x já tenha sido alocado e que xchave já tenha sido preenchida As linhas 14 inicializam alguns dos atributos estruturais do nó x A linha 5 testa para verificar se o heap de Fibonacci H está vazio Se estiver as linhas 67 fazem de x o único nó na lista de H e definem Hmin para apontar para x Caso contrário as linhas 810 inserem x na lista de raízes de H e atualizam Hmin se necessário Finalmente a linha 11 incrementa Hn para refletir a adição de um novo nó A Figura 193 mostra um nó com chave 21 inserida no heap de Fibonacci da Figura 192 Para determinar o custo amortizado de FIBHEAPINSERT seja H o heap de Fibonacci de entrada e H o heap de Fibonacci resultante Então tH tH 1 e mH mH e o aumento em potencial é tH 1 2mH tH 2mH 1 Como o custo real é O1 o custo amortizado é O1 1 O1 Encontrando o nó mínimo O nó mínimo de um heap de Fibonacci H é dado pelo ponteiro Hmin assim podemos encontrar o nó mínimo no tempo real O1 Visto que o potencial de H não muda o custo amortizado dessa operação é igual ao seu custo real O1 Figura 193 Inserindo um nó em um heap de Fibonacci a Um heap de Fibonacci H b O heap de Fibonacci H após a inserção do nó com chave 21 O nó se torna sua própria árvore ordenada por heap de mínimo e é então acrescentado à lista de raízes tornandose o irmão à esquerda da raiz Unindo dois heaps de Fibonacci O procedimento a seguir une os heaps de Fibonacci H1 e H2 destruindo H1 e H2 no processo Ele simplesmente concatena as listas de raízes de H1 e H2 e determina o novo nó mínimo Depois disso os objetos que representam H1 e H2 nunca mais serão usados As linhas 13 concatenam as listas de raízes de H1 e H2 em uma nova lista de raízes H As linhas 2 4 e 5 calculam o nó mínimo de H e a linha 6 calcula Hn como o número total de nós A linha 7 devolve o heap de Fibonacci resultante H Como no procedimento FIBHEAPINSERT todas as raízes permanecem raízes A mudança de potencial é porque tH tH1 tH2 e mH1 mH2 Assim o custo amortizado de FIBHEAPUNION é igual ao seu custo real O1 Extraindo o nó mínimo O processo de extrair o nó mínimo é a mais complicada das operações apresentadas nesta seção É também aqui que o trabalho adiado de consolidar árvores na lista de raízes finalmente ocorre O pseudocódigo a seguir extrai o nó mínimo O código supõe por conveniência que quando um nó é removido de uma lista ligada os ponteiros restantes na lista são atualizados mas os ponteiros no nó extraído se mantêm inalterados O código também chama o procedimento auxiliar CONSOLIDATE que veremos em breve 1 2 Como mostra a Figura 194 FIBHEAPEXTRACTMIN funciona primeiro criando uma raiz a partir de cada um dos filhos do nó mínimo e removendo o nó mínimo da lista de raízes Então consolida a lista de raízes ligando raízes de mesmo grau até restar no máximo uma raiz de cada grau Começamos na linha 1 gravando um ponteiro z para o nó mínimo o procedimento devolve esse ponteiro no final Se z NIL então o heap de Fibonacci H já está vazio e terminamos Caso contrário eliminamos o nó z de H transformando todos os filhos de z em raízes de H nas linhas 35 inserindoos na lista de raízes e removendo z da lista de raízes na linha 6 Se z for seu próprio irmão à direita depois da linha 6 então z era o único nó na lista de raízes e não tinha nenhum filho assim resta tornar o heap de Fibonacci vazio na linha 8 antes de retornar z Caso contrário fazemos Hmin apontar para uma outra raiz diferente de z nesse caso o filho à direita de z que não será necessariamente o novo nó mínimo quando FIBHEAPEXTRACTMIN termina A Figura 194b mostra o heap de Fibonacci da Figura 194a após a execução da linha 9 A próxima etapa na qual reduzimos o número de árvores no heap de Fibonacci é consolidar a lista de raízes de H o que é realizado pela chamada a CONSOLIDATEH Consolidar a lista de raízes consiste em executar repetidamente as etapas seguintes até que toda raiz na lista de raízes tenha um valor de grau distinto Encontre duas raízes x e y na lista de raízes com o mesmo grau Sem prejuízo da generalidade seja xchave ychave Ligue y a x remova y da lista de raízes e torne y um filho de x chamando o procedimento FIBHEAPLINK Esse procedimento incrementa o atributo xgrau e limpa a marca em y O procedimento CONSOLIDATE usa um arranjo auxiliar A0 DHn para controlar as raízes de acordo com seus graus Se Ai y então y é atualmente uma raiz com ygrau i É claro que para alocar o arranjo temos de saber como calcular o limite superior DHn no grau máximo mas veremos como fazer isso na Seção 194 Em detalhes o procedimento CONSOLIDATE funciona como descrevemos a seguir As linhas 13 alocam e inicializam o arranjo A fazendo cada entrada NIL O laço for das linhas 414 processa cada raiz w na lista de raízes À medida que interligamos raízes w pode ser ligada a algum outro nó e deixar de ser uma raiz Não obstante w está sempre em uma árvore com raiz em algum nó x que pode ser ou não a própria w Como queremos no máximo uma raiz para cada grau examinamos o arranjo A para verificar se ele contém uma raiz y com o mesmo grau de x Se contiver ligamos as raízes x e y mas garantindo que x permaneça uma raiz após a ligação Isto é ligamos y a x depois de permutar os ponteiros para as duas raízes se a chave de y for menor do que a chave de x Após ligarmos y a x o grau de x aumentou de 1 e assim continuamos esse processo ligando x e uma outra raiz cujo grau seja igual ao novo grau de x até que nenhuma outra raiz que tivermos processado tenha o mesmo grau de x Então fazemos a entrada adequada de A apontar para x de modo que ao processarmos raízes mais adiante teremos gravado que x é a única raiz de seu grau que já processamos Quando esse laço for termina restará no máximo uma raiz de cada grau e o arranjo A apontará para cada raiz restante Figura 194 A ação de FIBHEAPeXTRACTMIN a Um heap de Fibonacci H b A situação após a remoção do nó mínimo z é da lista de raízes e a adição de seus filhos à lista de raízes ce O arranjo A e as árvores após cada uma das três primeiras iterações do laço for das linhas 414 do procedimento cONSOLIDATE O procedimento processa a lista de raízes começando no nó apontado por Hmin e seguindo os ponteiros à direita Cada parte mostra os valores de w e x no fim de uma iteração fh A próxima iteração do laço for com os valores de w e x mostrados no fim de cada iteração do laço while das linhas 713 A parte f mostra a situação após a primeira passagem pelo laço while O nó com chave 23 foi ligado ao nó com chave 7 que agora é apontado por x Na parte g o nó com chave 17 foi ligado ao nó com chave 7 o qual ainda é apontado por x Na parte h o nó com chave 24 foi ligado ao nó com chave 7 Como nenhum nó foi apontado anteriormente por A3 no fim da iteração do laço for A3 é feito apontar para a raiz da árvore resultante Figura 194 continuação il A situação após cada uma das quatro iterações seguintes do laço for m O heap de Fibonacci H após a reconstrução da lista de raízes pelo arranjo A e pela determinação do novo ponteiro minH O laço while das linhas 713 liga repetidamente a raiz x da árvore que contém o nó w a uma outra árvore cuja raiz tem o mesmo grau que x até que nenhuma outra raiz tenha o mesmo grau Esse laço while mantém o seguinte invariante No início de cada iteração do laço while d xgrau Usamos esse invariante de laço assim Inicialização A linha 6 assegura que o invariante de laço é válido na primeira vez em que entramos no laço Manutenção Em cada iteração do laço while Ad aponta para alguma raiz y Como d xgrau ygrau queremos ligar x e y Entre x e y a que tiver a menor chave se tornará o pai da outra como resultado da operação de ligação e assim as linhas 910 trocam os ponteiros para x e y se necessário Em seguida ligamos x a y pela chamada FIBHEAPLINKH y x na linha 11 Essa chamada incrementa xgrau mas deixa ygrau como d O nó y não é mais uma raiz e portanto a linha 12 remove o ponteiro para ele no arranjo A Como a chamada de FIBHEAPLINK incrementa o valor de xgrau a linha 13 restaura o invariante d xgrau Término Repetimos o laço while até Ad NIL nesse caso não existe nenhuma outra raiz com o mesmo grau que x Depois que o laço while termina definimos Ad como x na linha 14 e executamos a próxima iteração do laço for As Figuras 194ce mostram o arranjo A e as árvores resultantes após as três primeiras iterações do laço for das linhas 414 Na próxima iteração do laço for ocorrem três ligações seus resultados são mostrados nas Figuras 1921 193 194fh As Figuras 194il mostram o resultado das quatro iterações seguintes do laço for Agora só falta a limpeza Uma vez terminado o laço for das linhas 414 a linha 15 esvazia a lista de raízes e as linhas 1623 recriam a lista pelo arranjo A O heap de Fibonacci resultante é mostrado na Figura 194m Após consolidar a lista de raízes FIBHEAPEXTRACTMIN termina decrementando Hn na linha 11 e retornando um ponteiro para o nó eliminado z na linha 12 Agora estamos prontos para mostrar que o custo amortizado de extrair o nó mínimo de um heap de Fibonacci de n nós é ODn Seja H a representação do heap de Fibonacci imediatamente antes da operação FIBHEAPEXTRACTMIN Começamos com o custo real de extrair o nó mínimo Uma contribuição ODn vem de FIBHEAPEXTRACTMIN processar no máximo Dn filhos do nó mínimo e do trabalho nas linhas 23 e 1623 de CONSOLIDATE Resta analisar a contribuição do laço for das linhas 414 O tamanho da lista de raízes na chamada a CONSOLIDATE é no máximo Dn tH 1 já que ela consiste nos tH nós originais da lista de raízes menos o nó de raiz extraído mais os filhos do nó extraído que são no máximo Dn Dentro de uma dada iteração do laço for das linhas 414 o número de iterações do laço while das linhas 713 depende da lista de raízes Porém sabemos que toda vez que passamos pelo laço while uma das raízes é ligada a uma outra raiz assim o número total de iterações do laço while para todas as iterações do laço for é no máximo proporcional a Dn tH Portanto o trabalho total real na extração do nó mínimo é ODn tH O potencial antes da extração do nó mínimo é tH 2mH e o potencial depois disso é no máximo Dn 1 2mH já que restam no máximo Dn 1 raízes e nenhum nó foi marcado durante a operação Assim o custo amortizado é no máximo visto que podemos ajustar a escala das unidades de potencial para dominar a constante oculta em OtH Intuitivamente o custo da execução de cada ligação é pago pela redução do potencial já que a ligação reduz o número de raízes em uma unidade Veremos na Seção 194 que Dn Olg n de modo que o custo amortizado de extrair o nó mínimo é Olg n Exercícios Mostre o heap de Fibonacci resultante de chamar FIBHEAPEXTRACTMIN para o heap de Fibonacci mostrado na Figura 194m DECREMENTAR UMA CHAVE E ELIMINAR UM NÓ Nesta seção mostraremos como decrementar a chave de um nó em um heap de Fibonacci no tempo amortizado O1 e como eliminar qualquer nó de um heap de Fibonacci de n nós no tempo amortizado ODn Na Seção 194 mostraremos que o grau máximo Dn é Olg n o que implicará que FIBHEAPEXTRACTMIN e FIBHEAPDELETE são executados no tempo amortizado Olg n Decrementando uma chave No pseudocódigo a seguir para a operação FIBHEAPDECREASEKEY supomos como antes que remover um nó de uma lista ligada não muda quaisquer dos atributos estruturais no nó removido 1 2 3 O procedimento FIBHEAPDECREASEKEY funciona da maneira descrita a seguir As linhas 13 asseguram que a nova chave não é maior que a chave atual de x e designam a nova chave a x Se x é uma raiz ou se xchave ychave onde y é pai de x então não precisa ocorrer nenhuma mudança estrutural já que a ordenação por heap de mínimo não foi violada As linhas 45 testam essa condição Se a ordenação por heap de mínimo foi violada muitas mudanças podem ocorrer Começamos cortando x na linha 6 O procedimento CUT corta a ligação entre x e seu pai y fazendo de x uma raiz Usamos os atributos marca para obter os limites de tempo desejados Eles registram uma pequena fração da história de cada nó Suponha que os eventos a seguir tenham ocorrido com o nó x em algum momento x era uma raiz depois x foi ligado foi feito filho de a outro nó então dois filhos de x foram removidos por cortes Tão logo o segundo filho tenha sido perdido cortamos x de seu pai fazendo dele uma nova raiz O atributo xmarca é TRUE se as etapas 1 e 2 ocorreram e um filho de x foi cortado Então o procedimento CUT limpa xmarca na linha 4 já que ele executa a etapa 1 Agora podemos ver por que a linha 3 de FIBHEAPLINK limpa ymarca o nó y está sendo ligado a um outro nó e assim a etapa 2 está sendo executada Na próxima vez que um filho de y for cortado ymarca será definido como TRUE Ainda não terminamos porque x poderia ser o segundo filho cortado de seu pai y desde o tempo em que y esteve ligado a outro nó Portanto a linha 7 de FIBHEAPDECREASEKEY executa uma operação de corte em cascata em y Se y é uma raiz então o teste na linha 2 de CASCADINGCUT faz o procedimento simplesmente retornar Se y for não marcado o procedimento o marca na linha 4 já que seu primeiro filho acabou de ser cortado e retorna Contudo se y for marcado ele acabou de perder seu segundo filho y é cortado na linha 5 e CASCADINGCUT chama a si mesmo recursivamente na linha 6 para o pai de y z O procedimento CASCADINGCUT sobe a árvore recursivamente até encontrar uma raiz ou um nó não marcado Tão logo tenham ocorrido todos os cortes em cascata as linhas 89 de FIBHEAPDECREASE KEY terminam atualizando Hmin se necessário O único nó cuja chave mudou foi o nó x já que sua chave decresceu Assim o novo nó mínimo é o nó original ou é o nó x A Figura 195 mostra a execução de duas chamadas a FIBHEAPDECREASEKEY começando com o heap de Fibonacci mostrado na Figura 195a A primeira chamada mostrada na Figura 195b não envolve nenhum corte em cascata A segunda chamada mostrada nas Figuras 195ce invoca dois cortes em cascata Agora mostraremos que o custo amortizado de FIBHEAPDECREASEKEY é apenas O1 Começamos determinando seu custo real O procedimento FIBHEAPDECREASEKEY demora o tempo O1 mais o tempo para executar os cortes em cascata Suponha que uma determinada invocação de FIBHEAPDECREASEKEY resulte em c chamadas de CASCADINGCUT a chamada feita da linha 7 de FIBHEAPDECREASEKEY seguida por c 1 chamadas recursivas de CASCADINGCUT Cada chamada de CASCADINGCUT demora o tempo O1 sem incluir as chamadas recursivas Assim o custo real de FIBHEAP DECREASEKEY incluindo todas as chamadas recursivas é Oc Em seguida calculamos a mudança no potencial Denotamos por H o heap de Fibonacci imediatamente antes da operação de FIBHEAPDECREASEKEY A chamada a CUT na linha 6 de FIBHEAPDECREASEKEY cria uma nova árvore enraizada no nó x e limpa o bit de marcação de x que pode já ter sido FALSE Cada chamada recursiva de CASCADING CUT com exceção da última corta um nó marcado e limpa o bit de marcação Depois disso o heap de Fibonacci contém tH c árvores as tH árvores originais c 1 árvores produzidas por cortes em cascata e a árvore com raiz em x e no máximo mH c 2 nós marcados c 1 foram desmarcados por cortes em cascata e a última chamada de CASCADINGCUT pode ter marcado um nó Então a mudança no potencial é no máximo Figura 195 Duas chamadas de FIBHEAPdECREASEKEY a O heap de Fibonacci inicial b O nó com chave 46 tem sua chave decrementada para 15 O nó se torna uma raiz e seu pai com chave 24 que antes não estava marcado se torna marcado ce O nó com chave 35 tem sua chave decrementada para 5 Na parte c o nó agora com chave 5 se torna uma raiz Seu pai com chave 26 está marcado e assim ocorre um corte em cascata O nó com chave 26 é cortado de seu pai e transformado em uma raiz não marcada em d Ocorre outro corte em cascata já que o nó com chave 24 também está marcado Esse nó é cortado de seu pai e transformado em uma raiz não marcada na parte e Os cortes em cascata param nesse ponto já que o nó com chave 7 é uma raiz Ainda que esse nó não fosse uma raiz os cortes em cascata parariam visto que ele é não marcado A parte e mostra o resultado da operação FIBHEAPdECREASEKEY com Hmin apontando para o novo nó mínimo tH c 2mH c 2 tH 2mH 4 c Assim o custo amortizado de FIBHEAPDECREASEKEY é no máximo 1931 1932 194 Oc 4 c O1 já que podemos ajustar a escala das unidades de potencial para dominar a constante oculta em Oc Agora você pode ver por que definimos a função potencial para incluir um termo que é duas vezes o número de nós marcados Quando um nó marcado y é cortado por uma operação de corte em cascata seu bit de marcação é limpado o que reduz duas unidades de potencial Uma unidade de potencial paga o corte e a limpeza do bit de marcação e a outra unidade compensa o aumento de uma unidade no potencial devido à transformação do nó y em uma raiz Eliminando um nó O pseudocódigo a seguir elimina um nó de um heap de Fibonacci de n nós no tempo amortizado ODn Supomos que não há nenhum valor de chave no heap de Fibonacci FIBHEAPDELETE faz de x o nó mínimo no heap de Fibonacci dando a ele uma chave exclusiva pequena de Então o procedimento FIBHEAPEXTRACTMIN remove o nó x do heap de Fibonacci O tempo amortizado de FIBHEAP DELETE é a soma do tempo amortizado O1 de FIBHEAPDECREASEKEY com o tempo amortizado ODn de FIBHEAP EXTRACTMIN Como veremos na Seção 194 que Dn Olg n o tempo amortizado de FIBHEAPDELETE é Olg n Exercícios Suponha que uma raiz x em um heap de Fibonacci esteja marcada Explique como x se tornou uma raiz marcada Demonstre que para a análise não importa que x esteja marcada ainda que ela não seja uma raiz que primeiro foi ligada a outro nó e depois perdeu um filho Justifique o tempo amortizado O1 de FIBHEAPDECREASEKEY como um custo médio por operação usando análise agregada LIMITANDO O GRAU MÁXIMO Para provar que o tempo amortizado de FIBHEAPEXTRACTMIN e FIBHEAPDELETE é Olg n devemos mostrar que o limite superior Dn para o grau de qualquer nó de um heap de Fibonacci de n nós é Olg n Em particular mostraremos que Dn log n onde é a razão áurea definida na equação 324 como A chave para a análise é dada a seguir Para cada nó x dentro de um heap de Fibonacci defina tamanhox como o número de nós incluindo o próprio x na subárvore com raiz em x Observe que x não precisa estar na lista de raízes ele pode ser absolutamente qualquer nó Mostraremos que tamanhox é exponencial em relação a xgrau Lembrese de que xgrau é sempre mantido como uma medida precisa do grau de x Lema 191 Seja x qualquer nó em um heap de Fibonacci e suponha que xgrau k Seja y1 y2 yk a série de filhos de x na ordem em que eles foram ligados a x desde o mais antigo até o mais recente Então y1grau 0 e yigrau i 2 para i 2 3 k Prova Obviamente y1grau 0 Para i 2 observamos que quando yi foi ligado a x todos os y1 y2 yi 1 eram filhos de x e assim também devemos ter tido xgrau i 1 Como o nó yi é ligado a x por CONSOLIDATE somente se xgrau yigrau devemos ter tido também yigrau i 1 naquele momento Desde então o nó yi perdeu no máximo um filho já que ele teria sido cortado de x por CASCADINGCUT se tivesse perdido dois filhos Concluímos que yigrau i 2 Por fim chegamos à parte da análise que explica o nome heaps de Fibonacci Lembrese de que na Seção 32 vimos que para k 0 1 2 o késimo número de Fibonacci é definido pela recorrência O lema a seguir dá outro jeito para expressar Fk Lema 192 Para todos os inteiros k 0 Prova A prova é por indução em relação a k Quando k 0 Agora consideramos a hipótese indutiva de que Fk 1 1 Lema 193 Para todos os inteiros k 0 o k 2ésimo número de Fibonacci satisfaz Fk2 k Prova A prova é por indução em relação a k Os casosbase são para k 0 e k 1 Quando k 0 temos F2 1 0 e quando k 1 temos F3 2 1619 1 A etapa indutiva é para k 2 e consideramos que Fi2 1 para i 01 k1 Lembrese de que é a raiz positiva da equação 323 x2 x 1 Assim temos O lema a seguir e seu corolário concluem a análise Lema 194 Seja x um nó em um heap de Fibonacci e seja k xgrau Então tamanhox Fk 2 onde φ 1 5 2 Prova Seja sk o tamanho mínimo possível de um nó de grau k em qualquer heap de Fibonacci Trivialmente s0 1 e s1 2 O número sk é no máximo tamanhox e como adicionar filhos a um nó não pode reduzir o tamanho do nó o valor de sk aumenta monotonicamente com k Considere algum nó z em qualquer heap de Fibonacci tal que zgrau k e tamanhoz sk Como sk tamanhox calculamos um limite inferior para tamanhox calculando um limite inferior para sk Como no Lema 191 sejam y1 y2 yk os filhos de z na ordem em que foram ligados a z Para limitar sk contamos um para o próprio z e um para o primeiro filho y1 para o qual tamanho y1 1 o que dá onde a última linha decorre do Lema 191 de modo que yigrau i 2 e da monotonicidade de sk de modo que sy grau si2 Agora mostramos por indução a k que sk Fk 2 para todos os inteiros não negativos k Os casosbase para k 0 e k 1 são triviais Para a etapa indutiva consideramos que k 2 e que si Fi 2 para i 0 1 k 1 Temos Assim mostramos que tamanhox sk Fk 2 Corolário 195 1941 1942 191 a b c d 192 O grau máximo Dn de qualquer nó em um heap de Fibonacci de n nós é Olg n Prova Seja x um nó em um heap de Fibonacci de n nós e seja k xgrau Pelo Lema 194 temos n tamanhox k Tomando logaritmosbase temos k log n De fato como k é um inteiro k logø n Assim o grau máximo Dn de qualquer nó é Olg n Exercícios O professor Pinóquio afirma que a altura de um heap de Fibonacci de n nós é Olg n Mostre que o professor está equivocado exibindo para qualquer inteiro positivo n uma sequência de operações de heaps de Fibonacci que cria um heap de Fibonacci consistindo em apenas uma árvore que é uma cadeia linear de n nós Suponha que generalizamos a regra do corte em cascata para cortar um nó x de seu pai logo que ele perde seu késimo filho para alguma constante inteira k A regra da Seção 193 usa k 2 Para quais valores de k Dn Olg n Problemas Implementação alternativa da eliminação O professor Pisano propôs a seguinte variante do procedimento FIBHEAPDELETE afirmando que ele é executado com maior rapidez quando o nó que está sendo eliminado não é o nó apontado por Hmin A afirmação do professor de que esse procedimento é executado mais rapidamente se baseia em parte na hipótese de que a linha 7 pode ser executada no tempo real O1 O que está errado com essa hipótese Dê um bom limite superior para o tempo real de PISANODELETE quando x não é Hmin Seu limite deve ser expresso em termos de xgrau e do número c de chamadas ao procedimento CASCADINGCUT Suponha que chamamos PISANODELETEH x e seja H o heap de Fibonacci resultante Considerando que o nó x não é uma raiz limite o potencial de H em termos de xgrau c tH e mH Conclua que o tempo amortizado de PISANODELETE não é assintoticamente melhor que o de FIBHEAP DELETE mesmo quando x Hmin Árvores binomiais e heaps binomiais A árvore binomial Bk é uma árvore ordenada veja Seção B52 definida recursivamente Como mostra a Figura 196a a árvore binomial B0 consiste em um único nó A árvore binomial Bk consiste em duas árvores a 1 2 3 4 1 2 3 b binomiais Bk1 que são ligadas uma à outra de modo que a raiz de uma é o filho mais à esquerda da raiz da outra A Figura 196b mostra as árvores binomiais de B0 a B4 Mostre que para a árvore binomial Bk existem 2k nós a altura da árvore é k existem exatamente nós na profundidade i para i 0 1 k e a raiz tem grau k que é maior do que o de qualquer outro nó além do mais como a Figura 196c mostra se numerarmos os filhos da raiz da esquerda para a direita por k 1 k 2 0 o filho i será a raiz da subárvore Bi Um heap binomial H é um conjunto de árvores binomiais que satisfaz as seguintes propriedades Cada nó tem uma chave como um heap de Fibonacci Cada árvore binomial em H obedece à propriedade de heap de mínimo Para qualquer inteiro não negativo k há no máximo uma árvore binomial em H cuja raiz tem grau k Suponha que um heap binomial H tenha um total de n nós Discuta a relação entre as árvores binomiais que H contém e a representação binária de n Conclua que H consiste no máximo em lg n 1 árvores binomiais Suponha que representemos um heap binomial da maneira descrita a seguir O esquema do filho à esquerda irmão à direita da Seção 104 representa cada árvore binomial dentro de um heap binomial Cada nó contém sua chave ponteiros para seu pai para seu filho à extrema esquerda e para o irmão imediatamente à sua direita esses ponteiros são NIL quando adequado e seu grau como nos heaps de Fibonacci o número de filhos que ele tem As raízes formam uma lista de raízes simplesmente ligada ordenada pelos graus das raízes de baixo para o alto e acessamos o heap binomial por um ponteiro para o primeiro nó da lista de raízes c d e 193 Figura 196 a Definição recursiva da árvore binomial Bk Os triângulos representam subárvores enraizadas b As árvores binomiais B0 a B4 As profundidades dos nós em B4 são mostradas c Outro modo de examinar a árvore binomial Bk Complete a descrição de como representar um heap binomial isto é nome dos atributos descreva quando os tributos têm o valor N I L e defina como a lista de raízes é organizada e mostre como implementar as mesmas sete operações em heaps binomiais como este capítulo as implementou em heaps de Fibonacci Cada operação deve ser executada no tempo do pior caso Olg n onde n é o número de nós no heap binomial ou no caso da operação UNION nos dois heaps binomiais que estão sendo unidos A operação MAKEHEAP deve levar tempo constante Suponha que tivéssemos de implementar somente as operações de heaps intercaláveis em um heap de Fibonacci isto é não implementamos as operações DECREASEK E Y ou DELETE Quais seriam as semelhanças entre as árvores em um heap de Fibonacci e as árvores em um heap binomial Quais seriam as diferenças Mostre que o grau máximo em um heap de Fibonacci de n nós seria no máximo lg n O professor McGee criou uma nova estrutura de dados baseada em heaps de Fibonacci Um heap de McGee tem a mesma estrutura de um heap de Fibonacci e suporta apenas as operações de heaps intercaláveis As implementações das operações são idênticas às de heaps de Fibonacci exceto que em sua última etapa a inserção e a união consolidam a lista de raízes Quais são os tempos de execução do pior caso das operações em heaps de McGee Outras operações de heaps de Fibonacci a b 194 a b c d e f Desejamos ampliar um heap de Fibonacci H para suportar duas novas operações sem mudar o tempo de execução amortizado de quaisquer outras operações de heaps de Fibonacci A operação FIBHEAPCHANGEKEYH x k troca a chave do nó x pelo valor k Dê uma implementação eficiente de FIBHEAPCHANGEKEY e analise o tempo de execução amortizado de sua implementação para os casos nos quais k é maior menor ou igual à xchave Dê uma implementação eficiente de FIBHEAPPRUNEH r que elimine q minrHn nós de H Você pode escolher quaisquer nós q para eliminar Analise o tempo de execução amortizado de sua implementação Sugestão Talvez seja necessário modificar a estrutura de dados e a função potencial Heaps 234 O Capítulo 18 apresentou a árvore 234 na qual todo nó interno exceto possivelmente a raiz tem dois três ou quatro filhos e todas as folhas têm a mesma profundidade Neste problema implementaremos heaps 234 que suportam as operações de heaps intercaláveis Os heaps 234 são diferentes das árvores 234 nos seguintes aspectos Nos heaps 234 apenas as folhas armazenam chaves e cada folha x armazena exatamente uma chave no atributo xchave As chaves nas folhas podem estar em qualquer ordem Cada nó interno x contém um valor xpequeno que é igual à menor chave armazenada em qualquer folha na subárvore com raiz em x A raiz r contém um atributo raltura que dá a altura da árvore Finalmente o projeto prevê que heaps 234 sejam mantidos na memória principal de modo que leituras e gravações em disco não são necessárias Implemente as seguintes operações de heaps 234 Cada uma das operações nas partes ae deve ser executada no tempo Olg n em um heap 234 com n elementos A operação UNION na parte f deve ser executada no tempo Olg n onde n é o número de elementos nos dois heaps de entrada MINIMUM que retorna um ponteiro para a folha com a menor chave DECREASEKEY que diminui a chave de uma dada folha x para um dado valor k xchave INSERT que insere a folha x com a chave k DELETE que elimina uma dada folha x EXTRACTMIN que extrai a folha com a menor chave UNION que une dois heaps 234 retorna um único heap 234 e destrói os heaps de entrada NOTAS DO CAPÍTULO Fredman e Tarjan 114 apresentaram os heaps de Fibonacci em uma artigo que também descrevia a aplicação de heaps de Fibonacci aos problemas de caminhos mais curtos de origem única caminhos mais curtos de todos os pares emparelhamento bipartido ponderado e o problema da árvore geradora mínima Subsequentemente Driscoll Gabow Shrairman e Tarjan 96 desenvolveram heaps relaxados como uma alternativa para os heaps de Fibonacci Eles criaram duas variedades de heaps relaxados Uma dá os mesmos limites de tempo amortizado que os heaps de Fibonacci A outra permite a execução de DECREASEKEY no tempo do pior caso não amortizado O1 e a execução de EXTRACTMIN e DELETE no tempo do pior caso Olg n Os heaps relaxados também apresentam algumas vantagens em relação aos heaps de Fibonacci em algoritmos paralelos Veja também as notas do Capítulo 6 para outras estruturas de dados que suportam operações DECREASEKEY rápidas quando a sequência de valores retornada por chamadas EXTRACTMIN são monotonicamente crescentes com o tempo e os dados são inteiros dentro de uma faixa específica 1 Como mencionado na introdução da Parte V nossos heaps intercaláveis padrões são heaps de mínimos intercaláveis e assim as operações Minimum ExtractMin e DecreaseKey se aplicam Alternativamente poderíamos definir um heap de máximo intercalável com as operações Maximum ExtractMax e IncreaseKey 201 20 ÁRVORES DE VAN EMDE BOAS Em capítulos anteriores vimos estruturas de dados que suportam as operações de uma fila de prioridades heaps binários no Capítulo 6 árvores vermelhopreto no Capítulo 131 e heaps de Fibonacci no Capítulo 19 Em cada uma dessas estruturas de dados no mínimo uma operação importante demorou o tempo Olg n seja do pior caso seja amortizado Na verdade como cada uma dessas estruturas de dados baseia suas decisões em comparação de chaves o limite inferior n lg n para ordenação na Seção 81 nos diz que no mínimo uma operação levará o tempo lg n Por quê Se pudéssemos executar as operações INSERT e EXTRACTMIN no tempo olg n poderíamos ordenar n chaves no tempo on lg n executando em primeiro lugar n operações INSERT seguidas por n operações EXTRACTMIN Contudo no Capítulo 8 vimos que às vezes podemos explorar informações adicionais sobre as chaves para ordenar no tempo on lg n Em particular com ordenação por contagem podemos ordenar n chaves cada uma um inteiro na faixa 0 a k no tempo n k que é n quando k On Visto que podemos evitar o limite inferior n lg n para ordenação quando as chaves são inteiros em uma faixa limitada você bem poderia imaginar se poderíamos executar cada uma das operações de fila de prioridades no tempo olg n em um cenário semelhante Veremos neste capítulo que podemos árvores de van Emde Boas suportam as operações de filas de prioridades e algumas outras cada uma no tempo do pior caso Olg lg n O senão é que as chaves devem ser inteiros na faixa 0 a n 1 e duplicatas não são permitidas Especificamente árvores de van Emde Boas suportam cada uma das operações de conjunto dinâmico apresentadas na lista da página 230 SEARCH INSERT DELETE MINIMUM MAXIMUM SUCCESSOR e PREDECESSOR no tempo Olg lg n Neste capítulo omitiremos a discussão de dados satélites e focalizaremos somente armazenamento de chaves Como nos concentramos em chaves e não permitimos o armazenamento de chaves duplicadas em vez de descrever a operação SEARCH implementaremos a operação mais simples MEMBER S x que retorna um booleano que indica se o valor x está atualmente no conjunto dinâmico S Até aqui usamos o parâmetro n para duas finalidades distintas o número de elementos no conjunto dinâmico e a faixa dos valores possíveis Para evitar qualquer confusão daqui em diante usaremos n para denotar o número de elementos atualmente no conjunto e u para a faixa de valores possíveis de modo que cada operação de árvore de van Emde é executada no tempo Olg lg u Denominamos o conjunto 0 1 2 u 1 universo de valores que podem ser armazenados e u o tamanho do universo Em todo este capítulo supomos que u é uma potência exata de 2 isto é u 2k para algum inteiro k 1 A Seção 201 começa examinando algumas abordagens simples que nos conduzirão na direção certa Aprimoramos essas abordagens na seção 202 introduzindo estruturas protovan Emde Boas que são recursivas mas não cumprem nossa meta de operações no tempo Olg lg u A Seção 203 modifica as estruturas protovan Emde Boas para desenvolver árvores de van Emde Boas e mostra como implementar cada operação no tempo Olg lg u ABORDAGENS PRELIMINARES Nesta seção examinaremos várias abordagens para armazenar um conjunto dinâmico Embora nenhuma alcance os limites de tempo Olg lg u que desejamos entenderemos um pouco mais sobre árvores de van Emde Boas o que nos ajudará mais adiante neste capítulo Endereçamento direto Como vimos na Seção 111 o endereçamento direto nos dá a abordagem mais simples para armazenar um conjunto dinâmico Visto que neste capítulo nos preocupamos somente com armazenamento de chaves podemos simplificar a abordagem do endereçamento direto para armazenar o conjunto dinâmico como um vetor de bits como discutimos no Exercício 1112 Para armazenar um conjunto dinâmico de valores do universo 0 1 2 u 1 mantemos um arranjo A0 u 1 de u bits A entrada Ax contém um 1 se o valor x estiver no conjunto dinâmico caso contrário contém um 0 Embora possamos executar cada uma das operações INSERT DELETE e MEMBER no tempo O 1 com um vetor de bits cada uma das operações restantes MINIMUM MAXIMUM SUCCESSOR e PREDECESSOR leva tempo u no pior caso porque poderíamos ter de varrer u elementos2 Por exemplo se um conjunto contém somente os valores 0 e u 1 para encontrar o sucessor de 0 teríamos de varrer as entradas 1 a u 2 antes de encontrar um 1 em A u 1 Sobrepondo uma estrutura de árvore binária Podemos abreviar longas varreduras no vetor de bits sobrepondo a ele uma árvore binária de bits A Figura 201 mostra um exemplo As entradas do vetor de bits formam as folhas da árvore binária e cada nó interno contém um 1 se e somente se qualquer folha em sua subárvore contém um 1 Em outras palavras o bit armazenado em um nó interno é o OR OU lógico de seus dois filhos Figura 201 A árvore binária de bits sobreposta a um vetor de bits que representa o conjunto 2 3 4 5 7 14 15 quando u 16 Cada nó interno contém um 1 se e somente se alguma folha em sua subárvore contém um 1 As setas mostram o caminho seguido para determinar o predecessor de 14 no conjunto As operações que levaram o tempo u do pior caso com um vetor de bits não adornado agora usam a estrutura de árvore Para encontrar o valor mínimo no conjunto comece na raiz e dirijase para baixo até as folhas sempre tomando o nó à extrema esquerda que contém um 1 Para encontrar o valor máximo no conjunto comece na raiz e dirijase para baixo até as folhas tomando sempre o nó à extrema direita que contém um 1 Para encontrar o sucessor de x comece na folha indexada por x e prossiga para cima na direção da raiz até entrar em um nó pela esquerda e esse nó tiver um 1 em seu filho à direita z Então desça pelo nó z tomando sempre o nó à extrema esquerda que contém um 1 isto é ache o valor mínimo na subárvore com raiz no filho à direita z Para encontrar o predecessor de x comece na folha indexada por x e continue para cima na direção da raiz até entrar em um nó pela direita e esse nó tiver um 1 em seu filho à esquerda z Então desça pelo nó z tomando sempre o nó à extrema direita que contém um 1 isto é ache o valor máximo na subárvore com raiz no filho à esquerda z A Figura 201 mostra o caminho percorrido para encontrar o predecessor 7 do valor 14 Também aumentamos as operações INSERT e DELETE adequadamente Quando inserimos um valor armazenamos um 1 em cada nó no caminho simples ascendente da folha adequada até a raiz Quando eliminamos um valor percorremos o caminho ascendente da folha adequada até a raiz recalculando o bit em cada nó interno no caminho como o OU OR lógico de seus dois filhos Visto que a altura da árvore é lg u e cada uma das operações acima executa no máximo uma passagem ascendente pela árvore e no máximo uma passagem descendente cada operação demora o tempo Olg u no pior caso Essa abordagem é apenas marginalmente melhor do que simplesmente usar uma árvore vermelhopreto Ainda podemos executar a operação MEMBER no tempo O1 ao passo que executar uma busca em uma árvore vermelho preto demora o tempo Olg n Então novamente se o número n de elementos armazenados é muito menor que o tamanho u do universo a árvore vermelhopreto será mais rápida para todas as outras operações Sobrepondo uma árvore de altura constante O que acontece se sobrepusermos uma árvore com grau maior Vamos supor que o tamanho do universo seja u 22k para algum inteiro k de modo que u é um inteiro Em vez de sobrepor uma árvore binária ao vetor de bits sobrepomos uma árvore de grau u A Figura 202a mostra tal árvore para o mesmo vetor de bits da Figura 201 A altura da árvore resultante é sempre 2 Como antes cada nó interno armazena o OR OU lógico dos bits dentro de sua subárvore de modo que os u nós internos na profundidade 1 resumem cada grupo de u valores Como a Figura 202b demonstra podemos imaginar esses nós como um arranjo resumo summary 0u1 onde summary i contém um 1 se e somente se o subarranjo A iui1u1 contém um 1 Denominamos esse subarranjo de u bits de A o iésimo cluster grupo Para um dado valor de x o bit Ax aparece no grupo número x u Agora INSERT tornase uma operação de tempo O1 para inserir x defina Ax e summaryx u como 1 Podemos usar o arranjo summary para executar cada uma das operações MINIMUM MAXIMUM SUCCESSOR PREDECESSOR e DELETE no tempo Ou Para encontrar o valor mínimo máximo encontre a entrada à extrema esquerda à extrema direita em summary que contém um 1 digamos summaryi e depois execute uma busca linear dentro do iésimo grupo para o 1 à extrema esquerda à extrema direita 2011 2012 2013 2014 202 Figura 202 a Árvore de grau u sobreposta ao mesmo vetor de bits da Figura 201 Cada nó interno armazena o OU OR lógico dos bits em sua subárvore b Uma vista da mesma estrutura porém na qual os nós internos na profundidade 1 são tratados como um arranjo summary 0 u1 onde summary i é o OU OR lógico do subarranjo A iu i1 u1 Para encontrar o sucessor predecessor de x primeiro execute uma busca à direita à esquerda dentro de seu grupo Se encontrar um 1 essa posição dá o resultado Caso contrário seja i x u e execute uma busca à direita à esquerda dentro do arranjo summary partindo do índice i A primeira posição que contém um 1 dá o índice de um grupo Execute uma busca dentro desse grupo para o 1 à extrema esquerda à extrema direita Essa posição contém o sucessor predecessor Para eliminar o valor x seja i x u Defina Ax como 0 e summaryi como o OU OR lógico dos bits no i ésimo grupo Em cada uma dessas operações executamos a busca em no máximo dois grupos de u bits mais o arranjo summary e assim cada operação leva o tempo Ou À primeira vista parece que nosso progresso foi negativo Sobrepor a árvore binária nos deu operações de tempo Olg u que são assintoticamente mais rápidas do que as de tempo O u Contudo veremos que usar uma árvore de grau u é uma ideia fundamental das árvores de van Emde Boas Continuaremos nesse caminho na próxima seção Exercícios Modifique as estruturas de dados nesta seção para suportar chaves duplicadas Modifique as estruturas de dados nesta seção para suportar chaves que têm dados satélites associados Observe que usando as estruturas nesta seção o modo como encontramos o sucessor e o predecessor de um valor x não depende de x estar no conjunto no momento em questão Mostre como encontrar o sucessor de x em uma árvore de busca binária quando x não está armazenado na árvore Suponha que em vez de sobrepor uma árvore de grau u quiséssemos sobrepor uma árvore de grau u1k onde k 1 é uma constante Qual seria a altura de tal árvore e quanto tempo demoraria cada uma das operações UMA ESTRUTURA RECURSIVA Nesta seção modificamos a ideia de sobrepor uma árvore de grau u a um vetor de bits Na seção anterior usamos uma estrutura de resumo de tamanho u na qual cada entrada aponta para uma outra estrutura de tamanho u Agora tornamos a estrutura recursiva reduzindo o tamanho do universo pela raiz quadrada em cada nível de recursão Começando com um universo de tamanho u fazemos estruturas que contêm u u12 itens que por sua vez contêm estruturas de u14 itens que contêm estruturas de u18 itens e assim por diante até um tamanhobase de 2 Por simplicidade nesta seção consideramos que u 22 para algum inteiro k de modo que u u12 u14sejam inteiros Essa restrição seria bem rigorosa na prática e permitiria somente valores de u na sequência 2 4 16 256 65536 Na próxima seção veremos como relaxar essa condição para u 2k para algum inteiro k Visto que a estrutura que examinamos nesta seção é apenas uma precursora da verdadeira estrutura de árvore de van Emde Boas toleramos essa restrição em favor de um melhor entendimento Lembrando que nossa meta é conseguir tempos de execução de Olg lg u para as operações vamos pensar em como poderíamos obter tais tempos de execução No final da Seção 43 vimos que trocando variáveis podíamos mostrar que a recorrência tem a solução Tn Olg n lg lg n Vamos considerar ume recorrência semelhante porém mais simples Se usarmos a mesma técnica troca de variáveis podemos mostrar que a recorrência 202 tem solução Tu Olg lg u Seja m lg u de modo que u 2m e temos Agora renomeamos Sm T2m o que dá a nova recorrência Sm Sm2 O1 Pelo caso 2 do método mestre essa recorrência tem a solução Sm Olg m Voltamos a trocar Sm por Tu o que dá Tu T2m Sm Olg m Olg lg u A recorrência 202 guiará a nossa busca por uma estrutura de dados Projetaremos uma estrutura de dados recursiva que é reduzida por um fator de u em cada nível de sua recursão Quando uma operação percorre essa estrutura de dados gasta uma quantidade de tempo constante em cada nível antes de executar a recursão para o nível abaixo Então a recorrência 202 caracteriza o tempo de execução da operação Apresentamos agora um outro modo de pensar sobre como o termo lg lg u acaba aparecendo na solução da recorrência 202 Examinando o tamanho do universo em cada nível da estrutura de dados recursiva vemos a sequência u u12 u14 u18 Se considerarmos quantos bits precisamos para armazenar o tamanho de universo em cada nível precisamos de lg u no nível superior e cada nível precisa de metade dos bits do nível anterior Em geral se começarmos com b bits e dividirmos o número de bits pela metade em cada nível após lg b níveis chegaremos a apenas um bit Como b lg u vemos que após lg lg u níveis temos um tamanho de universo igual a 2 Voltando a examinar a estrutura de dados na Figura 202 determinado valor x reside no grupo número x u Se virmos x como um inteiro binário de lg u bits aquele número de grupo x u é dado pelos lg u2 bits mais significativos de x Dentro de seu grupo x aparece na posição x mod u que é dada pelos lg u2 bits menos significativos de x Precisaremos indexar desse modo e portanto vamos definir algumas funções que nos ajudarão a fazer isso 2021 Figura 203 A informação em uma estrutura protovEBu quando u 4 A estrutura contém o tamanho de universo u um ponteiro summary para uma estrutura protovEB u e um arranjo cluster 0 u 1 de ponteiros u para estruturas protovEB u A função highx dá os lg u2 bits mais significativos de x produzindo o número do grupo de x A função lowx dá os lg u2 bits menos significativos de x e a posição de x dentro de seu grupo A função indexy constrói um número de elemento a partir de x e y tratando x como os lg u2 bits mais significativos do número do elemento e y como os lg u2 bits menos significativos Temos a identidade x indexhighx lowx O valor de u usado por cada uma dessas funções será sempre o tamanho de universo da estrutura de dados na qual chamamos a função que muda ao descermos e entrarmos na estrutura recursiva ESTRUTURAS PROTOVAN EMDE BOAS De acordo com o que indica a recorrência 202 vamos projetar uma estrutura de dados recursiva para suportar as operações Apesar de que essa estrutura de dados não conseguirá cumprir nossa meta de tempo Olg lg u para algumas operações ela serve como base para a estrutura da árvore de van Emde Boas que veremos na Seção 203 Para o universo 0 1 2 u 1 definimos uma estrutura protovan Emde Boas ou estrutura protovEB que denotamos por protovEBu recursivamente da maneira descrita a seguir Cada estrutura protovEBu contém um atributo u que dá seu tamanho de universo Além disso ela contém o seguinte Se u 2 então ela é o tamanhobase e contém um arranjo A0 1 de dois bits Caso contrário u 22k para algum inteiro k 1 de modo que u 4 Além do tamanho de universo u a estrutura de dados protovEBu contém os seguintes atributos ilustrados na Figura 203 um ponteiro denominado summary para uma estrutura protovEB u resumo e um arranjo cluster 0u1 de u ponteiros cada um para uma estrutura protovEB u O elemento x onde 0 x u é armazenado recursivamente no grupo numerado highx como elemento lowx dentro daquele grupo Na estrutura de dois níveis da seção anterior cada nó armazena um arranjo resumo de tamanho u no qual cada entrada contém um bit Pelo índice de cada entrada podemos calcular o índice inicial do subarranjo de tamanho u que o bit resume Na estrutura protovEB usamos ponteiros explícitos em vez de cálculos de índices O arranjo summary contém os bits de resumo armazenados recursivamente em uma estrutura protovEB e o arranjo cluster contém u ponteiros A Figura 204 mostra uma estrutura protovEB16 totalmente expandida que representa o conjunto 2 3 4 5 7 14 15 Se o valor i estiver na estrutura protovEB para a qual summary aponta então o iésimo grupo contém algum valor no conjunto que está sendo representado Figura 204 Uma estrutura protoEB16 que representa o conjunto 2 3 4 5 7 14 15 Ela aponta para quatro estruturas protovEB4 em cluster03 e para uma estrutura resumo que é também uma protovEB4 Cada estrutura protovEB4 aponta para duas estruturas protovEB2 em cluster 01 e para uma resumo protovEB2 Cada estrutura protovEB2 contém apenas um arranjo A01 de dois bits As estruturas protoEB2 acima de elementos ij armazenam bits i e j do conjunto dinâmico propriamente dito e as estruturas protovEB2 acima dos grupos ij armazenam os bits resumo para os grupos i e j na estrutura protovEB16 do nível superior Por questão de clareza os retângulos sombreados em tom mais escuro indicam o nível superior de uma estrutura protovEB que armazena informações de resumo para sua estrutura pai em todos os outros aspectos tal estrutura protovEB é idêntica a qualquer outra estrutura protovEB com o mesmo tamanho de universo Como na árvore de altura constante clusteri representa os valores iu de i 1 u 1 que forma o iésimo grupo No nívelbase os elementos dos conjuntos dinâmicos propriamente ditos são armazenados em algumas das estruturas protovEB2 e as estruturas protovEB2 restantes armazenam bits de resumo Abaixo de cada uma das estruturas bases não summary a figura indica quais bits tal estrutura armazena Por exemplo a estrutura protovEB2 rotulada elementos 67 armazena o bit 6 0 visto que o elemento 6 não está no conjunto em seu A0 e o bit 7 1 visto que o elemento 7 está no conjunto em seu A1 Como os grupos cada resumo é apenas um conjunto dinâmico com tamanho de universo u portanto representamos cada resumo como uma estrutura protovEB u Os quatro bits de resumo para a estrutura proto vEB16 principal estão à extrema esquerda da estrutura protovEB4 e afinal aparecem em duas estruturas proto vEB2 Por exemplo a estrutura protovEB2 rotulada grupos 23 tem A0 0 o que indica que o grupo 2 da estrutura protovEB16 que contém os elementos 8 9 10 11 é todo 0 e A1 1 que nos diz que o grupo 3 que contém os elementos 12 13 14 15 tem no mínimo um 1 Cada estrutura protovEB4 aponta para seu próprio resumo que por sua vez é armazenado como uma estrutura protovEB2 Por exemplo examine a estrutura proto 2022 vEB2 imediatamente à esquerda da estrutura rotulada elementos 01 Como seu A0 é 0 ela nos diz que a estrutura elementos 0 1 é toda 0 e como seu A1 é 1 sabemos que a estrutura elementos 23 contém no mínimo um 1 OPERAÇÕES EM UMA ESTRUTURA PROTOVAN EMDE BOAS Agora descreveremos como executar operações em uma estrutura protovEB Em primeiro lugar examinamos as operações de consulta MEMBER MINIMUM e SUCCESSOR que não mudam a estrutura protovEB Em seguida discutiremos INSERT e DELETE Deixamos MAXIMUM e PREDECESSOR que são simétricas em relação a MINIMUM e SUCCESSOR respectivamente para o Exercício 2021 Cada uma das operações MEMBER SUCCESSOR PREDECESSOR INSERT e DELETE adota um parâmetro x juntamente com a estrutura protovEB V Cada uma dessas operações considera que 0 x Vu Determinando se um valor está no conjunto Para executar MEMBERx precisamos encontrar o bit que corresponde a x dentro da estrutura protovEB2 adequada Podemos fazer isso no tempo Olg lg u se evitarmos totalmente as estruturas summary O seguinte procedimento toma uma estrutura protovEB V e um valor x e retorna um bit que indica se x está no conjunto dinâmico mantido por V O procedimento PROTOVEBMEMBER funciona da maneira descrita a seguir A linha 1 testa se estamos em um caso base quando V é uma estrutura protovEB2 A linha 2 trata o casobase simplesmente retornando o bit de arranjo A adequado A linha 3 trata o caso recursivo perfurando a estrutura protovEB menor adequada O valor highx informa qual estrutura protovEBu visitamos e lowx determina qual elemento dentro daquela estrutura protovEB u estamos consultando Vamos ver o que acontece quando chamamos PROTOVEBMEMBERV6 na estrutura protovEB16 na Figura 204 Visto que high6 1 quando u 16 executamos recursão na estrutura protovEB4 na parte superior à direita e indagamos sobre o elemento low6 2 daquela estrutura Nessa chamada recursiva u 4 e assim executamos novamente uma recursão Com u 4 temos high2 1 e low2 0 e assim indagamos sobre o elemento 0 da estrutura protovEB2 na parte superior à direita Essa chamada recursiva revela ser um casobase e assim retorna A0 0 de volta para cima por meio da cadeia de chamadas recursivas Assim obtemos o resultado de que PROTOVEB MEMBERV 6 retorna 0 indicando que 6 não está no conjunto Para determinar o tempo de execução de PROTOVEBMEMBER seja Tu seu tempo de execução em uma estrutura protovEBu Cada chamada recursiva leva tempo constante não incluindo o tempo que demoram as chamadas recursivas que o procedimento faz Quando PROTOVEBMEMBER faz uma chamada recursiva faz uma chamada em uma estrutura protovEB u Assim podemos caracterizar o tempo de execução pela recorrência Tu T u O1 que já vimos como recorrência 202 Sua solução é Tu Olg lg u e portanto concluímos que PROTOVEBMEMBER é executada no tempo Olg lg u Achando o elemento mínimo Agora examinamos como executar a operação MINIMUM O procedimento PROTOVEBMINIMUMV retorna o elemento mínimo na estrutura protovEB V ou NIL se V representar um conjunto vazio Esse procedimento funciona da seguinte maneira a linha 1 testa se é o casobase que as linhas 26 tratam por força bruta As linhas 711 tratam o caso recursivo Primeiro a linha 7 encontra o número do primeiro grupo que contém um elemento do conjunto Faz isso recursivamente chamando PROTOVEBMINIMUM em Vsummary que é uma estrutura protovEBu A linha 7 atribui esse número de grupo à variável mincluster Se o conjunto é vazio a chamada recursiva retornou NIL e a linha 9 retorna NIL Caso contrário o elemento mínimo do conjunto está em algum lugar no grupo número mincluster A chamada recursiva na linha 10 encontra o deslocamento offset dentro do grupo do elemento mínimo nesse grupo Finalmente a linha 11 constrói o valor do elemento mínimo a partir do número do grupo e do deslocamento offset e devolve esse valor Embora consultar as informações de resumo nos permita encontrar rapidamente o grupo que contém o elemento mínimo como esse procedimento faz duas chamadas recursivas em estruturas protovEBu não é executada no tempo Olg lg u no pior caso Denotando por Tu o tempo do pior caso para PROTOVEBMINIMUM em uma estrutura protovEBu temos a recorrência Novamente usamos uma troca de variáveis para resolver essa recorrência fazendo m lg u o que dá Renomeando Sm T 2m temos que pelo caso 1 do método mestre tem a solução Sm m Destrocando Sm para Tu temos que Tu T2m Sm m lg u Assim vemos que por causa da segunda chamada recursiva PROTOVEBMINIMUM é executada no tempo lg u em vez de no tempo desejado Olg lg u Encontrando o sucessor A operação SUCCESSOR é ainda pior No pior caso faz duas chamadas recursivas juntamente com a chamada a PROTOVEBMINIMUM O procedimento PROTOVEBSUCCESSOR V x retorna o menor elemento na estrutura protovEB V que é maior que x ou NIL se nenhum elemento em V é maior que x O procedimento não exige que x seja um membro do conjunto mas supõe que 0 x Vu O procedimento PROTOVEBSUCCESSOR funciona da maneira descrita a seguir Como sempre a linha 1 testa para o casobase cujas linhas 24 tratam por força bruta o único modo pelo qual x pode ter um sucessor dentro de uma estrutura protovEB2 é quando x 0 e A1 é 1 As linhas 512 tratam o caso recursivo A linha 5 procura um sucessor para x dentro do grupo de x designando o resultado a offset A linha 6 determina se x tem um sucessor dentro de seu grupo se tiver a linha 7 calcula e retorna o valor desse sucessor Caso contrário temos de procurar em outros grupos A linha 8 designa a succcluster o número do próximo grupo não vazio usando as informações de resumo para encontrálo A linha 9 testa se succcluster é NIL e a linha 10 retorna NIL se todos os grupos subsequentes são vazios Se succcluster é não NIL a linha 11 designa o primeiro elemento dentro daquele grupo a offset e a linha 12 calcula e retorna o elemento mínimo naquele grupo No pior caso PROTOVEBSUCCESSOR chama a si mesma recursivamente duas vezes nas estruturas protovEBu e faz uma chamada a PROTOVEBMINIMUM em uma estrutura protovEBu Assim a recorrência para o tempo de execução do pior caso Tu de PROTOVEBSUCCESSOR é Podemos empregar a mesma técnica que usamos para a recorrência 201 para mostrar que essa recorrência tem a solução Tu lg u lg lg u Assim PROTOVEBSUCCESSOR é assintoticamente mais lenta que PROTOVEBMINIMUM Inserindo um elemento Para inserir um elemento precisamos inserilo no grupo adequado e também atribuir 1 ao bit de resumo para aquele grupo O procedimento PROTOVEBINSERT V x insere o valor x na estrutura protovEB V 2021 2022 2023 2024 2025 2026 2027 2028 203 No casobase a linha 2 define como 1 o bit adequado no arranjo A No caso recursivo a chamada recursiva na linha 3 insere x no grupo adequado e a linha 4 define como 1 o bit de resumo para aquele grupo Como PROTOVEBINSERT faz duas chamadas recursivas no pior caso a recorrência 203 caracteriza seu tempo de execução Por consequência PROTOVEBINSERT é executada no tempo lg u Eliminando um elemento A operação DELETE é mais complicada que a inserção Ao passo que sempre podemos definir um bit de resumo como 1 quando executamos uma inserção nem sempre podemos redefinir o mesmo bit como 0 quando executamos uma eliminação Precisamos determinar se qualquer bit no grupo adequado é 1 Como definimos estruturas protovEB teríamos de examinar todos os u bits dentro de um grupo para determinar se qualquer deles é 1 Alternativamente poderíamos adicionar um atributo n à estrutura protovEB para contar quantos elementos ela tem Deixamos a implementação de PROTOVEBDELETE para os Exercícios 2022 e 2023 É claro que precisamos modificar a estrutura protovEB para conseguir que cada operação faça no máximo uma chamada recursiva Na próxima seção veremos como fazer isso Exercícios Escreva pseudocódigo para os procedimentos PROTOVEBMAXIMUM e PROTOVEBPREDECESSOR Escreva pseudocódigo para PROTOVEBDELETE O pseudocódigo deve atualizar o bit de resumo adequado executando uma varredura nos bits relacionados dentro do grupo Qual é o tempo de execução do pior caso de seu procedimento Adicione o atributo n a cada estrutura protovEB para dar o número de elementos atualmente no conjunto que ele representa e escreva pseudocódigo para PROTOVEBDELETE que use o atributo n para decidir quando atribuir 0 aos bits de resumo Qual é o tempo de execução do pior caso do seu procedimento Quais outros procedimentos precisam mudar por causa do novo atributo Essas mudanças afetam seus tempos de execução Modifique a estrutura protovEB para suportar chaves duplicadas Modifique a estrutura protovEB para suportar chaves que tenham dados satélites associados Escreva pseudocódigo para um procedimento que cria uma estrutura protovEBu Demonstre que se a linha 9 de PROTOVEBMINIMUM é executada a estrutura protovEB é vazia Suponha que projetemos uma estrutura protovEB na qual cada arranjo cluster tenha somente u14 elementos Quais seriam os tempos de execução de cada operação A ÁRVORE DE VAN EMDE BOAS A estrutura protovEB da seção anterior está próxima do que precisamos para conseguir tempos de execução Olg lg u Ela não alcança esse objetivo porque temos de executar recursão muitas vezes na maioria das operações Nesta seção projetaremos uma estrutura de dados que é semelhante à estrutura protovEB mas armazena uma quantidade um pouco maior de informações o que resulta na eliminação de algumas operações recursivas 2031 Na Seção 202 observamos que a premissa que adotamos em relação ao tamanho de universo de u 22k para algum inteiro k é indevidamente restritiva já que confina os valores possíveis de u a um conjunto excessivamente esparso Portanto deste ponto em diante permitiremos que o tamanho de universo u seja qualquer potência exata de 2 e quando u não for um inteiro isto é se u for um potência ímpar de 2 u 22k 1 para algum inteiro k 0 então dividiremos os lg u bits de um número em bits mais significativos lg u 2 e bits menos significativos lg u 2 Por conveniência denotamos 2lg u2 a raiz quadrada superior de u por e 2 lgu2a raiz quadrada inferior de u por de modo que u e quando u é uma potência par de 2 u 22k para algum inteiro k u Como agora permitimos que u seja uma potência ímpar de 2 temos de redefinir nossas prestimosas funções da Seção 202 Figura 205 As informações em uma árvore vEBu quando u 2 A estrutura contém o tamanho de universo u elementos min e max um ponteiro summary para uma árvore e um arranjo cluster 0 1 de ponteiros para árvores vEB ÁRVORES DE VAN EMDE BOAS A árvore de van Emde Boas ou árvore vEB modifica a estrutura protovEB Denotamos por vEBu uma árvore vEB com tamanho de universo de u e a menos que u seja igual ao tamanhobase 2 o atributo summary aponta para uma árvore e o arranjo cluster 0 1 aponta para árvores vEB Como a Figura 205 ilustra uma árvore vEB contém dois atributos não encontrados em uma estrutura protovEB min armazena o elemento mínimo na árvore vEB e max armazena o elemento máximo na árvore vEB Além do mais o elemento armazenado em min não aparece em nenhuma das árvores recursivas vEB para a qual o arranjo cluster aponta Portanto os elementos armazenados em uma árvore vEB são Vmin mais todos os elementos armazenados recursivamente nas árvores vEB para as quais o Vcluster 0 1 aponta Observe que quando uma árvore vEB contém dois ou mais elementos tratamos min e max de modos diferentes o elemento 1 2 3 4 armazenado em min não aparece em nenhum dos grupos mas exceto quando a árvore contém só um elemento e nesse caso o máximo e o mínimo coincidem o elemento armazenado em max aparece Visto que o tamanhobase é 2 uma árvore vEB2 não precisa do arranjo A que a estrutura protovEB2 correspondente tem Em vez disso podemos determinar seus elementos por seus atributos min e max Em uma árvore vEB sem nenhum elemento independentemente do tamanho do universo u min e max são NIL A Figura 206 mostra uma árvore vEB16 que mantém o conjunto 2 3 4 5 7 14 15 Como o menor elemento é 2 Vmin é igual a 2 e apesar de o que high2 0 o elemento 2 não aparece na árvore vEB4 para a qual Vcluster0 aponta observe que Vcluster0 min é igual a 3 e portanto 2 não está nessa árvore vEB De modo semelhante visto que Vcluster0 min é igual a 3 e 2 e 3 são os únicos elementos em Vcluster0 os grupos vEB2 dentro de Vcluster0 são vazios Os atributos min e max serão fundamentais para reduzir o número de chamadas recursivas dentro de operações em árvores vEB Esses atributos nos ajudarão de quatro modos As operações MINIMUM e MAXIMUM nem mesmo precisam executar recursão porque podem apenas retornar os valores de min ou max A operação SUCCESSOR pode evitar fazer uma chamada recursiva para determinar se o sucessor de um valor x se encontra dentro de highx Isso porque o sucessor de x se encontra dentro de seu grupo se e somente se x é estritamente menor que o atributo max de seu grupo Um argumento simétrico é válido para PREDECESSOR e min Podemos dizer se uma árvore vEB não tem nenhum elemento exatamente um elemento ou no mínimo dois elementos em tempo constante por seus valores min e max Essa capacidade nos ajudará nas operações INSERT e DELETE Se min e max são NIL então a árvore vEB não tem nenhum elemento Se min e max são não NIL mas um é igual ao outro então a árvore vEB tem exatamente um elemento Caso contrário min e max são não NIL mas não são iguais e a árvore vEB tem dois ou mais elementos Se sabemos que uma árvore vEB é vazia podemos inserir um elemento atualizando somente seus atributos min e max Por consequência podemos inserir em uma árvore vEB vazia em tempo constante De modo semelhante se sabemos que uma árvore vEB tem somente um elemento podemos eliminar esse elemento em tempo constante atualizando somente min e max Essas propriedades nos permitirão abreviar a cadeia de chamadas recursivas Ainda que o tamanho de universo u seja uma potência ímpar de 2 notamos que a diferença entre os tamanhos da árvore vEB resumo e dos grupos não afetará os tempos de execução assintóticos das operações de árvore vEB Os tempos de execução de todos os procedimentos recursivos que implementam as operações de árvore vEB serão caracterizados pela recorrência Essa recorrência parece semelhante à recorrência 202 e nós a resolveremos de maneira semelhante Fazendo m lg u podemos reescrevêla como Observando que m2 2m3 para todo m 2 temos Fazendo Sm T2m reescrevemos esta última recorrência como cuja solução pelo caso 2 do método mestre é Sm Olg m Em termos da solução assintótica a fração 23 não faz nenhuma diferença em comparação com a fração 12 porque quando aplicamos o método mestre constatamos que log32 1 log2 1 0 Assim temos Tu T2 Sm O lg m Olg lg u 2032 Antes de usar uma árvore de van Emde Boas temos de saber qual é o tamanho de universo u para que possamos criar uma árvore de van Emde Boas do tamanho adequado que represente inicialmente um conjunto vazio Como o Problema 201 pede que você mostre o requisito de espaço total de uma árvore de van Emde Boas é Ou e criar uma árvore vazia no tempo Ou é uma operação óbvia Por comparação podemos criar uma árvore vermelhopreto vazia em tempo constante Portanto poderia não ser uma boa ideia usar uma árvore de van Emde Boas quando executamos somente um número pequeno de operações visto que o tempo para criar a estrutura de dados seria maior que o tempo poupado nas operações individuais Em geral essa desvantagem não é significativa já que normalmente usamos uma estrutura de dados simples como um arranjo ou lista ligada para representar um conjunto que tenha somente um pequeno número de elementos Figura 206 Uma árvore vEB16 correspondente à árvore protovEB da Figura 204 Ela armazena o conjunto 2 3 4 5 7 14 15 Barras inclinadas indicam valores NIL O valor armazenado no atributo min de uma árvore vEB não aparece em nenhum de seus grupos O sombreado em tom mais escuro tem a mesma finalidade que o da Figura 204 OPERAÇÕES EM UMA ÁRVORE DE VAN EMDE BOAS Agora estamos prontos para ver como executar operações em uma árvore de van Emde Boas Como fizemos para a estrutura protovan Emde Boas consideraremos em primeiro lugar as operações de consulta e em seguida INSERT e DELETE Devido à ligeira assimetria entre os elementos mínimo e máximo em uma árvore vEB quando uma árvore vEB contém no mínimo dois elementos o elemento mínimo não aparece dentro de um grupo mas o elemento máximo aparece daremos pseudocódigo para todas as cinco operações de consulta Como ocorre nas operações em estruturas protovan Emde Boas aqui as operações que adotam os parâmetros V e x onde V é uma árvore de van Emde Boas e x é um elemento supõem que 0 x Vu Encontrando os elementos mínimo e máximo Como armazenamos o mínimo e o máximo nos atributos min e max duas das operações têm somente uma linha e demoram tempo constante Determinando se um valor está no conjunto O procedimento VEBTREEMEMBER V x tem um caso recursivo como o de PROTOVEBMEMBER mas o casobase é um pouco diferente Verificamos também diretamente se x é igual ao elemento mínimo ou ao elemento máximo Visto que uma árvore vEB não armazena bits como uma estrutura protovEB faz projetamos VEBTREEMEMBER para retornar TRUE ou FALSE em vez de 1 ou 0 A linha 1 verifica se x é igual ou ao elemento mínimo ou ao elemento máximo Se for a linha 2 retorna TRUE Caso contrário a linha 3 testa para o casobase Visto que uma árvore vEB2não tem nenhum elemento exceto os que estão em min e max se for o casobase a linha 4 retorna FALSE A outra possibilidade não é um casobase e x não é igual a min nem a max é tratada pela chamada recursiva na linha 5 A recorrência 204 caracteriza o tempo de execução do procedimento vEBTREEMEMBER e portanto esse procedimento leva o tempo Olg lg u Achando o sucessor e o predecessor Em seguida vemos como implementar uma operação SUCCESSOR Lembrese de que o procedimento PROTOVEB SUCCESSOR V x podia fazer duas chamadas recursivas uma para determinar se o sucessor de x reside no mesmo grupo que x e se não residir uma para encontrar o grupo que contém o sucessor de x Como podemos acessar o valor máximo em uma árvore vEB rapidamente podemos evitar de fazer duas chamadas recursivas fazendo em vez disso uma chamada recursiva em um grupo ou no resumo mas não em ambos Esse procedimento tem cinco instruções return e vários casos Começamos com o casobase nas linhas 24 que devolve 1 na linha 3 se estivermos tentando encontrar o sucessor de 0 e 1 estiver no conjunto de 2 elementos caso contrário o casobase devolve NIL na linha 4 Se não estivermos no casobase em seguida verificamos na linha 5 se x é estritamente menor que o elemento mínimo Se for simplesmente devolvemos o elemento mínimo na linha 6 Se chegarmos à linha 7 sabemos que não estamos em um casobase e que x é maior ou igual ao valor mínimo na árvore vEB V A linha 7 atribui a maxlow o elemento máximo no grupo de x Se o grupo de x contém algum elemento maior que x sabemos que o sucessor de x se encontra em algum lugar dentro do grupo de x A linha 8 testa essa condição Se o sucessor de x estiver dentro do grupo de x a linha 9 determina em que lugar do grupo ele está e a linha 10 retorna o sucessor do mesmo modo que a linha 7 de PROTOvEBSUCCESSOR Chegamos à linha 11 se x é maior ou igual ao maior elemento em seu grupo Nesse caso as linhas 1115 encontram o sucessor de x do mesmo modo que as linhas 812 de PROTOvEBSUCCESSOR É fácil ver como a recorrência 204 caracteriza o tempo de execução de vEBTREESUCCESSOR Dependendo do resultado do teste na linha 7 o procedimento chama a si mesmo recursivamente na linha 9 em uma árvore vEB com tamanho de universo ou na linha 11 em uma árvore vEB com tamanho de universo Em qualquer dos casos a única chamada recursiva é em uma árvore vEB com tamanho de universo nO máximo O restante do procedimento incluindo as chamadas a VEBTREEMINIMUM e vEBTREEMAXIMUM leva o tempo O1 Por consequência vEBTREE SUCCESSOR é executado no tempo do pior caso Olg lg u O procedimento vEBTREEPREDECESSOR é simétrico ao procedimento vEBTREESUCCESSOR porém com um caso adicional As linhas 1314 formam o caso adicional Esse caso ocorre quando o predecessor de x se existir não reside no grupo de x Em vEBTREESUCCESSOR tínhamos certeza de que se o sucessor de x reside fora do grupo de x deve residir em um grupo de número mais alto Porém se o predecessor de x é o valor mínimo na árvore vEB V então definitivamente o predecessor não reside em nenhum grupo A linha 13 verifica essa condição e a linha 14 devolve o valor mínimo como adequado Esse caso extra não afeta o tempo de execução assintótico de vEBTREEPREDECESSOR quando comparado com vEB TREESUCCESSOR e portanto vEBTREEPREDECESSOR é executado no tempo do pior caso Olg lg u Inserindo um elemento Agora examinamos como inserir um elemento em uma árvore vEB Lembrese de que PROTOvEB INSERT fazia duas chamadas recursivas uma para inserir o elemento e uma para inserir o número do grupo do elemento no resumo O procedimento vEBTREEINSERT fará somente uma chamada recursiva Como podemos nos safar com apenas uma Quando inserimos um elemento o grupo no qual ele entra já tem um outro elemento ou não tem Se o grupo já tiver um outro elemento o número do grupo já está no resumo e assim não precisamos fazer aquela chamada recursiva Se o grupo ainda não tiver nenhum outro elemento o elemento que está sendo inserido tornase o único elemento no grupo e não precisamos executar recursão para inserir um elemento em uma árvore vEB vazia Com esse procedimento em mãos apresentamos aqui o pseudocódigo para vEBTREEINSERTV x que supõe que x ainda não é um elemento no conjunto representado pela árvore vEB V Esse procedimento funciona da seguinte maneira a linha 1 testa se V é uma árvore vEB vazia e se for a linha 2 trata esse caso fácil As linhas 311 sabem que V não é vazia e portanto algum elemento será inserido em um dos grupos de V Mas esse elemento poderia não ser necessariamente o elemento x passado para vEBTREEINSERT Se x min como testado na linha 3 então x precisa tornarse o novo min Todavia não queremos perder o min original e por isso precisamos inserilo em um dos grupos de V Nesse caso a linha 4 permuta x por min de modo que inserimos o min original em um dos grupos de V Executamos as linhas 69 somente se V não for uma árvore vEB do casobase A linha 6 determina se o grupo para o qual x irá está atualmente vazio Se estiver a linha 7 insere o número do grupo de x no resumo e a linha 8 trata o caso fácil que é inserir x em um grupo vazio Se o grupo de x não estiver vazio no momento em questão a linha 9 insere x em seu grupo Nesse caso não precisamos atualizar o resumo visto que o número do grupo de x já é um membro do resumo Finalmente as linhas 1011 cuidam de atualizar max se x max Observe que se V é uma árvore vEB do caso base as linhas 34 e 1011 atualizam min e max adequadamente Mais uma vez é fácil ver como a recorrência 204 caracteriza o tempo de execução Dependendo do resultado do teste na linha 6 é executada a chamada recursiva na linha 7 em uma vEB com tamanho de universo ou a chamada recursiva na linha 9 em uma vEB com tamanho de universo Em qualquer dos casos essa única chamada recursiva é numa árvore vEB com tamanho de universo no máximo Como o restante de vEBTREEINSERT leva o tempo O1 a recorrência 204 se aplica e assim o tempo de execução é Olg lg u Eliminando um elemento Finalmente examinamos como eliminar um elemento de uma árvore vEB O procedimento vEBTREEDELETEVx supõe que x é no momento considerado um elemento no conjunto representado pela árvore vEB V 2031 2032 2033 O procedimento vEBTREEDELETE funciona da maneira descrita a seguir Se a árvore vEB V contém somente um elemento eliminálo é tão fácil quanto inserilo em uma árvore vEB vazia basta definir min e max como NIL As linhas 13 tratam desse caso Do contrário V tem no mínimo dois elementos A linha 4 testa se V é um casobase de árvore vEB e se for as linhas 58 definem min e max como o único elemento remanescente As linhas 922 levam em conta que V tem dois ou mais elementos e que u 4 Nesse caso teremos de eliminar um elemento de um grupo Contudo o elemento que eliminamos de um grupo poderia não ser x porque se x é igual a min uma vez eliminado x algum outro elemento dentro de um dos grupos de V tornase o novo min e temos de eliminar o outro elemento desse grupo Se o teste na linha 9 revelar que estamos nesse caso a linha 10 define firstcluster como o número do grupo que contém o elemento mais baixo exceto min e a linha 11 define x como o valor do elemento mais baixo naquele grupo Esse elemento tornase o novo min na linha 12 e já que definimos x como esse valor ele é o elemento que eliminaremos desse grupo Quando alcançamos a linha 13 sabemos que precisamos eliminar o elemento x de seu grupo quer x fosse o valor originalmente passado para VEBTREEDELETE quer x seja o elemento que está se tornando o novo mínimo A linha 13 elimina x desse grupo Agora aquele grupo poderia tornarse vazio o que a linha 14 testa se ele se tornou vazio precisamos remover o número de grupo de x do resumo o que a linha 15 faz Após atualizar o resumo poderia ser necessário atualizar max A linha 16 verifica se estamos eliminando o elemento máximo em V e se estivermos a linha 17 define summarymax como o número do grupo não vazio de número mais alto A chamada VEBTREEMAXIMUM Vsummary funciona porque já chamamos VEBTREED E L E TE recursivamente em Vsummary e portanto Vsummarymax já foi atualizado conforme necessário Se todos os grupos de V são vazios o único elemento restante em V é min a linha 18 verifica esse caso e a linha 19 atualiza max adequadamente Caso contrário a linha 20 define max como o elemento máximo no grupo não vazio de número mais alto Se é desse grupo que o elemento foi eliminado novamente confiamos que a chamada recursiva na linha 13 já tenha corrigido o atributo max daquele grupo Finalmente temos de tratar o caso no qual o grupo de x não se tornou vazio em razão da eliminação de x Embora não tenhamos de atualizar o resumo nesse caso poderíamos ter de atualizar max A linha 21 testa esse caso e se tivermos de atualizar max a linha 22 o faz mais uma vez confiando que a chamada recursiva tenha corrigido max no grupo Agora mostramos que vEBTREEDELETE é executada no tempo Olg lg u do pior caso À primeira vista você poderia imaginar que a recorrência 204 nem sempre se aplica porque uma única chamada de vEBTREEDELETE pode fazer duas chamadas recursivas uma na linha 13 e uma na linha 15 Embora o procedimento possa fazer ambas as chamadas recursivas vamos pensar no que acontece quando ele o faz Para que a chamada recursiva na linha 15 ocorra o teste na linha 14 deve mostrar que o grupo de x está vazio O único modo possível de o grupo de x estar vazio é se x era o único elemento nesse grupo quando fizemos a chamada recursiva na linha 13 Porém se x era o único elemento nesse grupo aquela chamada recursiva levou o tempo O1 porque só as linhas 13 foram executadas Assim temos duas possibilidades mutuamente exclusivas A chamada recursiva na linha 13 demorou tempo constante A chamada recursiva na linha 15 não ocorreu Em qualquer caso a recorrência 204 caracteriza o tempo de execução de VEBTREEDELETE e por conseqûencia seu tempo de execução do pior caso é Olg lg u Exercícios Modifique árvores vEB para suportar chaves duplicadas Modifique árvores vEB para suportar chaves que tenham dados satélites associados Escreva pseudocódigo para um procedimento que cria uma árvore de van Emde Boas vazia 2034 2035 2036 201 a b O que acontece se você chamar vEBTREEINSERT com um elemento que já está na árvore vEB O que acontece se você chamar vEBTREEDELETE com um elemento que não está na árvore vEB Explique por que os procedimentos exibem o comportamento que exibem Mostre como modificar árvores vEB e suas operações de modo que possamos verificar em tempo constante se um elemento está presente Suponha que em vez de grupos cada um com tamanho de universo construíssemos árvores vEB que tivessem u1k grupos cada um com tamanho de universo u11k onde k 1 é uma constante Se tivéssemos de modificar as operações adequadamente quais seriam seus tempos de execução Para a finalidade de análise considere que u1k e u1 1k são sempre inteiros Criar uma árvore vEB com tamanho de universo u requer tempo Ou Suponha que desejamos dar conta explicitamente desse tempo Qual é o menor número de operações n para o qual o tempo amortizado de cada operação em uma árvore vEB é Olg lg u Problemas Requisitos de espaço para árvores de van Emde Boas Esse problema explora os requisitos de espaço para árvores de van Emde Boas e sugere um modo de modificar a estrutura de dados para que esse requisito de espaço dependa do número n de elementos que estão realmente armazenados na árvore em vez de depender do tamanho de universo u Por simplicidade considere que u seja sempre um inteiro Explique por que a seguinte recorrência caracteriza o requisito de espaço Pu de uma árvore de van Emde Boas com tamanho de universo u Prove que a recorrência 205 tem a solução Pu Ou Para reduzir os requisitos de espaço vamos definir uma árvore de van Emde Boas de espaço reduzido ou árvore vEBER como uma árvore vEB V porém com as seguintes mudanças Em vez de o atributo Vcluster ser armazenado como um simples arranjo de ponteiros para árvores vEB com tamanho de universo u ele é uma tabela de espalhamento veja o Capítulo 11 armazenada como uma tabela dinâmica veja a Seção 174 Assim como a versão de arranjo de Vcluster a tabela de espalhamento armazena ponteiros para árvores vEBER com tamanho de universo u Para encontrar o iésimo grupo consultamos a chave i na tabela de espalhamento de modo a podermos encontrar o i ésimo grupo com uma única busca na tabela de espalhamento A tabela de espalhamento armazena somente ponteiros para grupos não vazios Uma busca na tabela de espalhamento por um grupo vazio retorna NIL o que indica que o grupo é vazio O atributo Vsummary é NIL se todos os grupos são vazios Caso contrário Vsummary aponta para uma árvore vEBER com tamanho de universo u Como a tabela de espalhamento é implementada com uma tabela dinâmica o espaço que ela requer é proporcional ao número de grupos não vazios c d e f g 202 a b Quando precisamos inserir um elemento em uma árvore vEBER vazia criamos a árvore vEBRS chamando o seguinte procedimento onde o parâmetro u é o tamanho de universo da árvore vEBRS Modifique o procedimento vEBTREEINSERT para produzir pseudocódigo para o procedimento ERvEB TREEINSERTV x que insere x na árvore vEBER V chamando CREATENEWERvEBTREE adequadamente Modifique o procedimento vEBTREESUCCESSOR para produzir pseudocódigo para o procedimento ER vEBTREESUCCESSORVx que devolve o sucessor de x na árvore vEBER V ou NIL se x não tiver nenhum sucessor em V Prove que sob a premissa de hashing uniforme simples seus procedimentos RSvEBTREEINSERT e ER vEBTREESUCCESSOR são executados no tempo amortizado esperado Olg lg u Supondo que elementos de uma árvore vEB nunca são eliminados prove que o requisito de espaço para a estrutura árvore vEBER é On onde n é o número de elementos realmente armazenados na árvore vEBER Árvores vEBER têm uma outra vantagem em reação a árvores vEB criálas exige menos tempo Quanto tempo demora para criar uma árvore vEBER vazia yfast tries Esse problema investiga as yfast tries tries y rápidas árvores digitais y rápidas de D Willard que como as árvores de van Emde Boas executam cada uma das operações MEMBER MINIMUM MAXIMUM PREDECESSOR e SUCCESSOR em elementos extraídos de um universo com tamanho u no tempo do pior caso Olg lg u As operações INSERT e DELETE demoram o tempo amortizado Olg lg u Do mesmo modo que as árvores de van Emde Boas de espaço reduzido veja o Problema 201 as yfast tries usam somente o espaço On para armazenar n elementos O projeto de yfast tries depende de hashing perfeito veja a Seção 115 Como um estrutura preliminar suponha que criamos uma tabela de hash perfeito que contenha não somente todo elemento no conjunto dinâmico mas também todo prefixo da representação binária de todo elemento no conjunto Por exemplo se u 16 de modo que lg u 4 e x 13 está no conjunto então como a representação binária de 13 é 1101 a tabela de hash perfeito contém as cadeias 1 11 110 e 1101 Além da tabela de espalhamento criamos uma lista duplamente ligada dos elementos presentes atualmente no conjunto em ordem crescente Quanto espaço essa estrutura requer Mostre como executar as operações MINIMUM e MAXIMUM no tempo O1 as operações MEMBER PREDECESSOR e SUCCESSOR no tempo Olg lg u e as operações INSERT e DELETE no tempo Olg u Para reduzir o requisito de espaço para On fazemos as seguintes mudanças na estrutura de dados c d e f g h Agrupamos os n elementos em nlg u grupos de tamanho lg u Suponha por enquanto que lg u seja um divisor de n O primeiro grupo consiste nos lg u menores elementos no conjunto o segundo grupo consiste nos lg u menores elementos seguintes e assim por diante Designamos um valor representante para cada grupo O representante do iésimo grupo é no mínimo tão grande quanto o maior elemento no iésimo grupo e é menor que todo elemento do i 1ésimo grupo O representante do último grupo pode ser o máximo elemento possível u 1 Observe que um representante pode ser um valor que não está atualmente no conjunto Armazenamos os lg u elementos de cada grupo em uma árvore de busca binária balanceada tal como uma árvore vermelhopreto Cada representante aponta para a árvore de busca binária balanceada para seu grupo e cada árvore de busca binária balanceada aponta para seu representante de grupo A tabela de espalhamento perfeito armazena somente os representantes que são também armazenados em uma lista duplamente ligada em ordem crescente Denominamos essa estrutura yfast trie Mostre que uma yfast trie requer somente espaço On para armazenar n elementos Mostre como executar as operações MINIMUM e MAXIMUM no tempo Olg lg u com uma yfast trie Mostre como executar a operação MEMBER no tempo Olg lg u Mostre como executar as operações PREDECESSOR e SUCCESSOR no tempo Olg lg u Explique por que as operações INSERT e DELETE demoram o tempo lg lg u Mostre como relaxar o requisito de que cada grupo em uma yfast trie deve ter exatamente lg u elementos para permitir que INSERT e DELETE sejam executadas no tempo amortizado Olg lg u sem afetar os tempos de execução assintóticos das outras operações NOTAS DO CAPÍTULO A estrutura de dados neste capítulo deve seu nome a P van Emde Boas que descreveu uma primeira forma da ideia em 1975 339 Artigos publicados mais tarde por van Emde Boas Kaas e Zijlstra 341 refinaram a ideia e a exposição Subsequentemente Mehlhorn e Näher 252 ampliaram as ideias para aplicálas a tamanhos de universo que são primos O livro de Mehlhorn 249 contém um tratamento ligeiramente diferente de árvores de van Emde Boas que o utilizado neste capítulo Usando as ideias que fundamentam as árvores de van Emde Boas Dementiev et al 83 desenvolveram uma árvore de busca não recursiva de três níveis que rodou mais rapidamente do que as árvores de van Emde Boas em seus próprios experimentos Wang e Lin 347 projetaram uma versão das árvores de van Emde Boas com pipeline em hardware que consegue tempo amortizado constante por operação e usa Olg lg u estágios no pipeline Um limite inferior determinado por Paˇ trasçu e Thorup 273 274 para encontrar o predecessor mostra que árvores de van Emde Boas são ótimas para essa operação mesmo que a aleatorização seja permitida 1 O Capítulo 13 não discute explicitamente como implementar extractmin e decreasekey mas podemos construir facilmente essas operações para qualquer estrutura de dados que suporte minimum delete e insert 2 Em todo este capítulo consideramos que Minimum e Maximum retornam nil se o conjunto dinâmico estiver vazio e que Successor e Predecessor retornam nil se o elemento que lhes é dado não tiver nenhum sucessor ou predecessor respectivamente 211 21 ESTRUTURAS DE DADOS PARA CONJUNTOS DISJUNTOS Algumas aplicações envolvem agrupar n elementos distintos em uma coleção de conjuntos disjuntos Muitas vezes essas aplicações precisam executar duas operações em particular encontrar o único conjunto que contém um dado elemento e unir dois conjuntos Este capítulo explora métodos para manter uma estrutura de dados que suporta essas operações A Seção 211 descreve as operações suportadas por uma estrutura de dados de conjuntos disjuntos e apresenta uma aplicação simples Na Seção 212 examinaremos uma implementação de lista ligada simples para conjuntos disjuntos A Seção 213 apresenta uma representação mais eficiente que utiliza árvores enraizadas O tempo de execução com a utilização da representação de árvore é teoricamente superlinear porém para todas as finalidades práticas é linear A Seção 214 define e discute uma função de crescimento muito rápido e sua inversa de crescimento muito lento que aparece no tempo de execução de operações na implementação baseada em árvore e em seguida por uma análise amortizada complexa prova um limite superior para o tempo de execução que mal é superlinear OPERAÇÕES EM CONJUNTOS DISJUNTOS Uma estrutura de dados de conjuntos disjuntos mantém uma coleção S S1 S2 Sk de conjuntos dinâmicos disjuntos Identificamos cada conjunto por um representante que é algum membro do conjunto Em algumas aplicações não importa qual membro seja usado como representante a única coisa que importa é que se solicitarmos o representante de um conjunto dinâmico duas vezes sem modificar o conjunto entre as solicitações obteremos a mesma resposta ambas as vezes Outras aplicações podem exigir uma regra previamente especificada para escolher o representante como escolher o menor elemento no conjunto considerando é claro que os elementos podem ser ordenados Como nas outras implementações de conjuntos dinâmicos que estudamos representamos cada elemento de um conjunto por um objeto Denotando a representação de um objeto por x desejamos suportar as seguintes operações MAKESETx cria um novo conjunto cujo único membro e portanto o representante é x Visto que os conjuntos são disjuntos exigimos que x ainda não esteja em algum outro conjunto UNIONx y une os conjuntos dinâmicos que contêm x e y digamos Sx e Sy em um novo conjunto que é a união desses dois conjuntos Supomos que os dois conjuntos são disjuntos antes da operação O representante do conjunto resultante é qualquer membro de Sx Sy embora muitas implementações de UN IO N escolham especificamente o representante de Sx ou o de Sy como o novo representante Visto que exigimos que os conjuntos na coleção sejam disjuntos conceitualmente destruímos os conjuntos Sx e Sy removendoos da coleção S Na prática frequentemente absorvemos os elementos de um dos conjuntos no outro conjunto FINDSETx retorna um ponteiro para o representante do único conjunto que contém x Ao longo deste capítulo analisaremos os tempos de execução de estruturas de dados de conjuntos disjuntos em termos de dois parâmetros n o número de operações MAKESET e m o número total de operações MAKESET UNION e FINDSET Visto que os conjuntos são disjuntos cada operação UNION reduz o número de conjuntos de uma unidade Portanto após n 1 operações UNION resta apenas um conjunto Assim o número de operações UNION é no máximo n 1 Observe também que como as operações MAKESET estão incluídas no número total de operações m temos m n Supomos que as n operações MAKESET são as primeiras n operações executadas Uma aplicação de estruturas de dados de conjuntos disjuntos Uma das muitas aplicações de estruturas de dados de conjuntos disjuntos surge na determinação das componentes conexas de um grafo não dirigido veja a Seção B4 Por exemplo a Figura 211a mostra um grafo com quatro componentes conexas O procedimento CONNECTEDCOMPONENTS que apresentamos a seguir utiliza as operações de conjuntos disjuntos para calcular as componentes conexas de um grafo Tão logo CONNECTED COMPONENTS tenha préprocessado o grafo o procedimento SAMECOMPONENT responde por consulta se dois vértices estão na mesma componente conexa1 No pseudocódigo denotamos o conjunto de vértices de um gráfico G por GV e o conjunto de vértices por GE 2111 2112 2113 212 Figura 211 a Um grafo com quatro componentes conexas a b c d e f g h i e j b A coleção de conjuntos disjuntos após o processamento de cada aresta O procedimento CONNECTEDCOMPONENTS inicialmente coloca cada vértice v em seu próprio conjunto Em seguida para cada aresta u v ele une os conjuntos que contêm u e v Pelo Exercício 2112 após o processamento de todas as arestas dois vértices estão na mesma componente conexa se e somente se os objetos correspondentes estão no mesmo conjunto Assim CONNECTEDCOMPONENTS calcula conjuntos de um modo tal que o procedimento SAMECOMPONENT pode determinar se dois vértices estão na mesma componente conexa A Figura 211b ilustra como os conjuntos disjuntos são calculados por CONNECTEDCOMPONENTS Em uma implementação real desse algoritmo de componentes conexas as representações do grafo e da estrutura de dados de conjuntos disjuntos precisariam referenciar uma à outra Isto é um objeto que representa um vértice conteria um ponteiro para o objeto conjunto disjunto correspondente e viceversa Esses detalhes de programação dependem da linguagem de implementação e não os examinaremos mais aqui Exercícios Suponha que CONNECTEDCOMPONENTS seja executado em um grafo não dirigido G V E onde V a b c d e f g h i j k e as arestas de E sejam processadas na ordem d i f k g i b g a h i j d k b j d f g j a e Faça uma lista de vértices em cada componente conexa após cada iteração das linhas 35 Mostre que depois de todas as arestas serem processadas por CONNECTEDCOMPONENTS dois vértices estão na mesma componente conexa se e somente se estão no mesmo conjunto Durante a execução de CONNECTEDCOMPONENTS em um grafo não dirigido G V E com k componentes conexas quantas vezes FINDSET é chamado Quantas vezes UNION é chamado Expresse suas respostas em termos de V E e k REPRESENTAÇÃO DE CONJUNTOS DISJUNTOS POR LISTAS LIGADAS A Figura 212a mostra um modo simples de implementar uma estrutura de dados de conjuntos disjuntos cada conjunto é representado por sua própria lista ligada O objeto para cada conjunto tem atributos head início que aponta para o primeiro objeto na lista e tail fim que aponta para o último objeto Cada objeto na lista ligada contém um membro de conjunto um ponteiro para o próximo objeto na lista e um ponteiro de volta para o objeto conjunto Dentro de cada lista ligada os objetos podem aparecer em qualquer ordem O representante é o membro do conjunto no primeiro objeto na lista Com essa representação de lista ligada MAKESET e FINDSET são fáceis e exigem o tempo O1 Para executar MAKE SETx criamos uma nova lista ligada cujo único objeto é x Para FIND SETx simplesmente seguimos o ponteiro de x de volta ao seu objeto conjunto e depois retornamos o membro no objeto para o qual head aponta Por exemplo na Figura 212a a chamada FINDSETg retornaria f Uma implementação simples de união A implementação mais simples da operação UNION usando a representação de conjunto de lista ligada demora um tempo significativamente maior que MAKESET ou FINDSET Como mostra a Figura 212b executamos UNIONx y anexando a lista de y ao final da lista de x Usamos o ponteiro tail para a lista de x para encontrar rapidamente onde anexar a lista de y Como todos os membros da lista de y juntamse à lista de x podemos destruir o objeto conjunto para a lista de y Figura 212 a Representações de dois conjuntos por listas ligadas O conjunto S1 contém os membros d f e g com representante f e o conjunto S2 contém os membros b c e e h com representante c Cada objeto na lista contém um membro de conjunto um ponteiro para o próximo objeto na lista e um ponteiro de volta ao objeto conjunto Cada objeto conjunto tem ponteiros head início e tail final para o primeiro e o último objeto respectivamente b Resultado de UNIONg e que anexa a lista ligada que contém e a lista ligada que contém g O representante do conjunto resultante é f O objeto conjunto para a lista de e S2 é destruído Infelizmente temos de atualizar o ponteiro para o objeto conjunto para cada objeto que estava originalmente na lista de y o que demora tempo linear em relação ao comprimento da lista de y Na Figura 212 por exemplo a operação UNION g e provoca a atualização dos ponteiros nos objetos para b c e e h De fato podemos construir facilmente uma sequência de m operações com n objetos que exige o tempo Qn2 Suponha que tenhamos objetos x1 x2 xn Executamos a sequência de n operações MAKESET seguida por n 1 operações UNION mostradas na Figura 213 de modo que m 2n 1 Gastamos o tempo Qn executando as n operações MAKESET Como a iésima operação UNION atualiza i objetos o número total de objetos atualizados por todas as n 1 operações UNION é O número total de operações é 2n 1 e portanto cada operação exige em média o tempo Qn Isto é o tempo amortizado de uma operação é Qn Uma heurística de união ponderada No pior caso tal implementação do procedimento UNION exige um tempo médio Qn por chamada porque é possível que estejamos anexando uma lista mais longa a uma lista mais curta temos de atualizar o ponteiro para o objeto conjunto para cada membro da lista mais longa Figura 213 Uma sequência de 2n 1 operações em n objetos que demora o tempo Qn2 ou o tempo Qn por operação em média usando a representação de conjuntos por listas ligadas e a implementação simples de UNION Em vez disso suponha que cada lista também inclua o comprimento da lista que podemos manter facilmente e que sempre anexamos a lista mais curta à mais longa rompendo ligações arbitrariamente Com essa heurística de união ponderada simples uma única operação UNION ainda pode demorar o tempo n se ambos os conjuntos têm n membros Porém como mostra o teorema a seguir uma sequência de m operações MAKESET UNION e FINDSET n das quais são operações MAKESET demora o tempo Om n lg n Teorema 211 Usando a representação de lista ligada de conjuntos disjuntos e a heurística de união ponderada uma sequência de m operações MAKESET UNION e FINDSET n das quais são operações MAKESET demora o tempo Om n lg n Prova Como cada operação UNION une dois conjuntos disjuntos executamos no máximo n 1 operações UNION no total Agora limitamos o tempo total gasto por essas operações UNION Começamos determinando para cada objeto um limite superior para o número de vezes que o ponteiro do objeto de volta ao seu objeto conjunto é atualizado Considere um determinado objeto x Sabemos que cada vez que o ponteiro de x foi atualizado x deve ter começado no conjunto menor Portanto na primeira vez que o ponteiro de x foi atualizado o conjunto resultante devia conter no mínimo dois membros De modo semelhante na próxima vez que o ponteiro de x foi atualizado o conjunto resultante devia ter no mínimo quatro membros Continuando observamos que para qualquer k n depois que o ponteiro de x foi atualizado lg k vezes o conjunto resultante deve ter contido no mínimo k membros Visto que o conjunto maior tem no máximo n membros o ponteiro de cada objeto é atualizado no máximo lg n vezes em todas as operações UNION Assim o tempo total gasto na atualização de ponteiros de objeto em todas as operações UNION é On lg n Também 2121 2122 2123 2124 2125 2126 devemos dar conta da atualização dos ponteiros tail e dos comprimentos de listas que demoram apenas o tempo Q1 por operação UNION Assim o tempo total gasto em todas as operações UNION é On lg n O tempo para a sequência inteira de m operações decorre facilmente Cada operação MAKESET e FINDSET demora o tempo O1 e existem Om dessas operações Portanto o tempo total para a sequência inteira é Om n lg n Exercícios Escreva pseudocódigo para MAKESET FINDSET e UNION usando a representação de lista ligada e a heurística de união ponderada Não esqueça de especificar os atributos que você considera para objetos conjunto e objetos lista Mostre a estrutura de dados resultante e as respostas retornadas pelas operações FINDSE T no programa a seguir Use a representação de lista ligada com a heurística de união ponderada Suponha que se os conjuntos que contêm xi e xj tiverem o mesmo tamanho a operação UNIONxi xj anexa a lista de xj à lista de xi Adapte a prova agregada do Teorema 211 para obter limites de tempo amortizados O1 para MAKESET e FINDSET e Olg n para UNION utilizando a representação de lista ligada e a heurística de união ponderada Dê um limite assintótico restrito para o tempo de execução da sequência de operações na Figura 213 considerando a representação de lista ligada e a heurística de união ponderada O professor Gompers suspeita de que poderia ser possível manter apenas um ponteiro em cada objeto conjunto em vez de dois head e tail e ao mesmo tempo manter em dois o número de ponteiros em cada elemento de lista Mostre que a suspeita do professor é bem fundamentada descrevendo como representar cada conjunto por uma lista ligada de modo que cada operação tenha o mesmo tempo de execução que as operações descritas nesta seção Descreva também como as operações funcionam Seu esquema deve levar em consideração a heurística da união ponderada com o mesmo efeito descrito nesta seção Sugestão Use tail de uma lista ligada como seu representante de conjunto Sugira uma mudança simples no procedimento UNION para a representação de lista ligada que elimine a necessidade de manter o ponteiro tail para o último objeto em cada lista Independentemente de a heurística 213 de união ponderada ser ou não utilizada a alteração não deve mudar o tempo de execução assintótico do procedimento UNION Sugestão Em vez de anexar uma lista à outra entrelace uma à outra FLORESTAS DE CONJUNTOS DISJUNTOS Em uma implementação mais rápida de conjuntos disjuntos representamos conjuntos por árvores enraizadas sendo que cada nó contém um membro e cada árvore representa um conjunto Em uma floresta de conjuntos disjuntos ilustrada na Figura 214a cada membro aponta apenas para seu pai A raiz de cada árvore contém o representante e é seu próprio pai Como veremos embora os algoritmos diretos que utilizam essa representação não sejam mais rápidos que aqueles que usam a representação de lista ligada com a introdução de duas heurísticas união pelo posto e compressão de caminho podemos obter uma estrutura de dados de conjuntos disjuntos assintoticamente ótima Figura 214 Uma floresta de conjuntos disjuntos a Duas árvores que representam os dois conjuntos da Figura 212 A árvore à esquerda representa o conjunto b c e h com c como representante e a árvore à direita representa o conjunto d f g com f como representante b Resultado de UNIONe g Executamos as três operações de conjuntos disjuntos como descrevemos a seguir Uma operação MAKESET simplesmente cria uma árvore com apenas um nó Executamos uma operação FINDSET seguindo ponteiros de pais até encontrarmos a raiz da árvore Os nós visitados nesse caminho simples em direção à raiz constituem o caminho de localização Uma operação UNION mostrada na Figura 214b faz a raiz de uma árvore apontar para a raiz da outra Heurísticas para melhorar o tempo de execução Até agora não melhoramos a implementação de listas ligadas Uma sequência de n 1 operações UNION pode criar uma árvore que é apenas uma cadeia linear de n nós Contudo usando duas heurísticas podemos conseguir um tempo de execução quase linear em relação ao número total de operações m A primeira heurística união pelo posto é semelhante à heurística de união ponderada que usamos com a representação de listas ligadas A abordagem óbvia seria fazer a raiz da árvore que tem um número menor de nós apontar para a raiz da árvore que tem mais nós Em vez de controlar explicitamente o tamanho da subárvore com raiz em cada nó usaremos uma abordagem que facilita a análise Para cada nó mantemos um posto rank que é um limite superior para a altura do nó Na união pelo posto fazemos a raiz que ocupa o menor posto apontar para a raiz que ocupa o maior posto durante uma operação UNION A segunda heurística compressão de caminho também é bastante simples e muito eficiente Como mostra a Figura 215 nós a usamos durante operações FINDSET para fazer cada nó no caminho de localização apontar diretamente para a raiz A compressão de caminho não altera nenhum posto Pseudocódigo para florestas de conjuntos disjuntos Para implementar uma floresta de conjuntos disjuntos com a heurística de união pelo posto temos de controlar os postos Com cada nó x mantemos o valor xrank um inteiro que é um limite superior para a altura de x o número de arestas no caminho mais longo entre uma folha descendente e x Quando MAKESET cria um conjunto unitário o posto inicial do nó único na árvore correspondente é 0 As operações FINDSET não alteram os postos A operação UNION tem dois casos dependendo de as raízes das árvores terem postos iguais ou não Se as raízes têm postos desiguais transformamos a raiz de posto mais alto no pai da raiz de posto mais baixo mas os postos em si permanecem inalterados Se em vez disso as raízes têm postos iguais escolhemos arbitrariamente uma das raízes como o pai e incrementamos seu posto Figura 215 Compressão de caminho durante a operação FINDSET Setas e autolaços nas raízes foram omitidos a Uma árvore que representa um conjunto antes da execução de FINDSETa Triângulos representam subárvores cujas raízes são os nós mostrados Cada nó tem um ponteiro para seu pai b O mesmo conjunto após a execução de FINDSETa Agora cada nó no caminho de localização aponta diretamente para a raiz Vamos representar esse método em pseudocódigo Designamos o pai do nó x por xp O procedimento LINK uma subrotina chamada por UNION adota ponteiros para duas raízes como entradas O procedimento FINDSET com compressão de caminho é bastante simples FINDSETx O procedimento FINDSET é um método de duas passagens quando executa recursão faz uma passagem para cima no caminho de localização para encontrar a raiz à medida que a recursão se desenvolve faz uma segunda passagem de volta para baixo no caminho de localização para atualizar cada nó de modo que cada um aponte diretamente para a raiz Cada chamada de FINDSETx retorna px na linha 3 Se x é a raiz FINDSET salta a linha 2 e em vez de executála retorna xp que é x Esse é o caso em que a recursão chega ao nível mais baixo e recomeçaria novamente Caso contrário a linha 2 é executada e a chamada recursiva com parâmetro px retorna um ponteiro para a raiz A linha 2 atualiza o nó x para apontar diretamente para a raiz e a linha 3 retorna esse ponteiro Efeito das heurísticas sobre o tempo de execução Separadamente união pelo posto ou compressão de caminho melhora o tempo de execução das operações em florestas de conjuntos disjuntos e a melhora é ainda maior quando usamos as duas heurísticas em conjunto Sozinha a união pelo posto produz um tempo de execução de Om lg n veja o Exercício 2144 e esse limite é justo veja o Exercício 2133 Embora não o demonstremos aqui para uma sequência de n operações M A K ESE T e consequentemente no máximo n 1 operações UNION e f operações FINDSET a heurística de compressão de caminho se sozinha dá um tempo de execução do pior caso igual a Qn f 1 log2 fn n Quando usamos a união pelo posto e a compressão de caminho o tempo de execução do pior caso é Om αn onde αn é uma função de crescimento muito lento que definiremos na Seção 214 Em qualquer aplicação concebível de uma estrutura de dados de conjuntos disjuntos αn 4 assim podemos considerar o tempo de execução como linear em relação a m em todas as situações práticas Na Seção 214 provaremos esse limite superior Exercícios 2131 2132 2133 2134 2135 214 Faça novamente o Exercício 2122 usando uma floresta de conjuntos disjuntos com união pelo posto e compressão de caminho Escreva uma versão não recursiva de FINDSET com compressão de caminho Dê uma sequência de m operações MAKESET UNION e FINDSET na qual n são operações MAKESET que demore o tempo m lg n quando usamos somente união pelo posto Suponha que queiramos acrescentar a operação PRINTSETx à qual é dado um nó x e que imprime todos os membros do conjunto de x em qualquer ordem Mostre como podemos acrescentar apenas um único atributo a cada nó em uma floresta de conjuntos disjuntos de modo que PRINTSETx demore tempo linear em relação ao número de membros do conjunto de x e que os tempos de execução assintóticos das outras operações permaneçam inalterados Suponha que podemos imprimir cada membro do conjunto no tempo O1 Mostre que qualquer sequência de m operações MAKESET FINDSET e LINK em que todas as operações LINK aparecem antes de qualquer das operações FINDSET demora apenas o tempo Om se usarmos compressão de caminho e união pelo posto O que acontece na mesma situação se usarmos somente a heurística de compressão de caminho ANÁLISE DA UNIÃO PELO POSTO COM COMPRESSÃO DE CAMINHO Como observamos na Seção 213 o tempo de execução da heurística combinada de união pelo posto e compressão de caminho é Om αn para m operações de conjuntos disjuntos em n elementos Nesta seção examinaremos a função α para ver exatamente com que lentidão ela cresce Então provaremos esse tempo de execução empregando o método do potencial de análise amortizada Uma função de crescimento muito rápido e sua inversa de crescimento muito lento Para inteiros k 0 e j 1 definimos a função Ak j como A função Akj aumenta estritamente com j e k Para ver exatamente com que rapidez essa função cresce primeiro obtemos expressões de forma fechada para A1j e A2j Lema 212 Para qualquer inteiro j 1 temos A1j 2j 1 Lema 213 Para qualquer inteiro j 1 temos A2j 2j1 j 1 1 que é o número estimado de átomos no universo observável O símbolo denota a relação muito maior que Definimos a inversa da função Akn para inteiros n 0 por Em linguagem corrente αn é o mais baixo nível k para o qual Ak1 é no mínimo n Pelos valores de Ak1 vemos que É apenas para valores de n tão grandes que nem mesmo o termo astronômico dá ideia de seu tamanho maior do que A41 um número enorme que αn 4 Portanto αn 4 para todas as finalidades práticas Propriedades de posto No restante desta seção provaremos um limite Om αn para o tempo de execução das operações de conjuntos disjuntos com união pelo posto e compressão de caminho Para provar esse limite primeiro demonstraremos algumas propriedades simples de posto Lema 214 Para todos os nós x temos xrank xprank com desigualdade estrita se x xp O valor de xrank é inicialmente 0 e aumenta com o tempo até x px daí em diante xrank não muda O valor de xprank cresce monotonicamente com o tempo Prova A prova é uma indução direta em relação ao número de operações com a utilização das implementações de MAKESET UNION e FINDSET que aparecem na Seção 213 Vamos deixála para o Exercício 2141 Corolário 215 À medida que seguimos o caminho simples de qualquer nó em direção a uma raiz os postos dos nós aumentam estritamente Lema 216 Todo nó tem posto no máximo igual a n 1 Prova O posto de cada nó começa em 0 e só aumenta com operações LINK Como há no máximo n 1 operações UNION há também no máximo n 1 operações LINK Como cada operação LINK deixa todas os postos como estão ou aumenta de 1 o posto de algum nó todos os postos são no máximo n 1 O Lema 216 dá um limite fraco para postos De fato todo nó tem posto no máximo lg n veja o Exercício 214 2 Todavia o limite mais frouxo do Lema 216 será suficiente para a nossa finalidade Provando o limite de tempo Usaremos o método do potencial da análise amortizada veja a Seção 173 para provar o limite de tempo Om αn Ao executarmos a análise amortizada é conveniente considerar que invocamos a operação LIN K em vez da operação UNION Isto é visto que os parâmetros do procedimento LINK são ponteiros para duas raízes agimos como se executássemos as operações FINDSET adequadas separadamente O lema a seguir mostra que ainda que contemos as operações FINDSET extras induzidas por chamadas UNION o tempo de execução assintótico permanece inalterado Lema 217 Suponha que convertemos uma sequência S de m operações MAKESET UNION e FINDSET em uma sequência S de m operações MAKESET LINK e FINDSET transformando cada UNION em duas operações FINDSET seguidas por uma operação LINK Então se a sequência S for executada no tempo Om αn a sequência S será executada no tempo Om αn Prova Visto que cada operação UNION na sequência S é convertida em três operações em S temos m m 3m Como m Om um limite de tempo Om αn para a sequência convertida S implica um limite de tempo Om αn para a sequência original S No restante desta seção supomos que a sequência inicial de m operações MAKESET UN IO N e FINDSET foi convertida em uma sequência de m operações MAKESET LINK e FINDSET Agora provaremos um limite de tempo Om αn para a sequência convertida e apelaremos para o Lema 216 para provar o tempo de execução Om αn da sequência original de m operações Função potencial A função potencial que usamos atribui um potencial fqx a cada nó x na floresta de conjuntos disjuntos após q operações Somamos os potenciais de nós para obter o potencial da floresta inteira Fq Sx fqx onde Fq denota o potencial da floresta após q operações A floresta está vazia antes da primeira operação e definimos arbitrariamente F0 0 Jamais algum potencial Fq será negativo O valor de fqx depende de x ser uma raiz da árvore após a qésima operação Se for ou se xrank 0 então fqx αn xrank Agora suponha que após a qésima operação x não seja uma raiz e xrank 1 Precisamos definir duas funções auxiliares em x antes de podermos definir Fqx Primeiro definimos nívelx max k xprank Akxrank Isto é nívelx é o maior nível k para o qual Ak aplicada à rank x não é maior que o posto do pai de x Afirmamos que o que vemos a seguir Temos o que implica que nívelx 0 e temos o que implica que nívelx αn Observe que em razão de xprank aumentar monotonicamente com o tempo o mesmo ocorre com nívelx A segunda função auxiliar se aplica quando xrank 1 Isto é iterx é o maior número de vezes que podemos aplicar a Anívelx iterativamente aplicada inicialmente ao posto de x antes de obtermos um valor maior que o posto do pai de x Afirmamos que quando xrank 1 temos o que mostramos a seguir Temos o que implica que iterx 1 e temos o que implica que iterx xrank Observe que como xprank cresce monotonicamente com o tempo para iterx diminuir nívelx tem de aumentar Contanto que nívelx permaneça inalterado iterx deve crescer ou permanecer inalterado Estabelecidas essas funções auxiliares estamos prontos para definir o potencial do nó x após q operações Em seguida investigamos algumas propriedades úteis desses potenciais de nós Lema 218 Para todo nó x e para todas as contagens de operações q temos 0 qx αn xrank Prova Se x é uma raiz ou xrank 0 então qx αn xrank por definição Agora suponha que x não seja uma raiz e que xrank 1 Obtemos um limite inferior para qx maximizando nívelx e iterx Pelo limite 211 nívelx αn 1 e pelo limite 212 iterx xrank Assim De modo semelhante obtemos um limite superior para qx minimizando nívelx e iterx Pelo limite 211 nívelx 0 e pelo limite 212 iterx 1 Portanto Corolário 219 Se o nó x não é uma raiz e xrank 0 então fqx αn xrank Mudanças de potencial e custos amortizados de operações Agora estamos prontos para examinar como as operações de conjuntos disjuntos afetam os potenciais de nós Se entendermos a mudança de potencial provocada por cada operação poderemos determinar o custo amortizado de cada operação Lema 2110 Seja x um nó que não é uma raiz e suponha que a qésima operação é LINK ou FINDSET Então após a qésima operação fqx fq 1x Além disso se xrank 1 e nívelx ou iterx mudar devido à qésima operação então fqx fq 1x 1 Isto é o potencial de x não pode aumentar e se tiver posto positivo e nívelx ou iterx mudar o potencial de x cairá no mínimo uma unidade Prova Como x não é uma raiz a qésima operação não muda xrank e como n não muda após as n operações MAKE SET iniciais αn também permanece inalterada Consequentemente esses componentes da fórmula para o potencial de x permanecem os mesmos após a qésima operação Se xrank 0 então fqx fq 1x 0 Agora suponha que xrank 1 Lembrese de que nívelx aumenta monotonicamente com o tempo Se a qésima operação deixar nívelx inalterado iterx aumenta ou permanece inalterado Se nívelx e iterx permanecem inalterados fqx fq 1x Se nívelx permanece inalterado e iterx aumenta então ele aumenta no mínimo de 1 e assim fqx fq 1x 1 Finalmente se a qésima operação aumentar nívelx ele aumentará no mínimo de 1 de modo que o valor do termo αn nívelx xrank cairá no mínimo xrank Como nívelx aumentou o valor de iterx poderá cair mas de acordo com o limite 212 a queda é no máximo xrank 1 Assim o aumento de potencial devido à mudança em iterx é menor que a queda de potencial devido à mudança em nívelx e concluímos que fqx fq 1x 1 Nossos três lemas finais mostram que o custo amortizado de cada operação MAKESET LINK e FINDSET é Oαn Lembrese de que pela equação 172 o custo amortizado de cada operação é seu custo real mais o aumento em potencial devido à operação Lema 2111 O custo amortizado de cada operação MAKESET é O1 Prova Suponha que a qésima operação seja MAKESETx Essa operação cria o nó x com posto 0 de modo que fqx 0 Nenhum outro posto ou potencial se altera e então Fq Fq 1 Observar que o custo real da operação MAKESET é O1 conclui a prova Lema 2112 O custo amortizado de cada operação LINK é Oαn Prova Suponha que a qésima operação seja LINKx y O custo real da operação LINK é O1 Sem prejuízo da generalidade suponha que a operação LINK torne y o pai de x Para determinar a mudança de potencial devido a LINK observamos que os únicos nós cujos potenciais podem mudar são x y e os filhos de y imediatamente antes da operação Mostraremos que o único nó cujo potencial pode aumentar devido a LINK é y e que seu aumento é no máximo αn Pelo Lema 2110 qualquer nó que seja filho de y imediatamente antes de LINK não pode ter seu aumento de potencial devido a LINK Pela definição de fqx vemos que como x era uma raiz antes da qésima operação fq1x αnxrank Se xrank 0 então fqx fq1x 0 Caso contrário e assim o potencial de x diminui Como y é uma raiz antes de LINK fq 1y an yrank A operação LINK deixa y como raiz e deixa o posto de y como está ou aumenta o posto de y de 1 Assim fqy fq 1y ou fq y f q 1y αn Portanto o aumento de potencial devido à operação LINK é no máximo αn O custo amortizado da operação LINK é O1 αn Oαn Lema 2113 O custo amortizado de cada operação FINDSET é Oαn Prova Suponha que a qésima operação seja FINDSET e que o caminho de localização contenha s nós O custo real da operação FINDSET é Os Mostraremos que nenhum potencial de nó aumenta devido a FINDSET e que no mínimo max0 s αn 2 nós no caminho de localização têm seu potencial diminuído de no mínimo 1 Para ver que nenhum potencial de nó aumenta primeiro apelamos para o Lema 219 para todos os nós exceto a raiz Se x é a raiz seu potencial é αn xrank que não muda Agora mostramos que max0 s αn 2 nós têm seu potencial diminuído de no mínimo 1 Seja x um nó no caminho de localização tal que xrank 0 e x é seguido em algum lugar no caminho de localização por outro nó y que não é uma raiz onde nívely nívelx imediatamente antes da operação FINDSET O nó y não precisa seguir x imediatamente no caminho de localização Todos os nós exceto no máximo αn 2 nós no caminho de localização satisfazem essas restrições para x Os que não as satisfazem são o primeiro nó no caminho de localização se ele tiver posto 0 o último nó no caminho isto é a raiz e o último nó w no caminho para o qual nívelw k para cada k 0 1 2 αn 1 Vamos fixar tal nó x e mostraremos que o potencial de x diminui de no mínimo 1 Seja k nívelx nívely Imediatamente antes da compressão de caminho causada por FINDSET temos 2141 2142 2143 2144 2145 2146 Reunindo essas desigualdades e sendo i o valor de iterx antes da compressão de caminho temos Como a compressão de caminho fará x e y terem o mesmo pai sabemos que após a compressão de caminho xprank yprank e que a compressão de caminho não diminui yprank Visto que xrank não muda após a compressão de caminho temos que xprank Aki1xrank Assim a compressão de caminho fará iterx aumentar até no mínimo i 1 ou nívelx aumentar o que ocorre se iterx aumentar até no mínimo xrank 1 Em qualquer caso pelo Lema 2110 temos fq x f q 1x 1 Consequentemente o potencial de x diminui de no mínimo 1 O custo amortizado da operação FINDSET é o custo real mais a mudança de potencial O custo real é Os e mostramos que o potencial total diminui de no mínimo max0 s α n 2 Portanto o custo amortizado é no máximo Os s α n 2 Os s Oα n Oα n já que podemos aumentar a escala das unidades de potencial para dominar a constante oculta em Os Reunindo os lemas precedentes temos o teorema a seguir Teorema 2114 Uma sequência de m operações MAKESET UNION e FINDSET das quais n são operações MAKESET pode ser executada em uma floresta de conjuntos disjuntos com união pelo posto e compressão de caminho no tempo do pior caso Om αn Prova Imediata pelos Lemas 217 2111 2112 e 2113 Exercícios Prove o Lema 214 Prove que todo nó tem posto no máximo igual a lg n De acordo com o Exercício 2142 quantos bits são necessários para armazenar xrank para cada nó x Usando o Exercício 2142 dê uma prova simples de que operações em uma floresta de conjuntos disjuntos com união pelo posto mas sem compressão de caminho são executadas no tempo Om lg n O professor Dante argumenta que como os postos de nós aumentam estritamente ao longo de um caminho simples até a raiz os níveis de nós devem aumentar monotonicamente ao longo do caminho Em outras palavras se xrank 0 e xp não é uma raiz nívelx nívelxp O professor está correto Considere a função αn mink Ak1 lgn 1 Mostre que αn 3 para todos os valores práticos de n e usando o Exercício 2142 mostre como modificar o argumento da função potencial para provar que podemos executar uma sequência de m operações MAKESET UNION e FINDSET das quais n são 211 a b c 212 operações MAKESET em uma floresta de conjuntos disjuntos com união pelo posto e compressão de caminho no tempo do pior caso Om αn Problemas Mínimo offline O problema do mínimo offline nos pede para manter um conjunto dinâmico T de elementos do domínio 1 2 n sob as operações INSERT e EXTRACTMIN Temos uma sequência S de n chamadas INSERT e m chamadas EXTRACTMIN onde cada chave em 1 2 n é inserida exatamente uma vez Desejamos determinar qual chave é retornada por cada chamada EXTRACTMIN Especificamente desejamos preencher um arranjo extraído1 m onde para i 1 2 m extraídoi é a chave retornada pela iésima chamada EXTRACT MIN O problema é offline no sentido de que temos a possibilidade de processar a sequência S inteira antes de determinar quaisquer das chaves retornadas Na seguinte instância do problema do mínimo offline cada operação INSERTi é representada pelo valor de i e cada EXTRACTMIN é representada pela letra E 4 8 E 3 E 9 2 6 E E E 1 7 E 5 Preencha os valores corretos no arranjo extraído Para desenvolver um algoritmo para esse problema desmembramos a sequência S em subsequências homogêneas Isto é representamos S por I1 E I2 E I3 Im E Im 1 onde cada E representa uma única chamada EXTRACTMIN e cada Ij representa uma sequência possivelmente vazia de chamadas INSERT Para cada subsequência Ij colocamos inicialmente as chaves inseridas por essas operações em um conjunto Kj que é vazio se Ij é vazio Em seguida fazemos Demonstre que o arranjo extraído retornado por OFFLINEMINIMUM é correto Descreva como implementar OFFLINEMINIMUM eficientemente com uma estrutura de dados de conjuntos disjuntos Dê um limite justo para o tempo de execução do pior caso de sua implementação Determinação da profundidade No problema de determinação da profundidade mantemos uma floresta F Ti de árvores enraizadas sob três operações MAKETREEv cria uma árvore cujo único nó é v a b c d e 213 FINDDEPTHv retorna a profundidade do nó v dentro de sua árvore GRAFTr v faz o nó r que supomos ser a raiz de uma árvore se tornar o filho do nó v o qual supomos estar em uma árvore diferente de r mas que pode ou não ser ele próprio uma raiz Suponha que utilizemos uma representação de árvore semelhante a uma floresta de conjuntos disjuntos vp é o pai do nó v exceto que vp v se v é uma raiz Suponha ainda mais que implementemos GRAFTr v atribuindo rp v e FINDDEPTHv seguindo o caminho de localização até a raiz devolvendo uma contagem de todos os nós encontrados exceto v Mostre que o tempo de execução no pior caso de uma sequência de m operações MAKETREE FINDDEPTH e GRAFT é Qm2 Usando a heurística de união pelo posto e compressão de caminho podemos reduzir o tempo de execução do pior caso Usamos a floresta de conjuntos disjuntos S Si onde cada conjunto Si que é ele próprio uma árvore corresponde a uma árvore Ti na floresta F Contudo a estrutura de árvore dentro de um conjunto Si não corresponde necessariamente à de Ti De fato a implementação de Si não registra as relações paifilho exatas mas apesar disso nos permite determinar a profundidade de qualquer nó em Ti A ideia fundamental é manter em cada nó v uma pseudodistância vd definida de tal modo que a soma das pseudodistâncias ao longo do caminho simples de v até a raiz de seu conjunto Si seja igual à profundidade de v em Ti Isto é se o caminho simples de v até sua raiz em Si é v0 v1 vk onde v0 v e vk é a raiz de Si então a profundidade de v em Ti é Dê uma implementação de MAKETREE Mostre como modificar FIN DSE T para implementar FINDDEPTH Sua implementação deve executar compressão de caminho e seu tempo de execução deve ser linear em relação ao comprimento do caminho de localização Certifiquese de que sua implementação atualiza pseudodistâncias corretamente Mostre como implementar GRAFTr v que combina os conjuntos que contêm r e v modificando os procedimentos UN I O N e LINK Certifiquese de que sua implementação atualize pseudodistâncias corretamente Observe que a raiz de um conjunto Si não é necessariamente a raiz da árvore correspondente Ti Dê um limite justo para o tempo de execução do pior caso de uma sequência de m operações MAKETREE FINDDEPTH e GRAFT das quais n são operações MAKETREE Algoritmo offline de Tarjan para o menor ancestral comum O menor ancestral comum de dois nós u e v em uma árvore enraizada T é o nó w que é um ancestral de u e v e que tem a maior profundidade em T No problema dos menores ancestrais comuns offline temos uma árvore enraizada T e um conjunto arbitrário P u v de pares não ordenados de nós em T e desejamos determinar o menor ancestral comum de cada par em P Para resolver o problema dos menores ancestrais comuns offline o procedimento a seguir executa um percurso da árvore T com a chamada inicial LCATraiz Supomos que cada nó tem a cor WHITE antes do percurso a b c d Demonstre que a linha 10 é executada exatamente uma vez para cada par u v P Demonstre que no momento da chamada LCAu o número de conjuntos na estrutura de dados de conjuntos disjuntos é igual à profundidade de u em T Prove que LCA imprime corretamente o menor ancestral comum de u e v para cada par u v P Analise o tempo de execução de LCA considerando que usamos a implementação da estrutura de dados de conjuntos disjuntos da Seção 213 NOTAS DO CAPÍTULO Muitos dos resultados importantes para estruturas de dados de conjuntos disjuntos se devem em parte a R E Tarjan Usando análise agregada Tarjan 328 330 deu o primeiro limite superior restrito em termos da inversa αˆ m n de crescimento muito lento da função de Ackermann A função Akj dada na Seção 214 é semelhante à função de Ackermann e a função αn é semelhante à inversa Ambas αn e αˆ m n são no máximo 4 para todos os valores concebíveis de m e n Um limite superior Om lg n foi provado antes por Hopcroft e Ullman 5 179 O tratamento na Seção 214 foi adaptado de uma análise posterior de Tarjan 332 que por sua vez é baseada em uma análise de Kozen 220 Harfst e Reingold 161 dão uma versão baseada em potencial do limite anterior de Tarjan Tarjan e van Leeuwen 333 discutem variantes da heurística de compressão de caminho inclusive métodos de uma passagem que às vezes oferecem melhores fatores constantes em seu desempenho que os métodos de duas passagens Assim como as primeiras análises da heurística básica de compressão de caminho realizadas apenas por Tarjan as realizadas por Tarjan e Leeuwen são agregadas Mais tarde Harfst e Reingold 161 mostraram como fazer uma pequena mudança na função potencial para adaptar sua análise de compressão de caminho a essas variantes de uma passagem Gabow e Tarjan 121 mostram que em certas aplicações é possível fazer com que as operações em conjuntos disjuntos sejam executadas no tempo Om Tarjan 329 mostrou que um limite inferior de tempo m αˆ m n é exigido para operações em qualquer estrutura de dados de conjuntos disjuntos que satisfaça certas condições técnicas Mais tarde esse limite inferior foi generalizado por Fredman e Saks 113 que mostraram que no pior caso mαˆ m n palavras de lg n bits devem ser acessadas 1Quando as arestas do grafo são estáticas não mudam com o tempo podemos calcular as componentes conexas mais rapidamente usando busca em profundidade Exercício 22312 Contudo às vezes as arestas são acrescentadas dinamicamente e precisamos manter as componentes conexas à medida que cada aresta é acrescentada Nesse caso a implementação dada aqui pode ser mais eficiente do que executar uma nova busca primeiro em profundidade para cada nova aresta Parte VI ALGORITMOS DE GRAFOS INTRODUÇÃO Problemas sobre grafos estão sempre presentes em ciência da computação e algoritmos para trabalhar com eles são fundamentais para a área Centenas de problemas computacionais interessantes são expressos em termos de grafos Nesta parte examinaremos alguns dos mais significativos O Capítulo 22 mostra como podemos representar um grafo em um computador e depois discute os algoritmos baseados na pesquisa de um grafo utilizando busca em largura ou busca em profundidade O capítulo apresenta duas aplicações de busca em profundidade ordenação topológica de um grafo acíclico dirigido e decomposição de um grafo dirigido em suas componentes fortemente conexas O Capítulo 23 descreve como calcular uma árvore geradora de peso mínimo de um grafo o modo de menor peso para conectar todos os vértices quando cada aresta tem um peso associado Os algoritmos para calcular árvores geradoras mínimas são bons exemplos de algoritmos gulosos veja o Capítulo 16 Os Capítulos 24 e 25 consideram como calcular caminhos mínimos entre vértices quando cada aresta tem um comprimento ou peso associado O Capítulo 24 mostra como encontrar caminhos mínimos de determinado vértice de fonte até todos os outros vértices e o Capítulo 25 examina métodos para calcular caminhos mínimos entre cada par de vértices Finalmente o Capítulo 26 mostra como calcular um fluxo máximo de material em uma rede de fluxo que é um grafo dirigido que tem um vértice de fonte de material especificado um vértice sorvedouro especificado e capacidades especificadas para a quantidade de material que pode percorrer cada aresta dirigida Esse problema geral surge sob muitas formas e um bom algoritmo para calcular fluxos máximos pode ajudar a resolver eficientemente uma variedade de problemas relacionados Quando caracterizamos o tempo de execução de um algoritmo de grafo em um determinado grafo G V E normalmente medimos o tamanho da entrada em termos do número de vértices V e do número de arestas E do grafo Isto é descrevemos o tamanho da entrada com dois parâmetros não apenas um Adotamos uma convenção de notação comum para esses parâmetros Dentro da notação assintótica como a notação O ou a notação Q e somente dentro de tal notação o símbolo V denota V e o símbolo E denota E Por exemplo poderíamos dizer que o algoritmo é executado em tempo OVE significando que o algoritmo é executado no tempo OVE Essa convenção torna as fórmulas de tempo de execução mais fáceis de ler sem risco de ambiguidade Outra convenção que adotamos aparece no pseudocódigo Denotamos o conjunto de vértices de um grafo G por GV e seu conjunto de arestas por GE Isto é o pseudocódigo vê os conjuntos de vértices e arestas como atributos de um grafo 221 22 ALGORITMOS ELEMENTARES EM GRAFOS Este capítulo apresenta métodos para representar um grafo e para executar busca em um grafo Executar busca em um grafo significa seguir sistematicamente as arestas do grafo de modo a visitar os vértices do grafo Um algoritmo de busca pode revelar muita coisa sobre a estrutura de um grafo Muitos algoritmos começam executando uma busca em seu grafo de entrada para obter essas informações estruturais Vários outros algoritmos trabalham em cima de uma busca básica em grafos As técnicas para executar busca em um grafo estão no núcleo da área de algoritmos em grafos A Seção 221 discute as duas representações computacionais mais comuns de grafos como listas de adjacências e como matrizes de adjacências A Seção 222 apresenta um algoritmo simples de busca em grafos denominado busca em largura e mostra como criar uma árvore de busca em largura A Seção 223 apresenta a busca em profundidade e prova alguns resultados padrões para a ordem em que a busca em profundidade visita os vértices A Seção 224 dá nossa primeira aplicação real de busca em profundidade ordenação topológica em um grafo acíclico dirigido Uma segunda aplicação da busca em profundidade encontrar as componentes fortemente conexas de um grafo dirigido é o tópico da Seção 225 REPRESENTAÇÕES DE GRAFOS Podemos escolher entre dois modos padrões para representar um grafo G V E como uma coleção de listas de adjacências ou como uma matriz de adjacências Qualquer desses modos se aplica a grafos dirigidos e não dirigidos Como a representação por lista de adjacências nos dá um modo compacto de representar grafos esparsos aqueles para os quais E é muito menor que V2 ela é em geral o método preferido A maioria dos algoritmos de grafos apresentados neste livro supõe que um grafo de entrada é representado sob a forma de lista de adjacências Contudo uma representação por matriz de adjacências pode ser preferível quando o grafo é denso E está próximo de V2 ou quando precisamos saber rapidamente se há uma aresta conectando dois vértices dados Por exemplo dois dos algoritmos de caminhos mínimos para todos os pares apresentados no Capítulo 25 supõem que seus grafos de entrada são representados por matrizes de adjacências A representação por lista de adjacências de um grafo G V E consiste em um arranjo Adj de V listas uma para cada vértice em V Para cada u V a lista de adjacências Adju contém todos o vértices v tais que existe uma aresta u v E Isto é Adju consiste em todos os vértices adjacentes a u em G Alternativamente ela pode conter ponteiros para esses vértices Visto que as listas de adjacências representam os vértices de um grafo em pseudocódigo tratamos o arranjo Adj como um atributo do grafo exatamente como tratamos o conjunto de vértices E Portanto em pseudocódigo veremos notação tal como GAdju A Figura 221b é uma representação por lista de adjacências do grafo não dirigido na Figura 221a De modo semelhante a Figura 222b é uma representação por lista de adjacências do grafo dirigido na Figura 222a Figura 221 Duas representações de um grafo não dirigido a Um grafo não dirigido G com cinco vértices e sete arestas b Uma representação de G por lista de adjacências c A representação de G por matriz de adjacências Figura 222 Duas representações de um grafo dirigido a Um grafo dirigido G com seis vértices e oito arestas b Uma representação de G por lista de adjacências c A representação de G por matriz de adjacências Se G é um grafo dirigido a soma dos comprimentos de todas as listas de adjacências é E já que uma aresta da forma u v é representada fazendo com que v apareça em Adju Se G é um grafo não dirigido a soma dos comprimentos de todas as listas de adjacências é 2E já que se u v é uma aresta não dirigida então u aparece na lista de adjacências de v e viceversa Quer os grafos sejam dirigidos ou não dirigidos a representação por lista de adjacências tem a seguinte propriedade interessante a quantidade de memória que ela exige é QV E Podemos adaptar imediatamente as listas de adjacências para representar grafos ponderados isto é grafos nos quais cada aresta tem um peso associado normalmente dado por uma função peso w E Por exemplo seja G V E um grafo ponderado com função peso w Simplesmente armazenamos o peso wu v da aresta u v E com o vértice v na lista de adjacências de u A representação por lista de adjacências é bastante robusta no sentido de que podemos modificála para suportar muitas outras variantes de grafos Uma desvantagem potencial da representação por lista de adjacências é que ela não proporciona nenhum modo mais rápido para determinar se uma dada aresta u v está presente no grafo do que procurar v na lista de adjacências Adju Essa desvantagem pode ser contornada por uma representação por matriz de adjacências do grafo porém ao custo de utilizar assintoticamente mais memória Veja no Exercício 2218 sugestões de variações para listas de adjacências que permitem busca mais rápida de arestas No caso da representação por matriz de adjacências de um grafo G V E supomos que os vértices são numerados 1 2 V de alguma maneira arbitrária Então a representação por matriz de adjacências de um grafo G consiste em uma matriz V V A aij tal que 2211 2212 2213 As Figuras 221c e 222c são as matrizes de adjacências do grafo não dirigido e do grafo dirigido nas Figuras 221a e 222a respectivamente A matriz de adjacências de um grafo exige QV2 de memória independentemente do número de arestas no grafo Observe a simetria ao longo da diagonal principal da matriz de adjacências na Figura 221c Visto que em um gráfico não dirigido u v e v u representam a mesma aresta a matriz de adjacências A de um grafo não dirigido é sua própria transposta A AT Em algumas aplicações vale a pena armazenar somente as entradas que estão na diagonal e acima da diagonal da matriz de adjacências o que reduz quase à metade a memória necessária para armazenar o grafo Assim como a representação por lista de adjacências de um grafo uma matriz de adjacências pode representar um grafo ponderado Por exemplo se G V E é um grafo ponderado com função peso de aresta w podemos simplesmente armazenar o peso wu v da aresta u v E como a entrada na linha u e coluna v da matriz de adjacências Se uma aresta não existe podemos armazenar um valor NIL como sua entrada de matriz correspondente se bem que em muitos problemas é conveniente usar um valor como 0 ou Embora a representação por lista de adjacências seja assintoticamente no mínimo tão eficiente em termos de espaço quanto a representação por matriz de adjacências matrizes de adjacências são mais simples e portanto preferíveis quando os grafos são razoavelmente pequenos Além disso matrizes de adjacências têm uma vantagem adicional para grafos não ponderados exigem somente um bit por entrada Representação de atributos A maioria dos algoritmos que funcionam em grafos precisa manter atributos para vértices eou arestas Indicamos esses atributos usando nossa notação usual por exemplo vd para um atributo d de um vértice v Quando indicamos arestas como pares de vértices usamos o mesmo estilo de notação Por exemplo se arestas têm um atributo f denotamos esse atributo para a aresta u v por u v f Para a finalidade de apresentar e entender algoritmos nossa notação de atributo é suficiente Implementar atributos de vértice e aresta em programas reais pode ser uma história inteiramente diferente Não há nenhum modo que seja reconhecidamente melhor para armazenar e acessar atributos de vértice e de aresta Dada uma situação é provável que sua decisão dependerá da linguagem de programação que estiver usando do algoritmo que estiver implementando e de como o resto de seu programa usará o grafo Se você representar um grafo utilizando listas de adjacências um projeto possível representa atributos de vértice em arranjos adicionais tal como um arranjo d1 V que é paralelo ao arranjo Adj Se os vértices adjacentes a u estão em Adju então aquilo que denominamos atributo ud seria realmente armazenado na entrada de arranjo du Há muitos outros modos possíveis de implementar atributos Por exemplo em uma linguagem de programação orientada a objeto atributos de vértices poderiam ser representados como variáveis de instâncias dentro de uma subclasse de uma classe Vertex Exercícios Dada uma representação por lista de adjacências de um grafo dirigido qual o tempo necessário para calcular os graus de saída de todos os vértices Qual o tempo necessário para calcular os graus de entrada Dê uma representação por lista de adjacências para uma árvore binária completa em sete vértices Dê uma representação por matriz de adjacências equivalente Suponha que os vértices são numerados de 1 até 7 como em um heap binário O transposto de um grafo dirigido G V E é o grafo GT V ET onde ET v u V V u v E Assim GT é G com todas as suas arestas invertidas Descreva algoritmos eficientes para calcular GT a partir de G para a representação por lista de adjacências e também para a representação por matriz de adjacências de G Analise os tempos de execução de seus algoritmos 2214 2215 2216 2217 2218 222 Dada uma representação por lista de adjacências de um multigrafo G V E descreva um algoritmo de tempo OV E para calcular a representação por lista de adjacências do grafo não dirigido equivalente G V E onde E consiste nas arestas em E onde todas as arestas múltiplas entre dois vértices foram substituídas por uma aresta única e onde todos os laços foram removidos O quadrado de um grafo dirigido G V E é o grafo G2 V E2 em que u v E2 se e somente se G contiver um caminho que tenha no máximo duas arestas entre u e v Descreva algoritmos eficientes para calcular G2 a partir de G para uma representação por lista de adjacências e para uma representação por matriz de adjacências de G Analise os tempos de execução de seus algoritmos A maioria dos algoritmos em grafos que adota uma representação por matriz de adjacências como entrada exige o tempo V2 mas há algumas exceções Mostre como determinar se um grafo dirigido G contém um sorvedouro universal um vértice com grau de entrada V 1 e grau de saída 0 no tempo OV dada uma matriz de adjacências para G A matriz de incidência de um grafo dirigido G V E sem nenhum laço é uma matriz V E B bij tal que Descreva o que representam as entradas do produto de matrizes BBT onde BT é a transposta de B Suponha que em vez de uma lista ligada cada entrada de arranjo Adju seja uma tabela de espalhamento que contém os vértices v para os quais u v E Se todas as buscas de arestas forem igualmente prováveis qual é o tempo esperado para determinar se uma aresta está no grafo Quais são as desvantagens desse esquema Sugira uma estrutura de dados alternativa para cada lista de arestas que resolva esses problemas Sua alternativa tem desvantagens em comparação com a tabela de espalhamento BUSCA EM LARGURA A busca em largura é um dos algoritmos mais simples para executar busca em um grafo e é o arquétipo de muitos algoritmos de grafos importantes O algoritmo de árvore geradora mínima de Prim Seção 232 e o algoritmo de caminhos mínimos de fonte única de Dijkstra Seção 243 usam ideias semelhantes às que aparecem na busca em largura Dado um grafo G V E e um vértice fonte s a busca em largura explora sistematicamente as arestas de G para descobrir cada vértice que pode ser alcançado a partir de s O algoritmo calcula a distância menor número de arestas de s até cada vértice que pode ser alcançado Produz também uma árvore de busca em largura com raiz s que contém todos os vértices que podem ser alcançados Para qualquer vértice v que pode ser alcançado de s o caminho simples na árvore de busca em largura de s até v corresponde a um caminho mínimo de s a v em G isto é um caminho que contém o menor número de arestas O algoritmo funciona em grafos dirigidos bem como em grafos não dirigidos A busca em largura tem esse nome porque expande a fronteira entre vértices descobertos e não descobertos uniformemente ao longo da extensão da fronteira Isto é o algoritmo descobre todos os vértices à distância k de s antes de descobrir quaisquer vértices à distância k 1 Para controlar o progresso a busca em largura pinta cada vértice de branco cinzento ou preto No início todos os vértices são brancos e mais tarde eles podem se tornar cinzentos e depois pretos Um vértice é descoberto na primeira vez em que é encontrado durante a busca e nesse momento ele se torna não branco Portanto vértices cinzentos e pretos são vértices descobertos mas a busca em largura distingue entre eles para assegurar que a busca prossiga sendo em largura1 Se u v E e o vértice u é preto então o vértice v é cinzento ou preto isto é todos os vértices adjacentes a vértices pretos foram descobertos Vértices cinzentos podem ter alguns vértices adjacentes brancos eles representam a fronteira entre vértices descobertos e não descobertos A busca em largura constrói uma árvore em largura que contém inicialmente apenas sua raiz que é o vértice de fonte s Sempre que a busca descobre um vértice branco v no curso da varredura da lista de adjacências de um vértice u já descoberto o vértice v e a aresta u v são acrescentados à árvore Dizemos que u é o predecessor ou pai de v na árvore de busca em largura Visto que um vértice é descoberto no máximo uma vez ele tem no máximo um pai Relações de ancestral e descendente na árvore de busca em largura são definidas em relação à raiz s da maneira usual se u está em um caminho simples na árvore que vai da raiz s até o vértice v então u é um ancestral de ve v é um descendente de u O procedimento de busca em largura BFS mostrado a seguir supõe que o grafo de entrada G V E é representado com a utilização de listas de adjacências Ele anexa vários atributos adicionais a cada vértice no grafo Armazenamos a cor de cada vértice u V no atributo ucor e o predecessor de u no atributo up Se u não tem nenhum predecessor por exemplo se u s ou se u não foi descoberto então up NIL O atributo ud mantém a distância da fonte s ao vértice u calculada pelo algoritmo O algoritmo também utiliza uma fila Q do tipo primeiro a entrar primeiro a sair veja a Seção 101 para gerenciar o conjunto de vértices cinzentos A Figura 223 ilustra o progresso de BFS em um grafo exemplo O procedimento BFS funciona da maneira descrita a seguir Com a exceção do vértice de fonte s as linhas 14 pintam todos os vértices de branco definem ud como infinito para todo vértice u e definem o pai de todo vértice como NIL A linha 5 pinta s de cinzento já que consideramos que ele é descoberto quando o procedimento começa A linha 6 inicializa sd como 0 e a linha 7 define o predecessor do fonte como NIL As linhas 89 inicializam Q como a fila que contém apenas o vértice s Figura 223 O funcionamento de BFS em um grafo não dirigido As arestas da árvore aparecem sombreadas à medida que são produzidas por BFS O valor de ud aparece dentro de cada vértice u A fila Q é mostrada no início de cada iteração do laço while das linhas 1018 As distâncias de vértices são mostradas abaixo dos vértices na fila O laço while das linhas 1018 itera enquanto houver vértices cinzentos que são vértices descobertos cujas listas de adjacências ainda não foram totalmente examinadas Esse laço while mantém o seguinte invariante No teste na linha 10 a fila Q consiste no conjunto de vértices cinzentos Se bem que não usaremos esse invariante de laço para provar correção é fácil ver que ele é válido antes da primeira iteração e que cada iteração do laço mantém o invariante Antes da primeira iteração o único vértice cinzento e o único vértice em Q é o vértice de fonte s A linha 11 determina o vértice cinzento u no início da fila Q e o remove de Q O laço for das linhas 1217 considera cada vértice v na lista de adjacências de u Se v é branco então ainda não foi descoberto e o procedimento o descobre executando as linhas 1417 O procedimento pinta o vértice v de cinzento define sua distância vd como ud 1 registra u como seu pai vp e o coloca no final da fila Q Uma vez examinados todos os vértices na lista de adjacências de u o procedimento pinta u de preto na linha 18 O invariante de laço é mantido porque sempre que um vértice é pintado de cinzento na linha 14 ele é também enfileirado na linha 17 e sempre que um vértice é retirado da fila na linha 11 ele é também pintado de preto na linha 18 Os resultados da busca em largura podem depender da ordem na qual os vizinhos de um determinado vértice são visitados na linha 12 a árvore de busca em largura pode variar mas as distâncias d calculadas pelo algoritmo não variam veja o Exercício 2225 Análise Antes de provar as várias propriedades da busca em largura realizamos o trabalho um pouco mais fácil de analisar seu tempo de execução em um grafo de entrada G V E Utilizamos análise agregada como vimos na Seção 171 Após a inicialização a busca em largura nunca pinta um vértice de branco e assim o teste na linha 13 assegura que cada vértice seja colocado na fila no máximo uma vez e portanto é retirado da fila no máximo uma vez As operações de enfileirar e desenfileirar demoram o tempo O1 e assim o tempo total dedicado a operações de fila é OV Como o procedimento varre a lista de adjacências de cada vértice somente quando o vértice é desenfileirado varre cada linha de adjacências no máximo uma vez Visto que a soma dos comprimentos de todas as listas de adjacências é QE o tempo total gasto na varredura das listas de adjacências é OE A sobrecarga de inicialização é OV e portanto o tempo de execução total do procedimento BFS é OV E Assim a busca em largura é executada em tempo linear em relação ao tamanho da representação por lista de adjacências de G Caminhos mínimos No início desta seção afirmamos que a busca em largura encontra a distância até cada vértice que pode ser alcançado em um grafo G V E partindo de um determinado vértice de fonte s V Defina a distância do caminho mínimo ds v de s a v como o número mínimo de arestas em qualquer caminho do vértice s ao vértice v se não há nenhum caminho de s a v então ds v Denominamos um caminho de comprimento ds v de s a v caminho mínimo2 de s a v Antes de mostrar que a busca em largura calcula corretamente distâncias de caminhos mínimos examinamos uma propriedade importante de distâncias de caminhos mínimos Lema 221 Seja G V E um grafo dirigido ou não dirigido e seja s V um vértice arbitrário Então para qualquer aresta u v E ds v ds u 1 Prova Se u pode ser alcançado a partir de s então o mesmo ocorre com v Nesse caso o caminho mínimo de s a v não pode ser mais longo que o caminho mínimo de s a u seguido pela aresta u v e assim a desigualdade vale Se u não pode ser alcançado de s então ds u e a desigualdade é válida Queremos mostrar que BFS calcula adequadamente vd ds v para cada vértice v V Primeiro mostramos que vd limita ds v por cima Lema 222 Seja G V E um grafo dirigido ou não dirigido e suponha que BFS seja executado em G partindo de um dado vértice de fonte s V Então no término para cada vértice v V o valor vd calculado por BFS satisfaz vd ds v Prova Utilizamos indução em relação ao número de operações ENQUEUE Nossa hipótese indutiva é que vd ds v para todo v V A base da indução é a situação imediatamente após s ser enfileirado na linha 9 de BFS Aqui a hipótese indutiva se mantém válida porque sd 0 ds s e vd ds s para todo v V s Para o passo de indução considere um vértice branco v que é descoberto durante a busca de um vértice u A hipótese de indução implica que ud ds u Pela atribuição executada pela linha 15 e pelo Lema 221 obtemos Então o vértice v é enfileirado e nunca será enfileirado novamente porque ele também é pintado de cinzento e a cláusula then das linhas 1417 é executada somente para vértices brancos Assim o valor de vd nunca muda novamente e a hipótese de indução é mantida Para provar que dv ds v primeiro devemos mostrar com mais precisão como a fila Q funciona durante o curso de BFS O próximo lema mostra que em todas as vezes a fila contém no máximo dois valores d distintos Lema 223 Suponha que durante a execução de BFS em um grafo G V E a fila Q contenha os vértices v1 v2 vr onde v1 é o início de Q e vr é o final Então vrd v1d 1 e vid vi 1d para i 1 2 r 1 Prova A prova é por indução em relação ao número de operações de fila Inicialmente quando a fila contém apenas s o lema certamente é válido Para o passo de indução devemos provar que o lema se mantém válido tanto depois do desenfileiramento quanto do enfileiramento de um vértice Se o início v1 da fila é desenfileirado v2 tornase o novo início Se a fila se torna vazia então o lema se mantém válido vacuosamente Pela hipótese de indução v1d v2d Mas então temos vrd v1d 1 v2d 1 e as desigualdades restantes não são afetadas Assim o lema prossegue com v2 como início Para entender o que acontece quando enfileiramos um vértice precisamos examinar o código mais minuciosamente Quando enfileiramos um vértice v na linha 17 de BFS ele se torna vr 1 Nesse momento já removemos da fila Q o vértice u cuja lista de adjacências está sendo examinada e pela hipótese de indução o novo início v1 tem v1d ud Assim vi 1d vd ud 1 v1d 1 Pela hipótese indutiva temos também vrd ud 1 e portanto vrd ud 1 vd vi 1d e as desigualdades restantes não são afetadas Portanto o lema prossegue quando v é enfileirado O corolário a seguir mostra que os valores d no momento em que os vértices são enfileirados são monotonicamente crescentes com o tempo Corolário 224 Suponha que os vértices vi e vj sejam enfileirados durante a execução de BFS e que vi seja enfileirado antes de vj Então vid vjd no momento em que vj é enfileirado Prova Imediata pelo Lema 223 e pela propriedade de que cada vértice recebe um valor d finito no máximo uma vez durante a execução de BFS Agora podemos provar que a busca em largura encontra corretamente distâncias de caminhos mínimos Teorema 225 Correção da busca em largura Seja G V E um grafo dirigido ou não dirigido e suponha que BFS seja executado em G partindo de um dado vértice de fonte s V Então durante sua execução BFS descobre todo vértice v V que pode ser alcançado da fonte s e no término vd ds v para todo v V Além disso para qualquer vértice v s que pode ser alcançado de s um dos caminhos mínimos de s a v é um caminho mínimo de s a vp seguido pela aresta vp v Prova Suponha por contradição que algum vértice receba um valor d não igual à distância de seu caminho mínimo Seja v o vértice com ds v mínimo que recebe tal valor d incorreto é claro que v s Pelo Lema 222 vd ds v e portanto temos que vd ds v O vértice v deve poder ser visitado de s porque se não puder ds v vd Seja u o vértice imediatamente anterior a v em um caminho mínimo de s a v de modo que ds v ds u 1 Como ds u ds v e em razão do modo como escolhemos v temos ud ds u Reunindo essas propriedades temos Agora considere o momento em que BFS opta por desenfileirar o vértice u de Q na linha 11 Nesse momento o vértice v é branco cinzento ou preto Mostraremos que em cada um desses casos deduzimos uma contradição para a desigualdade 221 Se v é branco então a linha 15 define vd ud 1 contradizendo a desigualdade 221 Se v é preto então já foi removido da fila e pelo Corolário 224 temos vd ud que novamente contradiz a desigualdade 221 Se v é cinzento então ele foi pintado de cinzento ao ser desenfileirado algum vértice w que foi removido de Q antes de u e para o qual vd wd 1 Porém pelo Corolário 224 wd ud e então temos vd wd 1 ud 1 uma vez mais contradizendo a desigualdade 221 Assim concluímos que vd ds v para todo v V Todos os vértices que podem ser visitados de s devem ser descobertos porque se não fossem teriam vd ds v Para concluir a prova do teorema observe que se vp u então vd ud 1 Assim podemos obter um caminho mínimo de s a v tomando um caminho mínimo de s a vp e depois percorrendo a aresta vp v Árvores em largura O procedimento BFS constrói uma árvore de busca em largura à medida que efetua a busca no grafo como ilustra a Figura 223 A árvore corresponde aos atributos p Em linguagem mais formal para um grafo G V E com fonte s definimos o subgrafo dos predecessores de G como Gp Vp Ep onde O subgrafo dos predecessores Gp é uma árvore de busca em largura se Vp consistir nos vértices que podem ser visitados de s e para todo v Vp existe um caminho simples único de s a v em Gp que também é um caminho mínimo de s a v em G Uma árvore de busca em largura é na verdade uma árvore já que é conexa e Ep Vp 1 ver Teorema B2 As arestas em Ep são denominadas arestas da árvore O lema a seguir mostra que o subgrafo dos predecessores produzido pelo procedimento BFS é uma árvore de busca em largura Lema 226 Quando aplicado a um grafo dirigido ou não dirigido G V E o procedimento BFS constrói p de tal forma que o subgrafo predecessor Gp Vp Ep é uma busca árvore em largura Prova A linha 16 de BFS define vp u se e somente se u v E e ds v isto é se v pode ser visitado por s e assim Vp consiste nos vértices em V que podem ser visitados por s Visto que Gp forma uma árvore pelo Teorema B2 ela contém um caminho simples único de s a cada vértice em Vp Aplicando o Teorema 225 por indução concluímos que todo caminho desse tipo é um caminho mínimo em G O seguinte procedimento imprime os vértices em um caminho mínimo de s a v considerando que BFS já tenha calculado uma árvore em largura 2221 2222 2223 2224 2225 2226 2227 2228 2229 223 Esse procedimento é executado em tempo linear em relação ao número de vértices no caminho impresso já que cada chamada recursiva é para um caminho um vértice mais curto Exercícios Mostre os valores de d e p que resultam da execução da busca em largura no grafo dirigido da Figura 222a usando o vértice 3 como fonte Mostre os valores d e p que resultam da execução da busca em largura no grafo não dirigido da Figura 223 usando o vértice u como fonte Mostre que usar um único bit para armazenar cada cor de vértice é suficiente demonstrando que o procedimento BFS produziria o mesmo resultado se a linha 18 fosse removida Qual é o tempo de execução de BFS se representarmos o seu grafo de entrada por uma matriz de adjacências e modificarmos o algoritmo para tratar essa forma de entrada Mostre que em uma busca em largura o valor ud atribuído a um vértice u é independente da ordem na qual os vértices aparecem em cada lista de adjacências Usando a Figura 223 como exemplo mostre que a árvore de busca em largura calculada por BFS pode depender da ordenação dentro de listas de adjacências Dê um exemplo de grafo dirigido G V E um vértice fonte s V e um conjunto de arestas de árvore Ep E tal que para cada vértice v V o caminho simples único no grafo V Ep de s a v é um caminho mínimo em G e que ainda assim o conjunto de arestas Ep não pode ser produzido executandose BFS em G não importando como os vértices estão ordenados em cada lista de adjacências Há dois tipos de lutadores profissionais os bonzinhos e os vilões Entre qualquer par de lutadores profissionais pode ou não haver uma rivalidade Suponha que tenhamos n lutadores profissionais e uma lista de r pares de lutadores entre os quais há rivalidade Dê um algoritmo de tempo On r que determine se é possível designar alguns dos lutadores como bonzinhos e os restantes como vilões de modo que a rivalidade ocorra sempre entre um bonzinho e um vilão Se for possível realizar tal designação seu algoritmo deve produzila O diâmetro de uma árvore T V E é definido por maxuvV du v isto é a maior de todas distâncias de caminhos mínimos na árvore Dê um algoritmo eficiente para calcular o diâmetro de uma árvore e analise o tempo de execução de seu algoritmo Seja G V E um grafo conexo não dirigido Dê um algoritmo de tempo OV E para calcular um caminho em G que percorra cada aresta em E exatamente uma vez em cada direção Descreva como você pode encontrar a saída de um labirinto se dispuser de uma grande provisão de moedas de um centavo BUSCA EM PROFUNDIDADE A estratégia seguida pela busca em profundidade é como seu nome implica buscar mais fundo no grafo sempre que possível A busca em profundidade explora arestas partindo do vértice v mais recentemente descoberto do qual ainda saem arestas inexploradas Depois que todas as arestas de v foram exploradas a busca regressa pelo mesmo caminho para explorar as arestas que partem do vértice do qual v foi descoberto Esse processo continua até descobrirmos todos os vértices que podem ser visitados a partir do vértice fonte inicial Se restarem quaisquer vértices não descobertos a busca em profundidade seleciona um deles como fonte e repete a busca partindo dessa fonte O algoritmo repete esse processo inteiro até descobrir todos os vértices3 Como ocorre na busca em largura sempre que a busca em profundidade descobre um vértice v durante uma varredura da lista de adjacências de um vértice já descoberto u registra esse evento definindo o atributo predecessor de v vp como u Diferentemente da busca em largura cujo subgrafo dos predecessores forma uma árvore o subgrafo dos predecessores produzido por uma busca em profundidade pode ser composto por várias árvores porque a busca pode ser repetida partindo de várias fontes Portanto definimos o subgrafo dos predecessores de uma busca em profundidade de um modo ligeiramente diferente do da busca em largura fazemos Gp V Ep onde O subgrafo dos predecessores de uma busca em profundidade forma uma floresta de busca em profundidade que abrange várias árvores de busca em profundidade As arestas em Ep são arestas de árvore Como na busca em largura a busca em profundidade pinta os vértices durante a busca para indicar o estado de cada um Cada vértice é inicialmente branco pintado de cinzento quando descoberto na busca e pintado de preto quando terminado isto é quando sua lista de adjacências já foi totalmente examinada Essa técnica garante que cada vértice acabe em exatamente uma árvore de forma que essas árvores são disjuntas Além de criar uma floresta a busca em profundidade também identifica cada vértice com um carimbo de tempo Cada vértice v tem dois carimbos de tempo o primeiro carimbo de tempo vd registra quando v é descoberto pela primeira vez e pintado de cinzento e o segundo carimbo de tempo vf registra quando a busca termina de examinar a lista de adjacências de v e pinta v de preto Esses carimbos de tempo dão informações importantes sobre a estrutura do grafo e em geral são úteis para deduzir o comportamento da busca em profundidade O procedimento DFS a seguir registra no atributo ud o momento em que descobre o vértice u e registra no atributo uf o momento em que liquida o vértice u Esses carimbos de tempo são inteiros entre 1 e 2 V já que existe um evento de descoberta e um evento de término para cada um dos V vértices Para todo vértice u O vértice u é BRANCO antes do tempo ud CINZENTO entre o tempo ud e o tempo uf e PRETO daí em diante O pseudocódigo a seguir é o algoritmo básico de busca em profundidade O grafo de entrada G pode ser dirigido ou não dirigido A variável tempo é uma variável global que utilizamos para definir carimbos de tempo A Figura 224 ilustra o progresso de DFS no grafo mostrado na Figura 222 O procedimento DFS funciona da maneira descrita a seguir As linhas 13 pintam todos os vértices de branco e inicializam seus atributos p como NIL A linha 4 reajusta o contador de tempo global As linhas 57 verificam cada vértice de V por vez e quando um vértice branco é encontrado elas o visitam usando DFSVISIT Toda vez que DFS VISITG u é chamado na linha 7 o vértice u se torna a raiz de uma nova árvore na floresta em profundidade Quando DFS retorna a todo vértice u foi atribuído um tempo de descoberta du e um tempo de término f u Figura 224 Progresso do algoritmo de busca em profundidade DFS em um grafo dirigido À medida que as arestas são exploradas pelo algoritmo elas aparecem sombreadas se são arestas de árvores ou tracejadas caso contrário Arestas que não são de árvores são identificadas por B C ou F conforme sejam arestas de retorno cruzadas ou diretas Os carimbos de tempo dentro dos vértices indicam tempo de descobertatempo de término Em cada chamada DFSVISITG u o vértice u é inicialmente branco A linha 1 incrementa a variável global tempo a linha 2 registra o novo valor de tempo como o tempo de descoberta du e a linha 3 pinta u de cinzento As linhas 4 7 examinam cada vértice v adjacente a u e visitam recursivamente v se ele é branco À medida que cada vértice v Adju é considerado na linha 4 dizemos que a aresta u v é explorada pela busca em profundidade Finalmente depois que toda aresta que sai de u foi explorada as linhas 810 pintam u de preto incrementam tempo e registram o tempo de término em f u Observe que os resultados da busca em profundidade podem depender da ordem em que a linha 5 de DFS examina os vértices e da ordem em que a linha 4 de DFSVISIT visita os vizinhos de um vértice Essas diferentes ordens de visitação tendem a não causar problemas na prática já que em geral podemos usar eficientemente qualquer resultado da busca em profundidade e obter em essência resultados equivalentes Qual é o tempo de execução de DFS Os laços nas linhas 13 e nas linhas 57 de DFS demoram o tempo QV excluindo o tempo para executar as chamadas a DFSVISIT Como fizemos para a busca em largura usamos análise agregada O procedimento DFSVISIT é chamado exatamente uma vez para cada vértice v V já que o vértice u no qual DFSVISIT é invocado tem de ser branco e a primeira coisa que DFSVISIT faz é pintar o vértice u de cinzento Durante uma execução de DFSVISITGv o laço nas linhas 47 é executado Adjv vezes Visto que o custo total de executar as linhas 47 de DFSVISIT é QE Portanto o tempo de execução de DFS é QV E Propriedades da busca em profundidade A busca em profundidade produz informações valiosas sobre a estrutura de um grafo Talvez a propriedade mais básica da busca em profundidade seja que o subgrafo predecessor Gp realmente forma uma floresta de árvores já que a estrutura das árvores em profundidade reflete exatamente a estrutura de chamadas recursivas de DFSVISIT Isto é u vp se e somente se DFSVISITG v foi chamado durante uma busca da lista de adjacências de u Além disso o vértice v é um descendente do vértice u na floresta em profundidade se e somente se v é descoberto durante o tempo em que u é cinzento Uma outra propriedade importante da busca em profundidade é que os tempos de descoberta e término têm estrutura parentizada Se representarmos a descoberta do vértice u com um parêntese à esquerda u e representarmos seu término por um parêntese à direita u então a história de descobertas e términos gera uma expressão bem formada no sentido de que os parênteses estão adequadamente aninhados Por exemplo a busca em profundidade da Figura 225a corresponde à parentização mostrada na Figura 225b O teorema a seguir dá um outro modo de caracterizar a estrutura parentizada Teorema 227 Teorema dos parênteses Em qualquer busca em profundidade de um grafo dirigido ou não dirigido G V E para quaisquer dois vértices u e v exatamente uma das três condições seguintes é válida Os intervalos ud uf e vd vf são completamente disjuntos e nem u nem v é um descendente do outro na floresta em profundidade y Vn Figura 225 Propriedades da busca em profundidade a O resultado de uma busca em profundidade de um grafo dirigido Os vértices são identificados por carimbos de tempo e os tipos de arestas são indicados como na Figura 224 b Os intervalos para o tempo de descoberta e o tempo de término de cada vértice correspondem à parentização mostrada Cada retângulo compreende o intervalo dado pelos tempos de descoberta e término do vértice correspondente Somente arestas de árvore são mostradas Se dois intervalos se sobrepõem então um deles está aninhado no outro e o vértice correspondente ao menor intervalo é um descendente do vértice correspondente ao maior c O grafo da parte a redesenhado com todas as arestas de árvore e diretas descendo no interior de uma árvore em profundidade e todas as arestas de retorno subindo de um descendente para um ancestral O intervalo ud uf está contido inteiramente dentro do intervalo vd vf e u é um descendente de v em uma árvore em profundidade O intervalo vd vf está contido inteiramente dentro do intervalo ud uf e v é um descendente de u em uma árvore em profundidade Prova Começamos com o caso no qual ud vd Consideramos dois subcasos conforme vd uf ou não O primeiro subcaso ocorre quando vd uf portanto v foi descoberto enquanto u ainda era cinzento o que implica que v é um descendente de u Além disso como v foi descoberto mais recentemente que u todas as suas arestas de saída são exploradas e v é terminado antes de a busca retornar a u e terminálo Portanto nesse caso o intervalo vd vf está completamente contido no intervalo ud uf No outro subcaso uf vd e pela desigualdade 222 ud uf vd vf assim os intervalos ud uf e vd vf são disjuntos Como os intervalos são disjuntos nenhum dos vértices foi descoberto enquanto o outro era cinzento e portanto nenhum dos vértices é descendente do outro O caso em vd ud é semelhante com os papéis de u e v invertidos no argumento anterior Corolário 228 Aninhamento de intervalos de descendentes O vértice v é um descendente adequado do vértice u na floresta em profundidade para um grafo dirigido ou não dirigido G se e somente se ud vd vf uf Prova Imediata pelo Teorema 227 O próximo teorema dá uma outra caracterização importante para quando um vértice é descendente de outro na floresta em profundidade Teorema 229 Teorema do caminho branco Em uma floresta em profundidade de um grafo dirigido ou não dirigido G V E o vértice v é um descendente do vértice u se e somente se no momento ud em que a busca descobre u há um caminho de u a v que consiste inteiramente em vértices brancos Prova Se v u então o caminho de u a v contém apenas o vértice u que ainda é branco quando definimos o valor de ud Agora suponha que v seja um descendente próprio de u na floresta em profundidade Pelo Corolário 228 ud vd portanto v é branco no tempo ud Visto que v pode ser qualquer descendente de u todos os vértices em um caminho simples único de u a v na floresta em profundidade são brancos no tempo ud Suponha que haja um caminho de vértices brancos de u a v no tempo ud mas v não se torna um descendente de u na árvore em profundidade Sem prejuízo da generalidade considere que todo vértice exceto v ao longo do caminho se torne um descendente de u Caso contrário seja v o vértice mais próximo de u ao longo do caminho que não se torna um descendente de u Seja w o predecessor de v no caminho de modo que w seja um descendente de u na verdade w e u podem ser o mesmo vértice Pelo Corolário 228 wf uf Como v tem de ser descoberto depois de u ser descoberto mas antes de w ser terminado temos ud vd wf uf Então o Teorema 227 implica que o intervalo vd vf está contido inteiramente no intervalo ud uf Pelo Corolário 228 v deve ser afinal um descendente de u 1 2 4 5 1 2 3 3 Classificação de arestas Uma outra propriedade interessante da busca em profundidade é que a busca pode ser usada para classificar as arestas do grafo de entrada G V E O tipo de cada aresta pode nos dar informações importantes sobre um grafo Por exemplo na próxima seção veremos que um grafo dirigido é acíclico se e somente se uma busca em profundidade não produz nenhuma aresta de retorno Lema 2211 Podemos definir quatro tipos de arestas em termos da floresta em profundidade Gp produzida por uma busca em profundidade em G Arestas de árvore são arestas na floresta em profundidade Gp A aresta u v é uma aresta de árvore se v foi descoberto primeiro pela exploração da aresta u v Arestas de retorno são as arestas u v que conectam um vértice u a um ancestral v em uma árvore em profundidade Consideramos laços que podem ocorrer em grafos dirigidos como arestas de retorno Arestas diretas são as arestas u v não de árvore que conectam um vértice u a um descendente v em uma árvore em profundidade Arestas cruzadas são todas as outras arestas Elas podem estar entre vértices na mesma árvore desde que um vértice não seja um ancestral do outro ou podem estar entre vértices em diferentes árvores de busca Nas Figuras 224 e 225 rótulos de arestas indicam os tipos de arestas A Figura 225c também mostra como redesenhar o grafo da Figura 225a de modo que todas as arestas de árvore e diretas dirijamse para baixo em uma árvore em profundidade e que todas as arestas de retorno dirijamse para cima Podemos redesenhar qualquer grafo dessa maneira O algoritmo DFS tem informações suficientes para classificar algumas arestas à medida que as encontra A ideia fundamental é que quando exploramos uma aresta u v pela primeira vez a cor do vértice v nos diga algo sobre a aresta BRANCO indica uma aresta de árvore CINZENTO indica uma aresta de retorno PRETO indica uma aresta direta ou cruzada O primeiro caso é imediato pela especificação do algoritmo Para o segundo caso observe que os vértices cinzentos sempre formam uma cadeia linear de descendentes que corresponde à pilha de invocações ativas de DFS VISIT o número de vértices cinzentos é uma unidade maior que a profundidade na floresta em profundidade do vértice mais recentemente descoberto A exploração sempre prossegue do vértice cinzento mais profundo assim uma aresta que visita outro vértice cinzento alcançou um ancestral O terceiro caso trata da possibilidade restante o Exercício 2235 pede que você mostre que tal aresta u v é uma aresta direta se ud vd e uma aresta cruzada se ud vd Um grafo não dirigido pode acarretar alguma ambiguidade na classificação de arestas já que u v e v u são na realidade a mesma aresta Nesse caso classificamos a aresta como do primeiro tipo na lista de classificação aplicável De modo equivalente veja o Exercício 2236 classificamos a aresta conforme o que a busca encontrar primeiro u v ou v u Agora mostramos que arestas diretas e cruzadas nunca ocorrem em uma busca em profundidade de um grafo não dirigido Teorema 2210 Em uma busca em profundidade de um grafo não dirigido G toda aresta de G é uma aresta de árvore ou é uma aresta de retorno Prova Seja u v uma aresta arbitrária de G e suponha sem perda de generalidade que du dv Então a busca deve descobrir e terminar v antes de terminar u enquanto u é cinzento já que v está na lista de adjacências de u Se 2231 2232 2233 2234 235 a b c na primeira vez que a busca explorar a aresta u v ela estiver na direção de u para v então v é não descoberto branco até esse momento porque do contrário a busca já teria explorado essa aresta na direção de v para u Assim u v se torna uma aresta de árvore Se a busca explorar u v primeiro na direção de v para u então u v é uma aresta de retorno já que u ainda é cinzento no momento em que a aresta é explorada pela primeira vez Veremos várias aplicações desses teoremas nas seções seguintes Exercícios Faça um diagrama 3 por 3 com rótulos de linhas e colunas BRANCO CINZENTO e PRETO Em cada célula i j indique se em qualquer ponto durante uma busca em profundidade de um grafo dirigido pode existir uma aresta de um vértice de cor i a um vértice de cor j Para cada aresta possível indique os tipos de aresta que ela pode ser Faça um segundo diagrama para busca em profundidade de um grafo não dirigido Figura 226 Um grafo dirigido para uso nos Exercícios 2232 e 2252 Mostre como a busca em profundidade funciona no grafo da Figura 226 Suponha que o laço for das linhas 57 do procedimento DFS considera os vértices em ordem alfabética e que cada lista de adjacências está em ordem alfabética Mostre os tempos de descoberta e término para cada vértice e a classificação de cada aresta Mostre a estrutura parentizada da busca em profundidade da Figura 224 Mostre que usar um único bit para armazenar a cor de cada vértice é suficiente demonstrando que o procedimento DFS produziria o mesmo resultado se a linha 8 de DFSVISIT fosse removida Mostre que a aresta u v é uma aresta de árvore ou aresta direta se e somente se ud vd vf uf uma aresta de retorno se e somente se vd ud uf vf uma aresta cruzada se e somente se vd vf ud uf 2236 2237 2238 2239 22310 22311 22312 22313 224 Mostre que em um grafo não dirigido classificar uma aresta u v como uma aresta de árvore ou uma aresta de retorno conforme u v ou v u seja encontrado em primeiro lugar durante a busca em profundidade equivale a classificála de acordo com a ordenação dos quatro tipos no esquema de classificação Reescreva o procedimento DFS utilizando uma pilha para eliminar recursão Dê um contraexemplo para a seguinte hipótese se um grafo dirigido G contém um caminho de u a v e se ud vd em uma busca em profundidade de G então v é um descendente de u na floresta em profundidade produzida Dê um contraexemplo para a seguinte hipótese se um grafo dirigido G contém um caminho de u a v então qualquer busca em profundidade deve resultar em vd uf Modifique o pseudocódigo para busca em profundidade de modo que ele imprima todas as arestas no grafo dirigido G juntamente com seu tipo Mostre quais modificações se houver você precisa fazer se G for não dirigido Explique como um vértice u de um grafo dirigido pode acabar em uma árvore em profundidade que contém apenas u ainda que u tenha arestas de entrada bem como de saída em G Mostre que podemos usar uma busca em profundidade em um grafo não dirigido G para identificar as componentes conexas de G e que a floresta de busca em profundidade contém tantas árvores quantas são as componentes conexas de G Mais precisamente mostre como modificar a busca em profundidade de modo a atribuir a cada vértice v um rótulo inteiro ccv entre 1 e k onde k é o número de componentes conexas de G tal que ucc vcc se e somente se u e v estiverem na mesma componente conexa Um grafo dirigido G V E é singularmente conexo se u v implica que G contém no máximo um caminho simples de u a v para todos os vértices u v V Dê um algoritmo eficiente para determinar se um grafo dirigido é ou não isoladamente conexo ORDENAÇÃO TOPOLÓGICA Esta seção mostra como podemos usar busca em profundidade para executar uma ordenação topológica de um grafo acíclico dirigido ou gad como às vezes é chamado Uma ordenação topológica de um gad G V E é uma ordenação linear de todos os seus vértices tal que se G contém uma aresta u v então u aparece antes de v na ordenação Se o grafo contém um ciclo nenhuma ordenação topológica é possível Podemos ver uma ordenação topológica de um grafo como uma ordenação de seus vértices ao longo de uma linha horizontal de modo tal que todas as arestas dirigidas vão da esquerda para a direita Assim a ordenação topológica é diferente do tipo habitual de ordenação estudado na Parte II Muitas aplicações usam grafos acíclicos dirigidos para indicar precedências entre eventos A Figura 227 mostra um exemplo que surge quando o professor Bumstead se veste pela manhã O professor deve vestir certas peças de roupa antes de outras por exemplo meias antes de sapatos Outros itens podem ser colocados em qualquer ordem por exemplo meias e calças Uma aresta dirigida u v no gad da Figura 227a indica que a peça de roupa u deve ser vestida antes da peça v Portanto uma ordenação topológica desse gad dá uma ordem para o processo de se vestir A Figura 227b mostra o gad topologicamente ordenado como uma ordenação de vértices ao longo de uma linha horizontal tal que todas as arestas dirigidas vão da esquerda para a direita O seguinte algoritmo simples ordena topologicamente um gad Figura 227 a O professor Bumstead ordena topologicamente sua roupa ao se vestir Cada aresta dirigida u v significa que a peça de roupa u deve ser vestida antes da peça v Os tempos de descoberta e término de uma busca em profundidade são mostrados ao lado de cada vértice b O mesmo grafo mostrado com uma ordenação topológica Seus vértices estão organizados da esquerda para a direita em ordem decrescente de tempo de término Observe que todas as arestas dirigidas vão da esquerda para a direita A Figura 227b mostra como os vértices topologicamente ordenados aparecem na ordem inversa de seus tempos de término Podemos executar uma ordenação topológica no tempo QV E já que a busca em profundidade demora o tempo QV E e que inserir cada um dos V vértices à frente da lista ligada leva o tempo O1 Demonstramos a correção desse algoritmo utilizando o seguinte lema fundamental que caracteriza grafos acíclicos dirigidos Lema 2211 Um grafo dirigido G é acíclico se e somente se uma busca em profundidade de G não produz nenhuma aresta de retorno Prova Suponha que uma busca em profundidade produza uma aresta de retorno u v Então o vértice v é um ancestral do vértice u na floresta em profundidade Assim G contém um caminho de v a u e a aresta de retorno u v completa um ciclo Suponha que G contenha um ciclo c Mostramos que uma busca em profundidade de G produz uma aresta de retorno Seja v o primeiro vértice a ser descoberto em c e seja u v a aresta precedente em c No tempo vd os vértices de c formam um caminho de vértices brancos de v a u Pelo teorema do caminho branco o vértice u se torna um descendente de v na floresta em profundidade Então u v é uma aresta de retorno Teorema 2212 TOPOLOGICALSORT produz uma ordenação topológica de um grafo acíclico dirigido dado como sua entrada 2241 2242 2243 2244 2245 Prova Suponha que DFS seja executado em determinado gad G V E para determinar tempos de término para seus vértices É suficiente mostrar que para qualquer par de vértices distintos u v V se G contém uma aresta de u a v então vf uf Considere qualquer aresta u v explorada por DFSG Quando essa aresta é explorada v não pode ser cinzento já que nesse caso v seria um ancestral de u e u v seria uma aresta de retorno o que contradiz o Lema 2211 Portanto v deve ser branco ou preto Se v é branco ele se torna um descendente de u e assim vf uf Se v é preto ele já terminou de modo que vf já foi definido Como ainda estamos explorando u ainda temos de atribuir um carimbo de tempo a uf e tão logo o façamos também teremos vf uf Assim para qualquer aresta u v no gad temos vf uf o que prova o teorema Figura 228 Um gad para ordenação topológica Exercícios Mostre a ordenação de vértices produzida por TOPOLOGICALSORT quando executado no gad da Figura 228 sob a hipótese do Exercício 2232 Dê um algoritmo de tempo linear que tome como entrada um grafo acíclico dirigido G V E e dois vértices s e t e retorne o número de caminhos simples de s para t em G Por exemplo o grafo acíclico dirigido da Figura 228 contém exatamente quatro caminhos do vértice p para o vértice v pov poryv posryv e psryv Seu algoritmo só precisa contar os caminhos não listálos Dê um algoritmo que determine se um dado grafo não dirigido G V E contém um ciclo simples Esse algoritmo deve ser executado no tempo OV independentemente de E Prove ou desprove se um grafo dirigido G contém ciclos então TOPOLOGICALSORTG produz uma ordenação de vértices que minimiza o número de arestas ruins que são inconsistentes com a ordenação produzida Outro modo de executar ordenação topológica em um grafo acíclico dirigido G V E é encontrar repetidamente um vértice de grau de entrada 0 imprimilo e removêlo do grafo bem como todas as suas arestas de saída Explique como implementar essa ideia de modo que seja executada no tempo OV E O que acontecerá a esse algoritmo se G tiver ciclos 225 COMPONENTES FORTEMENTE CONEXAS Agora consideraremos uma aplicação clássica de busca em profundidade a decomposição de um grafo dirigido em suas componentes fortemente conexas Esta seção mostra como fazer isso usando duas buscas em profundidade Muitos algoritmos que funcionam com grafos dirigidos começam por uma decomposição desse tipo Após a decomposição do grafo em componentes fortemente conexas tais algoritmos são executados separadamente em cada uma delas e combinados em soluções de acordo com a estrutura das conexões entre componentes Lembrese de que vimos no Apêndice B que uma componente fortemente conexa de um grafo dirigido G V E é um conjunto máximo de vértices C V tal que para todo par de vértices u e v em C temos u v e v u isto é u pode ser alcançado a partir do vértice v e viceversa A Figura 229 mostra um exemplo Nosso algoritmo para encontrar componentes fortemente conexas de um grafo G V E usa o transposto de G que é definida no Exercício 2213 como o grafo GT V ET onde ET u v v u E Isto é ET consiste nas arestas de G com suas direções invertidas Dada uma representação por lista de adjacências de G o tempo para criar GT é OV E É interessante observar que G e GT têm exatamente as mesmas componentes fortemente conexas u e v podem ser alcançados um a partir do outro em G se e somente se puderem ser alcançados um a partir do outro em GT A Figura 229b mostra o transposto do grafo na Figura 229a com as componentes fortemente conexas sombreadas O algoritmo de tempo linear isto é de tempo QV E apresentado a seguir calcula as componentes fortemente conexas de um grafo dirigido G V E usando duas buscas em profundidade uma em G e uma em GT Figura 229 a Um grafo dirigido G Cada região sombreada é uma componente fortemente conexa de G Cada vértice é identificado com seus tempos de descoberta e de término em uma busca em profundidade e arestas de árvore são sombreadas b O grafo GT a transposta de G na qual é mostrada a árvore em profundidade calculada na linha 3 de STRONGLYCONNECTEDCOMPONENTS e as arestas de árvore são sombreadas Cada componente fortemente conexa corresponde a uma árvore de busca em profundidade Os vértices b c g e h que são sombreados em tom mais escuro são as raízes das árvores de busca em profundidade produzidas pela busca em profundidade de GT c O grafo acíclico de componentes G SCC obtido pela contração de cada componente fortemente conexa de G de modo que apenas um único vértice permaneça em cada componente A ideia por trás desse algoritmo vem de uma propriedade fundamental do grafo de compo nentes GSCC VSCC ESCC que definimos a seguir Suponha que G tenha componentes fortemente conexas C1 C2 Ck O conjunto de vértices V SCC é v1 v2 vk e contém um vértice vi para cada componente fortemente conexa Ci de G Há uma aresta vi vj ESCC se G contém uma aresta dirigida x y para algum x Ci e algum y Cj Visto de outro modo contraindo todas as arestas cujos vértices incidentes estão dentro da mesma componente fortemente conexa de G o grafo resultante é GSCC A Figura 229c mostra o grafo de componentes do grafo na Figura 229a A propriedade fundamental é que o grafo de componentes é um gad o que implica o lema a seguir Lema 2213 Sejam C e C componentes fortemente conexas distintas em um grafo dirigido G V E seja u v C seja u v C e suponha que G contenha um caminho u u Então G não pode conter também um caminho v v Prova Se G contém um caminho v v então contém caminhos u u v e v v u em G Assim u e v podem ser visitados um a partir do outro o que contradiz a hipótese de que C e C são componentes fortemente conexas distintas Veremos que considerando vértices na segunda busca em profundidade em ordem decrescente dos tempos de término que foram calculados na primeira busca em profundidade estamos em essência visitando os vértices do grafo de componentes cada um dos quais corresponde a uma componente fortemente conexa de G em sequência ordenada topologicamente Como o procedimento STRONGLYCONNECTEDCOMPONENTs executa duas buscas em profundidade há potencial para ambiguidade quando discutimos ud ou uf Nesta seção esses valores sempre se referem aos tempos de descoberta e término calculados pela primeira chamada de DFS na linha 1 Estendemos a notação de tempos de descoberta e término a conjuntos de vértices Se U V então definimos dU minuU ud e f U maxuU u f Isto é dU e fU são o tempo de descoberta mais antigo e o tempo de término mais recente respectivamente de qualquer vértice em U O lema a seguir e seu corolário dão uma propriedade fundamental que relaciona componentes fortemente conexas a tempos de término na primeira busca em profundidade Lema 2214 Sejam C e C componentes fortemente conexas distintas no grafo dirigido G V E Suponha que haja uma aresta u v E onde u C e v C Então fC fC Prova Consideramos dois casos dependendo de qual componente fortemente conexa C ou C tinha o primeiro vértice descoberto durante a busca em profundidade Se dC dC seja x o primeiro vértice descoberto em C No tempo xd todos os vértices em C e C são brancos Nesse momento G contém um caminho de x a cada vértice em C ao longo do qual há apenas vértices brancos Como u v E para qualquer vértice w C também há em G um caminho de x a w no tempo xd que contém somente vértices brancos x u v w Pelo teorema do caminho branco todos os vértices em C e C se tornam descendentes de x na árvore em profundidade Pelo Corolário 228 x tem o tempo de término mais recente que qualquer de seus descendentes portanto xf fC fC Se em vez disso tivermos dC dC seja y o primeiro vértice descoberto em C No tempo yd todos os vértices em C são brancos e G contém um caminho de y a cada vértice em C formado somente por vértices brancos Pelo teorema do caminho branco todos os vértices em C se tornam descendentes de y na árvore em profundidade e pelo Corolário 228 yf fC No tempo yd todos os vértices em C são brancos Como existe uma aresta u v de C a C o Lema 2213 implica que não pode existir um caminho de C a C Consequentemente nenhum vértice em C pode ser visitado por y Portanto no tempo yf todos os vértices em C ainda são brancos Assim para qualquer vértice w C temos wf yf o que implica que fC fC O corolário a seguir nos diz que cada aresta em GT entre diferentes componentes fortemente conexas vai de uma componente com um tempo de término anterior na primeira busca em profundidade a uma componente com um tempo de término posterior Corolário 2215 Sejam C e C componentes fortemente conexas distintas no grafo dirigido G V E Suponha que haja uma aresta u v ET onde u C e v C Então fC fC Prova Como u v ET temos v u E Visto que as componentes fortemente conexas de G e GT são as mesmas o Lema 2214 implica que fC fC O Corolário 2215 nos dá a chave para entender por que o algoritmo de componentes fortemente conexas funciona Vamos examinar o que acontece quando executamos a segunda busca em profundidade que está em GT Começamos com a componente fortemente conexa C cujo tempo de término fC é máximo A busca começa em algum vértice x C e visita todos os vértices em C Pelo Corolário 2215 GT não contém nenhuma aresta de C a qualquer outra componente fortemente conexa e por isso a busca iniciada em x não visitará vértices em qualquer outra componente Assim a árvore com raiz em x contém exatamente os vértices de C Agora que as visitas a todos os vértices em C foram concluídas a busca na linha 3 seleciona como raiz um vértice de alguma outra componente fortemente conexa C cujo tempo de término fC é máximo em relação a todas as outras componentes exceto C Mais uma vez a busca visitará todos os vértices em C mas pelo Corolário 2215 as únicas arestas em GT que vão de C a qualquer outra componente devem ir até C que já visitamos Em geral quando a busca em profundidade de GT na linha 3 visita qualquer componente fortemente conexa quaisquer arestas que saem dessa componente devem ir até componentes que a busca já visitou Então cada árvore de busca em profundidade será exatamente uma componente fortemente conexa O teorema a seguir formaliza esse argumento Teorema 2216 O procedimento STRONGLYCONNECTEDCOMPONENTS calcula corretamente as componentes fortemente conexas do grafo dirigido dado como sua entrada Prova Mostramos por indução em relação ao número de árvores de busca encontradas na busca em profundidade de GT na linha 3 que os vértices de cada árvore formam uma componente fortemente conexa A hipótese de indução é que as primeiras k árvores produzidas na linha 3 são componentes fortemente conexas A base para a indução quando k 0 é trivial No passo de indução supomos que cada uma das k primeiras árvores em profundidade produzidas na linha 3 é uma componente fortemente conexa e consideramos a k 1ésima árvore produzida Seja o vértice u a raiz dessa árvore e suponhamos que u esteja na componente fortemente conexa C Como resultado do modo como escolhemos raízes na busca em profundidade na linha 3 uf fC fC para qualquer componente fortemente conexa C exceto C que ainda tenha de ser visitada Pela hipótese de indução no momento em que a busca visita u todos os outros vértices de C são brancos Então pelo teorema do caminho branco todos os outros vértices de C são descendentes de u nessa árvore em profundidade Além disso pela hipótese de indução e pelo Corolário 2215 quaisquer arestas em GT que saem de C devem ir até componentes fortemente conexas que já foram visitadas Assim nenhum vértice em uma componente fortemente conexa exceto C será um descendente de u durante a busca em profundidade de GT Portanto os vértices da árvore de busca em profundidade em GT enraizada em u formam exatamente uma componente fortemente conexa o que conclui o passo de indução e a prova Apresentamos agora um outro modo de ver como funciona a segunda busca em profundidade Considere o grafo de componentes GTSCC de GT Se mapearmos cada componente fortemente conexa visitada na segunda busca em profundidade até um vértice de GTSCC a segunda busca em profundidade visita os vértices de GTSCC na ordem inversa de uma ordem topológica Se invertermos as arestas de GTSCC obteremos o grafo GTSCCT Como GTSCCT GTSCC veja o Exercício 2254 a segunda busca em profundidade visita os vértices de GSCC em ordem topológica Exercícios 2251 2252 2253 2254 2255 2256 2257 221 a 1 2 3 b 1 2 3 4 Como o número de componentes fortemente conexas de um grafo pode mudar se uma nova aresta for adicionada Mostre como o procedimento STRONGLYCONNECTEDCOMPONENTS funciona no grafo da Figura 226 Especificamente mostre os tempos de término calculados na linha 1 e a floresta produzida na linha 3 Suponha que o laço das linhas 57 de DFS toma os vértices em ordem alfabética e que as listas de adjacências estão em ordem alfabética O professor Bacon afirma que o algoritmo para componentes fortemente conexas seria mais simples se usasse o grafo original em lugar da transposta na segunda busca em profundidade e varresse os vértices na ordem crescente de tempos de término Esse algoritmo mais simples sempre produzirá resultados corretos Prove que para qualquer grafo dirigido G temos GTSCCT GTSCC Isto é o transposto do grafo de componentes de GT é igual ao grafo de componentes de G Dê um algoritmo de tempo OV E para calcular o grafo de componentes de um grafo dirigido G V E Certifiquese de que haja no máximo uma aresta entre dois vértices no grafo de componentes que o seu algoritmo produz Dado um grafo dirigido G V E explique como criar um outro grafo G V E tal que a G tenha as mesmas componentes fortemente conexas que G b G tenha o mesmo grafo de componentes que G e c E seja o menor possível Descreva um algoritmo rápido para calcular G Um grafo dirigido G V E é semiconexo se para todos os pares de vértices u v V temos u v ou v u Dê um algoritmo eficiente para determinar se G é ou não semiconexo Prove que o algoritmo é correto e analise seu tempo de execução Problemas Classificação de arestas por busca em largura Uma floresta de busca em profundidade classifica as arestas de um grafo em arestas de árvore de retorno diretas e cruzadas Uma árvore de busca em largura também pode ser usada para classificar as arestas que podem ser alcançadas a partir da fonte da busca nas mesmas quatro categorias Prove que em uma busca em largura de um grafo não dirigido as seguintes propriedades são válidas Não há nenhuma aresta de retorno e nenhuma aresta direta Para cada aresta de árvore u v temos vd ud 1 Para cada aresta cruzada u v temos vd ud ou vd ud 1 Prove que em uma busca em largura de um grafo dirigido as seguintes propriedades são válidas Não há arestas diretas Para cada aresta de árvore u v temos vd ud 1 Para cada aresta cruzada u v temos vd ud 1 Para cada aresta de retorno u v temos 0 vd ud 222 a b c d e f g h 223 Pontos de articulação pontes e componentes biconectadas Seja G V E um grafo conexo não dirigido Um ponto de articulação de G é um vértice cuja remoção desconecta G Uma ponte de G é uma aresta cuja remoção desconecta G Uma componente biconexa de G é um conjunto máximo de arestas tal que quaisquer duas arestas no conjunto encontramse em um ciclo simples comum A Figura 2210 ilustra essas definições Podemos determinar pontos de articulação pontes e componentes biconexas utilizando busca em profundidade Seja Gp V Ep uma árvore de busca em profundidade de G Prove que a raiz de Gp é um ponto de articulação de G se e somente se ele tem no mínimo dois filhos em Gp Figura 2210 Os pontos de articulação pontes e componentes biconexas de um grafo conexo não dirigido para uso no Problema 222 Os pontos de articulação são os vértices sombreados em tom mais escuro as pontes são as arestas sombreadas em tom mais escuro e as componentes biconexas são as arestas nas regiões sombreadas nas quais aparece a numeração bcc Seja v um vértice não de raiz de Gp Prove que v é um ponto de articulação de G se e somente se v tem um filho s tal que não há nenhuma aresta de retorno de s ou de qualquer descendente de s até um ancestral próprio de v Seja Mostre como calcular vinferior para todos os vértices v V no tempo OE Mostre como calcular todos os pontos de articulação no tempo OE Prove que uma aresta de G é uma ponte se e somente se ela não estiver em nenhum ciclo simples de G Mostre como calcular todas as pontes de G no tempo OE Prove que as componentes biconexas de G particionam as arestas não pontes de G Dê um algoritmo de tempo OE para rotular cada aresta e de G com um inteiro positivo ebcc tal que ebcc ebcc se e somente se e e e estão na mesma componente biconexa Percurso de Euler a b 224 Um percurso de Euler de um grafo fortemente conexo dirigido G V E é um ciclo que percorre cada aresta de G exatamente uma vez embora possa visitar um vértice mais de uma vez Mostre que G tem um percurso de Euler se e somente se grau de entradav grau de saídav para cada vértice v V Descreva um algoritmo de tempo OE para encontrar um percurso de Euler de G se houver algum Sugestão Intercale ciclos disjuntos de arestas Acessibilidade Seja G V E um grafo dirigido no qual cada vértice u V é rotulado com um inteiro único Lu do conjunto 1 2 V Para cada vértice u V seja Ru v V u v o conjunto de vértices que podem ser alcançados a partir de u Defina minu como o vértice em Ru cujo rótulo é mínimo isto é minu é o vértice v tal que Lv minLw w Ru Dê um algoritmo de tempo OV E que calcule minu para todos os vértices u V NOTAS DO CAPÍTULO Even 103 e Tarjan 330 são excelentes referências para algoritmos em grafos A busca em largura foi descoberta por Moore 260 no contexto de caminhos de localização em labirintos Lee 226 descobriu independentemente o mesmo algoritmo no contexto de roteamento de fios em placas de circuitos Hopcroft e Tarjan 178 defenderam o uso da representação por listas de adjacências em vez da representação por matriz de adjacências no caso de grafos esparsos e foram os primeiros a reconhecer a importância algorítmica da busca em profundidade A busca em profundidade tem sido amplamente utilizada desde o final da década de 1950 especialmente em programas de inteligência artificial Tarjan 327 apresentou um algoritmo de tempo linear para encontrar componentes fortemente conexas O algoritmo para componentes fortemente conexas na Seção 225 foi adaptado de Aho Hopcroft e Ullman 6 que o creditam a S R Kosaraju não publicado e M Sharir 314 Gabow 119 também desenvolveu um algoritmo para componentes fortemente conexas baseado na contração de ciclos e utiliza duas pilhas para executálo em tempo linear Knuth 209 foi o primeiro a apresentar um algoritmo de tempo linear para ordenação topológica 1Distiguimos entre vértices cinzentos e pretos porque isso nos ajuda a entender como a busca em largura funciona Na verdade como o Exercício 2223 mostra obteríamos o mesmo resultado mesmo que não distinguíssemos entre vértices cinzentos e pretos 2Nos Capítulos 24 e 25 generalizaremos nosso estudo de caminhos mínimos para grafos ponderados nos quais cada aresta tem um valor de peso real e o peso de um caminho é a soma dos pesos de suas arestas constituintes Os grafos considerados neste capítulo são grafos não ponderados ou o que é equivalente todas as arestas têm peso unitário 3 Pode parecer arbitrário que a busca em largura se limite apenas a uma fonte enquanto a busca em profundidade pode executar busca partindo de várias fontes Embora em termos conceituais a busca em largura poderia se originar em várias fontes e a busca em profundidade poderia ser limitada a uma fonte nossa abordagem reflete o modo como os resultados dessas buscas são normalmente usados Em geral a busca em largura serve para encontrar distâncias de caminhos mínimos e o subgrafo predecessor associado que partem de determinada fonte A busca em profundidade muitas vezes é uma subrotina em um outro algoritmo como veremos mais adiante neste capítulo 23 ÁRVORES GERADORAS MÍNIMAS Em projeto de circuitos eletrônicos muitas vezes é necessário que os pinos de vários componentes se tornem eletricamente equivalentes o que é conseguido ligandoos uns aos outros Para interconectar um conjunto de n pinos podemos usar um arranjo de n 1 fios cada qual conectando dois pinos De todos os arranjos possíveis aquele que utiliza a mínima quantidade de fio é normalmente o mais desejável Podemos modelar esse problema de fiação com um grafo conexo não dirigido G V E onde V é o conjunto de pinos E é o conjunto de interconexões possíveis entre pares de pinos e para cada aresta u v E temos um peso wu v que especifica o custo a quantidade necessária de fio para conectar u e v Então desejamos encontrar um subconjunto acíclico T E que conecte todos os vértices e cujo peso total é minimizado Visto que T é acíclico e conecta todos os vértices deve formar uma árvore que denominaremos árvore geradora já que gera o grafo G O problema de determinar a árvore T é denominado problema da árvore geradora mínima1 A Figura 231 mostra um exemplo de grafo conexo e uma árvore geradora mínima Neste capítulo examinaremos dois algoritmos para resolver o problema da árvore geradora mínima o algoritmo de Kruskal e o algoritmo de Prim É fácil fazer com que cada um deles seja executado no tempo OE lg V utilizando heaps binários comuns Se usarmos heaps de Fibonacci o algoritmo de Prim é executado no tempo OE V lg V o que representa uma melhoria em relação à implementação com heaps binários se V é muito menor que E Figura 231 Uma árvore geradora mínima para um grafo conexo Os pesos nas arestas são mostrados e as arestas em uma árvore geradora mínima estão sombreadas O peso total da árvore mostrada é 37 Essa árvore geradora mínima não é única se removermos a aresta b c e a substituirmos pela aresta a h produziremos outra árvore geradora com peso 37 231 Os dois algoritmos são algoritmos gulosos como descreve o Capítulo 16 Cada etapa de um algoritmo guloso deve fazer uma entre várias opções possíveis A estratégia gulosa faz a escolha que é a melhor no momento Em geral tal estratégia não garante que sempre encontrará soluções globalmente ótimas para problemas Porém no caso do problema da árvore geradora mínima podemos provar que certas estratégias gulosas realmente produzem uma árvore geradora com peso mínimo Embora este capítulo possa ser lido independentemente do Capítulo 16 os métodos gulosos apresentados aqui são uma aplicação clássica das noções teóricas introduzidas naquele capítulo A Seção 231 introduz um método genérico de árvore geradora mínima que produz uma árvore geradora adicionando uma aresta por vez A Seção 232 dá dois algoritmos que implementam o método genérico O primeiro algoritmo desenvolvido por Kruskal é semelhante ao algoritmo de componentes conexas da Seção 211 O segundo desenvolvido por Prim é semelhante ao algoritmo de caminhos mínimos de Dijkstra Seção 243 Como uma árvore é um tipo de grafo se quisermos ser precisos temos de definir uma árvore em termos não apenas de suas arestas mas também de seus vértices Embora este capítulo focalize árvores em termos de suas arestas continuaremos entendendo que os vértices de uma árvore T são aqueles nos quais incide alguma aresta de T DESENVOLVENDO UMA ÁRVORE GERADORA MÍNIMA Suponha que temos um grafo conexo não dirigido G V E com uma função peso w E e desejamos encontrar uma árvore geradora mínima para G Os dois algoritmos que consideramos neste capítulo utilizam uma abordagem gulosa para o problema embora os modos como aplicam essa abordagem sejam diferentes Essa estratégia gulosa é representada pelo método genérico apresentado a seguir que desenvolve a árvore geradora mínima uma aresta por vez O método genérico administra um conjunto de arestas A mantendo o seguinte invariante de laço Antes de cada iteração A é um subconjunto de alguma árvore geradora mínima Em cada etapa determinamos uma aresta u v que pode ser adicionada a A sem violar esse invariante no sentido de que A u v também é um subconjunto de uma árvore geradora mínima Denominamos tal aresta aresta segura para A já que ela pode ser adicionada com segurança a A e ao mesmo tempo manter o invariante Usamos o invariante de laço da seguinte maneira Inicialização Depois da linha 1 o conjunto A satisfaz trivialmente o invariante de laço Manutenção O laço nas linhas 24 mantém o invariante adicionando apenas arestas seguras Término A está contido em uma árvore geradora mínima e uma árvore geradora portanto o conjunto A devolvido na linha 5 deve ser uma árvore geradora mínima É claro que a parte complicada é encontrar uma aresta segura na linha 3 Deve existir uma já que quando a linha 3 é executada o invariante estabelece que existe uma árvore geradora T tal que A T Dentro do corpo do laço while A deve ser um subconjunto próprio de T e portanto deve haver uma aresta u v T tal que u v A e u v é segura para A No restante desta seção daremos uma regra Teorema 231 para reconhecer arestas seguras A próxima seção descreve dois algoritmos que usam essa regra para encontrar arestas seguras eficientemente Primeiro precisamos de algumas definições Um corte S V S de um grafo não dirigido G V E é uma partição de V A Figura 232 ilustra essa noção Dizemos que uma aresta u v E cruza o corte S V S se um de seus pontos extremos está em S e o outro está em V S Dizemos que um corte respeita um conjunto A de arestas se nenhuma aresta em A cruza o corte Uma aresta é uma aresta leve que cruza um corte se seu peso é o mínimo de qualquer aresta que cruza o corte Observe que pode haver mais de uma aresta leve que cruza um corte no caso de empates De modo mais geral dizemos que uma aresta é uma aresta leve que satisfaz uma dada propriedade se seu peso é o mínimo de qualquer aresta que satisfaz a propriedade Nossa regra para reconhecer arestas seguras é dada pelo seguinte teorema Teorema 231 Seja G V E um grafo conexo não dirigido com uma função peso de valores reais w definida em E Seja A um subconjunto de E que está incluído em alguma árvore geradora mínima para G seja S V S qualquer corte de G que respeita A e seja u v uma aresta leve que cruza S V S Então a aresta u v é segura para A Prova Seja T uma árvore geradora mínima que inclui A e suponha que T não contenha a aresta leve u v já que se contiver terminamos Construiremos uma outra árvore geradora mínima T que inclui A u v usando uma técnica de recortar e colar mostrando assim que u v é uma aresta segura para A A aresta u v forma um ciclo com as arestas no caminho simples p de u a v em T como ilustra a Figura 233 Visto que u e v estão em lados opostos do corte S V S no mínimo uma aresta em T se encontra no caminho simples p e também cruza o corte Seja x y qualquer dessas arestas A aresta x y não está em A porque o corte respeita A Como x y está no único caminho simples de u a v em T remover x y separa T em duas componentes A adição de u v reconecta as duas componentes e forma uma nova árvore geradora T T x y u v Figura 232 Duas maneiras de visualizar um corte S V S do grafo da Figura 231 a Vértices pretos estão no conjunto S e vértices brancos estão em V S As arestas que cruzam o corte são as que conectam vértices brancos com vértices pretos A aresta d c é a única aresta leve que cruza o corte Um subconjunto A das arestas está sombreado observe que o corte S V S respeita A já que nenhuma aresta de A cruza o corte b O mesmo grafo com os vértices no conjunto S à esquerda e os vértices no conjunto V S à direita Uma aresta cruza o corte se ela conecta o vértice à esquerda com um vértice à direita Figura 233 A prova do Teorema 231 Os vértices pretos estão em S e os vértices brancos estão em V S As arestas na árvore geradora mínima T são mostradas mas as arestas no grafo G não são As arestas em A são sombreadas e u v é uma aresta leve que cruza o corte S V S A aresta x y é uma aresta no caminho simples único p de u a v em T Para formar uma árvore geradora mínima T que contém u v remova a aresta x y de T e adicione a aresta u v Em seguida mostramos que T é uma árvore geradora mínima Visto que u v é uma aresta leve que cruza S V S e x y também cruza esse corte wu v wx y Então Porém T é uma árvore geradora mínima de modo que wT wT assim T também deve ser uma árvore geradora mínima Resta mostrar que u v é realmente uma aresta segura para A Temos A T já que A T e x y A assim A u v T Consequentemente como T é uma árvore geradora mínima u v é segura para A O Teorema 231 nos permite compreender melhor o funcionamento do método GENERICMST no grafo conexo G V E À medida que o algoritmo progride o conjunto A é sempre acíclico caso contrário uma árvore geradora mínima incluindo A conteria um ciclo o que é uma contradição Em qualquer ponto na execução o grafo GA V A é uma floresta e cada uma das componentes conexas de GA é uma árvore Algumas das árvores podem conter apenas um vértice como ocorre por exemplo quando o método começa A é vazio e a floresta contém V árvores uma para 2311 2312 2313 2314 2315 2316 2317 2318 cada vértice Além disso qualquer aresta segura u v para A conecta componentes distintos de GA já que A u v deve ser acíclico O laço while nas linhas 24 de GENERICMST é executado V 1 vezes porque encontra uma das V 1 arestas de uma árvore geradora mínima em cada iteração No início quando A 0 há V árvores em GA e cada iteração reduz esse número em uma unidade Quando a floresta contém apenas uma única árvore o método termina Os dois algoritmos na Seção 232 utilizam o corolário do Teorema 231 apresentado a seguir Corolário 232 Seja G V E um grafo conexo não dirigido com uma função peso de valor real w definida em E Seja A um subconjunto de E que está incluído em alguma árvore geradora mínima para G e seja C VC EC uma componente conexa árvore na floresta GA V A Se u v é uma aresta leve que conecta C a alguma outra componente em GA então u v é segura para A Prova O corte VC V VC respeita A e u v é então uma aresta leve para esse corte Portanto u v é segura para A Exercícios Seja u v uma aresta de peso mínimo em um grafo conexo G Mostre que u v pertence a alguma árvore geradora mínima de G O professor Sabatier propõe a recíproca do Teorema 231 apresentada a seguir Seja G V E um grafo conexo não dirigido com uma função peso de valor real w definida em E Seja A um subconjunto de E que está incluído em alguma árvore geradora mínima para G seja S V S qualquer corte de G que respeita A e seja u v uma aresta segura para A que cruza S V S Então u v é uma aresta leve para o corte Mostre que a hipótese do professor é incorreta dando um contraexemplo Mostre que se uma aresta u v está contida em alguma árvore geradora mínima então ela é uma aresta leve que cruza algum corte do grafo Dê um exemplo simples de um grafo conexo tal que no conjunto de arestas u v há um corte S V S tal que u v uma aresta leve que cruza S V S não forma uma árvore geradora mínima Seja e uma aresta de peso máximo em algum ciclo do grafo conexo G V E Prove que existe uma árvore geradora mínima de G V E e que também é uma árvore geradora mínima de G Isto é existe uma árvore geradora mínima de G que não inclui e Mostre que um grafo tem uma árvore geradora mínima única se para todo corte do grafo existe uma aresta leve única que cruza o corte Mostre que a recíproca não é verdadeira dando um contraexemplo Mostre que se todos os pesos de arestas de um grafo são positivos qualquer subconjunto de arestas que conecte todos os vértices e tenha peso total mínimo deve ser uma árvore Dê um exemplo para mostrar que a mesma conclusão não decorre se permitimos que alguns pesos sejam não positivos Seja T uma árvore geradora mínima de um grafo G e seja L a lista ordenada dos pesos das arestas de T Mostre que para qualquer outra árvore geradora mínima T de G a lista L é também a lista ordenada de pesos de arestas de T 2319 23110 23111 232 Seja T uma árvore geradora mínima de um grafo G V E e seja V um subconjunto de V Seja T o subgrafo de T induzido por V e seja G o subgrafo de G induzido por V Mostre que se T é conexo então T é uma árvore geradora mínima de G Dado um grafo G e uma árvore geradora mínima T suponha que diminuímos o peso de uma das arestas em T Mostre que T ainda é uma árvore geradora mínima para G Mais formalmente seja T uma árvore geradora mínima para G com pesos de arestas dados pela função peso w Escolha uma aresta x y T e um número positivo k e defina a função peso w por Mostre que T é uma árvore geradora mínima para G com pesos de arestas dados por w Dado um grafo G e uma árvore geradora mínima T suponha que diminuímos o peso de uma das arestas não presentes em T Dê um algoritmo para encontrar a árvore geradora mínima no grafo modificado ALGORITMOS DE KRUSKAL E PRIM Os dois algoritmos de árvore geradora mínima descritos nesta seção aperfeiçoam o método genérico Cada um deles utiliza uma regra específica para determinar uma aresta segura na linha 3 de GENERICMST No algoritmo de Kruskal o conjunto A é uma floresta cujos vértices são todos os vértices do grafo dado A aresta segura adicionada a A é sempre uma aresta de peso mínimo no grafo que conecta duas componentes distintas No algoritmo de Prim o conjunto A forma uma árvore única A aresta segura adicionada a A é sempre uma aresta de peso mínimo que conecta a árvore a um vértice não presente na árvore Algoritmo de Kruskal O algoritmo de Kruskal acha uma aresta segura para adicionar à floresta que está sendo desenvolvida encontrando entre todas as arestas que conectam quaisquer duas árvores na floresta uma aresta u v de peso mínimo Sejam C1 e C2 as duas árvores que são conectadas por u v Visto que u v deve ser uma aresta leve que conecta C1 a alguma outra árvore o Corolário 232 implica que u v é uma aresta segura para C1 O algoritmo de Kruskal se qualifica como um algoritmo guloso porque em cada etapa ele adiciona à floresta uma aresta de menor peso possível Nossa implementação do algoritmo de Kruskal é semelhante ao algoritmo para calcular componentes conexas da Seção 211 Utiliza uma estrutura de dados de conjuntos disjuntos para manter vários conjuntos disjuntos de elementos Cada conjunto contém os vértices em uma árvore da floresta atual A operação FINDSETu retorna um elemento representativo do conjunto que contém u Assim podemos determinar se dois vértices u e v pertencem à mesma árvore testando se FINDSETu é igual a FINDSETv Para combinar as árvores o algoritmo de Kruskal chama o procedimento UNION A Figura 234 mostra como o algoritmo de Kruskal funciona As linhas 13 inicializam o conjunto A para o conjunto vazio e criam V árvores cada uma contendo um vértice O laço for das linhas 58 examina arestas em ordem de peso do mais baixo ao mais alto O laço verifica para cada aresta u v se os pontos extremos u e v pertencem à mesma árvore Se pertencerem então a aresta u v não pode ser adicionada à floresta sem criar um ciclo e a aresta será descartada Caso contrário os dois vértices pertencem a árvores diferentes Nesse caso a linha 7 adiciona a aresta u v a A e a linha 8 intercala os vértices nas duas árvores O tempo de execução do algoritmo de Kruskal para um grafo G V E depende da implementação da estrutura de dados de conjuntos disjuntos Suponhamos que usamos a implementação de floresta de conjuntos disjuntos da Seção 213 com as heurísticas de união por ordenação e compressão de caminho já que essa é a implementação assintoticamente mais rápida conhecida A inicialização do conjunto A na linha 1 demora o tempo O1 e o tempo para ordenar as arestas na linha 4 é OE lg E Consideraremos em breve o custo das V operações MAKESET no laço for das linhas 23 O laço for das linhas 58 executa OE operações FINDSET e UNION na floresta de conjuntos disjuntos Essas operações mais as V operações MAKESET demoram o tempo total OV E αV onde α é a função de crescimento muito lento definida na Seção 214 Como supomos que G é conexo temos E V 1 e assim as operações de conjuntos disjuntos demoram o tempo OE αV Além disso visto que αV Olg V Olg E o tempo de execução total do algoritmo de Kruskal é OE lg E Observando que E V2 temos lg E Olg V e portanto podemos reescrever o tempo de execução do algoritmo de Kruskal como OE lg V Figura 234 Execução do algoritmo de Kruskal no grafo da Figura 231 As arestas sombreadas pertencem à floresta que está sendo desenvolvida O algoritmo considera cada aresta em sequência ordenada por peso Uma seta aponta para a aresta que está sendo considerada em cada etapa do algoritmo Se a aresta une duas árvores distintas na floresta ela é adicionada à floresta juntando assim as duas árvores Algoritmo de Prim Como o algoritmo de Kruskal o algoritmo de Prim é um caso especial do método genérico de árvore geradora mínima da Seção 231 O algoritmo de Prim funciona de modo muito semelhante ao algoritmo de Dijkstra para localizar caminhos mínimos em um grafo que veremos na Seção 243 O algoritmo de Prim tem a seguinte propriedade as arestas no conjunto A sempre formam uma árvore única Como mostra a Figura 235 a árvore começa em um vértice raiz arbitrário r e aumenta até que a árvore abranja todos os vértices em V Cada etapa adiciona à árvore A uma aresta leve que conecta A a um vértice isolado um vértice no qual nenhuma aresta de A incide Pelo Corolário 232 essa regra adiciona apenas arestas que são seguras para A portanto quando o algoritmo termina as arestas em A formam uma árvore geradora mínima Essa estratégia se qualifica como gulosa já que a cada etapa ela adiciona à árvore uma aresta que contribui com a mínima quantidade possível para o peso da árvore Para implementar o algoritmo de Prim eficientemente precisamos de um modo rápido para selecionar uma nova aresta a ser adicionada à árvore formada pelas arestas em A No pseudocódigo a seguir o grafo conexo G e a raiz r da árvore geradora mínima a ser desenvolvida são entradas para o algoritmo Durante a execução do algoritmo todos os vértices que não estão na árvore residem em uma fila de prioridade mínima Q baseada em um atributo chave Para cada vértice v o atributo vchave é o peso mínimo de qualquer aresta que conecta v a um vértice na árvore por convenção vchave se não existe nenhuma aresta desse tipo O atributo vp nomeia o pai de v na árvore O algoritmo mantém implicitamente o conjunto A de GENERICMST como A v vp v V r Q Quando o algoritmo termina a fila de prioridade mínima Q está vazia portanto a árvore geradora mínima A para G é A v vp v V r MSTPRIMG w r A Figura 235 mostra como o algoritmo de Prim funciona As linhas 15 definem a chave de cada vértice como exceto a raiz r cuja chave é definida como 0 e por isso será o primeiro vértice processado define o pai de cada vértice como NIL e inicializa a fila de prioridade mínima Q para conter todos os vértices O algoritmo mantém o seguinte invariante de laço de três partes 1 2 3 Figura 235 Execução do algoritmo de Prim no grafo da Figura 231 O vértice raiz é a Arestas sombreadas estão na árvore que está sendo desenvolvida e os vértices pretos estão na árvore Em cada etapa do algoritmo os vértices na árvore determinam um corte do grafo e uma aresta leve que cruza o corte é acrescentada à árvore Na segunda etapa por exemplo o algoritmo tem a opção de adicionar a aresta b c ou a aresta a h à árvore visto que ambas são arestas leves que cruzam o corte Antes de cada iteração do laço while das linhas 611 A v vp v V r Q Os vértices que já estão presentes na árvore geradora mínima são aqueles em V Q Para todos os vértices v Q se vp NIL então vchave e vchave é o peso de uma aresta leve v vp que conecta v a algum vértice já inserido na árvore geradora mínima A linha 7 identifica um vértice u Q incidente em uma aresta leve que cruza o corte V Q Q com exceção da primeira iteração na qual u r devido à linha 4 Remover u do conjunto Q o acrescenta ao conjunto V Q de vértices na árvore adicionando assim u up a A O laço for das linhas 811 atualiza os atributos chave e p de cada vértice v adjacente a u mas não na árvore por consequência mantém a terceira parte do invariante de laço 2321 2322 2323 2324 2325 2326 2327 2328 O tempo de execução do algoritmo de Prim depende de como implementamos a fila de prioridades Q Se implementamos Q como um heap mínimo binário veja o Capítulo 6 podemos usar o procedimento BUILDMINHEAP para executar as linhas 15 no tempo OV O corpo do laço while é executado V vezes e como cada operação de EXTRACTMIN demora o tempo Olg V o tempo total para todas as chamadas a EXTRACTMIN é OV lg V O laço for nas linhas 811 é executado OE vezes no total já que a soma dos comprimentos de todas as listas de adjacências é 2E Dentro do laço for podemos implementar o teste de pertinência em Q na linha 9 em tempo constante mantendo um bit para cada vértice que informa se ele está ou não em Q e atualizando o bit quando o vértice é removido de Q A atribuição na linha 11 envolve uma operação DECREASEKEY implícita no heap mínimo que um heap binário mínimo suporta no tempo Olg V Assim o tempo total para o algoritmo de Prim é OV lg V E lg V OE lg V que é assintoticamente igual ao da nossa implementação do algoritmo de Kruskal Podemos melhorar o tempo de execução assintótico do algoritmo de Prim usando heaps de Fibonacci O Capítulo 19 mostra que se um heap de Fibonacci contém V elementos uma operação EXTRACTMIN leva o tempo amortizado Olg V e uma operação DECREASEKEY para implementar a linha 11 leva o tempo amortizado O1 Então se usarmos um heap de Fibonacci para implementar a fila de prioridade mínima Q o tempo de execução do algoritmo de Prim melhorará para OE V lg V Exercícios O algoritmo de Kruskal pode devolver diferentes árvores geradoras para o mesmo grafo de entrada G dependendo de como as ligações são rompidas quando as arestas são ordenadas Mostre que para cada árvore geradora mínima T de G existe um modo de ordenar as arestas de G no algoritmo de Kruskal de tal forma que o algoritmo retorne T Suponha que representamos o grafo G V E como uma matriz de adjacências Dê uma implementação simples do algoritmo de Prim para esse caso que seja executada no tempo OV2 Para um grafo esparso G V E onde E QV a implementação do algoritmo de Prim com um heap de Fibonacci é assintoticamente mais rápida que a implementação de heap binário E para um grafo denso onde E QV2 Como os tamanhos E e V devem estar relacionados para que a implementação de heap de Fibonacci seja assintoticamente mais rápida que a implementação de heap binário Suponha que todos os pesos de arestas em um grafo sejam inteiros na faixa de 1 a V Com que rapidez é possível executar o algoritmo de Kruskal E se os pesos de arestas forem inteiros na faixa de 1 a W para alguma constante W Suponha que todos os pesos de arestas em um grafo sejam inteiros na faixa de 1 a V Com que rapidez é possível executar o algoritmo de Prim E se os pesos de arestas forem inteiros na faixa de 1 a W para alguma constante W Suponha que os pesos de arestas em um grafo estejam uniformemente distribuídos no intervalo meio aberto 0 1 Qual algoritmo o de Kruskal ou o de Prim pode tornar a execução mais rápida Suponha que um grafo G tenha uma árvore geradora mínima já calculada Com que rapidez podemos atualizar a árvore geradora mínima se adicionarmos a G um novo vértice e arestas incidentes O professor Borden propõe um novo algoritmo de divisão e conquista para calcular árvores geradoras mínimas que apresentamos a seguir Dado um grafo G V E particione o conjunto V de vértices em dois conjuntos V1 e V2 tais que a diferença entre V1 e V2 seja no máximo 1 Seja E1 o conjunto de arestas incidentes somente em vértices de V1 e seja E2 o conjunto de arestas incidentes somente em vértices de V2 231 a b c d 232 Resolva recursivamente um problema de árvore geradora mínima para cada um dos dois subgrafos G1 V1 E1 e G2 V2 E2 Finalmente selecione a aresta de peso mínimo em E que cruza o corte V1 V2 e use essa aresta para unir as duas árvores geradoras mínimas resultantes em uma única árvore geradora Demonstre que o algoritmo calcula corretamente uma árvore geradora mínima de G ou dê um exemplo para o qual o algoritmo não funciona Problemas Segunda melhor árvore geradora mínima Seja G V E um grafo conexo não dirigido com função peso w E e suponha que E V e todos os pesos de arestas sejam distintos Definimos uma segunda melhor árvore geradora mínima da seguinte maneira seja o conjunto de todas as árvores de G e seja T uma árvore geradora mínima de G Então uma segunda melhor árvore geradora mínima é uma árvore geradora T tal que wT minT TwT Mostre que a árvore geradora mínima é única mas que a segunda melhor árvore geradora mínima não precisa ser única Seja T uma árvore geradora mínima de G Prove que G contém arestas u v T e x y T tais que T u v x y é uma segunda melhor árvore geradora mínima de G Seja T uma árvore geradora de G e para quaisquer dois vértices u v V seja maxu v uma aresta de peso máximo no caminho simples único entre u e v em T Descreva um algoritmo de tempo OV2 que dado T calcule maxu v para todo u v V Dê um algoritmo eficiente para calcular a segunda melhor árvore geradora mínima de G Árvore geradora mínima em grafos esparsos Para um grafo conexo muito esparso G V E podemos melhorar ainda mais o tempo de execução OE V lg V do algoritmo de Prim com heaps de Fibonacci executando um préprocessamento de G para diminuir o número de vértices antes da execução do algoritmo de Prim Em particular escolhemos para cada vértice u a aresta de peso mínimo u v incidente em u e colocamos u v na árvore geradora mínima em construção Depois contraímos todas as arestas escolhidas veja a Seção B4 Em vez de contrair essas arestas uma por vez primeiro identificamos conjuntos de vértices que estão unidos no mesmo novo vértice Então criamos o grafo que teria resultado da contração dessas arestas uma por vez mas fazemos isso renomeando arestas de acordo com os conjuntos nos quais seus pontos extremos foram colocados Várias arestas do grafo original podem ser renomeadas como iguais a outras Em tal caso resulta somente uma aresta e seu peso é o mínimo entre os pesos das arestas originais correspondentes Inicialmente definimos a árvore geradora mínima T que está sendo construída para ser vazia e para cada aresta u v E inicializamos os atributos u v orig u v e u v c wu v Usamos o atributo orig para referenciar a aresta do grafo inicial que está associada a uma aresta no grafo contraído O atributo c contém o peso de uma aresta e à medida que as arestas são contraídas nós o atualizamos de acordo com o esquema descrito para escolha de pesos de arestas O procedimento MSTREDUCE toma as entradas G e T e retorna um grafo contraído G com atributos atualizados orig e c O procedimento também acumula arestas de G na árvore geradora mínima T MSTREDUCEG T a b c d e f 233 aa Seja T o conjunto de arestas devolvidas por MSTREDUCE e seja A a árvore geradora mínima do grafo G formada pela chamada MSTPRIMG c r onde c é o atributo peso para as arestas de GE e r é qualquer vértice em GV Prove que T x y orig x y A é uma árvore geradora mínima de G Demonstre que GV V2 Mostre como implementar MSTREDUCE de modo que ele seja executado no tempo OE Sugestão Utilize estruturas de dados simples Suponha que executamos k fases de MSTREDUCE usando a saída G produzida por uma fase como a entrada de G para a fase seguinte e acumulando arestas em T Demonstre que o tempo de execução global das k fases é OkE Suponha que depois de executar k fases de MSTREDUCE como na parte d executamos o algoritmo de Prim chamando MSTPRIMG c r onde G com atributo peso c é retornado pela última fase e r é qualquer vértice em GV Mostre como escolher k de modo que o tempo de execução global seja OE lg lg V Demonstre que sua escolha de k minimiza o tempo de execução assintótico global Para quais valores de E em termos de V o algoritmo de Prim com préprocessamento é superior assintoticamente ao algoritmo de Prim sem préprocessamento Árvore geradora de gargalo Uma árvore geradora de gargalo T de um grafo não dirigido G é uma árvore geradora de G cujo maior peso de aresta é mínimo em relação a todas as árvores geradoras de G Dizemos que o valor da árvore geradora de gargalo é o peso da aresta de peso máximo em T Demonstre que uma árvore geradora mínima é uma árvore geradora de gargalo A parte a mostra que encontrar uma árvore geradora de gargalo não é mais difícil que encontrar uma árvore geradora mínima Nas partes restantes mostraremos que é possível encontrála em tempo linear b c 234 Dê um algoritmo de tempo linear que dado um grafo G e um inteiro b determina se o valor da árvore geradora de gargalo é no máximo b Use seu algoritmo para a parte b como uma subrotina em um algoritmo de tempo linear para o problema da árvore geradora de gargalo Sugestão Seria interessante você usar uma subrotina que contraia conjuntos de arestas como no procedimento MSTREDUCE descrito no Problema 232 Algoritmos alternativos de árvore geradora mínima Neste problema apresentamos pseudocódigo para três algoritmos diferentes Cada um toma um grafo conexo e uma função peso como entrada e retorna um conjunto de arestas T Para cada algoritmo prove que T é uma árvore geradora mínima ou que T não é necessariamente uma árvore geradora mínima Descreva também a implementação mais eficiente de cada algoritmo quer ele calcule ou não uma árvore geradora mínima NOTAS DO CAPÍTULO Tarjan 330 faz um levantamento do problema da árvore geradora mínima e dá excelente material avançado Graham e Hell 151 compilaram um histórico do problema da árvore geradora mínima Tarjan atribui o primeiro algoritmo de árvore geradora mínima a um artigo de 1926 produzido por O Boruvka O algoritmo de Boruvka consiste na execução de Olg V iterações do procedimento MSTREDUCE descrito no Problema 232 O algoritmo de Kruskal foi apresentado por Kruskal 222 em 1956 O algoritmo comumente conhecido como algoritmo de Prim foi de fato desenvolvido por Prim 285 mas também foi criado antes por V Jarník em 1930 A razão por que algoritmos gulosos são efetivos para encontrar árvores geradoras mínima é que o conjunto de florestas de um grafo forma um matroide gráfico veja a Seção 164 Quando E V lg V o algoritmo de Prim implementado com heaps de Fibonacci é executado no tempo OE No caso de grafos mais esparsos usando uma combinação das ideias do algoritmo de Prim do algoritmo de Kruskal e do algoritmo de Boruvka juntamente com estruturas de dados avançadas Fredman e Tarjan 114 dão um algoritmo que é executado no tempo OE lg V Gabow Galil Spencer e Tarjan 120 melhoraram esse algoritmo para ser executado no tempo OE lg lg V Chazelle 60 dá um algoritmo que é executado no tempo OE αˆ E V onde αˆ E V é a inversa funcional da função de Ackermann veja nas notas do Capítulo 21 uma breve discussão da função de Ackermann e sua inversa Diferentemente dos algoritmos de árvore geradora mínima anteriores o algoritmo de Chazelle não segue o método guloso Um problema relacionado é a verificação de árvores geradora na qual temos um grafo G V E e uma árvore T E e desejamos determinar se T é uma árvore geradora mínima de G King 203 dá um algoritmo de tempo linear para verificação de árvores geradoras fundamentado no trabalho anterior de Komlós 215 e Dixon Rauch e Tarjan 91 Os algoritmos que citamos aqui são todos determinísticos e se enquadram no modelo baseado em comparação descrito no Capítulo 8 Karger Klein e Tarjan 195 dão um algoritmo aleatorizado de árvore geradora mínima que é executado no tempo esperado OV E Esse algoritmo emprega recursão de um modo semelhante ao algoritmo de seleção de tempo linear na Seção 93 uma chamada recursiva para um problema auxiliar identifica um subconjunto das arestas E que não podem estar em nenhuma árvore geradora mínima Então uma outra chamada recursiva em E E encontra a árvore geradora mínima O algoritmo também usa ideias do algoritmo de Boruvka e do algoritmo de King para verificação de árvores geradoras Fredman e Willard 116 mostraram como encontrar uma árvore geradora mínima no tempo OV E usando um algoritmo determinístico que não é baseado em comparação Seu algoritmo supoem que os dados são inteiros de b bits e que a memória do computador consiste em palavras endereçáveis de b bits 1A expressão árvore geradora mínima é uma forma abreviada da expressão árvore geradora de peso mínimo Não estamos por exemplo minimizando o número de arestas em T já que todas as árvores geradoras têm exatamente V 1 arestas de acordo com o Teorema B2 24 CAMINHOS MÍNIMOS DE FONTE ÚNICA Um motorista deseja encontrar a rota mais curta possível do Rio de Janeiro a São Paulo Dado um mapa rodoviário do Brasil no qual a distância entre cada par de interseções adjacentes esteja marcada como ele pode determinar essa rota mais curta Um modo possível seria enumerar todas as rotas do Rio de Janeiro a São Paulo somar as distâncias em cada rota e selecionar a mais curta Porém é fácil ver que até mesmo se deixarmos de lado as rotas que contêm ciclos o motorista teria de examinar um número enorme de possibilidades a maioria das quais simplesmente não valeria a pena considerar Por exemplo uma rota do Rio de Janeiro a São Paulo passando por Brasília é sem dúvida uma escolha ruim porque Brasília está várias centenas de quilômetros fora do caminho Neste capítulo e no Capítulo 25 mostraremos como resolver tais problemas eficientemente Em um problema de caminhos mínimos temos um grafo dirigido ponderado G V E com função peso w E que mapeia arestas para pesos de valores reais O peso do caminho p v0 v1 vk é a soma dos pesos de suas arestas constituintes Definimos o peso do caminho mínimo de u a v por Então um caminho mínimo do vértice u ao vértice v é definido como qualquer caminho p com peso wp du v No exemplo da rota entre o Rio de Janeiro e São Paulo podemos modelar o mapa rodoviário como um grafo vértices representam interseções arestas representam segmentos de estradas entre interseções e pesos de arestas representam distâncias rodoviárias Nossa meta é encontrar um caminho mínimo de um dado entroncamento de rodovias no Rio de Janeiro a um dado entroncamento de rodovias em São Paulo Pesos de arestas podem representar outras medidas que não sejam distâncias como tempo custo multas prejuízos ou qualquer outra quantidade que se acumule linearmente ao longo de um caminho e que seria interessante minimizar O algoritmo de busca em largura da Seção 222 é um algoritmo de caminhos mínimos que funciona em grafos não ponderados isto é grafos nos quais cada aresta tem peso unitário Como muitos dos conceitos da busca em largura surgem no estudo de caminhos mínimos em grafos ponderados seria interessante o leitor revisar a Seção 222 antes de continuar Variantes Neste capítulo focalizaremos o problema de caminhos mínimos de fonte única dado um grafo G V E queremos encontrar um caminho mínimo de determinado vértice de origem s V a todo vértice v V O algoritmo para o problema da fonte única pode resolver muitos outros problemas entre os quais as variantes apresentadas a seguir Problema de caminhos mínimos com um só destino Encontrar um caminho mínimo até um determinado vértice de destino t a partir de cada vértice v Invertendo a direção de cada aresta no grafo podemos reduzir esse problema a um problema de fonte única Problema do caminho mínimo para um par Encontrar um caminho mínimo de u a v para vértices u e v dados Se resolvermos o problema de fonte única com vértice de fonte u também resolveremos esse problema Além disso todos os algoritmos conhecidos para esse problema têm o mesmo tempo de execução assintótica do pior caso que os melhores algoritmos de fonte única Problema de caminhos mínimos para todos os pares Encontrar um caminho mínimo de u a v para todo par de vértices u e v Embora seja possível resolver esse problema executando um algoritmo de fonte única uma vez para cada vértice em geral podemos resolvêlo mais rapidamente Além disso sua estrutura é interessante por si só O Capítulo 25 estuda em detalhes o problema para todos os pares Subestrutura ótima de um caminho mínimo Em geral algoritmos de caminhos mínimos se baseiam na seguinte propriedade um caminho mínimo entre dois vértices contém outros caminhos mínimos O algoritmo de fluxo máximo de EdmondsKarp no Capítulo 26 também se baseia nessa propriedade Lembrese de que subestrutura ótima é um dos indicadores fundamentais da possível aplicabilidade da programação dinâmica Capítulo 15 e do método guloso Capítulo 16 O algoritmo de Dijkstra que veremos na Seção 243 é um algoritmo guloso e o algoritmo de FloydWarshall que encontra caminhos mínimos entre todos os pares de vértices veja a Seção 252 é um algoritmo de programação dinâmica O lema a seguir enuncia com maior exatidão a propriedade de subestrutura ótima de caminhos mínimos Lema 241 Subcaminhos de caminhos mínimos são caminhos mínimos Dado um grafo dirigido ponderado G V E com função peso w E seja p v1 v2 vk um caminho mínimo do vértice v0 ao vértice vk e para quaisquer i e j tais que 1 i j k seja pij vi vi 1 vj o subcaminho p do vértice vi ao vértice vj Então pij é um caminho mínimo de vi a vj Arestas de peso negativo Algumas instâncias do problema de caminhos mínimos de fonte única podem incluir arestas cujos pesos são negativos Se o grafo G V E não contém nenhum ciclo de peso negativo que possa ser alcançado da fonte s então para todo v V o peso do caminho mínimo ds v permanece bem definido mesmo que tenha um valor negativo Contudo se o grafo contém um ciclo de peso negativo que possa ser alcançado a partir de s os pesos de caminhos mínimos não são bem definidos Nenhum caminho de s a um vértice no ciclo pode ser um caminho mínimo sempre podemos encontrar um caminho de peso menor seguindo o caminho mínimo proposto e depois percorrendo o ciclo de peso negativo Se houver um ciclo de peso negativo em algum caminho de s a v definiremos ds v A Figura 241 ilustra o efeito de pesos negativos e ciclos de pesos negativos em pesos de caminhos mínimos Como há somente um caminho de s a a o caminho s a temos ds a ws a 3 De modo semelhante há somente um caminho de s a b e assim ds b ws a wa b 3 4 1 Há um número infinito de caminhos de s a c s c s c d c s c d c d c e assim por diante Como o ciclo c d c tem peso 6 3 3 0 o caminho mínimo de s a c é s c com peso ds c w s c 5 Do mesmo modo o caminho mínimo de s a d é s c d com peso ds d ws c wc d 11 Analogamente há um número infinito de caminhos de s a e s e s e f e s e f e f e e assim por diante Porém visto que o ciclo e f e tem peso 3 6 3 0 não há nenhum caminho mínimo de s a e Percorrendo o ciclo de peso negativo e f e um número arbitrário de vezes podemos encontrar caminhos de s a e com pesos negativos arbitrariamente grandes e assim ds e De modo semelhante ds f Como g pode ser alcançado de f também podemos encontrar caminhos com pesos negativos arbitrariamente grandes de s a g e portanto ds g Os vértices h i e j também formam um ciclo de peso negativo Contudo eles não podem ser alcançados de s e assim ds h ds i ds j Alguns algoritmos de caminhos mínimos como o algoritmo de Dijkstra consideram que todos os pesos de arestas no grafo de entrada são não negativos como no exemplo do mapa rodoviário Outros como o algoritmo de Bellman Ford permitem arestas de peso negativo no grafo de entrada e produzem uma resposta correta desde que nenhum ciclo de peso negativo possa ser alcançado da fonte Normalmente se houver tal ciclo de peso negativo o algoritmo poderá detectar e relatar sua existência Ciclos Um caminho mínimo pode conter um ciclo Como acabamos de ver ele não pode conter um ciclo de peso negativo Nem pode conter um ciclo de peso positivo já que remover o ciclo do caminho produz um caminho com os mesmos vértices de fonte e destino e um peso de caminho mais baixo Isto é se p v0 v1 vk é um caminho e c vi vi 1 vj é um ciclo de peso positivo nesse caminho de modo que vi vj e wc 0 então o caminho p v0 v1 vi vj 1 vj 2 vk tem peso wp wp wc wp e portanto p não pode ser um caminho mínimo de v0 a vk Figura 241 Pesos negativos de arestas em um grafo dirigido O peso do caminho mínimo que sai da fonte s aparece dentro de cada vértice Como os vértices e e f formam um ciclo de peso negativo que pode ser alcançado de s os pesos de seus caminhos mínimos são Como o vértice g pode ser alcançado de um vértice cujo peso de caminho mínimo é também ele tem um peso de caminho mínimo Vértices como h i e j não podem ser alcançados de s e assim seus pesos de caminho mínimo são embora eles se encontrem em um ciclo de peso negativo 1 2 3 Isso deixa apenas ciclos de peso 0 Podemos remover um ciclo de peso 0 de qualquer caminho para produzir um outro caminho cujo peso é o mesmo Assim se existe um caminho mínimo de um vértice de fonte s a um vértice de destino v que contém um ciclo de peso 0 então existe outro caminho mínimo de s a v sem esse ciclo Enquanto que um caminho mínimo tenha ciclos de peso 0 podemos remover repetidamente esses ciclos do caminho até que tenhamos um caminho mínimo livre de ciclos Então sem perda da generalidade podemos considerar que quando estamos encontrando caminhos mínimos eles não têm nenhum ciclo isto é são caminhos simples Visto que qualquer caminho acíclico em um grafo G V E contém no máximo V vértices distintos ele também contém no máximo V 1 ares tas Assim podemos restringir nossa atenção a caminhos mínimos que tenham no máximo V 1 arestas Representação de caminhos mínimos Muitas vezes desejamos calcular não apenas pesos de caminhos mínimos mas também os vértices nos caminhos mínimos A representação que usamos para caminhos mínimos é semelhante à que utilizamos para árvores em largura na Seção 222 Dado um grafo G V E mantemos para cada vértice v V um predecessor vp que é um outro vértice ou NIL Os algoritmos de caminhos mínimos apresentados neste capítulo definem os atributos p de modo que a cadeia de predecessores que se origina em um vértice v percorra um caminho mínimo de s a v em sentido contrário Assim dado um vértice v para o qual vp NIL o procedimento PRINTPATHG s v da Seção 222 imprimirá um caminho mínimo de s a v Entretanto durante a execução de um algoritmo de caminhos mínimos os valores p poderiam não indicar caminhos mínimos Como na busca em largura estaremos interessados no subgrafo dos predecessores Gp Vp Ep induzido pelos valores p Aqui novamente definimos o conjunto de vértices Vp como o conjunto de vértices de G com predecessores não NIL mais a fonte s O conjunto de arestas dirigidas Ep é o conjunto de arestas induzidas pelos valores de p para os vértices em Vp Provaremos que os valores de p produzidos pelos algoritmos neste capítulo têm a seguinte propriedade no término Gp é uma árvore de caminhos mínimos informalmente uma árvore enraizada que contém um caminho mínimo da fonte s a todo vértice que pode ser alcançado de s Uma árvore de caminhos mínimos é semelhante à árvore de busca em largura da Seção 222 mas contém caminhos mínimos que partem da fonte definidos em termos de pesos de arestas em vez de números de arestas Para sermos precisos seja G V E um grafo dirigido ponderado com função peso w E e considere que G não suponha nenhum ciclo de peso negativo que possa ser alcançado do vértice de fonte s V de modo que esses caminhos mínimos são bem definidos Uma árvore de caminhos mínimos com raiz em s é um subgrafo dirigido G V E onde V V e E E tal que V é o conjunto de vértices que podem ser alcançados de s em G G forma uma árvore enraizada com raiz s e para todo v V o único caminho simples de s a v em G é um caminho mínimo de s a v em G Caminhos mínimos não são necessariamente únicos nem são necessariamente únicas as árvores de caminhos mínimos Por exemplo a Figura 242 mostra um grafo dirigido ponderado e duas árvores de caminhos mínimos com a mesma raiz Figura 242 a Um grafo dirigido ponderado com caminhos de peso mínimo que partem da fonte s b As arestas sombreadas formam uma árvore de caminhos mínimos com raiz na fonte s c Uma outra árvore de caminhos mínimos com a mesma raiz Relaxamento Os algoritmos neste capítulo usam a técnica de relaxamento Para cada vértice v V mantemos um atributo vd que é um limite superior para o peso de um caminho mínimo da fonte s a v Denominamos vd uma estimativa de caminho mínimo Inicializamos as estimativas de caminhos mínimos e predecessores pelo seguinte procedimento de tempo QV Após a inicialização temos vp NIL para todo v V sd 0 e vd para v V s O processo de relaxar uma aresta u v consiste em testar se podemos melhorar o caminho mínimo até v que encontramos até agora passando por u e em caso positivo atualizar vd e vp Uma etapa de relaxamento1 pode diminuir o valor da estimativa do caminho mínimo vd e atualizar o atributo predecessor de v vp O seguinte código executa uma etapa de relaxamento para a aresta u v no tempo O1 A Figura 243 mostra dois exemplos de relaxamento de uma aresta em um deles a estimativa de caminhos mínimos diminui e no outro nenhuma estimativa muda Cada algoritmo neste capítulo chama INITIALIZESINGLESOURCE e depois relaxa arestas repetidamente Além disso o relaxamento é o único meio de mudar estimativas de caminhos mínimos e predecessores As diferenças entre os algoritmos apresentados neste capítulo são a quantidade de vezes que relaxam cada aresta e a ordem em que relaxam arestas O algoritmo de Dijkstra e o algoritmo de caminhos mínimos para grafos acíclicos dirigidos relaxam cada aresta exatamente uma vez O algoritmo de BellmanFord relaxa cada aresta V 1 vezes Figura 243 Relaxamento de uma aresta u v com peso wu v 2 A estimativa de caminho mínimo de cada vértice aparece dentro do vértice a Como vd ud w u v antes do relaxamento o valor de vd diminui b Aqui vd ud wu v antes do relaxamento da aresta e assim a etapa de relaxamento deixa vd como estava Propriedades de caminhos mínimos e relaxamento Para provar a correção dos algoritmos deste capítulo recorreremos a várias propriedades de caminhos mínimos e relaxamento Enunciamos essas propriedades aqui e a Seção 245 apresentará a prova formal Para sua referência cada propriedade enunciada aqui inclui o número adequado do lema ou corolário da Seção 245 As cinco últimas dessas propriedades que se referem a estimativas de caminhos mínimos ou o subgrafo dos predecessores supõem implicitamente que o grafo é inicializado com uma chamada a INITIALIZESINGLESOURCEG s e que o único modo de mudar estimativas de caminhos mínimos e o subgrafo dos predecessores é empregar alguma sequência de etapas de relaxamento Desigualdade triangular Lema 2410 Para qualquer aresta u v E temos ds v ds u wu v Propriedade do limite superior Lema 2411 Sempre temos vd ds v para todos os vértices v V e tão logo dv alcança o valor ds v nunca mais muda Propriedade de inexistência de caminho Corolário 2412 Se não existe nenhum caminho de s a v então sempre temos vd ds v Propriedade de convergência Lema 2414 Se s u v é um caminho mínimo em G para algum u v V e se ud ds u em qualquer instante antes de relaxar a aresta u v então vd ds v em todos os instantes posteriores Propriedade de relaxamento de caminho Lema 2415 Se p v0 v1 vk é um caminho mínimo de s v0 a vk e relaxamos as arestas de p na ordem v0 v1 v1 v2 vk1 vk então vkd ds vk Essa propriedade é válida independentemente de quaisquer outras etapas de relaxamento que ocorram ainda que elas estejam misturadas com relaxamentos das arestas de p Propriedade do subgrafo dos predecessores Lema 2417 241 Assim que vd ds v para todo v V o subgrafo dos predecessores é uma árvore de caminhos mínimos com raiz em s Esboço do capítulo A Seção 241 apresenta o algoritmo de BellmanFord que resolve o problema de caminhos mínimos de fonte única no caso geral em que as arestas podem ter peso negativo O algoritmo de BellmanFord é notável por sua simplicidade e tem a vantagem adicional de detectar se um ciclo de peso negativo pode ser alcançado da fonte A Seção 242 dá um algoritmo de tempo linear para calcular caminhos mínimos que partem de uma fonte única em um grafo acíclico dirigido A Seção 243 discute o algoritmo de Dijkstra cujo tempo de execução é menor que o do algoritmo de BellmanFord mas requer que os pesos de arestas sejam não negativos A Seção 244 mostra como podemos usar o algoritmo de BellmanFord para resolver um caso especial de programação linear Finalmente a Seção 245 prova as propriedades de caminhos mínimos e relaxamento enunciadas anteriormente Precisamos de algumas convenções para efetuar cálculos aritméticos com valores infinitos Adotaremos para qualquer número real a a a Além disso para tornar nossas demonstrações ou provas válidas na presença de ciclos de peso negativo adotamos para qualquer número real a a a Todos os algoritmos neste capítulo supõem que o grafo dirigido G é armazenado pela representação de lista de adjacências Além disso com cada aresta está armazenado seu peso de modo que à medida que percorremos cada lista de adjacências podemos determinar os pesos de arestas no tempo O1 por aresta O ALGORITMO DE BELLMANFORD O algoritmo de BellmanFord resolve o problema de caminhos mínimos de fonte única no caso geral no qual os pesos das arestas podem ser negativos Dado um grafo dirigido ponderado G V E com fonte s e função peso w E o algoritmo de BellmanFord devolve um valor booleano que indica se existe ou não um ciclo de peso negativo que pode ser alcançado da fonte Se tal ciclo existe o algoritmo indica que não há nenhuma solução Se tal ciclo não existe o algoritmo produz os caminhos mínimos e seus pesos O algoritmo relaxa arestas diminuindo progressivamente uma estimativa vd do peso de um caminho mínimo da fonte s a cada vértice v V até chegar ao peso propriamente dito do caminho mínimo ds v O algoritmo retorna TRUE se e somente se o grafo não contém nenhum ciclo de peso negativo que possa ser alcançado da fonte A Figura 244 mostra a execução do algoritmo de BellmanFord para um grafo com cinco vértices Depois de inicializar os valores de d e p de todos os vértices na linha 1 o algoritmo faz V 1 passagens pelas arestas do grafo Cada passagem é uma iteração do laço for das linhas 24 e consiste em relaxar cada aresta do grafo uma vez As Figuras 244be mostram o estado do algoritmo após cada uma das quatro passagens pelas arestas Depois de executar V 1 passagens as linhas 58 verificam se há um ciclo de peso negativo e devolvem o valor booleano adequado Um pouco mais adiante veremos por que essa verificação funciona Figura 244 Execução do algoritmo de BellmanFord A fonte é o vértice s Os valores de d aparecem dentro dos vértices e arestas sombreadas indicam os valores de predecessores se a aresta u v estiver sombreada então vp u Nesse exemplo específico cada passagem relaxa as arestas na ordem t x t y t z x t y x y z z x z s s t s y a Situação imediatamente antes da primeira passagem pelas arestas be Situação após cada passagem sucessiva pelas arestas Os valores de d e p na parte e são os valores finais O algoritmo de BellmanFord retorna TRUE nesse exemplo O algoritmo de BellmanFord é executado no tempo OV E já que a inicialização na linha 1 demora o tempo QV cada uma das V 1 passagens pelas arestas nas linhas 24 demora o tempo QE e o laço for das linhas 57 demora o tempo OE Para provar a correção do algoritmo de BellmanFord começamos mostrando que se não existir nenhum ciclo de peso negativo o algoritmo calcula pesos de caminhos mínimos corretos para todos os vértices que podem ser alcançados da fonte Lema 242 Seja G V E um grafo dirigido ponderado com fonte s e função peso w E e suponha que G não contenha nenhum ciclo de peso negativo que possa ser alcançado de s Então após as V 1 iterações do laço for das linhas 2 4 de BELLMANFORD temos vd ds v para todos os vértices v que podem ser alcançados de s Prova Provamos o lema apelando para a propriedade de relaxamento de caminho Considere qualquer vértice v que possa ser alcançado de s e seja p v0 v1 vk onde v0 s e vk v qualquer caminho mínimo de s a v Como os caminhos mínimos são simples p tem no máximo V 1 arestas e assim k V 1 Cada uma das V 1 iterações do laço for das linhas 24 relaxa todas as E arestas Entre as arestas relaxadas na iésima iteração para i 1 2 k está vi 1 vi Então pela propriedade de relaxamento de caminho vd vkd ds vk ds v Corolário 243 Seja G V E um grafo dirigido ponderado com vértice fonte s e função peso w E e suponha que G não contenha nenhum ciclo negativo que possa ser alcançado de s Então para cada vértice v V existe um caminho de s a v se e somente se BELLMANFORD termina com vd quando é executado em G Prova A prova fica para o Exercício 2412 Teorema 244 Correção do algoritmo de BellmanFord Considere o algoritmo de BELLMANFORD executado para um grafo dirigido ponderado G V E com fonte s e função peso w E Se G não contém nenhum ciclo de peso negativo que possa ser alcançado de s então o algoritmo retorna TRUE temos vd ds v para todos os vértices v V e o subgrafo predecessor Gp é uma árvore de caminhos mínimos com raiz em s Se G contém um ciclo de peso negativo que possa ser alcançado de s então o algoritmo retorna FALSE Prova Suponha que o grafo G não contenha nenhum ciclo de peso negativo que possa ser alcançado da fonte s Primeiro provamos a afirmação de que no término vd ds v para todos os vértices v V Se o vértice v pode ser alcançado de s então o Lema 242 prova essa afirmação Se v não pode ser alcançado de s a afirmação decorre da propriedade da inexistência de caminho Portanto a afirmação está provada A propriedade do subgrafo dos predecessores juntamente com a afirmação implica que Gp é uma árvore de caminhos mínimos Agora usamos a afirmação para mostrar que BELLMANFORD retorna TRUE No término temos para todas as arestas u v E e assim nenhum dos testes na linha 6 faz BELLMANFORD retornar FALSE Então ele retorna TRUE Agora suponha que o grafo G contenha um ciclo de peso negativo que possa ser alcançado da fonte s seja esse ciclo c v0 v1 vk onde v0 vk Então Considere por contradição que o algoritmo de BellmanFord retorne TRUE Assim vid vi 1d wvi 1 vi para i 1 2 k Somando as desigualdades em torno do ciclo c temos Como v0 vk cada vértice em c aparece exatamente uma vez em cada um dos somatórios e portanto Além disso pelo Corolário 243 vid é finito para i 1 2 k Assim o que contradiz a desigualdade 241 Concluímos que o algoritmo de BellmanFord retorna TRUE se o grafo G não contém nenhum ciclo de peso negativo que possa ser alcançado da fonte e FALSE em caso contrário 2411 2412 2413 2414 2415 2416 242 Exercícios Execute o algoritmo de BellmanFord no grafo dirigido da Figura 244 usando o vértice z como fonte Em cada passagem relaxe arestas na mesma ordem da figura e mostre os valores de d e p após cada passagem Agora mude o peso da aresta z x para 4 e execute o algoritmo novamente usando s como fonte Prove o Corolário 243 Dado um grafo dirigido ponderado G V E sem ciclos de peso negativo seja m o máximo para todos os vértices u v V do número mínimo de arestas em um caminho mínimo da fonte s até v Aqui o caminho mínimo é por peso não pelo número de arestas Sugira uma mudança simples no algoritmo de BellmanFord que permita terminálo em m 1 passagens ainda que m não seja conhecido com antecedência Modifique o algoritmo de BellmanFord de modo que ele termine com vd como para todos os vértices v para os quais existe um ciclo de peso negativo em algum caminho da fonte até v Seja G V E um grafo dirigido ponderado com função peso w E Dê um algoritmo de tempo OV E para encontrar para cada vértice v V o valor dv minuV du v Suponha que um grafo dirigido ponderado G V E tenha um ciclo de peso negativo Dê um algoritmo eficiente para produzir uma lista de vértices de tal ciclo Prove que seu algoritmo é correto CAMINHOS MÍNIMOS DE FONTE ÚNICA EM GRAFOS ACÍCLICOS DIRIGIDOS Relaxando as arestas de um gad grafo acíclico dirigido ponderado G V E de acordo com uma ordenação topológica de seus vértices podemos calcular caminhos mínimos de uma fonte única no tempo QV E Caminhos mínimos são sempre bem definidos em um gad já que mesmo que existam arestas de peso negativo não deve existir nenhum ciclo de peso negativo O algoritmo começa ordenando topologicamente o gad veja a Seção 224 para impor uma ordenação linear para os vértices Se o gad contém um caminho do vértice u ao vértice v então u precede v na ordem topológica Fazemos apenas uma passagem pelos vértices na sequência ordenada topologicamente À medida que processamos cada vértice relaxamos cada aresta que sai do vértice A Figura 245 mostra a execução desse algoritmo É fácil analisar o tempo de execução desse algoritmo Como mostra a Seção 224 a ordenação topológica da linha 1 demora o tempo QV E A chamada de INITIALIZESINGLESOURCE na linha 2 demora o tempo QV O laço for das linhas 35 executa uma iteração por vértice No total o laço for das linhas 45 relaxa cada vértice exatamente uma vez Usamos aqui uma análise agregada Como cada iteração do laço for demora o tempo Q1 o tempo total de execução é QV E que é linear em relação ao tamanho de uma representação de lista de adjacências do grafo Figura 245 Execução do algoritmo para caminhos mínimos em um grafo acíclico dirigido Os vértices são ordenados topologicamente da esquerda para a direita O vértice da fonte é s Os valores de d aparecem dentro dos vértices e arestas sombreadas indicam os valores de p a Situação antes da primeira iteração do laço for das linhas 35 bg Situação após cada iteração do laço for das linhas 35 O vértice que acabou de ser pintado de preto em cada iteração foi usado como u naquela iteração Os valores mostrados na parte g são os valores finais O teorema apresentado a seguir mostra que o procedimento DAGSHORTESTPATHS calcula corretamente os caminhos mínimos Teorema 245 Se um grafo dirigido ponderado G V E tem vértice de fonte s e nenhum ciclo então no término do procedimento DAGSHORTESTPATHS vd ds v para todos os vértices v V e o subgrafo dos predecessores Gp é uma árvore de caminhos mínimos Prova Primeiro mostramos que vd ds v para todos os vértices v V no término Se v não pode ser alcançado de s então vd ds v pela propriedade da inexistência de caminho Agora suponha que v possa ser alcançado de s de modo que existe um caminho mínimo p v0 v1 vk onde v0 s e vk v Como processamos os vértices em sequência ordenada topologicamente relaxamos as arestas em p na ordem v0 v1 v1 v2 vk 1 vk A propriedade de relaxamento de caminho implica que dvi ds vi no término para i 0 1 k Finalmente pela propriedade de subgrafo predecessor Gp é uma árvore de caminhos mínimos Uma aplicação interessante desse algoritmo surge na determinação de caminhos críticos na análise de diagramas PERT2 As arestas representam serviços que devem ser executados e os pesos de arestas representam os tempos necessários para a execução de determinados serviços Se a aresta u v entra no vértice v e a aresta v x sai de v então o serviço u v deve ser executado antes do serviço v x Um caminho nesse gad representa uma sequência de 2421 2422 2423 2424 243 serviços que devem ser executados em determinada ordem Um caminho crítico é um caminho de comprimento máximo no gad correspondente ao tempo máximo para a execução de qualquer sequência de serviços Assim o peso de um caminho crítico dá um limite inferior para o tempo total de execução de todos os serviços Podemos encontrar um caminho crítico de duas maneiras tornando negativos os pesos de arestas e executando DAGSHORTESTPATHS ou executando DAGSHORTESTPATHS substituindo por na linha 2 de INITIALIZESINGLESOURCE e por no procedimento RELAX Exercícios Execute DAGSHORTESTPATHS para o grafo dirigido da Figura 245 usando o vértice r como fonte Suponha que mudamos a linha 3 de DAGSHORTESTPATHS para 3 for os primeiros V 1 vértices tomados em ordem topológica Mostre que o procedimento continuaria correto A formulação de diagramas PERT que citamos não é muito natural Mais natural seria uma estrutura na qual os vértices representassem serviços e as arestas representassem restrições de sequenciamento isto é a aresta u v indicaria que o serviço u deve ser executado antes do serviço v Então atribuiríamos pesos a vértices e não a arestas Modifique o procedimento DAGSHORTESTPATHS de modo que ele encontre um caminho de comprimento máximo em um grafo acíclico dirigido com vértices ponderados em tempo linear Dê um algoritmo eficiente para contar o número total de caminhos em um grafo acíclico dirigido Analise seu algoritmo ALGORITMO DE DIJKSTRA O algoritmo de Dijkstra resolve o problema de caminhos mínimos de fonte única em um grafo dirigido ponderado G V E para o caso no qual todos os pesos de arestas são não negativos Então nesta seção suporemos que wu v 0 para cada aresta u v E Como veremos com uma boa implementação o tempo de execução do algoritmo de Dijkstra é inferior ao do algoritmo de BellmanFord O algoritmo de Dijkstra mantém um conjunto S de vértices cujos pesos finais de caminhos mínimos que partem da fonte s já foram determinados O algoritmo seleciona repetidamente o vértice u V S que tem a mínima estimativa do caminho mínimo adiciona u a S e relaxa todas as arestas que saem de u Na implementação a seguir usamos uma fila de prioridades mínimas Q de vértices cujas chaves são os valores de d O algoritmo de Dijkstra relaxa arestas como mostra a Figura 246 A linha 1 inicializa os valores de d e p do modo usual e a linha 2 inicializa o conjunto S como o conjunto vazio O algoritmo mantém o invariante Q V S no início de cada iteração do laço while das linhas 48 A linha 3 inicializa a fila de prioridades mínimas Q para conter todos os vértices em V visto que S 0 nesse momento o invariante é verdadeiro após a linha 3 Em cada passagem pelo laço while das linhas 48 a linha 5 extrai um vértice u de Q V S e a linha 6 o adiciona ao conjunto S mantendo assim o invariante Na primeira passagem por esse laço u s Portanto o vértice u tem a menor estimativa de caminhos mínimos em comparação com qualquer vértice em V S Então as linhas 78 relaxam cada aresta u v que sai de u atualizando assim a estimativa vd e o predecessor vp se passando por u pudermos melhorar o caminho mínimo até v que encontramos até aqui Observe que o algoritmo nunca insere vértices em Q após a linha 3 e que cada vértice é extraído de Q e adicionado a S exatamente uma vez de modo que o laço while das linhas 48 itera exatamente V vezes Como o algoritmo de Dijkstra sempre escolhe o vértice mais leve ou mais próximo em V S para adicionar ao conjunto S podemos dizer que ele utiliza uma estratégia gulosa O Capítulo 16 dá uma explicação detalhada de estratégias gulosas mas você não precisa ler aquele capítulo para entender o algoritmo de Dijkstra Estratégias gulosas nem sempre produzem resultados ótimos em geral mas como mostram o teorema a seguir e seu corolário o algoritmo de Dijkstra realmente calcula caminhos mínimos A chave é mostrar que cada vez que o algoritmo insere um vértice u no conjunto S temos ud ds u Figura 246 Execução do algoritmo de Dijkstra A fonte s é o vértice mais à esquerda As estimativas de caminho mínimo aparecem dentro dos vértices e as arestas sombreadas indicam valores de predecessores Vértices pretos estão no conjunto S e vértices brancos estão na fila de prioridades mínimas Q V S a Situação imediatamente antes da primeira iteração do laço while das linhas 48 O vértice sombreado tem o valor d mínimo e é escolhido como vértice u na linha 5 bf Situação após cada iteração sucessiva do laço while O vértice sombreado em cada parte é escolhido como vértice u na linha 5 da próxima iteração Os valores de d e p mostrados na parte f são os valores finais Teorema 246 Correção do algoritmo de Dijkstra O algoritmo de Dijkstra se executado para um grafo dirigido ponderado G V E com função peso não negativa w e fonte s termina com ud ds u para todos os vértices u V Prova Usamos o seguinte invariante de laço No início de cada iteração do laço while das linhas 48 vd ds v para cada vértice v S Basta mostrar que para cada vértice u V temos ud ds u no momento em que u é adicionado ao conjunto S Uma vez mostrado que ud ds u recorremos à propriedade do limite superior para mostrar que a igualdade é válida em todos os momentos daí em diante Inicialização Inicialmente S e assim o invariante é trivialmente verdadeiro Manutenção Desejamos mostrar que em cada iteração ud ds u para o vértice adicionado ao conjunto S Por contradição seja u o primeiro vértice para o qual ud ds u quando ele é adicionado ao conjunto S Concentraremos nossa atenção na situação existente no início da iteração do laço while quando u é adicionado a S e deduzimos a contradição ud ds u naquele instante examinando um caminho mínimo de s a u Devemos ter u s porque s é o primeiro vértice adicionado ao conjunto S e sd ds s 0 naquele instante Como u s temos também que S 0 exatamente antes de u ser adicionado a S Deve existir algum caminho de s a u senão ud ds u pela propriedade da inexistência de caminho o que violaria nossa hipótese ud ds u Como há pelo menos um caminho existe um caminho mínimo p de s a u Antes de se adicionar u a S o caminho p conecta um vértice em S isto é s a um vértice em V S isto é u Vamos considerar o primeiro vértice y ao longo de p tal que y V S e seja x S o predecessor de y Assim como mostra a Figura 247 podemos decompor o caminho p em s p1 x y p2 u Qualquer dos caminhos p1 ou p2 pode não ter nenhuma aresta Afirmamos que yd ds y quando u é adicionado a S Para provar essa afirmação observe que x S Então como u foi escolhido como o primeiro vértice para o qual ud ds u quando foi adicionado a S tínhamos xd ds x quando x foi adicionado a S A aresta x y foi relaxada naquele momento e a afirmação decorre da propriedade de convergência Agora podemos obter uma contradição para provar que du ds u Como y aparece antes de u em um caminho mínimo de s a u e todos os pesos de arestas são não negativos especialmente os das arestas do caminho p2 temos ds y ds u e assim Porém como os vértices u e y estavam em V S quando u foi escolhido na linha 5 temos ud yd Assim as duas desigualdades em 242 são de fato igualdades o que dá Figura 247 A prova do Teorema 246 O conjunto S é não vazio imediatamente antes de o vértice u ser adicionado a ele Decompomos um caminho mínimo p da fonte s ao vértice u em s p1 x y p2 u onde y é o primeiro vértice no caminho que não está em S e x S precede imediatamente y Os vértices x e y são distintos mas poderíamos ter s x ou y u O caminho p2 pode reentrar ou não no conjunto S Consequentemente ud ds u o que contradiz nossa escolha de u Concluímos que ud ds u quando u é adicionado a S e que essa igualdade é mantida por todo o tempo daí em diante Término No término Q 0 que juntamente com nosso invariante anterior Q V S implica S V Assim ud ds u para todos os vértices u V Corolário 247 Se executarmos o algoritmo de Dijkstra para um grafo dirigido ponderado G V E com função peso não negativa w e fonte s então no término o subgrafo predecessor Gp será uma árvore de caminhos mínimos com raiz em s Prova Imediata pelo Teorema 246 e pela propriedade do subgrafo dos predecessores Análise Qual é a rapidez do algoritmo de Dijkstra Ele mantém a fila de prioridades mínimas Q chamando três operações de filas de prioridades INSERT implícita na linha 3 EXTRACTMIN linha 5 e DE CREASEKEY implícita em RELAX que é chamada na linha 8 O algoritmo chama INSERT e EXTRACTMIN uma vez por vértice Como cada vértice u V é adicionado ao conjunto S exatamente uma vez cada aresta na lista de adjacências Adju é examinada no laço for das linhas 78 exatamente uma vez durante o curso do algoritmo Visto que o número total de arestas em todas as listas de adjacências é E esse laço for itera um total de E vezes e assim o algoritmo chama DECREASEKEY no máximo E vezes no total Observe mais uma vez que estamos usando análise agregada O tempo de execução do algoritmo de Dijkstra depende de como implementamos a fila de prioridades mínimas Considere primeiro o caso no qual mantemos a fila de prioridades mínimas aproveitando que os vértices são numerados de 1 a V Simplesmente armazenamos vd na vésima entrada de um arranjo Cada operação INSERT e DECREASEKEY 2431 2432 2433 2434 demora o tempo O1 e cada operação EXTRACTMIN demora o tempo OV já que temos de executar busca no arranjo inteiro dando um tempo total OV2 E OV2 Se o grafo é suficientemente esparso em particular E oV2lg V podemos melhorar o algoritmo implementando a fila de prioridades mínimas com um heap de mínimo binário Como discutimos na Seção 65 a implementação deve garantir que os vértices e os elementos do heap correspondentes mantêm apontadores um para o outro Então cada operação EXTRACTMIN demora o tempo Olg V Como antes há V dessas operações O tempo para construir o heap de mínimo binário é OV Cada operação DECREASEKEY demora o tempo Olg V e ainda há no máximo E dessas operações Portanto o tempo de execução total é OV E lg V que é OE lg V se todos os vértices podem ser alcançados da fonte Esse tempo de execução é uma melhoria em relação ao tempo OV2 de implementação direta se E oV2lg V Na verdade podemos conseguir um tempo de execução OV lg V E implementando a fila de prioridades mínimas com um heap de Fibonacci veja o Capítulo 19 O custo amortizado de cada uma das V operações EXTRACT MIN é Olg V e cada chamada DECREASEKEY cujo número máximo é E demora apenas o tempo amortizado O1 Historicamente o desenvolvimento de heaps de Fibonacci foi motivado pela observação de que o algoritmo de Dijkstra normalmente faz muito mais chamadas DECREASEKEY que chamadas EXTRACTMIN portanto qualquer método de redução do tempo amortizado de cada operação DECREASEKEY para olg V sem aumentar o tempo amortizado de EXTRACTMIN produzirá uma implementação assintoticamente mais rápida do que a que utilize heaps binários O algoritmo de Dijkstra é parecido com o algoritmo de busca em largura veja a Seção 222 e também com o algoritmo de Prim para calcular árvores geradoras mínimas veja a Seção 232 É semelhante à busca em largura no sentido de que o conjunto S corresponde ao conjunto de vértices pretos em uma busca em largura exatamente como os vértices em S têm seus pesos finais de caminhos mínimos os vértices pretos em uma busca em largura têm suas distâncias em largura corretas O algoritmo de Dijkstra é semelhante ao algoritmo de Prim no sentido de que ambos usam uma fila de prioridades mínimas para encontrar o vértice mais leve fora de um conjunto dado o conjunto S no algoritmo de Dijkstra e a árvore que está sendo desenvolvida no algoritmo de Prim adicionam esse vértice ao conjunto e ajustam os pesos dos vértices restantes fora do conjunto de acordo com o resultado dessas operações Exercícios Execute o algoritmo de Dijkstra para o grafo dirigido da Figura 242 primeiro usando o vértice s como fonte e depois usando o vértice z como fonte No estilo da Figura 246 mostre os valores de d e p e os vértices no conjunto S após cada iteração do laço while Dê um exemplo simples de grafo dirigido com arestas de peso negativo para o qual o algoritmo de Dijkstra produz respostas incorretas Por que a prova do Teorema 246 não funciona quando são permitidas arestas de peso negativo Suponha que mudemos a linha 4 do algoritmo de Dijkstra para o seguinte Essa mudança faz o laço while ser executado V 1 vezes em lugar de V vezes Esse algoritmo proposto é correto O professor Gaedel escreveu um programa que diz ele implementa o algoritmo de Dijkstra O programa produz vd e vp para cada vértice v V Dê um algoritmo de tempo OV E para verificar a saída do programa do professor O algoritmo deve determinar se os atributos d e p são compatíveis com os de alguma árvore de caminhos mínimos Suponha que todos os pesos de arestas são não negativos 2435 2436 2437 2438 2439 24310 244 O professor Newman acha que criou uma prova simples da correção do algoritmo para o algoritmo de Dijkstra Diz ele que o algoritmo de Dijkstra relaxa as arestas de todos os caminhos mínimos no grafo na ordem em que eles aparecem no caminho e que portanto a propriedade de relaxamento de caminho se aplica a todos os vértices que podem ser alcançados da fonte Mostre que o professor está enganado ao construir um grafo dirigido para o qual o algoritmo de Dijkstra poderia relaxar as arestas de uma caminho mínimo fora da ordem Temos um grafo dirigido G V E no qual cada aresta u v E tem um valor associado ru v que é um número real na faixa 0 ru v 1 que representa a confiabilidade de um canal de comunicação do vértice u ao vértice v Interpretamos ru v como a probabilidade de o canal de u a v não falhar e consideramos que essas probabilidades são independentes Dê um algoritmo eficiente para encontrar o caminho mais confiável entre dois vértices dados Seja G V E um grafo dirigido ponderado com função peso positivo w E 1 2 W para algum inteiro positivo W e suponha que não haja dois vértices que tenham os mesmos pesos de caminhos mínimos que partem do vértice de fonte s Agora suponha que definimos um grafo dirigido não ponderado G V V E substituindo cada aresta u v E por wu v arestas de peso unitário em série Quantos vértices G tem Suponha agora que executemos uma busca em largura em G Mostre que a ordem em que G pinta os vértices em V de preto na busca em largura é igual à ordem em que o algoritmo de Dijkstra extrai os vértices de V da fila de prioridades quando executado em G Seja G V E um grafo dirigido ponderado com função peso w não negativo E 0 1 W para algum inteiro não negativo W Modifique o algoritmo de Dijkstra para calcular os caminhos mínimos que partem de determinado vértice de fonte s no tempo OW V E Modifique seu algoritmo do Exercício 2438 para ser executado no tempo OV E lg W Sugestão Quantas estimativas distintas de caminhos mínimos podem existir em V S em qualquer instante Suponha que tenhamos um grafo dirigido ponderado G V E no qual as arestas que saem do vértice fonte s podem ter pesos negativos todos os outros pesos de arestas são não negativos e não existe nenhum ciclo de peso negativo Demonstre que o algoritmo de Dijkstra encontra corretamente caminhos mínimos que partem de s nesse grafo RESTRIÇÕES DE DIFERENÇA E CAMINHOS MÍNIMOS O Capítulo 29 estuda o problema geral de programação linear no qual desejamos otimizar uma função linear sujeita a um conjunto de desigualdades lineares Nesta seção investigaremos um caso especial de programação linear que reduzimos a encontrar caminhos mínimos que partem de uma única fonte Então podemos resolver o problema de caminhos mínimos de fonte única resultante executando o algoritmo de BellmanFord e por consequência resolvemos também o problema de programação linear Programação linear No problema de programação linear geral temos uma matriz m n A um vetor b de m elementos e um vetor c de n elementos Desejamos encontrar um vetor x de n elementos que maximize a função objetivo sujeita às m restrições dadas por Ax b Embora o algoritmo simplex focalizado no Capítulo 29 nem sempre seja executado em tempo polinomial em relação ao tamanho de sua entrada há outros algoritmos de programação linear que são de tempo polinomial Apresentamos aqui duas razões para entender a formulação de problemas de programação linear A primeira é que se soubermos que podemos expressar determinado problema como um problema de programação linear de tamanho polinomial então temos imediatamente um algoritmo de tempo polinomial para resolver o problema A segunda é que existem algoritmos mais rápidos para muitos casos especiais de programação linear Por exemplo o problema do caminho mínimo para um par Exercício 2444 e o problema de fluxo máximo Exercício 2615 são casos especiais de programação linear Na realidade às vezes não nos importamos com a função objetivo o que queremos é encontrar alguma solução viável isto é qualquer vetor x que satisfaça Ax b ou determinar que não existe nenhuma solução viável Focalizaremos um desses problemas de viabilidade Sistemas de restrições de diferença Em um sistema de restrições de diferença cada linha da matriz de programação linear A contém um 1 e um 1 e todas as outras entradas de A são 0 Assim as restrições dadas por Ax b são um conjunto de m restrições de diferença que envolvem n incógnitas no qual cada restrição é uma desigualdade linear simples da forma xj xi bk onde 1 i j n e 1 k m Por exemplo considere o problema de encontrar um vetor de cinco elementos x xi que satisfaz Esse problema é equivalente a determinar valores para as incógnitas x1 x2 x3 x4 x5 que satisfaçam as seguintes oito restrições de diferença Uma solução para esse problema é x 5 3 0 1 4 como podemos verificar diretamente examinando cada desigualdade Na verdade esse problema tem mais de uma solução Uma outra é x 0 2 5 4 1 Essas duas soluções estão relacionadas cada componente de x é cinco unidades maior que o componente correspondente de x Esse fato não é mera coincidência Lema 248 Seja x x1 x2 xn uma solução para um sistema Ax b de restrições de diferença e seja d qualquer constante Então x d x1 d x2 d xn d é também uma solução para Ax b Prova Para cada xi e xj temos xj d xi d xj xi Assim se x satisfaz Ax b x d também satisfaz essa desigualdade Sistemas de restrições de diferença ocorrem em muitas aplicações diferentes Por exemplo as incógnitas xi podem ser os tempos em que certos eventos devem ocorrer Cada restrição afirma que deve decorrer no mínimo certa quantidade de tempo ou no máximo certa quantidade de tempo entre dois eventos Por exemplo os eventos poderiam ser serviços que devem ser executados durante a montagem de um produto Se aplicarmos no tempo x1 um adesivo que demora duas horas para agir e tivermos de esperar essas duas horas para instalar uma peça no tempo x2 então temos a seguinte restrição x2 x1 2 ou o que é equivalente x1 x2 2 Alternativamente poderíamos determinar que a peça deve ser instalada depois da aplicação do adesivo porém em vez de de esperararmos as duas horas previstas até o adesivo agir devemos esperar somente metade desse tempo Nesse caso obtemos o par de restrições x2 x1 e x2 x1 1 ou o que é equivalente x1 x2 0 e x2 x1 1 Grafos de restrições Podemos interpretar sistemas de restrições de diferença adotando um ponto de vista de teoria dos grafos Em um sistema Ax b de restrições de diferença consideramos a matriz de programação linear A n m como a transposta de uma matriz de incidência veja o Exercício 2217 para um grafo com n vértices e m arestas Cada vértice vi no grafo para i 1 2 n corresponde a uma das n variáveis incógnitas xi Cada aresta dirigida no grafo corresponde a uma das m desigualdades que envolvem duas incógnitas Utilizando uma linguagem mais formal dado um sistema Ax b de restrições de diferença o grafo de restrição correspondente é um grafo dirigido ponderado G V E onde e E vi vj xj xi bk é uma restrição O grafo de restrições contém o vértice adicional v0 como veremos em breve para garantir que o grafo terá algum vértice que pode alcançar todos os outros vértices Assim o conjunto de vértices V consiste em um vértice vi para cada incógnita xi mais um vértice adicional v0 O conjunto de arestas E contém uma aresta para cada restrição de diferença mais uma aresta v0 vi para cada incógnita xi Se xj xi bk é uma restrição de diferença então o peso da aresta vi vj é wvi vj bk O peso de cada aresta que sai de v0 é 0 A Figura 248 mostra o grafo de restrição para o sistema 2432410 de restrições de diferença O teorema a seguir mostra que podemos encontrar uma solução para um sistema de restrições de diferença determinando os pesos de caminhos mínimos no grafo de restrição correspondente Teorema 249 Dado um sistema Ax b de restrições de diferença seja G V E o grafo de restrição correspondente Se G não contém nenhum ciclo de peso negativo então é uma solução viável para o sistema Se G contém um ciclo de peso negativo não há solução viável para o sistema Prova Primeiro mostramos que se o grafo de restrição não contém nenhum ciclo de peso negativo a equação 2411 dá uma solução viável Considere qualquer aresta vi vj E Pela desigualdade triangular dv0 vj dv0 vi wvi vj ou o que é equivalente dv0 vj dv0 vi wvi vj Assim fazer xi dv0 vi e xj dv0 vj satisfaz a restrição de diferença xj xi wvi vj que corresponde à aresta vi vj Agora mostramos que se o grafo de restrição contém um ciclo de peso negativo o sistema de restrições de diferença não tem nenhuma solução viável Sem prejuízo da generalidade seja o ciclo de peso negativo c v1 v2 vk onde v1 vk O vértice v0 não pode estar no ciclo c porque não tem nenhuma aresta de entrada O ciclo c corresponde às seguintes restrições de diferença 2441 2442 Figura 248 Grafo de restrição correspondente ao sistema 2432410 de restrições de diferença O valor de dv0 v1 aparece em cada vértice vi Uma solução viável para o sistema é x 5 3 0 1 4 Suponha que x tem uma solução que satisfaz cada uma dessas k desigualdades e então deduzimos uma contradição A solução também deve satisfazer a desigualdade que resulta quando somamos as k desigualdades Se somarmos os lados esquerdos cada incógnita xi é somada uma vez e subtraída uma vez lembrese de que v1 vk implica x1 xk de modo que o lado esquerdo da soma é 0 A soma dos valores do lado direito é wc e assim obtemos 0 wc Porém visto que c é um ciclo de peso negativo wc 0 obtemos a contradição 0 wc 0 Resolução de sistemas de restrições de diferença O Teorema 249 afirma que podemos usar o algoritmo de BellmanFord para resolver um sistema de restrições de diferenças Como o grafo de restrição contém arestas que partem do vértice de fonte v0 para todos os outros vértices qualquer ciclo de peso negativo no grafo de restrição pode ser alcançado de v0 Se o algoritmo de BellmanFord retorna TRUE então os pesos dos caminhos mínimos dão uma solução viável para o sistema Por exemplo na Figura 248 os pesos de caminhos mínimos dão a solução viável x 5 3 0 1 4 e pelo Lema 248 x d 5 d 3 d d 1 d 4 também é uma solução viável para qualquer constante d Se o algoritmo de BellmanFord retorna FALSE não existe nenhuma solução viável para o sistema de restrições de diferença Um sistema de restrições de diferença com m restrições para n incógnitas produz um grafo com n 1 vértices e n m arestas Assim usando o algoritmo de BellmanFord podemos resolver o sistema no tempo On 1n m On2 nm O Exercício 2445 pede que você modifique o algoritmo para que seja executado no tempo Onm mesmo que m seja muito menor que n Exercícios Encontre uma solução viável ou determine que não existe nenhuma solução viável para o seguinte sistema de restrições Encontre uma solução viável ou determine que não existe nenhuma solução viável para o seguinte sistema de restrições 2443 2444 2445 2446 2447 2448 2449 24410 24411 24412 Algum peso de caminho mínimo que parte do novo vértice v0 em um grafo de restrição pode ser positivo Explique Expresse o problema do caminho mínimo para um par como um programa linear Mostre como modificar ligeiramente o algoritmo de BellmanFord de modo que ao usarmos esse algoritmo para resolver um sistema de restrições de diferença com m desigualdades para n incógnitas o tempo de execução seja Onm Suponha que além de um sistema de restrições de diferença queiramos tratar restrições de igualdade da forma xi xj bk Mostre como adaptar o algoritmo de BellmanFord para resolver essa variedade de sistema de restrição Mostre como resolver um sistema de restrições de diferença por um algoritmo semelhante ao de BellmanFord em um grafo de restrição sem o vértice extra v0 Seja Ax b um sistema de m restrições de diferença para n incógnitas Mostre que o algoritmo de BellmanFord quando executado para o grafo de restrição correspondente maximiza sujeito a Ax b e xi 0 para todo xi Mostre que o algoritmo de BellmanFord quando executado para o grafo de restrição para um sistema Ax b de restrições de diferença minimiza a quantidade maxxi minxi sujeita a Ax b Explique como esse fato poderia vir a calhar se o algoritmo for usado para programar serviços de construção Suponha que toda linha na matriz A de um programa linear Ax b corresponda a uma restrição de diferença a uma restrição de variável única da forma xi bk ou a uma restrição de variável única da forma xi bk Mostre como o algoritmo de BellmanFord pode ser adaptado para resolver essa variedade de sistema de restrições Dê um algoritmo eficiente para resolver um sistema Ax b de restrições de diferença quando todos os elementos de b são valores reais e todas as incógnitas xi devem ser inteiros Dê um algoritmo eficiente para resolver um sistema Ax b de restrições de diferença quando todos os elementos de b são valores reais e um subconjunto especificado de algumas incógnitas xi mas não necessariamente de todas devem ser inteiros 245 PROVAS DE PROPRIEDADES DE CAMINHOS MÍNIMOS Em todo este capítulo nossos argumentos de correção se basearam na desigualdade triangular na propriedade do limite superior na propriedade da inexistência de caminho na propriedade de convergência na propriedade de relaxamento de caminhos e na propriedade do subgrafo dos predecessores Enunciamos essas propriedades sem proválas no início deste capítulo Nesta seção provamos cada uma delas A desigualdade triangular Quando estudamos a busca em largura Seção 222 provamos no Lema 221 uma propriedade simples de distâncias mais curtas em grafos não ponderados A desigualdade triangular a seguir generaliza a propriedade para grafos ponderados Lema 2410 Desigualdade triangular Seja G V E um grafo dirigido ponderado com função peso w E e vértice fonte s Então para todas as arestas u v E temos Prova Suponha que p seja um caminho mínimo da fonte s ao vértice v Então p não tem peso maior que qualquer outro caminho de s a v Especificamente o caminho p não tem peso maior que o caminho específico que segue um caminho mínimo da fonte s até o vértice u e depois percorre a aresta u v O Exercício 2453 pede que você trate do caso em que não existe nenhum caminho mínimo de s a v Efeitos do relaxamento sobre estimativas de caminhos mínimos O próximo grupo de lemas descreve como as estimativas de caminhos mínimos são afetadas quando executamos uma sequência de etapas de relaxamento nas arestas de um grafo dirigido ponderado que foi inicializado por INITIALIZE SINGLESOURCE Lema 2411 Propriedade de limite superior Seja G V E um grafo dirigido ponderado com função peso w E Seja s V o vértice fonte e considere G inicializado por INITIALIZESINGLESOURCEG s Então vd ds v para todo v V e esse invariante é mantido para qualquer sequência de etapas de relaxamento nas arestas de G Além disso tão logo vd alcance seu limite inferior ds v nunca mais muda Prova Provamos o invariante vd ds v para todos os vértices v V por indução em relação ao número de etapas de relaxamento Para a base vd ds v é certamente verdadeiro após inicialização já que vd implica vd ds v para todo v V s já que sd 0 ds s observe que ds s se s está em um ciclo de peso negativo e 0 em caso contrário Para o passo de indução considere o relaxamento de uma aresta u v Pela hipótese de indução xd ds x para todo x V antes do relaxamento O único valor d que pode mudar é vd Se ele mudar temos e portanto o invariante é mantido Para ver que o valor de vd nunca muda depois que vd ds v observe que por ter alcançado seu limite inferior vd não pode diminuir porque acabamos de mostrar que vd ds v e não pode aumentar porque as etapas de relaxamento não aumentam valores de d Corolário 2412 Propriedade da inexistência de caminho Suponha que em um grafo dirigido ponderado G V E com função peso w E nenhum caminho conecte o vértice fonte s V a determinado vértice v V Então depois que o grafo é inicializado por INITIALIZESINGLE SOURCEG s temos vd ds v e essa igualdade é mantida como um invariante para qualquer sequência de etapas de relaxamento nas arestas de G Prova Pela propriedade de limite superior temos sempre ds v vd e portanto vd ds v Lema 2413 Seja G V E um grafo dirigido ponderado com função peso w E e seja u v E Então imediatamente após relaxar a aresta u v pela execução de RELAXu v w temos vd ud wu v Prova Se imediatamente antes de relaxar a aresta u v temos vd ud wu v então vd ud wu v daí em diante Se em vez disso vd ud wu v imediatamente antes do relaxamento então nem du nem dv se alteram e assim vd ud wu v daí em diante Lema 2414 Propriedade de convergência Seja G V E um grafo dirigido ponderado com função peso w E seja s V um vértice de fonte e seja s u v um caminho mínimo em G para alguns vértices u v V Suponha que G seja inicializado por INITIALIZESINGLE SOURCEG s e depois uma sequência de etapas de relaxamento que inclua a chamada RELAXu v w é executada para as arestas de G Se ud ds u em qualquer tempo anterior à chamada então ud ds v em todos os tempos após a chamada Prova Pela propriedade do limite superior se ud ds u em algum ponto antes do relaxamento da aresta u v então essa igualdade se mantém válida daí em diante Em particular após o relaxamento da aresta u v temos Pela propriedade do limite superior vd ds v da qual concluímos que vd ds v e essa igualdade é mantida daí em diante Lema 2415 Propriedade de relaxamento de caminho Seja G V E um grafo dirigido ponderado com função peso w E e seja s V um vértice de fonte Considere qualquer caminho mínimo p v0 v1 vk de s v0 a vk Se G é inicializado por INITIALIZESINGLESOURCEG s e depois ocorre uma sequência de etapas de relaxamento que inclui pela ordem relaxar as arestas v0 v1 v1 v2 vk1 vk então vkd ds vk depois desses relaxamentos e todas as vezes daí em diante Essa propriedade se mantém válida não importando quais outros relaxamentos de arestas ocorram inclusive relaxamentos entremeados com relaxamentos das arestas de p Prova Mostramos por indução que depois que a iésima aresta do caminho p é relaxada temos vid ds vi Para a base i 0 e antes que quaisquer arestas de p tenham sido relaxadas temos pela inicialização que v0d sd 0 ds s Pela propriedade do limite superior o valor de ds nunca muda após a inicialização Para o passo de indução supomos que vi id ds vi 1 e examinamos o que acontece quando relaxamos a aresta vi 1 vi Pela propriedade de convergência após o relaxamento dessa aresta temos vid ds vi e essa igualdade é mantida todas as vezes depois disso Relaxamento e árvores de caminhos mínimos Agora mostramos que tão logo uma sequência de relaxamentos tenha provocado a convergência de estimativas de caminhos mínimos para pesos de caminhos mínimos o subgrafo predecessor Gp induzido pelos valores de p resultantes é uma árvore de caminhos mínimos para G Começamos com o lema a seguir que mostra que o subgrafo dos predecessores sempre forma uma árvore enraizada cuja raiz é a fonte Lema 2416 Seja G V E um grafo dirigido ponderado com função peso w E seja s V um vértice de fonte e suponha que G não contenha nenhum ciclo de peso negativo que possa ser alcançado de s Então depois que o grafo é inicializado por INITIALIZESINGLESOURCEG s o subgrafo dos predecessores Gp forma uma árvore enraizada com raiz s e qualquer sequência de etapas de relaxamento em arestas de G mantém essa propriedade como um invariante Prova Inicialmente o único vértice em Gp é o vértice de fonte e o lema é trivialmente verdadeiro Considere um subgrafo dos predecessores Gp que surja após uma sequência de etapas de relaxamento Primeiro provaremos que Gp é acíclico Suponha por contradição que alguma etapa de relaxamento crie um ciclo no grafo Gp Seja c v0 v1 vk o ciclo onde vk v0 Então vip vi 1 para i 1 2 k e sem prejuízo da generalidade podemos supor que o relaxamento da aresta vk1 vk criou o ciclo em Gp Afirmamos que todos os vértices no ciclo c podem ser alcançados da fonte s Por quê Cada vértice em c tem um predecessor não NIL portanto uma estimativa de caminho mínimo finito foi atribuída a cada vértice c quando lhe foi atribuído seu valor p não NIL Pela propriedade do limite superior cada vértice no ciclo c tem um peso de caminho mínimo finito o que implica que ele pode ser alcançado de s Examinaremos as estimativas de caminhos mínimos em c imediatamente antes da chamada RELAXvk 1 vk w e mostraremos que c é um ciclo de peso negativo contradizendo assim a hipótese de que G não contém nenhum ciclo de peso negativo que possa ser alcançado da fonte Imediatamente antes da chamada temos vip vi 1 para i 1 2 k 1 Assim para i 1 2 k 1 a última atualização para vid foi feita pela atribuição vid vi 1d wvi 1 vi Se vi 1d mudou desde então ela diminuiu Por essa razão imediatamente antes da chamada a RELAXvk 1 vk w temos Como vkp é alterado pela chamada imediatamente antes temos também a desigualdade estrita Somando essa desigualdade estrita com as k 1 desigualdades 2412 obtemos a soma das estimativas dos caminhos mínimos em torno do ciclo c Figura 249 A figura mostra que um caminho simples em Gp da fonte s ao vértice v é único Se houvesse dois caminhos p1 s u x z v e p2 s u y z v onde x y então zp x e zp y uma contradição Mas já que cada vértice no ciclo c aparece exatamente uma vez em cada somatório Essa igualdade implica Assim a soma dos pesos em torno do ciclo c é negativa o que dá a contradição desejada Agora já provamos que Gp é um grafo acíclico dirigido Para mostrar que ele forma uma árvore enraizada com raiz s basta provar veja o Exercício B52 que para cada vértice v Vp há um único caminho simples de s a v em Gp Primeiro devemos mostrar que existe um caminho de s a cada vértice em Vp Os vértices em Vp são os que têm valores p não NIL mais s Aqui a ideia é provar por indução que existe um caminho de s a todos os vértices em Vp Os detalhes ficam para o Exercício 2456 Para concluir a prova do lema devemos mostrar agora que para qualquer vértice v Vp o grafo Gp contém no máximo um caminho simples de s a v Suponha o contrário Isto é suponha que como mostra a Figura 249 Gp contenha dois caminhos simples de s a algum vértice vp1 que decompomos em s u x z v e p2 que decompomos em s u y z v onde x y se bem que u poderia ser s e z poderia ser v Mas então zp x e zp y o que implica a contradição x y Concluímos que Gp contém um caminho simples único de s a v e assim Gp forma uma árvore enraizada com raiz s Agora podemos mostrar que se depois de executarmos uma sequência de etapas de relaxamento todos os vértices tiverem recebido a atribuição de seus pesos de caminhos mínimos verdadeiros o subgrafo dos predecessores Gp será 2451 2452 2453 2454 uma árvore de caminhos mínimos Lema 2417 Propriedade do subgrafos predecessores Seja G V E um grafo dirigido ponderado com função peso w E seja s V um vértice fonte e suponha que G não contenha nenhum ciclo de peso negativo que possa ser alcançado de s Vamos chamar INITIALIZESINGLESOURCEG s e depois executar qualquer sequência de etapas de relaxamento para arestas de G que produza vd ds v para todo v V Então o subgrafo predecessor Gp é uma árvore de caminhos mínimos com raiz em s Prova Devemos provar que as três propriedades de árvores de caminhos mínimos dadas na página 647 são válidas para Gp Para ilustrar a primeira propriedade devemos mostrar que Vp é o conjunto de vértices que pode ser alcançado de s Por definição um peso de caminho mínimo ds v é finito se e somente se v pode ser alcançado de s e portanto os vértices que podem ser alcançados de s são exatamente aqueles que têm valores de d finitos Porém um vértice v V s recebeu a atribuição de um valor finito para vd se e somente se vp NIL Assim os vértices em Vp são exatamente aqueles que podem ser alcançados de s A segunda propriedade decorre diretamente do Lema 2416 Portanto resta provar a última propriedade de árvores de caminhos mínimos para cada vértice v Vp o único caminho simples s v em Gp é um caminho mínimo de s a v em G Seja p v0 v1 vk onde v0 s e vk v Para i 1 2 k temos vd ds vi e também vid vi 1d wvi 1 vi do que concluímos wvi 1 vi ds vi ds vi 1 A soma dos pesos ao longo do caminho p produz Assim wp ds vk Visto que ds vk é um limite inferior para o peso de qualquer caminho de s a vk concluímos que wp ds vk e portanto p é um caminho mínimo de s a v vk Exercícios Dê duas árvores de caminhos mínimos para o grafo dirigido da Figura 242 além das duas mostradas Dê um exemplo de grafo dirigido ponderado G V E com função peso w E e vértice fonte s tal que G satisfaça a seguinte propriedade para toda aresta u v E existe uma árvore de caminhos mínimos com raiz em s que contém u v e outra árvore de caminhos mínimos com raiz em s que não contém u v Aperfeiçoe a prova do Lema 2410 para tratar de casos nos quais os pesos de caminhos mínimos são ou Seja G V E um grafo dirigido ponderado com vértice fonte s e suponha G inicializado por INITIALIZESINGLE SOURCEG s Prove que se uma sequência de etapas de relaxamento define sp com um valor não NIL então G contém um ciclo de peso negativo 2455 2456 2457 2458 241 a b c 242 a Seja G V E um grafo dirigido ponderado sem arestas de peso negativo Seja s V o vértice fonte e suponha que permitimos que vp seja o predecessor de v em algum caminho mínimo de v até a fonte s se v V s puder ser alcançado de s e NIL em caso contrário Dê um exemplo de tal grafo G e de uma atribuição de valores de p que produza um ciclo em Gp Pelo Lema 2416 tal atribuição não pode ser produzida por uma sequência de etapas de relaxamento Seja G V E um grafo dirigido ponderado com função peso w E e sem ciclos de peso negativo Seja s V o vértice fonte e suponha G inicializado por INITIALIZESINGLE SOURCEG s Prove que para todo vértice v Vp existe um caminho de s a v em Gp e que essa propriedade é mantida como um invariante para qualquer sequência de relaxamentos Seja G V E um grafo dirigido ponderado que não contém nenhum ciclo de peso negativo Seja s V o vértice fonte e suponha G inicializado por INITIALIZESINGLESOURCEG s Prove que existe uma sequência de V 1 etapas de relaxamento que produz vd ds v para todo v V Seja G um grafo dirigido ponderado arbitrário com um ciclo de peso negativo que pode ser alcançado do vértice de fonte s Mostre como construir uma sequência infinita de relaxamentos das arestas de G tal que todo relaxamento provoque mudança em uma estimativa de caminho mínimo Problemas Aperfeiçoamento de Yen para BellmanFord Suponha que ordenamos os relaxamentos de arestas em cada passagem do algoritmo de BellmanFord da seguinte maneira antes da primeira passagem atribuímos uma ordem linear arbitrária v1 v2 vV aos vértices do grafo de entrada G V E Então particionamos o conjunto de arestas E em Ef Eb onde Ef vi vj E i j e Eb vi vj E i j Suponha que G não contenha nenhum laço de modo que toda aresta está em Ef ou em Eb Defina Gf V Ef e Gb V Eb Prove que Gf é acíclico com ordenação topológica v1 v2 vv e que Gb é acíclico com ordenação topológica vV vV 1 v1 Suponha que implementemos cada passagem do algoritmo de BellmanFord da maneira descrita a seguir Visitamos cada vértice na ordem v1 v2 vV relaxando as arestas de Ef que partem do vértice Então visitamos cada vértice na ordem vV vV 1 v1 relaxando as arestas de Eb que partem do vértice Prove que com esse esquema se G não contém nenhum ciclo de peso negativo que possa ser alcançado do vértice de fonte s então depois de apenas V2 passagens pelas arestas vd ds v para todos os vértices v V Esse esquema melhora o tempo de execução assintótico do algoritmo de BellmanFord Aninhamento de caixas Uma caixa com d dimensões x1 x2 xd se aninha dentro de outra caixa com dimensões y1 y2 yd se existe uma permutação p para 1 2 d tal que xp1 y1 xp2 y2 xpd yd Demonstre que a relação de aninhamento é transitiva b c 243 a b 244 Descreva um método eficiente para determinar se uma caixa com d dimensões se aninha ou não dentro de outra Suponha que você recebeu um conjunto de n caixas com d dimensões B1 B2 Bn Dê um algoritmo eficiente para determinar a sequência mais longa de Bi 1 Bi 2 Bik caixas tal que Bij fique aninhada dentro de Bij1 para j 1 2 k 1 Expresse o tempo de execução do seu algoritmo em termos de n e d Arbitragem A arbitragem é a utilização de discrepâncias em taxas de câmbio para transformar uma unidade de uma moeda em mais de uma unidade da mesma moeda Por exemplo suponha que 1 dólar americano compre 49 rupias indianas Uma rupia indiana compra dois ienes japoneses e um iene japonês compra 00107 dólar americano Então convertendo moedas um comerciante pode começar com um dólar americano e comprar 49 2 00107 10486 dólar americano obtendo assim um lucro de 486 Suponha que recebemos n moedas c1 c2 cn e uma tabela R n n de taxas de câmbio tal que uma unidade da moeda ci compre Ri j unidades da moeda cj Dê um algoritmo eficiente para determinar se existe ou não uma sequência de moedas ci 1 ci 2 cik tal que Analise o tempo de execução do seu algoritmo Dê um algoritmo eficiente para imprimir tal sequência se ela existir Analise o tempo de execução do seu algoritmo Algoritmo de mudança de escala de Gabow para caminhos mínimos de fonte única O algoritmo de mudança de escala resolve um problema considerando inicialmente apenas o bit de ordem mais alta de cada valor de entrada relevante como um peso de aresta Em seguida refina a solução inicial observando os dois bits de ordem mais alta Prossegue examinado cada vez mais bits de ordem mais alta e refinando a solução toda vez até ter examinado todos os bits e calculado a solução correta Nesse problema examinamos um algoritmo para calcular os caminhos mínimos de uma fonte única por escalonamento de pesos de arestas Temos um grafo dirigido G V E com pesos de arestas inteiros não negativos w Seja W maxu vE wu v Nossa meta é desenvolver um algoritmo que seja executado no tempo OE lg W Supomos que todos os vértices podem ser alcançados da fonte O algoritmo descobre os bits na representação binária dos pesos de arestas um por vez desde o bit mais significativo até o bit menos significativo Especificamente seja k lgW 1 o número de bits na representação binária de W e para i 1 2 k seja wiu v wu v2k i Isto é wiu v é a versão em escala reduzida de wu v dada pelos i bits mais significativos de wu v Assim wku v wu v para todo u v E Por exemplo se k 5 e wu v 25 cuja representação binária é 11001 então w3u v 110 6 Como outro exemplo com k 5 se wu v 00100 4 então w3u v 001 1 Vamos definir diu v como o peso do caminho mínimo do vértice u ao vértice v utilizando a função peso wi Assim dku v du v para todo u v V Para dado vértice fonte s o algoritmo de escalonamento calcula primeiro os pesos de caminhos mínimos d1s v para todo v V depois calcula d2s v para todo v V e assim por diante até calcular dks v para todo v V Supomos em todo esse processo que E a b c d e f 245 V 1 e veremos que o cálculo de di por di 1 demora o tempo OE de modo que o algoritmo inteiro demora o tempo OkE OE lg W Suponha que para todos os vértices v V temos ds v E Mostre que podemos calcular ds v para todo v V no tempo OE Mostre que podemos calcular d1s v para todo v V no tempo OE Agora vamos focalizar o cálculo de di a partir de di 1 Prove que para i 2 3 k temos wiu v 2wi 1u v ou wiu v 2wi 1u v 1 Em seguida prove que para todo v V Defina para i 2 3 k e para todo u v E Prove que para i 2 3 k e todo u v V o valor reponderado u v da aresta u v é um inteiro não negativo Agora defina ôˆ i s v como o peso do caminho mínimo de s a v usando a função peso wˆ i Prove que para i 2 3 k e todo v V e que ôˆ s v E Mostre como calcular dis v a partir de di 1s v para todo v V no tempo OE e conclua que podemos calcular ds v para todo v V no tempo OE lg W Algoritmo do ciclo de peso médio mínimo de Karp Seja G V E um grafo dirigido com função peso w E e seja n V Definimos o peso médio de um ciclo c e1 e2 ek de arestas em E como Seja m minc mc onde c varia em todos os ciclos dirigidos em G Denominamos ciclo de peso médio mínimo um ciclo c para o qual mc m Este problema investiga um algoritmo eficiente para cálculo de m Suponha sem prejuízo da generalidade que todo vértice v V pode ser alcançado de um vértice fonte s V Seja ds v o peso de um caminho mínimo de s a v e seja dks v o peso de um caminho mínimo de s a v consistindo em exatamente k arestas Se não existe nenhum caminho de s a v com exatamente k arestas então dks v a b c d e f g 246 Mostre que se m 0 G não contém nenhum ciclo de peso negativo e ds v min0 k n 1 δks v para todos os vértices v V Mostre que se m 0 então para todos os vértices v V Sugestão Use ambas as propriedades da parte a Seja c um ciclo de peso 0 e sejam u e v quaisquer dois vértices em c Suponha que m 0 e que o peso do caminho simples de u a v ao longo do ciclo seja x Prove que ds v ds u x Sugestão O peso do caminho simples de v a u ao longo do ciclo é x Mostre que se m 0 então em cada ciclo de peso médio mínimo existe um vértice v tal que Sugestão Mostre como estender um caminho mínimo até qualquer vértice em um ciclo de peso médio mínimo ao longo do ciclo para formar um caminho mínimo até o próximo vértice no ciclo Mostre que se m 0 então Mostre que se adicionarmos uma constante t ao peso de cada aresta de G m aumenta de t Use esse fato para mostrar que Dê um algoritmo de tempo OV E para calcular m Caminhos mínimos bitônicos Uma sequência é bitônica se cresce monotonicamente e depois decresce monotonicamente ou se por um deslocamento circular cresce monotonicamente e depois decresce monotonicamente Por exemplo as sequências 1 4 6 8 3 2 9 2 4 10 5 e 1 2 3 4 são bitônicas mas 1 3 12 4 2 10 não é bitônica Veja o Problema 153 que aborda o problema do caixeiroviajante euclidiano bitônico Suponha que tenhamos um grafo dirigido G V E com função peso w E onde todos os pesos de arestas são únicos e desejamos encontrar caminhos mínimos de fonte única que parta m de um vértice de fonte s Temos uma informação adicional para cada vértice v V os pesos das arestas ao longo de qualquer caminho mínimo de s a v formam uma sequência bitônica Dê o algoritmo mais eficiente que puder para resolver esse problema e analise seu tempo de execução NOTAS DO CAPÍTULO O algoritmo de Dijkstra 88 surgiu em 1959 mas não fazia nenhuma menção a uma fila de prioridades O algoritmo de BellmanFord se baseia em algoritmos separados criados por Bellman 38 e Ford 109 Bellman descreve a relação entre caminhos mínimos e restrições de diferença Lawler 224 descreve o algoritmo de tempo linear para caminhos mínimos em um gad que ele considera parte do folclore Quando os pesos de arestas são inteiros não negativos relativamente pequenos temos algoritmos mais eficientes para resolver o problema de caminhos mínimos de fonte única A sequência de valores devolvidos pelas chamadas EXTRACTMIN no algoritmo de Dijkstra cresce monotonicamente com o tempo Como discutimos nas notas do Capítulo 6 nesse caso existem várias estruturas de dados que podem implementar as várias operações de filas de prioridades com mais eficiência que um heap binário ou um heap de Fibonacci Ahuja Mehlhorn Orlin e Tarjan 8 dão um algoritmo que é executado no tempo OE V lgW para grafos com pesos de arestas não negativos onde W é o maior peso de qualquer aresta no grafo Os melhores limites são dados por Thorup 337 que dá um algoritmo que é executado no tempo OE lg lg V e por Raman 291 que dá um algoritmo que é executado no tempo OE V min lg V13 lg W14 Esses dois algoritmos usam uma quantidade de espaço que depende do tamanho da palavra da máquina subjacente Embora a quantidade de espaço utilizada possa ser ilimitada no que se refere ao tamanho da entrada ela pode ser reduzida a linear em relação ao tamanho da entrada com a utilização de hashing aleatorizado Para grafos não dirigidos com pesos inteiros Thorup 336 dá um algoritmo de tempo OV E para caminhos mínimos de fonte única Ao contrário dos algoritmos mencionados no parágrafo anterior esse algoritmo não é uma implementação do algoritmo de Dijkstra já que a sequência de valores retornados por chamadas EXTRACTMIN não cresce monotonicamente com o tempo Para grafos com pesos de arestas negativos um algoritmo criado por Gabow e Tarjan 122 é executado no tempo OVE lgV W e um outro criado por Goldberg 137 é executado no tempo OV E lg W onde W maxu vE wu v Cherkassky Goldberg e Radzik 64 realizaram extensivos experimentos comparando vários algoritmos de caminhos mínimos 1 Pode parecer estranho que o termo relaxamento seja usado para uma operação que restringe um limite superior O uso do termo é histórico A saída de uma etapa de relaxamento pode ser vista como um relaxamento da restrição vd ud wu v que pela desigualdade triangular Lema 2410 deve ser satisfeita se ud ds u e vd ds v Isto é se vd ud wu v não há nenhuma pressão para satisfazer essa restrição e assim a restrição é relaxada 2 PERT é um acrônimo para program evaluation and review technique técnica de avaliação e revisão de programação 25 CAMINHOS MÍNIMOS ENTRE TODOS OS PARES Neste capítulo consideraremos o problema de encontrar caminhos mínimos entre todos os pares de vértices em um grafo Esse problema poderia surgir na elaboração de uma tabela de distâncias entre todos os pares de cidades em um atlas rodoviário Como no Capítulo 24 temos um grafo orientado ponderado G V E com uma função peso w E que mapeia arestas para pesos de valores reais Desejamos encontrar para todos os pares de vértices u v V um caminho mínimo de peso mínimo de u a v onde o peso de um caminho é a soma dos pesos das arestas que o constituem Normalmente queremos a saída em forma tabular a entrada na linha de u e na coluna de v deve ser o peso de um caminho mínimo de u a v Podemos resolver um problema de caminhos mínimos para todos os pares executando um algoritmo de caminhos mínimos de fonte única V vezes cada uma dessas vezes considerando um vértice como fonte Se todos os pesos de arestas são não negativos podemos usar o algoritmo de Dijkstra Se usarmos a implementação da fila de prioridade mínima por arranjo linear o tempo de execução será OV3 V E OV3 A implementação da fila de prioridade mínima por heap binário mínimo produz um tempo de execução OV E lg V que é uma melhoria se o grafo é esparso Como alternativa podemos implementar a fila de prioridade mínima com um heap de Fibonacci o que produz um tempo de execução OV2 lg V VE Se o grafo tiver arestas de peso negativo não podemos usar o algoritmo de Dijkstra Em vez disso temos de executar o algoritmo de BellmanFord mais lento uma vez para cada vértice O tempo de execução resultante é OV2E que em um grafo denso é OV4 Neste capítulo veremos como podemos obter resultados melhores Também investigaremos a relação entre o problema de caminhos mínimos para todos os pares e a multiplicação de matrizes e estudaremos sua estrutura algébrica Diferentemente dos algoritmos de fonte única que consideram uma representação do grafo por lista de adjacências a maioria dos algoritmos neste capítulo utiliza uma representação por matriz de adjacências O algoritmo de Johnson para grafos esparsos na Seção 253 usa listas de adjacências Por conveniência suporemos que os vértices estão numerados como 1 2 V de modo que a entrada é uma matriz n n W que representa os pesos de arestas de um grafo dirigido de n vértices G V E Isto é W wij onde Permitimos arestas de peso negativo mas por enquanto supomos que o grafo de entrada não contém nenhum ciclo de peso negativo A saída tabular dos algoritmos de caminhos mínimos para todos os pares apresentados neste capítulo é uma matriz n n D dij onde a entrada dij contém o peso de um caminho mínimo do vértice i ao vértice j Isto é se di j representa o peso do caminho mínimo do vértice i ao vértice j como no Capítulo 24 então dij di j no término 251 Para resolver o problema de caminhos mínimos para todos os pares para uma matriz de adjacências de entrada precisamos calcular não só os pesos de caminhos mínimos mas também uma matriz de predecessores P pij onde pij é NIL se i j ou se não existe nenhum caminho de i a j e caso contrário pij é o predecessor de j em um caminho mínimo que parte de i Exatamente como o subgrafo dos predecessores Gp do Capítulo 24 é uma árvore de caminhos mínimos para um dado vértice fonte o subgrafo induzido pela iésima linha da matriz P deve ser uma árvore de caminhos mínimos com raiz i Para cada vértice i V definimos o subgrafo dos predecessores de G para i como Gp i Vp i Ep i onde Se Gp i é uma árvore de caminhos mínimos então o procedimento a seguir que é uma versão modificada do procedimento PRINTPATH do Capítulo 22 imprime um caminho mínimo do vértice i ao vértice j Para destacar as características essenciais dos algoritmos para todos os pares neste capítulo não dedicaremos tanta atenção e espaço à criação e às propriedades de matrizes de predecessores quanto dedicamos aos subgrafos dos predecessores no Capítulo 24 Alguns dos exercícios abordam os aspectos básicos Esboço do capítulo A Seção 251 apresenta um algoritmo de programação dinâmica baseado em multiplicação de matrizes para resolver o problema de caminhos mínimos para todos os pares Usando a técnica de elevação ao quadrado repetida podemos conseguir um tempo de execução QV3 lg V A Seção 252 dá um outro algoritmo de programação dinâmica o algoritmo de FloydWarshall que é executado no tempo QV3 A Seção 252 aborda também o problema de encontrar o fecho transitivo de um grafo dirigido que está relacionado com o problema de caminhos mínimos para todos os pares Finalmente a Seção 253 apresenta o algoritmo de Johnson que resolve o problema dos caminhos mínimos para todos os pares no tempo OV2 lg V V E e é uma boa escolha para grafos grandes e esparsos Antes de prosseguir precisamos estabelecer algumas convenções para representações por matrizes de adjacências Em primeiro lugar em geral suporemos que o grafo de entrada G V E tem n vértices de modo que n V Em segundo lugar usaremos a convenção de denotar matrizes por letras maiúsculas como W L ou D e seus elementos individuais por letras minúsculas indexadas como wij lij ou dij Algumas matrizes terão índices entre parênteses como em Lm ou Dm para indicar iterados Por fim para uma matriz n n A dada supomos que o valor de n está armazenado no atributo Alinhas CAMINHOS MÍNIMOS E MULTIPLICAÇÃO DE MATRIZES 1 2 3 Esta seção apresenta um algoritmo de programação dinâmica para o problema de caminhos mínimos para todos os pares em um grafo dirigido G V E Cada laço principal do programa dinâmico invocará uma operação que é muito semelhante à multiplicação de matrizes de modo que o algoritmo será parecido com uma multiplicação de matrizes repetida Começaremos desenvolvendo um algoritmo de tempo OV4 para o problema de caminhos mínimos para todos os pares e depois melhoraremos seu tempo de execução para OV3 lg V Antes de continuar vamos recapitular rapidamente as etapas para desenvolver um algoritmo de programação dinâmica dadas no Capítulo 15 Caracterizar a estrutura de uma solução ótima Definir recursivamente o valor de uma solução ótima Calcular o valor de uma solução ótima de baixo para cima Reservamos a quarta etapa construção de uma solução ótima por informações calculadas para os exercícios A estrutura de um caminho mínimo Começaremos caracterizando a estrutura de uma solução ótima Para o problema de caminhos mínimos para todos os pares em um grafo G V E já provamos Lema 241 que todos os subcaminhos de um caminho mínimo são caminhos mínimos Suponha que representemos o grafo por uma matriz de adjacências W wij Considere um caminho mínimo p do vértice i ao vértice j e suponha que p contenha no máximo m arestas Considerando que não existe nenhum ciclo de peso negativo m é finito Se i j então p tem peso 0 e nenhuma aresta Se os vértices i e j são distintos decompomos o caminho p em i p k j onde o caminho p agora contém no máximo m 1 arestas Pelo Lema 241 p é um caminho mínimo de i a k e assim di j di k wkj Uma solução recursiva para o problema de caminhos mínimos para todos os pares Agora seja o peso mínimo de qualquer caminho do vértice i ao vértice j que contém no máximo m arestas Quando m 0 existe um caminho mínimo de i a j sem nenhuma aresta se e somente se i j Portanto Para m 1 calculamos como o mínimo de o peso de um caminho mínimo de i a j que consiste no máximo em m 1 arestas e o peso mínimo de qualquer caminho de i a j que consiste no máximo em m arestas obtido pelo exame de todos os possíveis predecessores k de j Assim definimos recursivamente A última igualdade decorre de que wjj 0 para todo j Quais são os pesos reais de caminhos mínimos di j Se o grafo não contém nenhum ciclo de peso negativo então para todo par de vértices i e j para o qual di j existe um caminho mínimo de i a j que é simples e por isso contém no máximo n 1 arestas Um caminho do vértice i ao vértice j com mais de n 1 arestas não pode ter peso menor que um caminho mínimo de i a j Então os pesos reais de caminhos mínimos são dados por Cálculo dos pesos de caminhos mínimos de baixo para cima Tomando como nossa entrada a matriz W wij calculamos agora uma série de matrizes L1 L2 Ln 1 onde para m 1 2 n 1 temos Lm A matriz final Ln 1 contém os pesos reais de caminhos mínimos Observe que lij 1 wij para todos os vértices i j V e assim L1 W O núcleo do algoritmo é o procedimento a seguir que dadas as matrizes Lm 1 e W retorna a matriz Lm Isto é ele estende por mais uma aresta os caminhos mínimos calculados até agora O procedimento calcula uma matriz L lij que ele devolve no final Para tal calcula a equação 252 para todo i e j utilizando L para Lm 1 e L para Lm O algoritmo é escrito sem os índices para que suas matrizes de entrada e saída sejam independentes de m Seu tempo de execução é Qn3 devido aos três laços for aninhados Agora podemos ver a relação com a multiplicação de matrizes Suponha que desejemos calcular o produto de matrizes C A B de duas matrizes n n A e B Então para i j 1 2 n calculamos Observe que se fizermos as substituições na equação 252 obtemos a equação 254 Assim se fizermos essas mudanças em EXTENDSHORTESTPATHS e também substituirmos a identidade para min por 0 a identidade para obtemos o mesmo procedimento de tempo Qn3 para multiplicar matrizes quadradas que vimos na Seção 42 Retornando ao problema de caminhos mínimos para todos os pares calculamos os pesos de caminhos mínimos estendendo os caminhos mínimos aresta por aresta Denotando por A B o produto de matrizes retornado por EXTENDSHORTESTPATHSA B calculamos a sequência de n 1 matrizes Como demonstramos a matriz Ln 1 Wn 1 contém os pesos de caminhos mínimos O procedimento a seguir calcula essa sequência no tempo Qn4 A Figura 251 mostra um grafo e as matrizes Lm calculadas pelo procedimento SLOWALL PAIRSSHORTESTPATHS Melhorar o tempo de execução Nosso objetivo entretanto não é calcular todas as matrizes Lm estamos interessados somente na matriz Ln 1 Lembrese de que na ausência de ciclos de peso negativo a equação 253 implica Lm Ln 1 para todos os inteiros m n 1 Exatamente como a multiplicação de matrizes tradicional é associativa também é associativa a multiplicação de matrizes definida pelo procedimento EXTENDSHORTESTPATHS veja o Exercício 2514 Portanto podemos calcular Ln 1 com somente lgn 1 produtos de matrizes calculando a sequência Figura 251 Um grafo dirigido e a sequência de matrizes L m calculada por SLOWALLPAIRSSHORTESTPATHS O leitor pode verificar que L5 definido como L4 W é igual a L4 e assim L m L4 para todo m 4 Figura 252 Um grafo dirigido ponderado para uso nos Exercícios 2511 2521 e 2531 2511 2512 2513 Visto que 2lgn 1 n 1 o produto final L2lgn 1 é igual a Ln 1 O procedimento a seguir calcula a mesma sequência de matrizes empregando essa técnica de elevação ao quadrado repetida Em cada iteração do laço while das linhas 47 calculamos L2m Lm2 começando com m 1 No final de cada iteração dobramos o valor de m A iteração final calcula Ln 1 calculando na realidade L2m para algum n 1 2m 2n 2 Pela equação 253 L2m Ln 1 Na próxima vez que o teste da linha 4 for executado m já estará com seu valor dobrado portanto agora m n 1 o teste falha e o procedimento devolve a última matriz que calculou Como cada um dos produtos de matrizes demora o tempo Qn3 FASTERALLPAIRSSHOR TESTPATHS é executado no tempo Qn3 lg n Observe que o código é compacto não contém nenhuma estrutura de dados elaborada e portanto a constante oculta na notação Q é pequena Exercícios Execute SLOWALLPAIRSSHORTESTPATHS no grafo dirigido ponderado da Figura 252 mostrando as matrizes que resultam para cada iteração do laço Depois faça o mesmo para FASTERALLPAIRSSHORTESTPATHS Por que exigimos que wii 0 para todo 1 i n A que corresponde na multiplicação de matrizes comum a matriz 2514 2515 2516 2517 2518 2519 25110 252 usada nos algoritmos Mostre que a multiplicação de matrizes definida por EXTENDSHORTESTPATHS é associativa Mostre como expressar o problema de caminhos mínimos de fonte única como um produto de matrizes e um vetor Descreva como a avaliação desse produto corresponde a um algoritmo como o de BellmanFord veja a Seção 241 Suponha que também desejemos calcular os vértices em caminhos mínimos nos algoritmos desta seção Mostre como calcular a matriz de predecessores P pela matriz completada L de pesos de caminhos mínimos no tempo On3 Podemos calcular também os vértices em caminhos mínimos à medida que calculamos os pesos de caminhos mínimos Defina mij como o predecessor do vértice j em qualquer caminho de peso mínimo de i a j que contém no máximo m arestas Modifique os procedimentos EXTENDSHORTESTPATHS e SLOWALLPAIRSSHORTEST PATHS para calcular as matrizes P1 P2 Pn 1 à medida que as matrizes L1 L2 Ln 1 são calculadas O procedimento FASTERALLPAIRSSHORTESTPATHS como foi escrito requer o armazenamento de lgn 1 matrizes cada uma com n2 elementos para um requisito de espaço total de Qn2 lg n Modifique o procedimento para que o requisito de espaço seja somente Qn2 usando somente duas matrizes n n Modifique FASTERALLPAIRSSHORTESTPATHS de modo que ele possa detectar se o grafo contém um ciclo de peso negativo Dê um algoritmo eficiente para encontrar o comprimento número de arestas de um ciclo de peso negativo de comprimento mínimo em um grafo O ALGORITMO DE FLOYDWARSHALL Nesta seção usaremos uma formulação de programação dinâmica diferente para resolver o problema de caminhos mínimos para todos os pares em um grafo dirigido G V E O algoritmo resultante conhecido como algoritmo de FloydWarshall é executado no tempo QV3 Como antes arestas de peso negativo podem estar presentes mas supomos que não existe nenhum ciclo de peso negativo Como na Seção 251 seguiremos o processo de programação dinâmica para desenvolver o algoritmo Depois de estudar o algoritmo resultante apresentamos um método semelhante para encontrar o fecho transitivo de um grafo dirigido A estrutura de um caminho mínimo No algoritmo de FloydWarshall caracterizamos a estrutura de um caminho mínimo de um modo diferente do que usamos na Seção 251 O algoritmo de FloydWarshall considera os vértices intermediários de um caminho mínimo onde um vértice intermediário de um caminho simples p v1 v2 vl é qualquer vértice de p exceto v1 ou vl isto é qualquer vértice no conjunto v2 v3 vl 1 O algoritmo de FloydWarshall se baseia na seguinte observação como supomos que os vértices de G são V 1 2 n vamos considerar um subconjunto 1 2 k de vértices para algum k Para qualquer par de vértices i j V considere todos os caminhos de i a j cujos vértices intermediários estejam em 1 2 k e seja p um caminho de peso mínimo dentre eles O caminho p é simples O algoritmo de FloydWarshall explora uma relação entre o caminho p e os caminhos mínimos de i a j cujos vértices intermediários estejam todos no conjunto 1 2 k 1 A relação depende de k ser ou não um vértice intermediário do caminho p Figura 253 O caminho p é um caminho mínimo do vértice i ao vértice j e k é o vértice intermediário de p com numeração mais alta O caminho p1 a porção de caminho p do vértice i ao vértice k tem todos os vértices intermediários no conjunto 1 2 k 1 O mesmo vale para o caminho p2 do vértice k ao vértice j Se k não é um vértice intermediário do caminho p então todos os vértices intermediários do caminho p estão no conjunto 1 2 k 1 Assim um caminho mínimo do vértice i ao vértice j cujos vértices intermediários estão no conjunto 1 2 k 1 também é um caminho mínimo de i a j cujos vértices intermediários estão no conjunto 1 2 k Se k é um vértice intermediário do caminho p então desmembramos p em i p1 k p2 j como mostra a Figura 253 Pelo Lema 241 p1 é um caminho mínimo de i a k cujos vértices intermediários estão no conjunto 1 2 k Na verdade a nossa afirmativa pode ser um pouco mais contundente Como o vértice k não é um vértice intermediário do caminho p1 todos os vértices intermediários de p1 estão no conjunto 1 2 k 1 Portanto p1 é um caminho mínimo de i a k cujos vértices intermediários estão no conjunto 1 2 k 1 De modo semelhante p2 é um caminho mínimo do vértice k ao vértice j cujos vértices intermediários estão no conjunto 1 2 k 1 Uma solução recursiva para o problema de caminhos mínimos para todos os pares Com base nas observações anteriores definimos uma formulação recursiva de estimativas de caminhos mínimos diferente da que definimos na Seção 251 Seja dk ij o peso de um caminho mínimo do vértice i ao vértice j cujos vértices intermediários estão no conjunto 1 2 k Quando k 0 um caminho do vértice i ao vértice j que não tem nenhum vértice intermediário com numeração mais alta que 0 não tem absolutamente nenhum vértice intermediário Tal caminho tem no máximo uma aresta e então d0 w Conforme essa discussão definimos d k ij recursivamente por Considerando que para qualquer caminho todos os vértices intermediários estão no conjunto 1 2 n a matriz Dn dnij dá a resposta final dnij di j para todo i j V Calculando os pesos de caminhos mínimos de baixo para cima Com base na recorrência 255 podemos usar o procedimento de baixo para cima dado a seguir para calcular os valores d k ijem ordem crescente de valores de k Sua entrada é uma matriz n n W definida como na equação 251 O procedimento devolve a matriz Dn de pesos de caminhos mínimos A Figura 254 mostra as matrizes Dk calculadas pelo algoritmo de FloydWarshall para o grafo na Figura 251 O tempo de execução do algoritmo de FloydWarshall é determinado pelos laços for triplamente aninhados das linhas 37 Como cada execução da linha 7 demora o tempo O1 o algoritmo é executado no tempo Qn3 Como no algoritmo final na Seção 251 o código é compacto sem nenhuma estrutura de dados elaborada portanto a constante oculta na notação Q é pequena Assim o algoritmo de FloydWarshall é bastante prático até mesmo para grafos de entrada de dimensões moderadas Como construir um caminho mínimo Existe uma variedade de métodos diferentes para construir caminhos mínimos no algoritmo de FloydWarshall Um deles é calcular a matriz D de pesos de caminhos mínimos e depois construir a matriz de predecessores P pela matriz D O Exercício 2516 pede que você implemente esse método de modo que seja executado no tempo On3 Dada a matriz de predecessores P o procedimento PRINTALLPAIRSSHORTESTPATH imprimirá os vértices em um caminho mínimo dado Alternativamente podemos calcular a matriz de predecessores P enquanto o algoritmo calcula as matrizes Dk Especificamente calculamos uma sequência de matrizes P0 P1 Pn onde P Pn e definimos k ij como o predecessor do vértice j em um caminho mínimo que parte do vértice i cujos vértices intermediários estão no conjunto 1 2 k Podemos dar uma formulação recursiva de k ij Quando k 0 um caminho mínimo de i a j não tem absolutamente nenhum vértice intermediário Assim Para k 1 se tomarmos o caminho i k j onde k j então o predecessor de j que escolhemos será igual ao predecessor de j que escolhemos em um caminho mínimo que parte de k cujos vértices intermediários estão no conjunto 1 2 k 1 Caso contrário escolhemos o mesmo predecessor de j que escolhemos em um caminho mínimo que parte de i cujos vértices intermediários estão no conjunto 1 2 k 1 Formalmente para k 1 Figura 254 A sequência de matrizes D k e P k calculada pelo algoritmo de FloydWharshall para o grafo na Figura 251 Deixamos a incorporação dos cálculos das matrizes Pk ao procedimento de FLOYDWAR SHALL para o Exercício 2523 A Figura 254 mostra a sequência de matrizes Pk que o algoritmo resultante calcula para o grafo da Figura 251 O exercício também pede que você realize a tarefa mais difícil de provar que o subgrafo dos predecessores Gp i é uma árvore de caminhos mínimos com raiz i O Exercício 2527 pede ainda uma outra maneira de reconstruir caminhos mínimos Fecho transitivo de um grafo dirigido Dado um grafo dirigido G V E com o conjunto de vértices V 1 2 n desejamos determinar se G contém um caminho de i a j para todos os pares de vértices i j V Definimos o fecho transitivo de G como o grafo G V E onde E i j existe um caminho do vértice i ao vértice j em G Um modo de calcular o fecho transitivo de um grafo no tempo Qn3 é atribuir peso 1 a cada aresta de E e executar o algoritmo de FloydWarshall Se existe um caminho do vértice i ao vértice j obtemos dij n Caso contrário obtemos dij Há um outro modo semelhante de calcular o fecho transitivo de G no tempo On3 que pode poupar tempo e espaço na prática Esse método substitui as operações aritméticas min e no algoritmo de FloydWarshall pelas operações lógicas OU lógico e E lógico Para i j k 1 2 n definimos t k ij como 1 se existe um caminho no grafo G do vértice i ao vértice j com todos os vértices intermediários no conjunto 1 2 k e como 0 em caso contrário Construímos o fecho transitivo G V E inserindo a aresta i j em E se e somente se tnij 1 Uma definição recursiva de t k análoga à recorrência 255 é e para k 1 Como no algoritmo de FloydWarshall calculamos as matrizes Tk em ordem crescente de k A Figura 255 mostra as matrizes Tk calculadas pelo procedimento TRANSITIVECLOSURE em um grafo de amostra O procedimento TRANSITIVECLOSURE assim como o algoritmo de FloydWarshall é executado no tempo Qn3 Entretanto em alguns computadores operações lógicas em valores de um único bit são executadas mais rapidamente que operações aritméticas em palavras de dados inteiras Além disso como o algoritmo direto de fecho transitivo usa somente valores booleanos em vez de valores inteiros seu requisito de espaço é menor que o do algoritmo de FLOYD WARSHALL por um fator correspondente ao tamanho de uma palavra de armazenamento no computador Figura 255 Um grafo dirigido e as matrizes T k calculadas pelo algoritmo de fecho transitivo 2521 2522 2523 2524 2525 2526 2527 2528 2529 Exercícios Execute o algoritmo de FloydWarshall no grafo dirigido ponderado da Figura 252 Mostre a matriz Dk que resulta de cada iteração do laço externo Mostre como calcular o fecho transitivo empregando a técnica da Seção 251 Modifique o procedimento FLOYDWARSHALL para calcular as matrizes Pk de acordo com as equações 256 e 257 Prove rigorosamente que para todo i V o subgrafo dos predecessores Gp i é uma árvore de caminhos mínimos com raiz i Sugestão Para mostrar que Gp i é acíclico primeiro mostre que kij l implica dkij d kij w ij de acordo com a definição de kij Então adapte a prova do Lema 2416 Como foi apresentado o algoritmo de FloydWarshall requer o espaço Qn3 visto que calculamos dk para i j k 1 2 n Mostre que o procedimento a seguir que simplesmente descarta todos os índices superiores é correto e assim o espaço requerido é somente Qn2 Suponha que modificamos o modo como a equação 257 trataa igualdade Essa definição alternativa da matriz de predecessores P é correta Como podemos usar a saída do algoritmo de FloydWarshall para detectar a presença de um ciclo de peso negativo Um outro modo de reconstruir caminhos mínimos no algoritmo de FLOYDWARSHALL utiliza valores kij para i j k 1 2 n onde kij é o vértice intermediário de numeração mais alta de um caminho mínimo de i a j no qual todos os vértices intermediários estão no conjunto 1 2 k Apresente uma formulação recursiva para kij modifique o procedimento FLOYDWARSHALL para calcular os valores de kij e reescreva o procedimento PRINTALLPAIRSSHORTESTPATH para adotar a matriz como entrada Qual é a semelhança entre a matriz e a tabela s no problema de multiplicação de cadeias de matrizes da Seção 152 Dê um algoritmo de tempo OV E para calcular o fecho transitivo de um grafo dirigido G V E Suponha que possamos calcular o fecho transitivo de um grafo acíclico no tempo fV E onde f é uma função monotonicamente crescente de V e E Mostre que o tempo para calcular o fecho transitivo G V E de um grafo dirigido geral G V E é fV E OV E 253 1 2 ALGORITMO DE JOHNSON PARA GRAFOS ESPARSOS O algoritmo de Johnson encontra caminhos mínimos entre todos os pares no tempo OV2 lg V VE Para grafos esparsos ele é assintoticamente melhor que a elevação ao quadrado repetida de matrizes ou o algoritmo de Floyd Warshall O algoritmo retorna uma matriz de pesos de caminhos mínimos para todos os pares de vértices ou informa que o grafo de entrada contém um ciclo de peso negativo O algoritmo de Johnson usa como subrotinas o algoritmo de Dijkstra e o algoritmo de BellmanFord descritos no Capítulo 24 O algoritmo de Johnson emprega a técnica de reponderação que funciona da maneira descrita a seguir Se todos os pesos de arestas w em um grafo G V E são não negativos podemos encontrar caminhos mínimos entre todos os pares de vértices executando o algoritmo de Dijkstra uma vez a partir de cada vértice com a fila de prioridade mínima do heap de Fibonacci o tempo de execução desse algoritmo para todos os pares é OV2 lg V VE Se G tem arestas de peso negativo mas nenhum ciclo de peso negativo simplesmente calculamos um novo conjunto de pesos de arestas não negativos que nos permita utilizar o mesmo método O novo conjunto de pesos de arestas deve satisfazer duas propriedades importantes Para todos os pares de vértices u v V um caminho p é um caminho mínimo de u a v usando a função peso w se e somente se p também é um caminho mínimo de u a v usando a função peso wˆ Para todas as arestas u v o novo peso wˆ u v é não negativo Como veremos em breve podemos préprocessar G para determinar a nova função peso no tempo OV E Preservando caminhos mínimos por reponderação O lema a seguir mostra como é fácil reponderar as arestas para satisfazer a propriedade descrita no item 1 Utilizamos d para denotar pesos de caminhos mínimos derivados da função peso w e para denotar pesos de caminhos mínimos derivados da função peso wˆ Lema 251 Reponderação não muda caminhos mínimos Dado um grafo dirigido ponderado G V E com função peso w E seja h V qualquer função que mapeie vértices para números reais Para cada aresta u v E defina Seja p v0 v1 vk qualquer caminho do vértice v0 ao vértice vk Então p é um caminho mínimo de v0 a vk com função peso w se e somente se é um caminho mínimo com função peso wˆ Isto é wp dv0 vk se e somente se wˆ p dv0 vk Além disso G tem um ciclo de peso negativo usando função peso w se e somente se G tem um ciclo de peso negativo usando função peso wˆ Prova Começamos mostrando que Temos Portanto qualquer caminho p de v0 a vk tem wˆ p wp hv 0 hv k Como hv0 e hvk não dependem do caminho se um caminho de v0 a vk é mais curto que outro usando função peso w então ele também é mais curto usando wˆ Assim wp dv0 vk se e somente se wˆ p ˆv0 vk Finalmente mostramos que G tem um ciclo de peso negativo usando a função peso w se e somente se G tem um ciclo de peso negativo usando a função peso wˆ Considere qualquer ciclo c v0 v1 vk onde v0 vk Pela equação 2510 e assim c tem peso negativo usando w se e somente se tem peso negativo usando wˆ Produzindo pesos não negativos por reponderação Nossa próxima meta é garantir que a segunda propriedade seja válida queremos que wˆ u v seja não negativo para todas as arestas u v E Dado um grafo dirigido ponderado G V E com função peso w E criamos um novo grafo G V E onde V V s para algum novo vértice s V e E E s v v V Estendemos a função peso w de modo que ws v 0 para todo v V Observe que por s não ter nenhuma aresta de entrada nenhum caminho mínimo em G exceto os que partem de s contém s Além disso G não tem nenhum ciclo de peso negativo se e somente se G não tem nenhum ciclo de peso negativo A Figura 256a mostra o grafo G correspondente ao grafo G da Figura 251 Agora suponha que G e G não tenham nenhum ciclo de peso negativo Vamos definir hv ds v para todo v V Pela desigualdade triangular Lema 2410 temos hv hu wu v para todas as arestas u v E Portanto se definirmos os novos pesos de acordo com a equação 259 teremos wˆ u v wu v hu hv 0 e satisfazemos a segunda propriedade A Figura 256b mostra o grafo G da Figura 256a com arestas reponderadas Figura 256 O algoritmo de caminhos mínimos para todos os pares de Johnson executado no grafo da Figura 251 A numeração dos vértices aparece fora deles a O grafo G com a função peso original w O novo vértice s é preto Dentro de cada vértice v está hv ds v b Após a reponderação de cada aresta u v com a função peso wˆ u v wu v hv cg Resultado da execução do algoritmo de Dijkstra em cada vértice de G usando a função peso wˆ Em cada parte o vértice de fonte u é preto e as arestas sombreadas estão na árvore de caminhos mínimos calculada pelo algoritmo Dentro de cada vértice v estão os valores ˆu v e du v separados por uma barra inclinada O valor duv du v é igual a ˆu v hv hu Calculando caminhos mínimos para todos os pares O algoritmo de Johnson para calcular caminhos mínimos para todos os pares emprega o algoritmo de Bellman Ford Seção 241 e o algoritmo de Dijkstra Seção 243 como subrotinas e supõe implicitamente que as arestas estão armazenadas em listas de adjacências O algoritmo retorna a matriz V V habitual D dij onde dij di j ou informa que o grafo de entrada contém um ciclo de peso negativo Como é típico no caso de um algoritmo de caminhos mínimos para todos os pares supomos que os vértices são numerados de 1 a V 2531 2532 2533 2534 Esse código simplesmente executa as ações que especificamos anteriormente A linha 1 produz G A linha 2 executa o algoritmo de BellmanFord em G com função peso w e vértice fonte s Se G e consequentemente G contém um ciclo de peso negativo a linha 3 relata o problema As linhas 412 consideram que G não contém nenhum ciclo de peso negativo As linhas 45 definem hv como o peso do caminho mínimo ds v calculado pelo algoritmo de BellmanFord para todo v V As linhas 67 calculam os novos pesos wˆ Para cada par de vértices u v V o laço for das linhas 911 calcula o peso do caminho mínimo ˆu v chamando o algoritmo de Dijkstra uma vez para cada vértice em V A linha 12 armazena na entrada de matriz duv o peso correto do caminho mínimo du v calculado pela equação 2510 Finalmente a linha 13 retorna a matriz D completada A Figura 256 mostra a execução do algoritmo de Johnson Se implementarmos a fila de prioridade mínima no algoritmo de Dijkstra por um heap de Fibonacci o algoritmo de Johnson é executado no tempo OV2 lg V VE A implementação mais simples por heap mínimo binário produz o tempo de execução OVE lg V que ainda é assintoticamente mais rápido que o algoritmo de FloydWarshall se o grafo é esparso Exercícios Use o algoritmo de Johnson para encontrar os caminhos mínimos entre todos os pares de vértices no grafo da Figura 252 Mostre os valores de h e wˆ calculados pelo algoritmo Qual é a finalidade de adicionar o novo vértice s a V produzindo V Suponha que wu v 0 para todas as arestas u v E Qual é a relação entre as funções peso w e wˆ O professor Greenstreet afirma que existe um modo mais simples de reponderar arestas que o método usado no algoritmo de Johnson Fazendo w minu vE wu v basta definir wˆ u v wu v w para todas as arestas u v E O que está errado no método de reponderação do professor 2535 2536 251 a b c 252 a b c d Suponha que executemos o algoritmo de Johnson em um grafo dirigido G com função peso w Mostre que se G contém um ciclo c de peso 0 então wˆ u v 0 para toda aresta u v em c O professor Michener afirma que não há necessidade de criar um novo vértice de fonte na linha 1 de JOHNSON Diz ele que em vez disso podemos simplesmente usar G G e fazer s ser qualquer vértice Dê um exemplo de grafo dirigido ponderado G para o qual a incorporação da ideia do professor em JOHNSON provoca respostas incorretas Depois mostre que se G é fortemente conexo todo vértice pode ser alcançado de qualquer outro vértice os resultados retornados por JOHNSON com a modificação do professor são corretos Problemas Fecho transitivo de um grafo dinâmico Suponha que desejemos manter o fecho transitivo de um grafo dirigido G V E à medida que inserimos arestas em E Isto é após a inserção de cada aresta queremos atualizar o fecho transitivo das arestas inseridas até então Suponha que inicialmente o grafo G não tenha nenhuma aresta e que representamos o fecho transitivo como uma matriz booleana Mostre como atualizar o fecho transitivo G V E de um grafo G V E no tempo OV2 quando uma nova aresta é adicionada a G Dê um exemplo de grafo G e uma aresta e tal que seja necessário o tempo V2 para atualizar o fecho transitivo após a inserção de e em G não importando qual algoritmo seja usado Descreva um algoritmo eficiente para atualizar o fecho transitivo à medida que arestas são inseridas no grafo Para qualquer sequência de n inserções seu algoritmo deve ser executado no tempo total onde t é o tempo para atualizar o fecho transitivo quando a iésima aresta é inserida Prove que seu algoritmo consegue esse limite de tempo Caminhos mínimos em grafos edensos Um grafo G V E é denso se E QV1 para alguma constante e na faixa 0 e 1 Utilizando heaps de mínimo dários veja o Problema 62 em algoritmos de caminhos mínimos em grafos edensos podemos alcançar os tempos de execução de algoritmos baseados em heaps de Fibonacci sem utilizar uma estrutura de dados tão complicada Quais são os tempos de execução assintóticos para INSERT EXTRACTMIN e DECREASEKEY em função de d e do número n de elementos em um heap dário Quais são esses tempos de execução se escolhemos d Qna para alguma constante 0 α 1 Compare esses tempos de execução com os custos amortizados dessas operações para um heap de Fibonacci Mostre como calcular caminhos mínimos de fonte única em um grafo dirigido edenso G V E que não tenha nenhuma aresta de peso negativo no tempo OE Sugestão Escolha d em função de e Mostre como resolver o problema de caminhos mínimos para todos os pares em um grafo dirigido e denso G V E que não tenha nenhuma aresta de peso negativo no tempo OV E Mostre como resolver o problema de caminhos mínimos para todos os pares no tempo OV E em um grafo dirigido edenso G V E que pode ter arestas de peso negativo mas não tem nenhum ciclo de peso negativo NOTAS DO CAPÍTULO Lawler 224 dá uma boa descrição do problema de caminhos mínimos para todos os pares embora não analise soluções para grafos esparsos Ele atribui o algoritmo de multiplicação de matrizes ao folclore O algoritmo de Floyd Warshall foi criado por Floyd 105 que tomou como base um teorema de Warshall 349 que descreve como calcular o fecho transitivo de matrizes booleanas O algoritmo de Johnson foi obtido de 192 Vários pesquisadores apresentaram algoritmos melhorados para calcular caminhos mínimos por multiplicação de matrizes Fredman 111 mostra como resolver o problema de caminhos mínimos para todos os pares usando V52 comparações entre somas de pesos de arestas e obtém um algoritmo que é executado no tempo OV3 lg lg Vlg V13 ligeiramente melhor que o tempo de execução do algoritmo de FloydWarshall Han 159 reduziu o tempo de execução para OV3lg lg Vlg V54 Outra linha de pesquisa demonstra que podemos aplicar algoritmos para multiplicação rápida de matrizes veja as Notas do Capítulo 4 ao problema de caminhos mínimos para todos os pares Seja Onw o tempo de execução do algoritmo mais rápido para multiplicar matrizes n n atualmente w 2376 78 Galil e Margalit 123 124 e Seidel 308 criaram algoritmos que resolvem o problema de caminhos mínimos para todos os pares em grafos não dirigidos e não ponderados no tempo Vw pV onde pn denota uma função específica que é limitada polilogaritmicamente em n Em grafos densos esses algoritmos são mais rápidos que o tempo OVE necessário para executar V pesquisas em largura Vários pesquisadores estenderam esses resultados para dar algoritmos que resolvem o problema de caminhos mínimos para todos os pares em grafos não dirigidos nos quais os pesos de arestas são inteiros no intervalo 1 2 W Desses algoritmos o mais rápido assintoticamente criado por Shoshan e Zwick 316 é executado no tempo OW Vw pVW Karger Koller e Phillips 196 e McGeoch 215 independentemente deram um limite de tempo que depende de E o conjunto de arestas em E que participam de algum caminho mínimo Dado um grafo com pesos de arestas não negativos tais algoritmos são executados no tempo OVE V2 lg V e melhoram com a execução do algoritmo de Dijkstra V vezes quando E oE Baswana Hariharan e Sen 33 examinaram algoritmos decrementadores para manter informações de caminhos mínimos para todos os pares e de fecho transitivo Algoritmos decrementadores permitem uma sequência de eliminações e consultas entremeadas por comparação o Problema 251 no qual são inseridas arestas pede um algoritmo incremental Os algoritmos criados por Baswana Hariharan e Sen são aleatorizados e quando existe um caminho tais algoritmos podem falhar e deixar de informar que tal caminho existe com probabilidade 1nc para c 0 arbitrária Os tempos de consulta são O1 com alta probabilidade Para fecho transitivo o tempo amortizado para cada atualização é OV43 lg13 V Para caminhos mínimos para todos os pares os tempos de atualização dependem das consultas Para consultas que dão apenas os pesos dos caminhos mínimos o tempo amortizado por atualização é OV3E lg2 V O tempo para informar o caminho mínimo propriamente dito é minOV32 lg v OV3E lg2 V Demetrescu e Italiano 84 mostraram como tratar operações de atualização e consulta quando as arestas são inseridas e também eliminadas desde que cada aresta dada tenha uma faixa limitada de valores possíveis extraída do conjunto de números reais Aho Hopcroft e Ullman 5 definiram uma estrutura algébrica conhecida como semianel que serve como uma estrutura geral para resolver problemas de caminhos em grafos dirigidos O algoritmo de FloydWarshall bem como o do fecho transitivo da Seção 252 são instanciações de um algoritmo para todos os pares baseado em semianéis Maggs e Plotkin 240 mostraram como encontrar árvores geradoras mínimas usando um semianel 261 26 FLUXO MÁXIMO Da mesma maneira que podemos modelar um mapa rodoviário como um grafo dirigido para encontrar o caminho mínimo de um ponto a outro também podemos interpretar um grafo dirigido como uma rede de fluxo e usálo para responder a perguntas sobre fluxos de materiais Imagine um material percorrendo um sistema desde uma fonte onde o material é produzido até um sorvedouro onde ele é consumido A fonte produz o material a alguma taxa fixa e o sorvedouro consome o material à mesma taxa O fluxo do material em qualquer ponto no sistema é intuitivamente a taxa pela qual o material se move Redes de fluxo podem modelar muitos problemas entre eles líquidos que fluem por tubos peças que percorrem linhas de montagem correntes que passam por redes elétricas e informações transmitidas por redes de comunicação Podemos imaginar cada aresta dirigida em uma rede de fluxo como um conduto para o material Cada conduto tem uma capacidade estabelecida dada como uma taxa máxima pela qual o material pode fluir pelo conduto como 200 litros de líquido por hora por um cano ou 20 ampères de corrente elétrica por um fio condutor Vértices são junções de condutos e exceto quando se trata da fonte e do sorvedouro o material flui pelos vértices sem se acumular Em outras palavras a taxa pela qual o material entra em um vértice deve ser igual à taxa pela qual sai do vértice Denominamos essa propriedade conservação do fluxo e ela é equivalente à lei das correntes de Kirchhoff para a qual o material é a corrente elétrica No problema de fluxo máximo desejamos calcular a maior taxa pela qual podemos despachar material da fonte até o sorvedouro sem infringir quaisquer restrições à capacidade Esse é um dos problemas mais simples relacionados a redes de fluxo e como veremos neste capítulo pode ser resolvido por algoritmos eficientes Além disso podemos adaptar as técnicas básicas usadas em algoritmos de fluxo máximo para resolver outros problemas de redes de fluxo Este capítulo apresenta dois métodos gerais para resolver o problema do fluxo máximo A Seção 261 formaliza as noções de redes de fluxo e fluxos definindo formalmente o problema do fluxo máximo A Seção 262 descreve o método clássico de Ford e Fulkerson para determinar fluxos máximos Uma aplicação desse método encontrar um emparelhamento máximo em um grafo bipartido não dirigido é dada na Seção 263 A Seção 264 apresenta o método pushrelabel empurrarrenomear que serve de base para muitos dos algoritmos mais rápidos para problemas de redes de fluxo A Seção 265 abrange o algoritmo relabeltofront renomear e posicionar à frente uma implementação particular do método pushrelabel que é executado no tempo OV3 Embora esse não seja o algoritmo mais rápido conhecido ilustra algumas das técnicas usadas nos algoritmos assintoticamente mais rápidos e é razoavelmente eficiente na prática REDES DE FLUXO Nesta seção daremos uma definição para redes de fluxo do ponto de vista da teoria dos grafos discutiremos suas propriedades e definiremos com exatidão o problema do fluxo máximo Apresentaremos também algumas regras úteis de notação Redes de fluxo e fluxos Uma rede de fluxo G V E é um grafo dirigido no qual cada aresta u v E tem uma capacidade não negativa cu v 0 Impomos ainda mais que se E contém uma aresta uv então não há nenhuma aresta v u na direção contrária Veremos em breve como contornar essa restrição Se uv E então por conveniência definimos cuv 0 e proibimos laços Distinguimos dois vértices em uma rede de fluxo uma fonte s e um sorvedouro t Por conveniência consideramos que cada vértice se encontra em algum caminho da fonte até o sorvedouro Isto é para todo vértice v V a rede de fluxo contém um caminho s v t Portanto o grafo é conexo e visto que cada vértice exceto s tem no mínimo uma aresta de entrada E V 1 A Figura 261 mostra um exemplo de rede de fluxo Agora estamos prontos para dar uma definição mais formal de fluxos Seja G V E uma rede de fluxo com uma função capacidade c Seja s a fonte da rede e seja t o sorvedouro Um fluxo em G é uma função de valor real f V V que satisfaz as três propriedades seguintes Restrição de capacidade Para todo u v V exigimos 0 fu v cu v Conservação de fluxo Para todo u V s t impomos Quando u v E não pode haver nenhum fluxo de u a v e fuv 0 A quantidade não negativa fu v é denominada fluxo do vértice u ao vértice v O valor f de um fluxo é definido como isto é o fluxo total que sai da fonte menos o fluxo que entra na fonte Aqui a notação identifica valor de fluxo e não valor absoluto ou cardinalidade Normalmente uma rede de fluxo não terá nenhuma aresta de entrada na fonte e o fluxo que entra na fonte dado pelo somatório vV f v s será 0 Contudo nós o incluímos porque quando apresentarmos redes residuais mais adiante neste capítulo o fluxo que entra na fonte se tornará significativo No problema do fluxo máximo temos uma rede de fluxo G com fonte s e sorvedouro t e desejamos encontrar um fluxo de valor máximo Figura 261 a Uma rede de fluxo G V E para o problema do transporte da Lucky Puck Company A fábrica de Vancouver é a fonte s e o armazém de Winnipeg é o sorvedouro t A empresa entrega discos para hóquei pucks em cidades intermediárias mas somente c u v caixotes por dia podem ir da cidade u para a cidade v Cada aresta é identificada por sua capacidade b Um fluxo f em G com valor f 19 Cada aresta u v é identificada por fu vcu v A barra inclinada na notação serve apenas para separar fluxo e capacidade não indica divisão Antes de vermos um exemplo de problema de rede de fluxo vamos explorar brevemente a definição de fluxo e as duas propriedades de fluxo A restrição de capacidade diz simplesmente que o fluxo de um vértice a um outro deve ser não negativo e não deve exceder a capacidade dada A propriedade de conservação de fluxo diz que o fluxo total que entra em um vértice exceto a fonte ou o sorvedouro deve ser igual ao fluxo total que sai do vértice em linguagem informal fluxo que entra é igual a fluxo que sai Um exemplo de fluxo Uma rede de fluxo pode modelar o problema de transporte rodoviário mostrado na Figura 261a A Lucky Puck Company tem uma fábrica fonte s em Vancouver que produz discos para hóquei e um armazém sorvedouro t em Winnipeg que os mantém em estoque A Lucky Puck aluga espaço em caminhões de outra empresa para transportar os discos da fábrica ao armazém Como os caminhões percorrem rotas especificadas arestas entre cidades vértices e têm capacidade limitada a Lucky Puck pode despachar no máximo cu v caixotes por dia entre cada par de cidades u e v na Figura 261a A Lucky Puck não tem nenhum controle sobre essas rotas e capacidades e assim não pode alterar a rede de fluxo mostrada na Figura 261a A empresa precisa determinar o maior número p de caixotes que pode despachar por dia e depois produzir essa quantidade pois não tem sentido produzir mais discos do que é possível transportar para o armazém A Lucky Puck não está preocupada com o tempo gasto para um determinado disco ir da fábrica ao armazém o que interessa à empresa é que p caixotes saiam da fábrica por dia e p caixotes cheguem ao armazém por dia Podemos modelar o fluxo de remessas com um fluxo nessa rede porque o número de caixotes despachados por dia de uma cidade para outra está sujeito a uma restrição de capacidade Além disso o modelo deve obedecer à conservação de fluxo porque em regime estável a taxa de entrada dos discos em uma cidade intermediária tem de ser igual à taxa de saída dos discos dessa mesma cidade Caso contrário os caixotes se acumulariam em cidades intermediárias Modelando problemas com arestas antiparalelas Suponha que a empresa transportadora oferecesse à Lucky Puck a oportunidade de alugar espaço para 10 caixotes em caminhões que fazem a rota EdmontonCalgary Seria natural adicionar essa oportunidade ao nosso exemplo e formar a rede mostrada na Figura 262a Porém essa rede apresenta um problema infringe nossa hipótese original isto é se uma aresta v1 v2 E então v2 v1 E Denominamos as duas arestas v1 v2 antiparalelas Assim se quisermos modelar um problema de fluxo com arestas antiparalelas temos de transformar a rede em uma outra rede equivalente que não contenha nenhuma aresta antiparalela A Figura 262b mostra essa rede equivalente Figura 262 Conversão de uma rede com arestas antiparalelas em uma rede equivalente sem nenhuma aresta antiparalela a Rede de fluxo que contém as arestas v1 v2 e v2 v1 b Uma rede equivalente sem nenhuma aresta antiparalela Adicionamos um novo vértice v e substituímos a aresta v1 v2 pelo par de arestas v1 v e vv2 ambas com a mesma capacidade de v1 v2 Escolhemos uma das duas arestas antiparalelas nesse caso v1 v2 e a repartimos adicionando um novo vértice v e substituindo a aresta v1 v2 pelo par de arestas v1 v e vv2 Também definimos a capacidade das duas novas arestas como a capacidade da aresta original A rede resultante satisfaz a seguinte propriedade se uma aresta está na rede a aresta inversa não está O Exercício 2611 pede que você prove que a rede resultante é equivalente à original Assim vemos que um problema do mundo real poderia ser modelado muito naturalmente com uma rede de arestas antiparalelas Todavia será conveniente desautorizar arestas antiparalelas e assim temos um modo direto de converter uma rede que contém arestas antiparalelas em uma rede equivalente sem nenhuma aresta antiparalela Redes com várias fontes e vários sorvedouros Um problema de fluxo máximo pode ter várias fontes e vários sorvedouros em vez de apenas uma unidade de cada Por exemplo na realidade a Lucky Puck Company poderia ter um conjunto de m fábricas s1 s2 sm e um conjunto de n armazéns t1 t2 tn como mostra a Figura 263a Felizmente esse problema não é mais difícil que o fluxo máximo comum Podemos reduzir o problema de determinar um fluxo máximo em uma rede com várias fontes e vários sorvedouros a um problema de fluxo máximo comum A Figura 263b mostra como converter a rede de a em uma rede de fluxo comum com somente uma fonte e um sorvedouro Adicionamos uma superfonte s e acrescentamos uma aresta dirigida s si com capacidade cs si para cada i 1 2 m Criamos também um novo supersorvedouro t e acrescentamos uma aresta dirigida ti t com capacidade cti t para cada i 1 2 n Intuitivamente qualquer fluxo na rede em a corresponde a um fluxo na rede em b e viceversa A única fonte s simplesmente fornece a quantidade de fluxo desejada para as várias fontes si e igualmente o único sorvedouro t consome a quantidade de fluxo desejada para os vários sorvedouros ti O Exercício 2612 pede que você prove formalmente que os dois problemas são equivalentes Figura 263 Conversão de um problema de fluxo máximo de várias fontes e vários sorvedouros em um problema com uma única fonte e um único sorvedouro a Uma rede de fluxo com cinco fontes S s1 s2 s3 s4 s5 e três sorvedouros T t1 t2 t3 b Uma rede de fluxo equivalente com uma única fonte e um único sorvedouro Adicionamos uma superfonte s e uma aresta com capacidade infinita de s até cada uma das várias fontes Adicionamos também um supersorvedouro t e uma aresta com capacidade infinita de cada um dos vários sorvedouros a t 2611 2612 2613 2614 2615 2616 2617 262 Exercícios Mostre que repartir uma aresta n em uma rede de fluxo produz uma rede equivalente Em linguagem mais formal suponha que a rede de fluxo G contenha uma aresta uv e que criamos uma nova rede de fluxo G criando um novo vértice x e substituindo uv por novas arestas ux e xv com cux cxv cuv Mostre que um fluxo máximo em G tem o mesmo valor que um fluxo máximo em G Estenda as propriedades e definições de fluxo ao problema de várias fontes e vários sorvedouros Mostre que qualquer fluxo em uma rede de fluxo com várias fontes e vários sorvedouros corresponde a um fluxo de valor idêntico na rede de fonte única e sorvedouro único obtida pela adição de uma superfonte e um supersorvedouro e viceversa Suponha que uma rede de fluxo G VE transgrida a hipótese de que a rede contém um caminho s v t para todos os vértices v V Seja u um vértice para o qual não há nenhum caminho s u t Mostre que deve existir um fluxo máximo f em G tal que fu v fv u 0 para todos os vértices v V Seja f um fluxo em uma rede e seja a um número real O múltiplo escalar do fluxo denotado por af é uma função de V V para definida por afu v a fu v Prove que os fluxos em uma rede formam um conjunto convexo Isto é mostre que se f1 e f2 são fluxos então af1 1 af2 também é um fluxo para todo a no intervalo 0 a 1 Enuncie o problema de fluxo máximo como um problema de programação linear O professor Adam tem dois filhos que infelizmente não gostam um do outro O problema é tão grave que eles não só se recusam a ir à escola juntos mas na verdade cada um se recusa a passar por qualquer quadra pela qual o outro tenha passado naquele dia Porém eles não se importam se seus caminhos se cruzarem em uma esquina Felizmente a casa do professor bem como a escola está situada em esquina mas fora isso ele não tem certeza de que será possível enviar os filhos à mesma escola O professor tem um mapa da cidade Mostre como formular o problema de determinar se os dois filhos do professor podem frequentar a mesma escola como um problema de fluxo máximo Suponha que além das capacidades de arestas uma rede de fluxo tenha capacidades de vértices Isto é cada vértice v tem um limite lv para a quantidade de fluxo que pode passar por v Mostre como transformar uma rede de fluxo G VE com capacidades de vértices em uma rede de fluxo equivalente G VE sem capacidade de vértices tal que um fluxo máximo em G tenha o mesmo valor que um fluxo máximo em G Quantos vértices e quantas arestas G tem O MÉTODO FORDFULKERSON Esta seção apresenta o método de Ford e Fulkerson para resolver o problema do fluxo máximo Nós o denominamos método em vez de algoritmo porque ele abrange diversas implementações com diferentes tempos de execução O método FordFulkerson depende de três ideias importantes que transcendem o método e são relevantes para muitos algoritmos e problemas de fluxo redes residuais caminhos aumentadores e cortes Essas ideias são essenciais para o importante teorema do fluxo máximocorte mínimo Teorema 266 que caracteriza o valor de um fluxo máximo em termos de cortes da rede de fluxo Encerramos esta seção apresentando uma implementação específica do método FordFulkerson e analisando seu tempo de execução O método FordFulkerson aumenta iterativamente o valor do fluxo Começamos com fu v 0 para todo u v V que dá um fluxo inicial de valor 0 A cada iteração aumentamos o valor do fluxo em G determinando um caminho aumentador em uma rede residual Gf associada Tão logo conheçamos as arestas de um caminho aumentador em Gf fica fácil identificar arestas específicas em G cujo fluxo podemos mudar e com isso aumentar o valor do fluxo Embora cada iteração do método de FordFulkerson aumente o valor do fluxo veremos que o fluxo em qualquer aresta particular de G pode aumentar ou diminuir pode ser necessário diminuir o fluxo em algumas arestas para permitir que um algoritmo envie mais fluxo da fonte ao sorvedouro Aumentamos repetidamente o fluxo até que a rede residual não tenha mais caminhos aumentadores O teorema do fluxo máximocorte mínimo mostrará que no término esse processo produz um fluxo máximo Redes residuais Intuitivamente dados uma rede de fluxo G e um fluxo f a rede residual Gf consiste em arestas com capacidades que representam como podemos mudar o fluxo em arestas de G Uma aresta da rede de fluxo pode admitir uma quantidade de fluxo adicional igual à capacidade da aresta menos o fluxo nessa aresta Se tal valor é positivo colocamos essa aresta em Gf com uma capacidade residual de cf u v cu v fu v As únicas arestas de G que estão em Gf são as que podem receber mais fluxo as arestas uv cujos fluxos são iguais às suas capacidades têm cf uv 0 e não estão em Gf Porém a rede residual Gf também pode conter arestas que não estão em G Quando um algoritmo é aplicado a um fluxo com a finalidade de aumentar o fluxo total pode ser necessário reduzir o fluxo em determinada aresta Para representar uma possível diminuição de um fluxo positivo fu v em uma aresta em G inserimos uma aresta v u em Gf com capacidade residual cfv u fu v isto é uma aresta que pode admitir fluxo na direção oposta a u v e no máximo eliminar o fluxo em u v Essas arestas invertidas na rede residual permitem que um algoritmo envie de volta o fluxo que já enviou ao longo de uma aresta Enviar o fluxo de volta ao longo de uma aresta equivale a diminuir o fluxo na aresta que é uma operação necessária em muitos algoritmos Em linguagem mais formal suponha que tenhamos uma rede de fluxo G VE com fonte s e sorvedouro t Seja f um fluxo em G e considere um par de vértices u v V Definimos a capacidade residual cfu v por Como supomos que u v E implica v u E exatamente um caso na equação 262 se aplica a cada par ordenado de vértices Como exemplo da equação 262 se cu v 16 e fu v 11 então podemos aumentar fu v de até cf u v cinco unidades antes de infringir a restrição de capacidade da aresta u v Queremos também permitir que um algoritmo retorne até 11 unidades de fluxo de v a u e por consequência cf v u 11 Dada uma rede de fluxo G V E e um fluxo f a rede residual de G induzida por f é Gf V Ef onde Isto é como prometido cada aresta da rede residual ou aresta residual pode admitir um fluxo que é maior do que 0 A Figura 264a repete a rede de fluxo G e fluxo f da Figura 261b e a Figura 264b mostra a rede residual Gf correspondente As arestas em Ef são arestas em E ou são suas inversas e assim Observe que a rede residual Gf é semelhante a uma rede de fluxo com capacidades dadas por cf Ela não satisfaz nossa definição de rede de fluxo porque pode conter uma aresta u v bem como sua inversa v u Fora essa diferença uma rede residual tem as mesmas propriedades que uma rede de fluxo e podemos definir um fluxo na rede residual como um fluxo que satisfaz a definição de um fluxo porém em relação às capacidades cf na rede Gf Um fluxo em uma rede residual nos dá um guia para adicionar fluxo à rede de fluxo original Se f é um fluxo em G e f é um fluxo na rede residual Gf correspondente definimos f f o aumento do fluxo f de f como a função de V V em definida por A intuição que fundamenta essa definição decorre da definição da rede residual Aumentamos o fluxo em u v de f u v mas o reduzimos de f u v porque empurrar fluxo pela aresta invertida na rede residual significa reduzir o fluxo na rede original Empurrar fluxo pela aresta invertida na rede residual é uma operação também conhecida como cancelamento Por exemplo enviar cinco caixotes de discos de hóquey de u a v e enviar dois caixotes de v a u seria o mesmo da perspectiva do resultado final que enviar três caixotes de u a v e nenhum de v a u Cancelamento desse tipo é crucial para qualquer algoritmo de fluxo máximo Figura 264 a Rede de fluxos G e f da Figura 261b b Rede residual Gf com caminho aumentador p sombreado sua capacidade residual é cf p cf v2 v3 4 Arestas com capacidade residual igual a 0 como v2 v3 não são mostradas uma convenção que seguiremos no restante desta seção c O fluxo em G que resulta de aumentar essa rede ao logo do caminho p de uma quantidade equivalente à sua capacidade residual 4 Arestas que não transportam nenhum fluxo como v3 v2 são identificadas somente por suas capacidades uma outra convenção que seguimos neste capítulo d Rede residual induzida pelo fluxo em c Lema 261 Seja G V E uma rede de fluxo com fonte s e sorvedouro t e seja f um fluxo em G Seja Gf a rede residual de G induzida por f e seja f um fluxo em Gf Então a função f f definida na equação 264 é um fluxo em G com valor f f f f Prova Em primeiro lugar temos de verificar se f f obedece às restrições de capacidade para cada aresta em E e conservação de fluxo em cada vértice em V s t Para a restrição de capacidade observe em primeiro lugar que se u v E então cf v u fu v Portanto temos f v u cf v u fu v e por consequência Além disso f f u v Para conservação de fluxo como f e f obedecem à conservação de fluxo temos que para todo u V s t onde a terceira linha decorre da segunda por conservação de fluxo Finalmente calculamos o valor de f f Lembrese de que desautorizamos arestas antiparalelas em G mas não em Gf e por consequência para cada vértice v V sabemos que pode haver uma aresta s v ou v s mas nunca ambas Definimos V1 v s v E como o conjunto de vértices com arestas que saem de s e V2 v v s E como o conjunto de vértices com arestas que se dirigem a s Temos V1 V2 V e como desautorizamos arestas antiparalelas V1 V2 Agora calculamos onde a segunda linha decorre de f f w x ser 0 se w x E Agora aplicamos a definição de f f à equação 265 e reordenamos e agrupamos termos para obter Na equação 266 podemos estender todos os quatro somatórios para V já que cada termo adicional tem valor 0 O Exercício 2621 pede que você prove isso formalmente Assim temos Caminhos aumentadores Dados uma rede de fluxo G V E e um fluxo f um caminho aumentador p é um caminho simples de s a t na rede residual Gf Pela definição da rede residual podemos aumentar o fluxo em uma aresta u v de um caminho aumentador até cf u v sem infringir a restrição de capacidade imposta a qualquer u v e v u que está na rede de fluxo original G O caminho sombreado na Figura 264b é um caminho aumentador Tratando a rede residual Gf na figura como uma rede de fluxo podemos aumentar o fluxo que percorre cada aresta desse caminho de até quatro unidades sem infringir a restrição de capacidade já que a menor capacidade residual nesse caminho é cf v2 v3 4 A quantidade máxima possível de aumento para o fluxo em cada aresta de um caminho aumentador p é denominada capacidade residual de p e é dada por cf p mincf u v u v está em p O lema a seguir cuja prova deixamos para o Exercício 2627 torna esse argumento mais preciso Lema 262 Seja G V E uma rede de fluxo seja f um fluxo em G e seja p um caminho aumentador em Gf Defina uma função fp V V por Então fp é um fluxo em Gf com valor fp cf p 0 O corolário a seguir mostra que se aumentarmos f adicionando fp obtemos um outro fluxo em G cujo valor está mais próximo do máximo A Figura 264c mostra o resultado de aumentar o fluxo f da Figura 264a adicionando o fluxo fp da Figura 264b e a Figura 264d mostra a rede residual resultante Corolário 263 Seja G V E uma rede de fluxo seja f um fluxo em G e seja p um caminho aumentador em Gf Seja fp definido como na equação 268 e suponha que aumentamos f adicionando fp Então a função f fp é um fluxo em G com valor f fp f fp f Prova Imediata pelos Lemas 261 e 262 Cortes de redes de fluxo O método FordFulkerson aumenta repetidamente o fluxo ao longo de caminhos aumentadores até encontrar um fluxo máximo Como sabemos que quando o algoritmo termina realmente encontramos um fluxo máximo O teorema do fluxo máximocorte mínimo que demonstraremos em breve nos diz que um fluxo é máximo se e somente se sua rede residual não contém nenhum caminho aumentador Entretanto para provar esse teorema devemos primeiro explorar a noção de corte de uma rede de fluxo Um corte S T de uma rede de fluxo G V E é uma partição de V em S e T V S tal que s S e t T Essa definição é semelhante à definição de corte que usamos para árvores geradoras mínimas no Capítulo 23 exceto que aqui estamos cortando um grafo dirigido em vez de um grafo não dirigido e insistimos que s S e t T Se f é um fluxo então o fluxo líquido f S T que passa pelo corte é definido como A capacidade do corte S T é Um corte mínimo de uma rede é um corte cuja capacidade é mínima em relação a todos os cortes da rede A assimetria entre as definições de fluxo e a capacidade de um corte é intencional e importante Quando se trata de capacidade contamos somente as capacidades das arestas que vão de S a T ignorando arestas na direção inversa Quando se trata de fluxo consideramos o fluxo de S a T menos o fluxo na direção inversa de T a S A razão para essa diferença ficará clara mais adiante nesta seção A Figura 265 mostra o corte s v1 v2 v3 v4 t na rede de fluxo da Figura 261b O fluxo líquido por esse corte é Figura 265 Um corte S T na rede de fluxo da Figura 261b onde S s v1 v2 e T v3 v4 t Os vértices em S são pretos e os vértices em T são brancos O fluxo líquido por S T é f S T 19 e a capacidade é c S T 26 O lema a seguir mostra que para um fluxo f dado o fluxo líquido por qualquer corte é o mesmo e é igual a f o valor do fluxo Lema 264 Seja f um fluxo de uma rede de fluxo G com fonte s e sorvedouro t e seja S T qualquer corte de G Então o fluxo líquido por S T é fS T f Prova Podemos reescrever a condição de conservação de fluxo para qualquer nó u V s t como Adotando a definição de f dada pela equação 261 e somando o lado esquerdo da equação 2611 que é igual a 0 o somatório para todos os vértices em S s dá Expandindo o somatório do lado direito e reagrupando termos obtemos Como V S T e S T 0 podemos separar cada somatório em V em somatórios em S e T para obter 1 2 3 Os dois somatórios entre parênteses são na verdade iguais já que para todos os vértices x y S o termo fx y aparece uma vez em cada somatório Por consequência esses somatórios cancelam um ao outro e temos Um corolário para o Lema 264 mostra como podemos usar capacidades de corte para limitar o valor de um fluxo Corolário 265 O valor de qualquer fluxo f em uma rede de fluxo G é limitado por cima pela capacidade de qualquer corte de G Prova Seja S T qualquer corte de G e seja f qualquer fluxo Pelo Lema 264 e pela restrição de capacidade O Corolário 265 produz a seguinte consequência imediata o valor de um fluxo máximo em uma rede é limitado por cima pela capacidade de um corte mínimo da rede O importante teorema de fluxo máximocorte mínimo que enunciamos e provamos agora diz que o valor de um fluxo máximo é de fato igual à capacidade de um corte mínimo Teorema 266 Teorema do fluxo máximocorte mínimo Se f é um fluxo em uma rede de fluxo G V E com fonte s e sorvedouro t então as seguintes condições são equivalentes f é um fluxo máximo em G A rede residual Gf não contém nenhum caminho aumentador f cS T para algum corte S T de G Prova 1 2 Suponha por contradição que f seja um fluxo máximo em G mas que Gf tenha um caminho aumentador p Então pelo Corolário 263 o fluxo encontrado aumentando f com a adição de fp onde fp é dado pela equação 268 é um fluxo em G com valor estritamente maior que f o que contradiz a hipótese de que f seja um fluxo máximo 2 3 Suponha que Gf não tenha nenhum caminho aumentador isto é que Gf não contenha nenhum caminho de s a t Defina S v V existe um caminho de s a v em Gf e T V S A partição S T é um corte temos s S trivialmente e t S porque não existe nenhum caminho de s a t em Gf Agora considere um par de vértices u S e v T Se uv E devemos ter fvu cvu já que caso contrário uv Ef o que colocaria v no conjunto S Se v u E devemos ter fvu 0 porque caso contrário cf uv fvu seria positivo e teríamos u v Ef o que colocaria v em S É claro que se nem uv nem vu está em E então fuv f v u 0 Assim temos Portanto pelo Lema 264 f fS T cS T 3 1 Pelo Corolário 265 f cS T para todos os cortes S T Assim a condição f cS T implica que f seja um fluxo máximo O algoritmo básico de Ford e Fulkerson Em cada iteração do método FordFulkerson encontramos algum caminho aumentador p e usamos p para modificar o fluxo f Como sugerem o Lema 262 e o Corolário 263 substituímos f por f fp e obtemos um novo fluxo cujo valor é f fp A implementação do método apresentada a seguir calcula o fluxo máximo em uma rede de fluxo G VE atualizando o atributo de fonte uvf para cada aresta uv E1 Se uv E supomos implicitamente que uvf 0 Consideramos também que temos as capacidades cuv juntamente com a rede de fluxo e cuv 0 se uv E Calculamos a capacidade residual cf uv de acordo com a fórmula 262 A expressão cfp no código serve apenas como uma variável temporária que armazena a capacidade residual do caminho p O algoritmo de FORDFULKERSON simplesmente expande o pseudocódigo FORDFULKERSONMETHOD dado antes A Figura 266 mostra o resultado de cada iteração em um exemplo de execução As linhas 12 inicializam o fluxo f como 0 O laço while das linhas 38 encontra repetidamente um caminho aumentador p em Gf e aumenta o fluxo f ao longo de p adicionando a capacidade residual cf p Cada aresta residual no caminho p é uma aresta na rede original ou é a inversa de uma aresta na rede original As linhas 68 atualizam o fluxo adequadamente em cada caso adicionando fluxo quando a aresta residual é uma aresta original e subtraindo caso contrário Quando não existe nenhum caminho aumentador o fluxo f é um fluxo máximo Figura 266 Execução do algoritmo básico de FordFulkerson ae Iterações sucessivas do laço while O lado esquerdo de cada parte mostra a rede residual Gf da linha 3 com um caminho aumentador sombreado p O lado direito de cada parte mostra o novo fluxo f que resulta do aumento de f pela adição de fp A rede residual em a é a rede de entrada G Figura 26 6 continuação f Rede residual no último teste do laço while Ela não tem nenhum caminho aumentador e então o fluxo f mostrado em e é um fluxo máximo O valor do fluxo máximo encontrado é 23 Análise de FordFulkerson O tempo de execução de FORDFULKERSON depende de como determinamos o caminho aumentador p na linha 3 Se o escolhermos mal o algoritmo pode nem mesmo terminar o valor do fluxo aumentará com os aumentos sucessivos mas não precisa sequer convergir para o valor de fluxo máximo2 Porém se determinarmos o caminho aumentador usando uma busca em largura que vimos na Seção 222 o algoritmo será executado em tempo polinomial Antes de provar esse resultado obtemos um limite simples para o caso no qual escolhemos o caminho aumentador arbitrariamente e todas as capacidades são inteiras Na prática as capacidades que aparecem nos problemas de fluxo máximo costumam ser números inteiros Se as capacidades são números racionais podemos aplicar uma transformação de escala adequada para transformálos em números inteiros Se f denotar um fluxo máximo na rede transformada então uma implementação direta de FORD FULKERSON executa o laço while das linhas 38 no máximo f vezes já que o valor do fluxo aumenta de no mínimo uma unidade em cada iteração Podemos realizar eficientemente o trabalho executado dentro do laço while se implementarmos a rede de fluxo G V E com a estrutura de dados correta e encontrarmos um caminho aumentador por um algoritmo de tempo linear Vamos supor que mantemos uma estrutura de dados correspondente a um grafo dirigido G V E onde E u v u v E ou v u E As arestas na rede G também são arestas em G e portanto é fácil manter capacidades e fluxos nessa estrutura de dados Dado um fluxo f em G as arestas na rede residual Gf consistem em todas as arestas u v de G tais que cfuv 0 onde cf está de acordo com a equação 262 Portanto o tempo para encontrar um caminho em uma rede residual é OV E OE se usarmos busca em profundidade ou busca em largura Assim cada iteração do laço while demora o tempo OE bem como a inicialização nas linhas 12 o que resulta no tempo total de execução OE f para o algoritmo de FORDFULKERSON Quando as capacidades são números inteiros e o valor de fluxo ótimo f é pequeno o tempo de execução do algoritmo de FordFulkerson é bom A Figura 267a mostra um exemplo do que pode acontecer em uma rede de fluxo simples para a qual f é grande Um fluxo máximo nessa rede tem valor 2000000 1000000 unidades de fluxo que percorrem o caminho s u t outras 1000000 unidades percorrem o caminho s v t Se o primeiro caminho aumentador encontrado por FORDFULKERSON é s u v t mostrado na Figura 267a o fluxo tem valor 1 após a primeira iteração A rede residual resultante é mostrada na Figura 267b Se a segunda iteração encontra o caminho aumentador s v u t como mostra a Figura 267b então o fluxo tem valor 2 A Figura 267c mostra a rede residual resultante Podemos continuar escolhendo o caminho aumentador s u v t nas iterações ímpares e o caminho aumentador s v u t nas iterações pares Executaríamos ao todo 2000000 aumentos que elevariam o valor do fluxo de apenas uma unidade de cada vez O algoritmo de EdmondsKarp Podemos melhorar o limite em FORDFULKERSON encontrando o caminho aumentador p na linha 3 com uma busca em largura Isto é escolhemos o caminho aumentador como o caminho mínimo de s a t na rede residual onde cada aresta tem distância peso unitária O método FordFulkerson assim implementado é denominado algoritmo de Edmonds e Karp Agora provaremos que o algoritmo EdmondsKarp é executado no tempo OVE2 A análise depende das distâncias até os vértices na rede residual Gf O lema a seguir usa a notação dfuv para a distância do caminho mínimo de u a v em Gf onde cada aresta tem distância unitária Lema 267 Se o algoritmo EdmondsKarp é executado em uma rede de fluxo G V E com fonte s e sorvedouro t então para todos os vértices v V s t a distância do caminho mínimo df sv na rede residual Gf aumenta monotonicamente com cada aumento de fluxo Prova Vamos supor que para algum vértice v V s t existe um aumento de fluxo que provoca diminuição na distância de caminho mínimo de s a v e então deduziremos uma contradição Seja f o fluxo imediatamente antes do primeiro aumento que diminui alguma distância de caminho mínimo e seja f o fluxo imediatamente após Seja v o vértice com o mínimo df s v cuja distância foi diminuída pelo aumento de modo que df s v dfs v Seja p s u v um caminho mínimo de s a v em Gf de modo que u v Ef e Em razão do modo como escolhemos v sabemos que a distância do vértice u em relação à fonte s não diminuiu isto é Figura 267 a Uma rede de fluxo para a qual FORDFULKERSON pode levar tempo E f onde f é um fluxo máximo mostrado aqui com f 2000000 O caminho sombreado é um caminho aumentador com capacidade residual 1 b A rede residual resultante com outro caminho aumentador cuja capacidade residual é 1 c A rede residual resultante Afirmamos que u v Ef Por quê Se tivéssemos u v Ef então teríamos também o que contradiz nossa hipótese que dfs v df s v Como podemos ter u v Ef e u v Ef O aumento deve ter aumentado o fluxo de v para u O algoritmo EdmondsKarp sempre aumenta o fluxo ao longo de caminhos mínimos e portanto aumentou ao longo de um caminho mínimo de s a u em Gf que tem v u como sua última aresta Assim o que contradiz nossa hipótese de que df s v dfs v Concluímos que a hipótese de que tal vértice v existe é incorreta O próximo teorema limita o número de iterações do algoritmo de EdmondsKarp Teorema 268 Se o algoritmo EdmondsKarp é executado em uma rede de fluxo G V E com fonte s e sorvedouro t então o número total de aumentos de fluxo executados pelo algoritmo é no máximo OV E Prova Dizemos que uma aresta u v em uma rede residual Gf é crítica em um caminho aumentador p se a capacidade residual de p é a capacidade residual de u v isto é se cf p cf u v Depois de aumentarmos o fluxo ao longo de 2621 2622 2623 2624 2625 um caminho aumentador qualquer aresta crítica no caminho desaparece da rede residual Além disso no mínimo uma aresta em qualquer caminho aumentador deve ser crítica Mostraremos que cada uma das E arestas pode se tornar crítica no máximo V2 vezes Sejam u e v vértices em V que estão conectados por uma aresta em E Visto que caminhos aumentadores são caminhos mínimos quando u v é crítica pela primeira vez temos Uma vez aumentado o fluxo a aresta u v desaparece da rede residual Ela só pode reaparecer mais tarde em um outro caminho aumentador depois que o fluxo de u a v for diminuído o que ocorre somente se v u aparecer em um caminho aumentador Se f é o fluxo em G quando esse evento ocorre então temos Consequentemente a partir do momento em que u v se torna crítica até o momento em que ela se torna crítica outra vez a distância de u em relação à fonte aumenta de no mínimo 2 A distância de u em relação à fonte é inicialmente no mínimo 0 Os vértices intermediários em um caminho mínimo de s a u não podem conter s u ou t visto que u v em um caminho aumentador implica que u t Então até u não poder mais ser alcançado da fonte se é que isso ocorre sua distância é no máximo V 2 Portanto depois da primeira vez que u v se torna crítica ela só pode tornarse crítica novamente no máximo mais V 22 V2 1 vezes para um total de no máximo V 2 vezes Visto que em uma rede residual há OE pares de vértices que podem ter uma aresta entre eles o número total de arestas críticas durante toda a execução do algoritmo EdmondsKarp é OV E Cada caminho aumentador tem no mínimo uma aresta crítica e consequentemente o teorema decorre Como podemos implementar cada iteração de FORDFULKERSON no tempo OE quando encontramos o caminho aumentador por busca em largura o tempo de execução total do algoritmo de EdmondsKarp é OVE2 Veremos que os algoritmos pushrelabel podem produzir limites ainda melhores O algoritmo da Seção 264 dá um método para conseguir um tempo de execução OV2 E que forma a base para o algoritmo de tempo OV3 da Seção 265 Exercícios Prove que os somatórios na equação 266 são iguais aos somatórios na equação 267 Na Figura 261b qual é o fluxo pelo corte s v2 v4 v1 v3 t Qual é a capacidade desse corte Mostre a execução do algoritmo EdmondsKarp na rede de fluxo da Figura 261a No exemplo da Figura 266 qual é o corte mínimo correspondente ao fluxo máximo mostrado Dos caminhos aumentadores que aparecem no exemplo qual é o que cancela o fluxo Lembrese de que a construção na Seção 261 que converte uma rede de fluxo com várias fontes e vários sorvedouros em uma rede com fonte única e sorvedouro único adiciona arestas com capacidade infinita Prove que qualquer fluxo na rede resultante tem um valor finito se as arestas da rede original com várias fontes e vários sorvedouros têm capacidade finita 2626 2627 2628 2629 26210 26211 26212 26213 263 Suponha que cada fonte si em uma rede de fluxo com várias fontes e vários sorvedouros produza exatamente pi unidades de fluxo de modo que vVf si v pi Suponha também que cada sorvedouro tj consuma exatamente qj unidades de modo que vVf vt j qj onde ipi jqj Mostre como converter o problema de encontrar um fluxo f que obedeça a essas restrições adicionais no problema de encontrar um fluxo máximo em uma rede de fluxo com fonte única e sorvedouro único Prove o Lema 262 Suponha que redefinimos a rede residual para desautorizar arestas que entrem em s Prove que o procedimento FORDFULKERSON ainda calcula corretamente um fluxo máximo Suponha que f e f sejam fluxos em uma rede G e que calculamos o fluxo f f O fluxo aumentado satisfaz a propriedade de conservação de fluxo Satisfaz a restrição de capacidade Mostre como encontrar um fluxo máximo em uma rede G V E por uma sequência de no máximo E caminhos aumentadores Sugestão Determine os caminhos depois de determinar o fluxo máximo A conectividade de aresta de um grafo não dirigido é o número mínimo k de arestas que devem ser removidas para desconectar o grafo Por exemplo a conectividade de aresta de uma árvore é 1 e a conectividade de aresta de uma cadeia cíclica de vértices é 2 Mostre como determinar a conectividade de aresta de um grafo não dirigido G V E executando um algoritmo de fluxo máximo em no máximo V redes de fluxo cada uma com OV vértices e OE arestas Suponha que temos uma rede de fluxo G cujas capacidades são todas inteiras e G tenha arestas que entram na fonte s Seja f um fluxo em G no qual uma das arestas v s que entram na fonte tem fv s 1 Prove que deve existir um outro fluxo f com f v s 0 tal que f f Dê um algoritmo de tempo OE para calcular f dado f Suponha que você deseje encontrar entre todos os cortes mínimos em uma rede de fluxo G um que contenha o menor número de arestas Mostre como modificar as capacidades de G para criar uma nova rede de fluxo G na qual qualquer corte mínimo em G seja um corte com o menor número de arestas em G EMPARELHAMENTO MÁXIMO EM GRAFO BIPARTIDO Alguns problemas combinatórios podem ser facilmente expressos como problemas de fluxo máximo O problema de fluxo máximo de várias fontes e vários sorvedouros da Seção 261 nos deu um exemplo Alguns outros problemas combinatórios aparentemente têm pouco a ver com redes de fluxo mas na verdade podem ser reduzidos a problemas de fluxo máximo Esta seção apresenta um desses problemas encontrar um emparelhamento máximo em um grafo bipartido Para resolver esse problema aproveitaremos uma propriedade de integralidade proporcionada pelo método de FordFulkerson Também veremos como usar o método de FordFulkerson para resolver o problema de emparelhamento máximo em grafo bipartido em um grafo G V E no tempo OV E O problema de emparelhamento máximo em grafo bipartido Dado um grafo não dirigido G V E um emparelhamento é um subconjunto de arestas M E tal que para todos os vértices v V no máximo uma aresta de M é incidente em v Dizemos que um vértice v V é emparelhado pelo emparelhamento M se alguma aresta em M é incidente em v caso contrário v é não emparelhado Um emparelhamento máximo é um emparelhamento de cardinalidade máxima isto é um emparelhamento M tal que para qualquer emparelhamento M temos M M Nesta seção restringiremos nossa atenção a determinar emparelhamentos máximos em grafos bipartidos grafos nos quais o conjunto de vértices pode ser particionado em V L R onde L e R são disjuntos e todas as arestas em E passam entre L e R Suporemos ainda que todo vértice em V tem no mínimo uma aresta incidente A Figura 268 ilustra a noção de emparelhamento em um grafo bipartido Figura 268 Um grafo bipartido G V E com partição de vértice V L R a Um emparelhamento com cardinalidade 2 indicado por arestas sombreadas b Um emparelhamento máximo com cardinalidade 3 c Rede de fluxo correspondente G mostrando um fluxo máximo Cada aresta tem capacidade unitária Arestas sombreadas têm fluxo de 1 e as outras arestas não transportam nenhum fluxo As arestas sombreadas de L a R correspondem às do emparelhamento máximo em b O problema de encontrar um emparelhamento máximo em um grafo bipartido tem muitas aplicações práticas Como exemplo poderíamos considerar o emparelhamento de um conjunto L de máquinas com um conjunto R de tarefas que devem ser executadas simultaneamente Consideramos que a presença da aresta u v em E significa que uma determinada máquina u L é capaz de executar uma dada tarefa v R Um emparelhamento máximo atribui trabalho ao maior número de máquinas possível Encontrando emparelhamento máximo em grafo bipartido Podemos usar o método FordFulkerson para encontrar emparelhamento máximo em um grafo bipartido não dirigido G V E em tempo polinomial em V e E O truque é construir uma rede de fluxo na qual os fluxos correspondem a emparelhamentos como mostra a Figura 268 Definimos a rede de fluxo correspondente G V E para o grafo bipartido G da seguinte maneira sejam a fonte s e o sorvedouro t novos vértices não pertencentes a V e seja V V s t Se a partição de vértices de G é V L R as arestas dirigidas de G são as arestas de E dirigidas de L para R juntamente com V novas arestas dirigidas Para concluir a construção atribuímos capacidade unitária a cada aresta em E Visto que cada vértice em V tem no mínimo uma aresta incidente E V2 Assim E E E V 3E e então E QE O lema a seguir mostra que um emparelhamento em G corresponde diretamente a um fluxo na rede de fluxo G correspondente em G Dizemos que um fluxo f em uma rede de fluxo G V E é de valor inteiro se fu v é um inteiro para todo u v V V Lema 269 Seja G V E um grafo bipartido com partição de vértices V L R e seja G V E sua rede de fluxo correspondente Se M é um emparelhamento em G então existe um fluxo de valor inteiro f em G com valor f M Ao contrário se f é um fluxo de valor inteiro em G então existe um emparelhamento M em G com cardinalidade M f Prova Primeiro mostramos que um emparelhamento M em G corresponde a um fluxo f de valor inteiro em G Defina f da seguinte maneira se u v M então fs u fu v fv t 1 Para todas as outras arestas fu v 0 definimos fu v 0 É simples verificar que f satisfaz a restrição de capacidade e conservação de fluxo Intuitivamente cada aresta u v M corresponde a uma unidade de fluxo em G que percorre o caminho s u v t Além disso os caminhos induzidos por arestas em M são de vértices disjuntos exceto para s e t O fluxo líquido pelo corte L s R t é igual a M assim pelo Lema 264 o valor do fluxo é f M Para provar o inverso seja f um fluxo de valor inteiro em G e seja Cada vértice u L tem somente uma aresta de entrada isto é s u e sua capacidade é 1 Assim em cada u L entra no máximo uma unidade de fluxo positivo e se uma unidade de fluxo positivo entra pela conservação de fluxo uma unidade de fluxo positivo deve sair Além disso visto que f tem valor inteiro para cada u L a única unidade de fluxo pode entrar em no máximo uma aresta e pode sair no máximo de uma aresta Assim uma unidade de fluxo positivo entra em u se e somente se existe exatamente um vértice v R tal que fu v 1 e no máximo uma aresta que sai de cada u L transporta fluxo positivo Um argumento simétrico aplicase a cada v R Portanto o conjunto M é um emparelhamento Para verificar queM f observe que para todo vértice correspondente u L temos fs u 1 e para toda aresta u v E M temos fu v 0 Consequentemente fL s R t o fluxo líquido pelo corte L s R t é igual a M Aplicando o Lema 264 temos que f fL s R t M Com base no Lema 269 gostaríamos de concluir que um emparelhamento máximo em um grafo bipartido G corresponde a um fluxo máximo em sua rede de fluxo correspondente G e portanto podemos calcular um emparelhamento máximo em G executando um algoritmo de fluxo máximo em G O único senão nesse raciocínio é que o algoritmo de fluxo máximo poderia retornar um fluxo em G para o qual algum fu v não é um inteiro ainda que o valor de fluxo f tenha de ser um inteiro O teorema a seguir mostra que se usarmos o método de FordFulkerson essa dificuldade não pode surgir Teorema 2610 Teorema de integralidade Se a função capacidade c adota somente valores inteiros então o fluxo máximo f produzido pelo método de Ford Fulkerson tem a seguinte propriedade f é um inteiro Além disso para todos os vértices u e v o valor de fu v é um inteiro Prova A prova é por indução em relação ao número de iterações Vamos deixála para o Exercício 2632 Agora podemos provar o seguinte corolário para o Lema 269 Corolário 2611 A cardinalidade de um emparelhamento máximo M em um grafo bipartido G é igual ao valor de um fluxo máximo f em sua rede de fluxo correspondente G 2631 2632 2633 2634 2635 264 Prova Usamos a nomenclatura do Lema 269 Suponha que M seja um emparelhamento máximo em G e que o fluxo correspondente f em G não seja máximo Então existe um fluxo máximo f em G tal que f f Visto que as capacidades em G são valores inteiros pelo Teorema 2610 podemos supor que f tem valor inteiro Assim f corresponde a um emparelhamento M em G cardinalidade M f f M o que contradiz nossa hipótese de que M seja um emparelhamento máximo De modo semelhante podemos mostrar que se f é um fluxo máximo em G seu emparelhamento correspondente será um emparelhamento máximo em G Portanto dado um grafo bipartido não dirigido G podemos encontrar um emparelhamento máximo criando a rede de fluxo G executando o método de FordFulkerson e obtendo diretamente um emparelhamento máximo M pelo fluxo máximo de valor inteiro f encontrado Visto que qualquer emparelhamento em um grafo bipartido tem cardinalidade no máximo min L R OV o valor do fluxo máximo em G é OV Portanto podemos encontrar um emparelhamento máximo em um grafo bipartido no tempo OV E OV E visto que E QE Exercícios Execute o algoritmo de FORDFULKERSON na rede de fluxo na Figura 268c e mostre a rede residual após cada aumento de fluxo Numere os vértices em L de cima para baixo de 1 a 5 e em R de cima para baixo de 6 a 9 Para cada iteração escolha o caminho aumentador que seja lexicograficamente menor Prove o Teorema 2610 Seja G V E um grafo bipartido com partição de vértice V L R e seja G sua rede de fluxo correspondente Dê um bom limite superior para o comprimento de qualquer caminho aumentador encontrado em G durante a execução de FORDFULKERSON Um emparelhamento perfeito é um emparelhamento no qual todo vértice é emparelhado Seja G V E um grafo bipartido não dirigido com partição de vértice V L R onde L R Para qualquer X V defina a vizinhança de X como NX y V x y E para algum x X isto é o conjunto de vértices adjacentes a algum membro de X Prove o teorema de Hall existe um emparelhamento perfeito em G se e somente se A NA para todo subconjunto A L Dizemos que um grafo bipartido G V E onde V L R é dregular se todo vértice v V tem grau exatamente d Todo grafo bipartido dregular tem L R Prove que todo grafo bipartido dregular tem um emparelhamento de cardinalidade L demonstrando que um corte mínimo da rede de fluxo correspondente tem capacidade L ALGORITMOS PUSHRELABEL Nesta seção apresentamos a abordagem pushrelabel empurrarremarcar para calcular fluxos máximos Até o momento muitos dos algoritmos de fluxo máximo assintoticamente mais rápidos são algoritmos pushrelabel e as mais rápidas implementações reais de algoritmos de fluxo máximo se baseiam no método pushrelabel Os métodos push relabel resolvem também eficientemente outros problemas de fluxo como o problema do fluxo de custo mínimo Esta seção apresenta o algoritmo de fluxo máximo genérico de Goldberg que tem uma implementação simples que é executada no tempo OV2 E melhorando assim o limite de OVE2 do algoritmo EdmondsKarp A Seção 265 refina o algoritmo genérico para obter um outro algoritmo pushrelabel que é executado no tempo OV3 Algoritmos pushrelabel funcionam de uma maneira mais localizada que o método FordFulkerson Em vez de examinar toda a rede residual para encontrar um caminho aumentador algoritmos pushrelabel agem em um vértice por vez examinando somente os vizinhos do vértice na rede residual Além disso diferentemente do método de Ford Fulkerson os algoritmos pushrelabel não mantêm a propriedade de conservação de fluxo durante toda a sua execução Entretanto eles mantêm um préfluxo que é uma função f V V que satisfaz a restrição de capacidade e o seguinte relaxamento da conservação de fluxo para todos os vértices u V s Isto é o fluxo que entra em um vértice pode exceder o fluxo que sai Denominamos essa quantidade excesso de fluxo no vértice u O excesso em um vértice é a quantidade que representa a diferença entre o fluxo que entra e o fluxo que sai Dizemos que um vértice u V s t está transbordando se eu 0 Iniciaremos esta seção descrevendo a intuição que fundamenta o método pushrelabel Então investigaremos as duas operações empregadas pelo método empurrar préfluxo e remarcar um vértice Finalmente apresentaremos um algoritmo pushrelabel genérico e analisaremos sua correção e seu tempo de execução Intuição Podemos entender a intuição que fundamenta o método pushrelabel em termos de fluxos de fluidos consideramos uma rede de fluxo G V E como um sistema de tubos interconectados de capacidades dadas Aplicando essa analogia ao método FordFulkerson podemos dizer que cada caminho aumentador na rede dá origem a uma corrente adicional de fluido sem nenhum ponto de derivação que flui da fonte ao sorvedouro O método FordFulkerson adiciona iterativamente mais correntes de fluxo até que nada mais seja possível adicionar A intuição do algoritmo pushrelabel genérico é bastante diferente Como antes arestas dirigidas correspondem a tubos Vértices que são junções de tubos têm duas propriedades interessantes A primeira é que para acomodar excesso de fluxo cada vértice tem um tubo de saída uma derivação que conduz esse excesso até um reservatório arbitrariamente grande que pode acumular fluido A segunda é que cada vértice seu reservatório e todas as suas conexões tubulares estão em uma plataforma cuja altura aumenta à medida que o algoritmo progride As alturas dos vértices determinam como o fluxo é empurrado empurramos o fluxo em declive isto é de um vértice mais alto para um vértice mais baixo O fluxo de um vértice mais baixo para um vértice mais alto pode ser positivo mas as operações que empurram o fluxo só o empurram em declive Fixamos a altura da fonte em V e a altura do sorvedouro em 0 As alturas de todos os outros vértices começam em 0 e aumentam com o tempo Primeiro o algoritmo envia o máximo de fluxo possível em declive da fonte ao sorvedouro A quantidade enviada é exatamente a suficiente para encher cada tubo que sai da fonte até sua capacidade nominal isto é o algoritmo envia a capacidade do corte s V s Quando entra pela primeira vez em um vértice intermediário o fluxo é coletado no reservatório do vértice de onde em determinado momento ele é empurrado em declive A certa altura podemos descobrir que os únicos tubos que saem de um vértice u e ainda não estão saturados de fluido se conectam com vértices que estão no mesmo nível que u ou que estão acima de u Nesse caso para livrar do excesso de fluxo um vértice u que está transbordando temos de aumentar sua altura uma operação denominada remarcar o vértice u Aumentamos a altura desse vértice de uma unidade a mais que a altura do mais baixo de seus vizinhos ao qual está conectado por um tubo não saturado Portanto depois que um vértice é remarcado relabeled ele tem no mínimo um tubo de saída pelo qual podemos empurrar mais fluxo A certa altura todo o fluxo que poderia chegar até o sorvedouro já chegou Nada mais pode chegar porque os tubos obedecem a restrições de capacidade a quantidade de fluxo que passa por qualquer corte ainda é limitada pela capacidade do corte Então para que o préfluxo se torne um fluxo válido o algoritmo envia de volta à fonte o excesso coletado nos reservatórios de vértices que estavam transbordando continuando a remarcar vértices com uma altura maior que a altura fixa V da fonte Como veremos tão logo tenhamos esvaziado todos os reservatórios o préfluxo não é somente um fluxo válido é também um fluxo máximo As operações básicas Pela discussão precedente vemos que o algoritmo pushrelabel executa duas operações básicas empurra o excesso de fluxo de um vértice até um de seus vizinhos e remarca um vértice As situações às quais essas operações se aplicam dependem das alturas dos vértices que agora definimos exatamente Seja G V E uma rede de fluxo com fonte s e sorvedouro t e seja f um préfluxo em G Uma função h V é uma função altura3 se hs V ht 0 e para toda aresta residual u v Ef Obtemos imediatamente o lema a seguir Lema 2612 Seja G V E uma rede de fluxo seja f um préfluxo em G e seja h uma função altura em V Para quaisquer dois vértices u v V se hu hv 1 então u v não é uma aresta no grafo residual A operação empurrar A operação básica PUSHu v se aplica se u é um vértice que está transbordando cf u v 0 e hu hv 1 O pseudocódigo que apresentamos em seguida atualiza o préfluxo f e os excessos de fluxo para u e v Ele supõe que podemos calcular a capacidade residual cf u v em tempo constante dados c e f Mantemos o excesso de fluxo armazenado em um vértice u como o atributo ue e a altura de u como o atributo uh A expressão df u v é uma variável temporária que armazena a quantidade de fluxo que pode ser empurrada de u para v O código para PUSH funciona da seguinte maneira como o vértice u tem um excesso positivo ue e a capacidade residual de u v é positiva podemos aumentar o fluxo de u a v de Df u v minue cf uv sem que ue tornese negativo nem que a capacidade cu v seja excedida A linha 3 calcula o valor Dfu v e as linhas 46 atualizam f A linha 5 aumenta o fluxo na aresta u v porque estamos empurrando fluxo por uma aresta residual que também é uma aresta original A linha 6 diminui o fluxo na aresta v u porque na verdade a aresta residual é o inverso de uma aresta na rede original Por fim as linhas 78 atualizam os excessos de fluxo que entram nos vértices u e v Assim se f é um préfluxo antes de PUSH ser chamada continua sendo um préfluxo depois Observe que nada no código de PUSH depende das alturas de u e v ainda assim proibimos que ele seja invocado a menos que uh vh 1 Portanto empurramos o excesso de fluxo para baixo por uma altura diferencial de apenas 1 Pelo Lema 2612 não existem arestas residuais entre dois vértices cujas diferenças entre alturas sejam maiores do que 1 e assim visto que o atributo h é de fato uma função altura não teríamos nada a ganhar se permitirmos que o fluxo seja empurrado para baixo por um diferencial de altura maior que 1 Dizemos que PUSHu v é um empurrão de u a v Se uma operação push se aplicar a alguma aresta u v que sai de um vértice u dizemos também que tal operação se aplica a u Ela é um empurrão saturador se a aresta u v na rede residual tornarse saturada cf u v 0 depois caso contrário ela é um empurrão não saturador Se uma aresta tornase saturada ela desaparece da rede residual Um lema simples caracteriza uma consequência de um empurrão não saturador Lema 2613 Após um empurrão não saturador de u a v o vértice u não está mais transbordando Prova Visto que o empurrão foi não saturador a quantidade de fluxo Dfu v realmente empurrada tem de ser igual a ue antes do empurrão Como ue é reduzido dessa quantidade ele se torna 0 após o empurrão A operação remarcar A operação básica RELABELu se aplica se u está transbordando e se uh vh para todas as arestas u v Ef Em outras palavras podemos remarcar um vértice u que está transbordando se para todo vértice v para o qual há capacidade residual de u a v o fluxo não puder ser empurrado de u para v porque v não está abaixo de u Lembrese de que por definição nem a fonte s nem o sorvedouro t podem transbordar portanto nem s nem t são candidatos à remarcação Quando chamamos a operação RELABELu dizemos que o vértice u é remarcado relabeled Observe que quando u é remarcado Ef deve conter no mínimo uma aresta que saia de u de modo que a minimização no código é em relação a um conjunto não vazio Essa propriedade decorre da hipótese de que u está transbordando o que por sua vez nos diz que Visto que todos os fluxos são não negativos então temos de ter no mínimo um vértice v tal que vuf 0 Mas então cf uv 0 o que implica que uv Ef Assim a operação RELABELu dá a u a maior altura permitida pelas restrições impostas às funções altura O algoritmo genérico O algoritmo pushrelabel genérico utiliza a seguinte subrotina para criar um préfluxo inicial na rede de fluxo Isto é enchemos cada aresta que sai da fonte s até a capacidade total e todas as outras arestas não transportam nenhum fluxo Para cada vértice v adjacente à fonte temos inicialmente ve cs v e inicializamos se como o negativo da soma dessas capacidades O algoritmo genérico também começa com uma função altura inicial h dada por A equação 2616 define uma função altura porque as únicas arestas u v para as quais uh vh 1 são aquelas para as quais u s e essas arestas são saturadas o que significa que não estão na rede residual A inicialização seguida por uma sequência de operações empurrão e remarcação executadas sem qualquer ordem definida produz o algoritmo GENERICPUSHRELABEL O lema a seguir nos informa que desde que exista um vértice que está transbordando no mínimo uma das duas operações básicas se aplica Lema 2614 Um vértice que está transbordando pode ser empurrado ou remarcado Seja G V E uma rede de fluxo com fonte s e sorvedouro t seja f um préfluxo e seja h alguma função altura para f Se u é qualquer vértice que está transbordando então uma operação empurrão ou remarcação é aplicável Prova Para qualquer aresta residual u v temos hu hv 1 porque h é uma função altura Se uma operação empurrão não se aplica a um vértice u que está transbordando então para todas as arestas residuais u v devemos ter hu hv 1 o que implica hu hv Assim uma operação remarcação aplicase a u Correção do método pushrelabel Para mostrar que o algoritmo pushrelabel genérico resolve o problema de fluxo máximo em primeiro lugar temos de provar que se ele terminar o préfluxo f é um fluxo máximo Mais adiante provaremos que ele termina Começamos com algumas observações sobre a função altura h Lema 2615 Alturas de vértices nunca diminuem Durante a execução do procedimento GENERICPUSHRELABEL em uma rede de fluxo G V E para cada vértice u V a altura uh nunca diminui Além disso sempre que uma operação remarcação é aplicada a um vértice u sua altura uh aumenta de no mínimo 1 Prova Como as alturas de vértices só mudam durante operações remarcação basta provar a segunda afirmação do lema Se o vértice u está prestes a passar por uma operação remarcação então para todos os vértices v tais que u v Ef temos uh vh Portanto uh 1 minvh u v Ef e assim a operação deve aumentar uh Lema 2616 Seja G V E uma rede de fluxo com fonte s e sorvedouro t Então a execução de GENERICPUSHRELABEL em G mantém o atributo h como uma função altura Prova A prova é por indução em relação ao número de operações básicas executadas Inicialmente h é uma função altura como já observamos Afirmamos que se h é uma função altura então uma operação RELABELu mantém h como uma função altura Se examinarmos uma aresta residual u v Ef que sai de u então a operação RELABELu assegura que uh vh 1 depois dela Agora considere uma aresta residual w u que entra em u Pelo Lema 2615 wh uh 1 antes da operação RELABELu implica wh uh 1 depois dela Assim a operação RELABELu mantém h como uma função altura Agora considere uma operação PUSHu v Essa operação pode adicionar a aresta v u a Ef e pode remover u v de Ef No primeiro caso temos vh uh 1 uh 1 e assim h continua a ser uma função altura No último caso remover u v da rede residual remove a restrição correspondente e novamente h continua a ser uma função altura O lema a seguir dá uma importante propriedade de funções altura Lema 2617 Seja G V E uma rede de fluxo com fonte s e sorvedouro t seja f um préfluxo em G e seja h uma função altura em V Então não existe nenhum caminho da fonte s ao sorvedouro t na rede residual Gf Prova Considere por contradição que Gf contenha um caminho p de s a t onde p v0 v1 vk v0 s e vk t Sem perda da generalidade p é um caminho simples e assim k V Para i 0 1 k 1 a aresta vi vi1 Ef Como h é uma função altura hvi hvi 1 1 para i 0 1 k 1 A combinação dessas desigualdades em relação ao caminho p produz hs ht k Mas como ht 0 temos hs k V o que contradiz o requisito que hs V em uma função altura Agora estamos prontos para mostrar que se o algoritmo pushrelabel genérico terminar o préfluxo que ele calcula será um fluxo máximo Teorema 2618 Correção do algoritmo pushrelabel genérico Se o algoritmo GENERICPUSHRELABEL termina quando executado em uma rede de fluxo G V E com fonte s e sorvedouro t então o préfluxo f que ele calcula será um fluxo máximo para G Prova Usamos o seguinte invariante de laço Cada vez que o teste do laço while na linha 2 em GENERICPUSHRELABEL é executado f é um préfluxo Inicialização INITIALIZEPREFLOW faz f um préfluxo Manutenção As únicas operações dentro do laço while das linhas 23 são empurrão e relabel As operações remarcação afetam somente atributos de altura e não os valores de fluxo consequentemente não afetam se f é ou não um préfluxo Como demonstramos ao explicar PUSHu v se f é um préfluxo antes de uma operação empurrão continua a ser um préfluxo depois dela Término No término cada vértice em V s t deve ter um excesso 0 porque pelo Lema 2614 e pelo invariante no qual f é sempre um préfluxo não há nenhum vértice que esteja transbordando Portanto f é um fluxo O Lema 2616 mostra que h é uma função altura no término e assim o Lema 2617 nos diz que não existe nenhum caminho de s a t na rede residual Gf Portanto pelo teorema de fluxo máximocorte mínimo Teorema 266 f é um fluxo de máximo Análise do método pushrelabel Para mostrar que o algoritmo pushrelabel genérico de fato termina limitaremos o número de operações que ele executa Limitamos separadamente cada um dos três tipos de operações renomeações empurrões saturadores e empurrões não saturadores Conhecendo esses limites é um problema de solução direta conceber um algoritmo que seja executado no tempo OV2E Contudo antes de iniciarmos a análise provaremos um importante lema Lembrese de que na rede residual permitimos que arestas entrem na fonte Lema 2619 Seja G V E uma rede de fluxo com fonte s e sorvedouro t e seja f um préfluxo em G Então para qualquer vértice x transbordando existe um caminho simples de x a s na rede residual Gf Prova Para um vértice x transbordando seja U v existe um caminho simples de x a v em Gf e suponha por contradição que s U Seja U V U Notando a definição de excesso de fluxo dada pela equação 2614 somamos sobre todos os vértices em U e observamos que V U U para obter Sabemos que a quantidade uUeu deve ser positiva porque ex 0 x U todos os vértices exceto s têm excesso não negativo e por hipótese s U Assim temos Todos os fluxos de arestas são não negativos e portanto para a equação 2617 ser válida temos de ter uU vU f v u 0 Consequentemente deve existir no mínimo um par de vértices u U e v U com fv u 0 Mas se fv u 0 deve existir uma aresta residual u v o que significa que há um caminho simples de x u v o caminho x u v o que contradiz a definição de U O próximo lema limita as alturas dos vértices e seu corolário limita o número de operações relabel executadas no total Lema 2620 Seja G V E uma rede de fluxo com fonte s e sorvedouro t Em qualquer instante durante a execução de GENERIC PUSHRELABEL em G temos uh 2 V 1 para todos os vértices u V Prova As alturas da fonte s e do sorvedouro t nunca mudam porque esses vértices por definição não transbordam Assim sempre temos sh V e th 0 os quais não são maiores que 2V 1 Agora considere qualquer vértice u V s t Inicialmente uh 0 2 V 1 Mostraremos que após cada operação relabel ainda temos uh 2 V 1 Quando u é remarcado está transbordando e o Lema 2619 nos diz que existe um caminho simples p de u a s em Gf Seja p v0 v1 vk onde v0 u vk s e k V 1 porque p é simples Para i 0 1 k 1 temos vi vi 1 Ef e portanto pelo Lema 2616 vih vi 1h 1 Expandir essas desigualdades no caminho p produz uh v0h vkh k sh V 1 2V 1 Corolário 2621Limite em operações remarcação Seja G V E uma rede de fluxo com fonte s e sorvedouro t Então durante a execução de GENERICPUSHRELABEL em G o número de operações remarcação é no máximo 2V 1 por vértice e no máximo 2V 1V 2 2V2 no total Prova Somente os V 2 vértices em V s t podem ser renomeados Seja u V s t A operação RELABELu aumenta uh O valor de hu é inicialmente 0 e pelo Lema 2620 cresce até no máximo 2V 1 Assim cada vértice u V s t é remarcado no máximo 2V 1 vezes e o número total de operações remarcação executadas é no máximo 2V 1V 2 2V2 O Lema 2620 também nos ajuda a limitar o número de empurrões saturadores Lema 2622 Limite para empurrões saturadores Durante a execução de GENERICPUSHRELABEL em qualquer rede de fluxo G V E o número de empurrões saturadores é menor que 2VE Prova Para qualquer par de vértices u v V contaremos os empurrões saturadores de u a v e de v a u juntos e os denominaremos empurrões saturadores entre u e v Se existirem quaisquer desses empurrões no mínimo um de u v e v u é na realidade uma aresta em E Agora suponha que ocorreu um empurrão saturador de u a v Nesse instante vh uh 1 Para que mais tarde ocorra um outro empurrão de u a v em primeiro lugar o algoritmo tem de empurrar o fluxo de v até u o que não pode acontecer até que vh uh 1 Visto que uh nunca diminui para vh uh 1 o valor de vh deve aumentar de no mínimo duas unidades Da mesma forma uh deve aumentar de no mínimo dois entre empurrões saturadores de v a u As alturas começam em 0 e pelo Lema 2620 nunca excedem 2V 1 o que implica que o número de vezes que a altura de qualquer vértice pode aumentar de duas unidades é menor que V Visto que no mínimo uma de uh e vh deve aumentar de duas unidades entre quaisquer dois pushes saturadores entre u e v há um número menor que 2V de empurrões saturadores entre u e v Multiplicando pelo número de arestas temos um limite menor que 2VE para o número total de empurrões saturadores O lema a seguir limita o número de empurrões não saturadores no algoritmo pushrelabel genérico Lema 2623 Limite para empurrões não saturadores Durante a execução de GENERICPUSHRELABEL em qualquer rede de fluxo G V E o número de empurrões não saturadores é menor que 4V2 V E Prova Defina uma função potencial ve v0vh Inicialmente 0 e o valor de pode mudar após cada operação relabel empurrão saturador e empurrão não saturador Limitaremos as quantidades que as operações empurrão saturador e remarcação podem contribuir para o aumento de Então mostraremos que cada empurrão não saturador deve diminuir F de no mínimo 1 e usaremos esses limites para deduzir um limite superior para o número de empurrões não saturadores Vamos examinar os dois modos possíveis de aumentar O primeiro é remarcar um vértice u o que aumenta de menos que 2V já que o conjunto no qual a soma é efetuada é o mesmo e relabel não pode aumentar a altura de u para mais do que sua máxima altura possível que pelo Lema 2620 é no máximo 2V 1 O segundo é executar um empurrão saturador de um vértice u até um vértice v o que aumenta de menos que 2V já que nenhuma altura muda e só o vértice v cuja altura é no máximo 2V 1 poderia se tornar um vértice que está transbordando Agora mostramos que um empurrão não saturador de u para v diminui F de no mínimo 1 Por quê Antes do empurrão não saturador u estava transbordando e v poderia ou não estar transbordando Pelo Lema 2613 u não está mais transbordando depois do empurrão Além disso a menos que v seja a fonte ele poderia ou não estar transbordando depois do empurrão Então a função potencial diminuiu de exatamente uh e aumentou de 0 ou de vh Visto que uh vh 1 o efeito líquido é que a função potencial diminuiu de no mínimo 1 Assim durante o curso do algoritmo a quantidade total de aumento em se deve a remarcações e empurrões saturados e o Corolário 2621 e o Lema 2622 restringem o aumento a menos de 2V2V2 2V2VE 4V2 V E Visto que 0 a quantidade total de diminuição e portanto o número total de empurrões não saturadores é menor que 4V2 V E Agora que o número de remarcações empurrões saturadores e empurrões não saturadores foi limitado definimos o cenário para a análise seguinte do procedimento GENERICPUSHRELABEL e consequentemente de qualquer algoritmo baseado no método pushrelabel Teorema 2624 Durante a execução de GENERICPUSHRELABEL em qualquer rede de fluxo G V E o número de operações básicas é OV2E Prova Imediata pelo Corolário 2621 e Lemas 2622 e 2623 Assim o algoritmo termina após OV2E operações Agora só falta dar um método eficiente para implementar cada operação e escolher uma operação adequada para executar 2641 2642 2643 2644 2645 2646 2647 2648 2649 26410 265 Corolário 2625 Existe uma implementação do algoritmo pushrelabel genérico que é executada no tempo OV2E em qualquer rede de fluxo G V E Prova O Exercício 2642 pede que você mostre como implementar o algoritmo genérico com uma sobrecarga de OV por operação remarcação e O1 por empurrão O exercício pede também que você projete uma estrutura de dados que permita escolher uma operação aplicável no tempo O1 Então o corolário decorre Exercícios Prove que depois que o procedimento INITIALIZEPREFLOWG s termina temos se f onde f é um fluxo máximo para G Mostre como implementar o algoritmo pushrelabel genérico usando o tempo OV por operação remarcação o tempo O1 por empurrão e o tempo O1 para selecionar uma operação aplicável para um tempo total de OV2E Prove que o algoritmo pushrelabel genérico gasta somente um tempo total de OV E na execução de todas as OV2 operações remarcação Suponha que encontramos um fluxo máximo em uma rede de fluxo G V E usando um algoritmo push relabel Dê um algoritmo rápido para encontrar um corte mínimo em G Dê um algoritmo pushrelabel eficiente para encontrar um emparelhamento máximo em um grafo bipartido Analise seu algoritmo Suponha que todas as capacidades de arestas em uma rede de fluxo G V E estejam no conjunto 1 2 k Analise o tempo de execução do algoritmo pushrelabel genérico em termos de V E e k Sugestão Quantas vezes cada aresta pode suportar um empurrão não saturador antes de ficar saturada Mostre que poderíamos mudar a linha 6 de INITIALIZEPREFLOW para 6 sh GV 2 sem afetar a correção ou o desempenho assintótico do algoritmo pushrelabel genérico Seja df u v a distância número de arestas de u a v na rede residual Gf Mostre que o procedimento GENERICPUSHRELABEL mantém as seguintes propriedades uh V implica uh dfu t e uh V implica uh V dfu s Como no exercício anterior seja df u v a distância de u a v na rede residual Gf Mostre como modificar o algoritmo PUSHRELABEL genérico para manter as seguintes propriedades uh V implica uh dfu t e uh V implica uh V df u s O tempo total que sua implementação dedica à manutenção dessa propriedade deve ser OV E Mostre que o número de empurrões não saturadores executados pelo procedimento GE NERICPUSHRELABEL em uma rede de fluxo G V E é no máximo 4V2E para V 4 O ALGORITMO RELABELTOFRONT O método PUSHRELABEL nos permite aplicar as operações básicas em absolutamente qualquer ordem Porém escolhendo a ordem com cuidado e administrando eficientemente a estrutura de dados da rede podemos resolver o problema de fluxo máximo mais rapidamente que o limite OV2E dado pelo Corolário 2625 Examinaremos agora o algoritmo relabeltofront um algoritmo pushrelabel cujo tempo de execução é OV3 que é assintoticamente no mínimo tão bom quanto OV2E e até melhor para redes densas O algoritmo relabeltofront mantém uma lista dos vértices da rede Começando na frente o algoritmo varre a lista selecionando repetidamente um vértice u que está transbordando e depois descarregandoo isto é executando operações empurrão e remarcação até u não ter mais um excesso positivo Sempre que um vértice é remarcado nós o deslocamos para a frente da lista daí o nome relabeltofront e o algoritmo inicia novamente sua varredura A correção e a análise do algoritmo relabeltofront dependem da noção de arestas admissíveis as arestas na rede residual pelas quais o fluxo pode ser empurrado Depois de provar algumas propriedades da rede de arestas admissíveis investigaremos a operação de descarga e apresentaremos e analisaremos o algoritmo relabeltofront propriamente dito Arestas e redes admissíveis Se G V E é uma rede de fluxo com fonte s e sorvedouro t f é um préfluxo em G e h é uma função altura dizemos que u v é uma aresta admissível se cfu v 0 e hu hv 1 Caso contrário u v é inadmissível A rede admissível é Gfh V Efh onde Efh é o conjunto de arestas admissíveis A rede admissível consiste nas arestas pelas quais podemos empurrar o fluxo O lema a seguir mostra que essa rede é um grafo acíclico dirigido gad Lema 2626 A rede admissível é acíclica Se G V E é uma rede de fluxo f é um préfluxo em G e h é uma função altura em G então a rede admissível Gfh V Efh é acíclica Prova A prova é por contradição Suponha que Gfh contenha um ciclo p v0 v1 vk onde v0 vk e k 0 Visto que cada aresta em p é admissível temos hvi 1 hvi 1 para i 1 2 k O somatório em torno do ciclo dá Como cada vértice no ciclo p aparece uma vez em cada um dos somatórios deduzimos a contradição de que 0 k Os dois lemas seguintes mostram como as operações empurrão e remarcação mudam a rede admissível Lema 2627 Seja G V E uma rede de fluxo seja f um préfluxo em G e suponha que o atributo h seja uma função altura Se um vértice u está transbordando e u v é uma aresta admissível então PUSHu v se aplica A operação não cria nenhuma nova aresta admissível mas pode transformar u v em inadmissível Prova Pela definição de aresta admissível podemos empurrar fluxo de u a v Visto que u está transbordando a operação PUSHu v se aplica A única aresta residual nova que a operação de empurrar fluxo de u a v pode criar é v u Como hv hu 1 a aresta v u não pode se tornar admissível Se a operação é um empurrão saturador então cfu v 0 daí em diante e u se torna inadmissível Lema 2628 Seja G V E uma rede de fluxo seja f um préfluxo em G e suponha que o atributo h seja uma função altura Se um vértice u está transbordando e não há nenhuma aresta admissível saindo de u então RELABELu se aplica Após a operação remarcação existe no mínimo uma aresta admissível saindo de u mas não existe nenhuma aresta admissível entrando em u Prova Se u está transbordando pelo Lema 2614 uma operação empurrão ou uma operação remarcação se aplica a esse vértice Se não existe nenhuma aresta admissível saindo de u então nenhum fluxo pode ser empurrado de u e portanto RELABELu se aplica Depois da operação remarcação uh 1 min vh u v Ef Assim se v é um vértice que realiza o mínimo nesse conjunto a aresta u v se torna admissível Consequentemente após a operação relabel existe no mínimo uma aresta admissível saindo de u Para mostrar que nenhuma aresta admissível entra em u após uma operação relabel suponha que exista um vértice v tal que v u é admissível Então vh uh 1 após a operação relabel e assim vh uh 1 imediatamente antes de relabel Porém pelo Lema 2612 não existe nenhuma aresta residual entre vértices cuja diferença entre as respectivas alturas seja mais de 1 Além disso renomear um vértice não muda a rede residual Portanto v u não está na rede residual e consequentemente não pode estar na rede admissível Listas de vizinhos No algoritmo relabeltofront arestas são organizadas em listas de vizinhos Dada uma rede de fluxo G V E a lista de vizinhos uN para um vértice u V é uma lista simplesmente ligada dos vizinhos de u em G Assim o vértice v aparece na lista uN se u v E ou v u E A lista de vizinhos uN contém exatamente os vértices v para os quais pode existir uma aresta residual u v O atributo uNinício aponta para o primeiro vértice em uN e vpróximo aponta para o vértice que vem depois de v em uma lista de vizinhos esse ponteiro é NIL se v é o último vértice na lista de vizinhos O algoritmo relabeltofront percorre cada lista de vizinhos em ciclos e em uma ordem arbitrária fixa durante a execução do algoritmo Para cada vértice u o atributo uatual aponta para o vértice que está sendo considerado em uN no momento em questão Inicialmente uatual é definido como uNinício Descarregando um vértice em transbordamento Um vértice u é descarregado empurrando todo o seu excesso de fluxo por arestas admissíveis para vértices vizinhos remarcando u conforme necessário para transformar as arestas que saem de u em arestas admissíveis O pseudocódigo é dado a seguir Figura 269 Descarregando um vértice y São necessárias 15 iterações do laço while de dISCHARGE para empurrar todo o excesso de fluxo de y Somente os vizinhos de y e as arestas que entram ou saem de y são mostrados Em cada parte da figura o número dentro de cada vértice é seu excesso no início da primeira iteração apresentada na parte e cada vértice é mostrado na altura que ocupa nessa parte A lista de vizinhos yN no início de cada iteração aparece à direita com o número da iteração na parte superior O vizinho sombreado é yatual a Inicialmente existem 19 unidades de excesso para empurrar de y e yatual s As iterações 1 2 e 3 simplesmente avançam yatual já que não existe nenhuma aresta admissível saindo de y Na iteração 4 yatual NIL mostrado pelo sombreado abaixo da lista de vizinhos e assim y é remarcado e yatual é redefinido como o início da lista de vizinhos b Após a remarcação o vértice y tem altura 1 Nas iterações 5 e 6 descobrimos que as arestas y s e y x são inadmissíveis mas a iteração 7 empurra oito unidades de excesso de fluxo de y para z Por causa do empurrão yatual não avança nessa iteração c Visto que o empurrão na iteração 7 saturou a aresta y z descobrimos que ela é inadmissível na iteração 8 Na iteração 9 yatual NIL e assim o vértice y é novamente remarcado e yatual é redefinido Figura 269 continuação d Na iteração 10 y s é inadmissível mas a iteração 11 empurra cinco unidades de excesso de fluxo de y para x e Como yatual não avançou na iteração 11 a iteração 12 descobre que y x é inadmissível A iteração 13 descobre que y z é inadmissível e a iteração 14 remarca o vértice y e redefine yatual f A iteração 15 empurra seis unidades de excesso de fluxo de y para s g Agora o vértice y não tem nenhum excesso de fluxo e DISCHARGE termina Neste exemplo dISCHARGE começa e também termina com o ponteiro atual no início da lista de vizinhos mas em geral isso não é necessário 1 2 3 A Figura 269 percorre explicitamente várias iterações do laço while das linhas 18 que é executado enquanto o vértice u tiver excesso positivo Cada iteração executa exatamente uma de três ações dependendo do vértice atual v na lista de vizinhos uN Se v é NIL passamos do fim de uN A linha 4 renomeia o vértice u e então a linha 5 redefine o vizinho atual de u como o primeiro em uN O Lema 2629 apresentado mais adiante afirma que a operação remarcação se aplica nessa situação Se v é não NIL e u v é uma aresta admissível determinada pelo teste na linha 6 então a linha 7 empurra um pouco do excesso ou possivelmente todo o excesso de u para o vértice v Se v é não NIL mas u v é inadmissível então a linha 8 avança uatual mais uma posição na lista de vizinhos uN Observe que se DISCHARGE é chamada em um vértice u que está transbordando então a última ação executada por DISCHARGE deve ser um empurrão a partir de u Por quê O procedimento termina somente quando ue se torna zero e nem a operação remarcação nem o avanço do ponteiro uatual afeta o valor de ue Temos de ter certeza de que quando PUSH ou RELABEL é chamado por DISCHARGE a operação se aplica O próximo lema prova esse fato Lema 2629 Se DISCHARGE chama PUSHu v na linha 7 então uma operação PUSH se aplica a u v Se DISCHARGE chama RELABELu na linha 4 então uma operação de remarcação se aplica a u Prova Os testes das linhas 1 e 6 asseguram que uma operação empurrão ocorre somente se a operação se aplicar o que prova a primeira declaração no lema Para provar a segunda declaração de acordo com o teste na linha 1 e com o Lema 2628 basta mostrar que todas as arestas que saem de u são inadmissíveis Se uma chamada a DISCHARGEu começa com o ponteiro uatual no início da lista de vizinhos de u e termina com ele fora do final da lista então todas as arestas que saem de u são inadmissíveis e uma operação remarcação se aplica Todavia é possível que durante uma chamada a DISCHARGEu o ponteiro uatual percorra somente parte da lista antes de o procedimento retornar Então podem ocorrer chamadas a DISCHARGE em outros vértices mas uatual continuará se movendo pela lista durante a próxima chamada a DISCHARGEu Agora consideramos o que acontece durante uma passagem completa pela lista que começa no início de uN e termina com uatual NIL Tão logo uatual chegue ao final da lista o procedimento renomeia u e começa uma nova passagem Para o ponteiro uatual ultrapassar um vértice v uN durante uma passagem a aresta uv deve ser considerada inadmissível pelo teste na linha 6 Assim quando a passagem é concluída toda aresta que sai de u já foi determinada como inadmissível em algum momento durante a passagem A observação fundamental é que no final da passagem toda aresta que sai de u ainda é inadmissível Por quê Pelo Lema 2627 empurrões não podem criar nenhuma aresta admissível independentemente do vértice do qual o fluxo é empurrado Assim qualquer aresta admissível deve ser criada por uma operação remarcação Porém o vértice u não é remarcado durante a passagem e pelo Lema 2628 qualquer outro vértice v que é renomeado durante a passagem resultante de uma chamada de DISCHARGEv não tem nenhuma aresta de entrada admissível após a renomeação Assim ao final da passagem todas as arestas que saem de u continuam inadmissíveis o que conclui a prova O algoritmo relabeltofront No algoritmo relabeltofront mantemos uma lista ligada L que consiste em todos os vértices em V s t Uma propriedade fundamental é que os vértices em L são ordenados topologicamente de acordo com a rede admissível como veremos no invariante de laço a seguir Lembrese de que vimos no Lema 2626 que a rede admissível é um gad O pseudocódigo para o algoritmo relabeltofront supõe que as listas de vizinhos uN já foram criadas para cada vértice u Supõe também que upróximo aponta para o vértice que vem depois de u na lista L e que como sempre upróximo NIL se u é o último vértice na lista O algoritmo relabeltofront funciona da maneira descrita a seguir A linha 1 inicializa o préfluxo e as alturas para os mesmos valores que no algoritmo pushrelabel genérico A linha 2 inicializa a lista L para conter todos os vértices que potencialmente estariam transbordando em qualquer ordem As linhas 34 inicializam o ponteiro atual de cada vértice u como o primeiro vértice na lista de vizinhos de u Como mostra a Figura 2610 o laço while das linhas 611 percorre a lista L descarregando os vértices A linha 5 o obriga a começar no primeiro vértice na lista A cada passagem pelo laço a linha 8 descarrega um vértice u Se u foi remarcado pelo procedimento DISCHARGE a linha 10 o desloca para a frente da lista L Podemos determinar se u foi remarcado comparando sua altura antes da operação de descarga que foi gravada na variável alturaantiga na linha 7 com sua altura depois da operação de descarga na linha 9 A linha 11 obriga a próxima iteração do laço while a usar o vértice que vem depois de u na lista L Se a linha 10 deslocou u para a frente da lista o vértice usado na próxima iteração é aquele que vem depois de u em sua nova posição na lista Para mostrar que RELABELTOFRONT calcula um fluxo máximo mostraremos que ele é uma implementação do algoritmo pushrelabel genérico Primeiro observe que ele executa operações remarcação e empurrão só quando elas são aplicáveis já que o Lema 2629 garante que DISCHARGE só executará essas operações quando eles se aplicarem Resta mostrar que quando RELABELTOFRONT termina nenhuma operação básica se aplica O restante do argumento de correção se baseia no seguinte invariante de laço Em cada teste na linha 6 de RELABELTOFRONT a lista L é uma ordenação topológica dos vértices na rede admissível Gfh V Efh e nenhum vértice antes de u na lista tem excesso de fluxo Inicialização Imediatamente após a execução de INITIALIZEPREFLOW sh V e vh 0 para todo v V s Visto que V 2 porque V contém no mínimo s e t nenhuma aresta pode ser admissível Assim Efh 0 e qualquer ordenação de V s t é uma ordenação topológica de Gfh Como inicialmente u está no começo da lista L não existe nenhum vértice antes dele e portanto não há nenhum antes dele com excesso de fluxo Manutenção Para ver que cada iteração do laço while mantém a ordenação topológica começamos observando que a rede admissível é mudada somente por operações empurrão e remarcação Pelo Lema 2627 as operações empurrão não transformam arestas em admissíveis Assim somente operações remarcação podem criar arestas admissíveis Todavia depois que um vértice u é remarcado o Lema 2628 afirma que não existe nenhuma aresta admissível entrando em u mas pode haver arestas admissíveis saindo de u Assim deslocando u para a frente de L o algoritmo garante que quaisquer arestas admissíveis que saem de u satisfazem a ordenação topológica Para ver que nenhum vértice que precede u em L tem excesso de fluxo denotamos por u o vértice que será u na próxima iteração Os vértices que precederão u na próxima iteração incluem o u atual devido à linha 11 e nenhum outro vértice se u for remarcado ou os mesmos vértices de antes se u não for remarcado Quando u é descarregado não tem nenhum excesso de fluxo depois Assim se u for remarcado durante a descarga nenhum vértice que precede u terá excesso de fluxo Se u não for remarcado durante a descarga nenhum vértice antes dele na lista adquiriu excesso de fluxo durante essa descarga porque L permaneceu ordenada topologicamente o tempo todo durante a descarga conforme acabamos de destacar arestas admissíveis são criadas somente por remarcação e não por empurrão e portanto cada operação empurrão obriga o excesso de fluxo a se deslocar somente para vértices que estão mais abaixo na lista ou para s ou t Novamente nenhum vértice que precede u tem excesso de fluxo Figura 2610 A ação de RELABELTOFRONT a Uma rede de fluxo imediatamente antes da primeira iteração do laço while No início 26 unidades de fluxo saem da fonte s À direita é mostrada a lista inicial L x y z onde inicialmente u x Sob cada vértice na lista L está sua lista de vizinhos com o vizinho atual sombreado O vértice x é descarregado Ele é renomeado para altura 1 cinco unidades de excesso de fluxo são empurradas para y e as sete unidades de excesso restantes são empurradas para o sorvedouro t Como x foi remarcado ele se desloca para o início de L o que nesse caso não muda a estrutura de L b Depois de x y é o próximo vértice em L que é descarregado A Figura 269 mostra a ação detalhada de descarregar y nessa situação Como y foi remarcado ele passa para o início de L c Agora o vértice x vem depois de y em L e portanto ele é novamente descarregado empurrando todas as cinco unidades de excesso de fluxo para t Como o vértice x não é remarcado nessa operação de descarga ele permanece em seu lugar na lista L Término Quando o laço termina u acabou de passar do final de L e portanto o invariante de laço garante que o excesso de todo vértice é 0 Assim nenhuma operação básica se aplica Análise Mostraremos agora que RELABELTOFRONT é executado no tempo OV3 em qualquer rede de fluxo G V E Visto que o algoritmo é uma implementação do algoritmo pushrelabel genérico aproveitaremos o Corolário 2621 que dá um limite OV para o número de operações remarcação executadas por vértice e um limite OV2 para o número total global de operações remarcação Além disso o Exercício 2643 dá um limite OVE para o tempo total gasto na execução de operações remarcação e o Lema 2622 dá um limite OVE para o número total de operações empurrões saturadores Figura 2610 continuação d Visto que o vértice z vem depois do vértice x em L ele é descarregado O vértice é remarcado para a altura 1 e todas as oito unidades de excesso de fluxo são empurradas para t Como z é remarcado passa para a frente de L e O vértice y agora vem depois do vértice z em L e portanto é descarregado Porém como y não tem nenhum excesso DISCHARGE retorna imediatamente e y permanece em seu lugar em L O vértice x é então descarregado Como também ele não tem nenhum excesso DISCHARGE retorna mais uma vez e x permanece em seu lugar em L RELABELT OFRONT chegou ao final da lista L e termina Não existe nenhum vértice que está transbordando e o préfluxo é um fluxo máximo Teorema 2630 O tempo de execução de RELABELTOFRONT EM qualquer rede de fluxo G V E é OV3 2651 2652 2653 2654 Prova Vamos considerar uma fase do algoritmo relabeltofront como o tempo entre duas operações remarcação consecutivas Há OV2 fases já que há OV2 operações remarcação Cada fase consiste em no máximo V chamadas a DISCHARGE o que podemos ver a seguir Se DISCHARGE não executar uma operação remarcação a próxima chamada a DISCHARGE está ainda mais embaixo na lista L e o comprimento de L é menor que V Se DISCHARGE executar uma operação remarcação a próxima chamada a DISCHARGE pertence a uma fase diferente Visto que cada fase contém no máximo V chamadas a DISCHARGE E há OV2 fases o número de vezes que DISCHARGE É chamada na linha 8 de RELABEL TOFRONT É OV3 Assim o trabalho total realizado pelo laço while em RELABELTOFRONT excluindo o trabalho executado dentro de DISCHARGE é no máximo OV3 Agora devemos limitar o trabalho realizado dentro de DISCHARGE durante a execução do algoritmo Cada iteração do laço while dentro de DISCHARGE executa uma de três ações Analisaremos a quantidade total de trabalho envolvido na execução de cada uma dessas ações Começamos com operações remarcação linhas 45 O Exercício 2643 dá um limite de tempo OVE para todas as OV2 operações remarcação executadas Agora suponha que a ação atualize o ponteiro uatual na linha 8 Essa ação ocorre Ograuu vezes cada vez que um vértice u é renomeado e no geral OV grauu vezes para o vértice Portanto para todos os vértices a quantidade total de trabalho realizado para avançar ponteiros em listas de vizinhos é OVE pelo lema do aperto de mão Exercício B41 O terceiro tipo de ação executada por DISCHARGE é uma operação empurrão linha 7 Já sabemos que o número total de operações empurrão saturador é OVE Observe que se um empurrão não saturador é executado DISCHARGE retorna imediatamente já que o empurrão reduz o excesso a 0 Assim pode haver no máximo um empurrão não saturador por chamada a DISCHARGE Como observamos DISCHARGE é chamada OV3 vezes e assim o tempo total gasto na execução de empurrões não saturadores é OV3 Portanto o tempo de execução de RELABELTOFRONT é OV3 VE que é OV3 Exercícios Ilustre a execução de RELABELTOFRONT à maneira da Figura 2610 para a rede de fluxo da Figura 261a Considere que a ordenação inicial de vértices em L seja v1 v2 v3 v4 e que as listas de vizinhos sejam Gostaríamos de implementar um algoritmo pushrelabel no qual mantivéssemos uma fila do tipo primeiro a entrar primeiro a sair de vértices que estão transbordando O algoritmo descarrega repetidamen te o vértice que está no início da fila e quaisquer vértices que não estavam transbordando antes da descarga mas que estão transbordando depois são colocados no final da fila Depois de descarregado o vértice que está no início da fila é removido Quando a fila está vazia o algoritmo termina Mostre como implementar esse algoritmo para calcular um fluxo máximo no tempo OV3 Mostre que o algoritmo genérico ainda funciona se RELABEL atualiza uh simplesmente calculando uh uh 1 Como essa mudança afetaria a análise de RELABELTOFRONT Mostre que se sempre descarregarmos o vértice mais alto que está transbordando podemos conseguir que o método pushrelabel seja executado no tempo OV3 2655 261 a b 262 Suponha que em algum ponto na execução de um algoritmo pushrelabel exista um inteiro 0 k V 1 para o qual nenhum vértice tem vh k Mostre que todos os vértices com vh k estão no lado da fonte de um corte mínimo Se tal k existir a heurística de lacuna atualiza todo vértice v V s para o qual vh k para definir vh maxvh V 1 Mostre que o atributo h resultante é uma função altura A heurística de lacuna é crucial para conseguir que as implementações do método pushrelabel funcionem bem na prática Problemas O problema do escape Uma grade n n é um grafo não dirigido que consiste em n linhas e n colunas de vértices como mostra a Figura 2611 Denotamos o vértice na iésima linha e jésima coluna por i j Todos os vértices em uma grade têm exatamente quatro vizinhos exceto os vértices do contorno que são os pontos i j para os quais i 1 i n j 1 ou j n Dados m n2 pontos de partida x1 y1 x2 y2 xm ym na grade o problema do escape consiste em determinar se existem ou não m caminhos disjuntos de vértices dos pontos de partida a quaisquer m pontos diferentes no contorno Por exemplo a grade na Figura 2611a tem um escape mas a grade na Figura 2611b não tem Figura 2611 Grades para o problema do escape Os pontos de partida são pretos e os outros vértices da grade são brancos a Uma grade com escape mostrado por caminhos sombreados b Uma grade sem escape Considere uma rede de fluxo na qual os vértices bem como as arestas têm capacidades Isto é o fluxo positivo total que entra em qualquer vértice dado está sujeito a uma restrição de capacidade Mostre que determinar o fluxo máximo em uma rede com capacidades de arestas e vértices pode ser reduzido a um problema comum de fluxo máximo em uma rede de fluxo de tamanho comparável Descreva um algoritmo eficiente para resolver o problema do escape e analise seu tempo de execução Cobertura de caminhos mínima a b 263 a b c 264 Uma cobertura de caminhos de um grafo dirigido G V E é um conjunto P de caminhos disjuntos nos vértices tal que todo vértice em V está incluído em exatamente um caminho em P Os caminhos podem começar e terminar em qualquer lugar e ter qualquer comprimento inclusive 0 Uma cobertura de caminho mínima de G é uma cobertura de caminho que contém o menor número possível de caminhos Dê um algoritmo eficiente para encontrar uma cobertura de caminho mínima de um grafo acíclico dirigido G V E Sugestão Considerando que V 1 2 n construa o grafo G V E onde e execute um algoritmo de fluxo máximo Seu algoritmo funciona para grafos dirigidos que contêm ciclos Explique Consultoria de algoritmos O professor Gore quer abrir uma empresa de consultoria de algoritmos Ele identificou n subáreas importantes de algoritmos que correspondem aproximadamente às diferentes partes deste livro e as representa pelo conjunto A A1 A2 An Para cada subárea Ak ele pode contratar um profissional especializado nessa área por ck dólares A empresa de consultoria alinhou um conjunto J J1 J2 Jm de serviços potenciais Para executar o serviço Ji a empresa precisaria ter contratado profissionais em um subconjunto Ri A de subáreas Cada profissional pode trabalhar em vários serviços simultaneamente Se a empresa optar por aceitar o trabalho Ji deve ter contratado profissionais em todas as subáreas em Ri e conseguirá uma receita de pi dólares O trabalho do professor Gore é determinar para quais subáreas contratar profissionais e quais serviços aceitar de modo a maximizar a receita líquida que é a receita total auferida dos trabalhos aceitos menos o custo de empregar os profissionais especializados Considere a seguinte rede de fluxo G Ela contém um vértice de fonte s vértices A1 A2 An vértices J1 J2 Jn e um vértice de sorvedouro t Para k 1 2 n a rede de fluxo contém uma aresta s Ak com capacidade cs Ak ck e para i 1 2 n a rede de fluxo contém uma aresta Ji t com capacidade cJi t pi Para k 1 2 n e i 1 2 m se Ak Ri então G contém uma aresta Ak Ji com capacidade cAk Ji Mostre que se Ji T para um corte de capacidade finita S T de G então Ak T para cada Ak Ri Mostre como determinar a receita líquida máxima pela capacidade de um corte mínimo de G e valores pi dados Dê um algoritmo eficiente para determinar quais serviços aceitar e quais profissionais especializados contratar Analise o tempo de execução do seu algoritmo em termos de m n e r Atualização do fluxo máximo Seja G V E uma rede de fluxo com fonte s sorvedouro t e capacidades inteiras Suponha que temos um fluxo máximo em G a b 265 a b c d e f 266 Suponha que aumentamos de 1 a capacidade de uma única aresta u v E Dê um algoritmo de tempo OV E para atualizar o fluxo máximo Suponha que reduzimos de 1 a capacidade de uma única aresta u v E Dê um algoritmo de tempo OV E para atualizar o fluxo máximo Fluxo máximo por mudança de escala Seja G V E uma rede de fluxo com fonte s sorvedouro t e uma capacidade inteira cu v em cada aresta u v E Seja C maxu vE cu v Demonstre que um corte mínimo de G tem no máximo capacidade CE Para um dado número K mostre como determinar um caminho aumentador de capacidade no mínimo K no tempo OE se tal caminho existir Podemos usar a seguinte modificação de FORDFULKERSONMETHOD para calcular um fluxo máximo em G Demonstre que MAXFLOWBYSCALING retorna um fluxo máximo Mostre que a capacidade de um corte mínimo da rede residual Gf é no máximo 2KE cada vez que a linha 4 é executada Demonstre que o laço while interno das linhas 56 é executado OE vezes para cada valor de K Conclua que MAXFLOWBYSCALING pode ser implementado de modo que seja executado no tempo OE2 lg C Algoritmo HopcroftKarp para emparelhamento de grafo bipartido Neste problema descrevemos um algoritmo mais rápido criado por Hopcroft e Karp para encontrar um emparelhamento máximo em um grafo bipartido O algoritmo funciona no tempo OE Dado um grafo não dirigido bipartido G V E onde V L R e todas as arestas têm exatamente uma extremidade em L seja M um emparelhamento em G Dizemos que um caminho simples P em G é um caminho aumentador para a M se ele começa em um vértice não emparelhado em L termina em um vértice não emparelhado em R e suas arestas pertencem alternadamente a M e a E M Essa definição de um caminho aumentador está relacionada embora seja diferente com um caminho aumentador em uma rede de fluxo Neste problema tratamos um caminho como uma sequência de arestas em vez de uma sequência de vértices Um caminho a b c d e f g mínimo aumentador referente a um emparelhamento M é um caminho aumentador que tem um número mínimo de arestas Dados dois conjuntos A e B a diferença simétrica A B é definida como A B B A isto é os elementos que estão em exatamente um dos dois conjuntos Mostre que se M é um emparelhamento e P é um caminho aumentador para M então a diferença simétrica M P é um emparelhamento e M P M 1 Mostre que se P1 P2 Pk são caminhos aumentadores em relação a M disjuntos nos vértices então a diferença simétrica M P1 P2 Pk é um emparelhamento com cardinalidade M k A estrutura geral de nosso algoritmo é a seguinte O restante desse problema pede que você analise o número de iterações no algoritmo isto é o número de iterações no laço repeat e descreva uma implementação da linha 3 Dados dois emparelhamentos M e M em G mostre que todo vértice no grafo G V M M tem grau no máximo 2 Conclua que G é uma união disjunta de caminhos ou ciclos simples Demonstre que arestas em cada um desses caminhos ou ciclos simples pertencem alternadamente a M ou M Prove que se M M então M M contém no mínimo M M caminhos aumentadores disjuntos nos vértices para M Seja l o comprimento de um caminho mínimo aumentador para um emparelhamento M e seja P1 P2 Pk um conjunto máximo de caminhos aumentadores para M disjuntos nos vértices de comprimento l Seja M M P1 Pk e suponha que P seja um caminho mínimo aumentador para M Mostre que se P é disjuntos nos vértices de P1 P2 Pk então P tem mais de l arestas Agora suponha que P não é disjuntos nos vértices de P1 P2 Pk Seja A o conjunto de arestas M M P Mostre que A P1 P2 Pk P e que A k 1l Conclua que P tem mais de l arestas Prove que se um caminho aumentador mínimo para M tem l arestas o tamanho do emparelhamento máximo é no máximo M Vl Mostre que o número de iterações do laço repeat no algoritmo é no máximo 2V Sugestão De quanto M pode crescer após a iteração número V Dê um algoritmo que funcione no tempo OE para encontrar um conjunto máximo de caminhos mínimos aumentadores disjuntos nos vértices P1 P2 Pk para um dado emparelhamento M Conclua que o tempo de execução total de HOPCROFTKARP é OVE NOTAS DO CAPÍTULO Ahuja Magnanti e Orlin 7 Even 103 Lawler 224 Papadimitriou e Steiglitz 271 e ainda Tarjan 330 são boas referências para redes de fluxo e algoritmos relacionados Goldberg Tardos e Tarjan 139 também dão um ótimo levantamento de algoritmos para problemas de redes de fluxo e Schrijver 304 escreveu uma resenha interessante de desenvolvimentos históricos na área de redes de fluxo O método FordFulkerson se deve a Ford e a Fulkerson 109 que deram origem ao estudo formal de muitos dos problemas na área de redes de fluxo incluindo os problemas de fluxo máximo e emparelhamento em grafo bipartido Muitas implementações iniciais do método de FordFulkerson encontravam caminhos aumentadores usando busca em largura Edmonds e Karp 102 e independentemente Dinic 89 provaram que essa estratégia produz um algoritmo de tempo polinomial Uma ideia relacionada a de utilizar fluxos bloqueadores também foi desenvolvida primeiro por Dinic 89 Karzanov 202 foi o primeiro a desenvolver a ideia de préfluxos O método pushrelabel se deve a Goldberg 136 e a Goldberg e Tarjan 140 Goldberg e Tarjan apresentaram um algoritmo de tempo OV3 que usa uma fila para manter o conjunto de vértices que estão transbordando bem como um algoritmo que usa árvores dinâmicas para conseguir um tempo de execução de OV E lg V2E 2 Vários outros pesquisadores desenvolveram algoritmos pushrelabel de fluxo máximo Ahuja e Orlin 9 e Ahuja Orlin e Tarjan 10 deram algoritmos que usavam escalonamento Cheriyan e Maheshwari 63 propuseram empurrar o fluxo a partir do vértice que está transbordando que tenha a altura máxima Cheriyan e Hagerup 61 sugeriram permutar aleatoriamente a lista de vizinhos e vários pesquisadores 14 204 276 desenvolveram desaleatorizações inteligentes dessa ideia o que levou a uma sequência de algoritmos mais rápidos O algoritmo de King Rao e Tarjan 204 é o mais rápido desses algoritmos e funciona no tempo OV E logEV lg VV O algoritmo assintoticamente mais rápido criado até hoje para o problema de fluxo máximo criado por Goldberg e Rao 138 funciona no tempo OminV23 E12 E lgV2E 2 lg C onde C maxu v E cu v Esse algoritmo não usa o método pushrelabel em vez disso é baseado na localização de fluxos de bloqueio Todos os algoritmos de fluxo máximo anteriores incluindo os que examinamos neste capítulo usam alguma noção de distância os algoritmos pushrelabel utilizam a noção análoga de altura sendo que um comprimento 1 é atribuído implicitamente a cada aresta Esse novo algoritmo adota uma abordagem diferente e atribui comprimento 0 a arestas de alta capacidade e comprimento 1 a arestas de baixa capacidade Informalmente no que tange a esses comprimentos caminhos mínimos da fonte ao sorvedouro tendem a ter capacidade alta o que significa que é preciso executar um número menor de iterações Na prática atualmente os algoritmos pushrelabel dominam a área dos algoritmos de caminho aumentador ou dos algoritmos baseados em programação linear para o problema de fluxo máximo Um estudo de Cherkassky e Goldberg 63 reforça a importância de usar duas heurísticas na implementação de um algoritmo pushrelabel A primeira heurística é executar periodicamente uma busca em largura da rede residual para obter valores mais precisos para a altura A segunda heurística é a heurística da lacuna descrita no Exercício 2655 Cherkassky e Goldberg concluem que a melhor escolha de variantes do algoritmo pushrelabel é a que opta por descarregar o vértice que está transbordando que tem a altura máxima O melhor algoritmo criado até hoje para o emparelhamento máximo em grafo bipartido descoberto por Hopcroft e Karp 176 é executado no tempo OVE e descrito no Problema 266 O livro de Lovász e Plummer 239 é uma excelente referência para problemas de emparelhamento 1 Lembrese de que na Seção 221 representamos um atributo f para a aresta uv com o mesmo estilo de notação uv f que usamos para um atributo de qualquer outro objeto 2 O método de FordFulkerson pode não terminar no término somente se as capacidades de arestas forem números irracionais 3 Na literatura uma função altura normalmente é denominada função distância e a altura de um vértice é denominada rótulo de distância Usamos o termo altura porque é mais sugestivo da intuição que fundamenta o algoritmo Conservamos o uso do termo remarcar relabel para referenciar a operação que aumenta a altura de um vértice A altura de um vértice está relacionada com sua distância em relação ao sorvedouro t como seria determinado por uma busca em largura do transposto GT Parte VII TÓPICOS SELECIONADOS INTRODUÇÃO Esta parte contém uma seleção de tópicos sobre algoritmos que amplia e complementa material já apresentado neste livro Alguns capítulos apresentam novos modelos de computação como circuitos ou computadores paralelos Outros abrangem domínios especializados como geometria computacional ou teoria dos números Os dois últimos capítulos discutem algumas das limitações conhecidas para o projeto de algoritmos eficientes e técnicas para enfrentar essas limitações O Capítulo 27 apresenta um modelo algorítmico para computação paralela baseado em multithread dinâmico O capítulo apresenta os aspectos básicos do modelo e mostra como quantificar paralelismo em termos de medidas de trabalho e duração Então investiga vários algoritmos multithread interessantes incluindo algoritmos para multiplicação de matrizes e ordenação por intercalação O Capítulo 28 estuda algoritmos eficientes para operações com matrizes Apresenta dois métodos gerais decomposição LU e decomposição LUP para resolver equações lineares pelo método de eliminação de Gauss no tempo On3 Mostra também que inversão de matrizes e multiplicação de matrizes podem ser realizadas com rapidez igual O capítulo termina mostrando como calcular uma solução aproximada de mínimos quadrados quando um conjunto de equações lineares não tem nenhuma solução exata O Capítulo 29 estuda programação linear na qual desejamos maximizar ou minimizar um objetivo dados recursos limitados e restrições concorrentes A programação linear surge em uma variedade de áreas de aplicação prática Esse capítulo abrange como formular e resolver programas lineares O método de solução abordado é o algoritmo simplex o mais antigo algoritmo para programação linear Ao contrário de muitos algoritmos neste livro o algoritmo simplex não é executado em tempo polinomial no pior caso mas é razoavelmente eficiente e amplamente usado na prática O Capítulo 30 estuda operações com polinômios e mostra como usar uma técnica de processamento de sinais muito conhecida a transformada rápida de Fourier FFT para multiplicar dois polinômios de grau n no tempo On lg n Investiga também implementações eficientes da FFT incluindo um circuito paralelo O Capítulo 31 apresenta algoritmos da teoria dos números Após revisar a teoria elementar dos números apresenta o algoritmo de Euclides para calcular máximo divisor comum Em seguida estuda algoritmos para resolver equações lineares modulares e para elevar um número a uma potência módulo um outro número Então explora uma importante aplicação de algoritmos de teoria dos números o criptossistema RSA de chaves públicas O criptossistema pode ser usado não somente para criptografar mensagens de modo a impedir que um adversário as leia mas também para fornecer assinaturas digitais Então o capítulo apresenta o teste de primalidade aleatorizado de MillerRabin que nos permite encontrar eficientemente grandes números primos um requisito essencial para o sistema RSA Finalmente o capítulo estuda a heurística rô de Pollard para fatorar números inteiros e discute as técnicas mais modernas da fatoração de inteiros O Capítulo 32 estuda o problema de encontrar todas as ocorrências de uma dada cadeiapadrão em uma cadeia de texto dada um problema que surge frequentemente em programas de edição de textos Após examinar a abordagem ingênua o capítulo apresenta uma abordagem elegante criada por Rabin e Karp Então depois de mostrar uma solução eficiente baseada em autômatos finitos o capítulo apresenta o algoritmo de KnuthMorrisPratt que modifica o algoritmo baseado em autômato para poupar espaço mediante o préprocessamento inteligente do padrão O Capítulo 33 considera alguns problemas de geometria computacional Após discutir primitivas básicas da geometria computacional o capítulo mostra como usar um método de varredura para determinar eficientemente se um conjunto de segmentos de reta contém quaisquer interseções Dois algoritmos inteligentes para determinar a envoltória convexa de um conjunto de pontos a varredura de Graham e a marcha de Jarvis também ilustram o poder de métodos de varredura O capítulo termina com um algoritmo eficiente para determinar o par mais próximo em um dado conjunto de pontos no plano O Capítulo 34 aborda problemas NPcompletos Muitos problemas computacionais interessantes são NP completos mas não há nenhum algoritmo de tempo polinomial conhecido para resolver qualquer deles Esse capítulo apresenta técnicas para determinar quando um problema é NPcompleto Há vários problemas clássicos que são comprovadamente NPcompletos determinar se um grafo tem um ciclo hamiltoniano determinar se uma fórmula booleana pode ser satisfeita e determinar se um determinado conjunto de números tem um subconjunto que equivale a um dado valor visado O capítulo também prova que o famoso problema do caixeiro viajante é NPcompleto O Capítulo 35 mostra como determinar eficientemente soluções aproximadas para problemas NPcompletos usando algoritmos de aproximação Para alguns problemas NPcompletos é bastante fácil produzir soluções aproximadas quase ótimas mas para outros até mesmo os melhores algoritmos de aproximação conhecidos funcionam cada vez pior à medida que o tamanho do problema aumenta Então há alguns problemas para os quais podemos investir quantidades cada vez maiores de tempo de computação em troca de soluções aproximadas cada vez melhores Esse capítulo ilustra tais possibilidades com o problema da cobertura de vértices versões não ponderada e ponderada uma versão de otimização de satisfazibilidade 3CNF o problema do caixeiro viajante o problema da cobertura de conjuntos e o problema da soma de subconjuntos 27 ALGORITMOS MULTITHREAD A vasta maioria dos algoritmos neste livro são algoritmos seriais adequados para execução em um computador com um único processador no qual só uma instrução é executada por vez Neste capítulo estendemos nosso modelo algorítmico para abranger algoritmos paralelos que podem ser executados em computadores multiprocessadores que permitem a execução concorrente de várias instruções Em particular exploraremos o elegante modelo de algoritmos multithread dinâmicos que se prestam ao projeto e à análise algorítmicos bem como à implementação eficiente na prática Computadores paralelos computadores com várias unidades de processamento são cada vez mais comuns e abrangem uma larga faixa de preços e desempenho Chips multipro cessadores relativamente baratos para computadores de mesa e laptops contêm um único chip de circuito integrado multinúcleo que abriga vários núcleos de processamento cada um deles um processador totalmente desenvolvido que pode acessar uma memória comum Em um ponto intermediário de preçodesempenho estão os grupos clusters montados com computadores individuais quase sempre máquinas de classe PC conectados por uma rede dedicada As máquinas de preços mais altos são supercomputadores que frequentemente usam uma combinação de arquiteturas customizadas e redes customizadas para oferecer o mais alto desempenho em termos de instruções executadas por segundo Computadores multiprocessadores já estão por aí sob uma forma ou outra há décadas Embora a comunidade da computação tenha adotado o modelo da máquina de acesso aleatório para computação serial já no início da história da ciência da computação nenhum modelo de computação paralela conquistou tão ampla aceitação Uma razão principal é que os fabricantes não chegaram a um consenso quanto a um único modelo arquitetônico para computadores paralelos Por exemplo alguns computadores paralelos possuem memória compartilhada na qual cada processador pode acessar diretamente qualquer localização da memória Outros computadores paralelos empregam memória distribuída na qual a memória de cada processador é particular e é preciso enviar uma mensagem explícita entre processadores para que um processador acesse a memória de outro Porém com o advento da tecnologia multinúcleo agora cada novo laptop e computador de mesa é um computador paralelo de memória compartilhada e aparentemente a tendência é a favor do multiprocessamento por memória compartilhada Embora somente o tempo dirá essa é a abordagem que adotaremos neste capítulo Um meio comum de programar chips multiprocessadores e outros computadores paralelos de memória compartilhada é usar thread estático que proporciona uma abstração em software de linhas de execução ou threads que compartilham uma memória comum Cada thread mantém um contador de programa associado e pode executar código independentemente dos outros threads O sistema operacional carrega um thread em um processador para execução e o desliga quando um outro thread precisa ser executado Embora o sistema operacional permita que programadores criem ou destruam threads essas operações são comparativamente lentas Assim para a maioria das aplicações os threads persistem durante o tempo de uma computação e é por essa razão que são denominados estáticos Infelizmente programar diretamente um computador paralelo de memória compartilhada usando threads estáticos é difícil e sujeito a erro Uma razão é que repartir o trabalho dinamicamente entre os threads de modo que cada um receba aproximadamente a mesma carga se revela uma empreitada complicada Para quaisquer aplicações exceto as mais simples o programador deve usar protocolos de comunicação complexos para implementar um escalonador para 271 equilibrar a carga de trabalho Esse estado de coisas levou à criação de plataformas de concorrência que oferecem uma camada de software que coordena escalona e gerencia os recursos de computação paralela Algumas plataformas de concorrência são construídas como bibliotecas de tempo real mas outras oferecem linguagens paralelas totalmente desenvolvidas com compilador e suporte em tempo real Programação com multithread dinâmico Uma classe importante de plataforma de concorrência é o multithread dinâmico modelo que adotaremos neste capítulo Multithread dinâmico permite que programadores especifiquem paralelismo em aplicações sem que tenham de se preocupar com protocolos de comunicação balanceamento de carga e outros eventos imprevisíveis da programação com threads estáticos A plataforma de concorrência contém um escalonador que equilibra a carga de computação automaticamente o que simplifica muito a tarefa do programador Embora a funcionalidade dos ambientes de multithread dinâmico ainda esteja em desenvolvimento quase todos suportam duas características paralelismo aninhado e laços paralelos Paralelismo aninhado permite que uma subrotina seja gerada spawned permitindo que o chamador prossiga enquanto a subrotina gerada está calculando o seu resultado Um laço paralelo é como um laço for comum exceto que as iterações do laço podem ser executadas concorrentemente Essas duas características formam a base do modelo de multithread dinâmico que estudaremos neste capítulo Um aspecto fundamental desse modelo é que o programador precisa especificar somente o paralelismo lógico dentro de uma computação e os threads dentro da plataforma de concorrência subjacente escalonam e equilibram a carga da computação entre eles Investigaremos algoritmos multithread escritos para esse modelo e também como a plataforma de concorrência subjacente pode escalonar computações eficientemente Nosso modelo para multithread dinâmico oferece várias vantagens importantes É uma simples extensão do nosso modelo de programação serial Podemos descrever um algoritmo multithread acrescentando ao nosso pseudocódigo apenas três palavraschaves de concorrência parallel spawn e sync Além do mais se eliminarmos essas palavraschaves de concorrência do pseudocódigo multithread o texto resultante é pseudocódigo serial para o mesmo problema o que denominamos serialização do algoritmo multithread Proporciona um modo teoricamente claro para quantificar paralelismo com base nas noções de trabalho e duração Muitos algoritmos multithread que envolvem paralelismo aninhado decorrem naturalmente do paradigma divisão e conquista Além do mais exatamente como algoritmos seriais de divisão e conquista se prestam à análise por solução de recorrências também os algoritmos multithread se prestam a essa mesma análise O modelo é fiel ao modo de evolução da prática da computação paralela Um número cada vez maior de plataformas de concorrência suportam uma ou outra variante do multithread dinâmico entre elas Cilk 51 118 Cilk 72 OpenMP 60 Task Paralellel Library 230 e Threading Building Blocks 292 A Seção 271 apresenta o modelo de multithread dinâmico e as métricas de trabalho duração e paralelismo que usaremos para analisar algoritmos multithread A Seção 272 investiga como multiplicar matrizes com multithread e a Seção 273 ataca o problema mais árduo de aplicar multithread à ordenação por inserção OS FUNDAMENTOS DO MULTITHREAD DINÂMICO Começaremos nossa exploração do multithread dinâmico usando o exemplo do cálculo recursivo de números de Fibonacci Lembrese de que números de Fibonacci são definidos por recorrência 322 Apresentamos a seguir um algoritmo serial simples recursivo para calcular o nésimo número de Fibonacci Na realidade não seria interessante calcular grandes números de Fibonacci desse modo porque esse cálculo realiza muito trabalho repetido A Figura 271 mostra a árvore de instâncias de procedimento recursivo que são criadas no cálculo de F6 Por exemplo uma chamada a FIB6 chama recursivamente FIB5 e então FIB4 Mas a chamada a FIB5 também resulta em uma chamada a FIB4 Ambas as instâncias de FIB4 retornam o mesmo resultado F4 3 Visto que o procedimento FIB não memoíza a segunda chamada a FIB4 repete o trabalho que a primeira chamada realiza Seja Tn o tempo de execução de FIBn Visto que FIBn contém duas chamadas recursivas mais uma quantidade constante de trabalho extra obtemos a recorrência Essa recorrência tem solução Tn Fn o que podemos mostrar utilizando o método de substituição Para uma hipótese de indução suponha que Tn a Fn b onde a 1 e b 0 são constantes Substituindo obtemos Figura 271 A árvore de instâncias de procedimento recursivo para o cálculo de FIB6 Cada instância de FIB que tenha os mesmos argumentos realiza o mesmo trabalho para produzir o mesmo resultado proporcionando um modo ineficiente mas interessante de calcular números de Fibonacci se escolhermos b grande o suficiente para dominar a constante no 1 Então podemos escolher a grande o suficiente para satisfazer a condição inicial O limite analítico onde 1 52 é a razão áurea decorre agora da equação 325 Visto que Fn cresce exponencialmente em n esse procedimento é um modo particularmente lento de calcular números de Fibonacci Veja modos mais rápidos no Problema 313 Embora seja um modo ruim de calcular números de Fibonacci o procedimento FIB constitui um bom exemplo para ilustrar os principais conceitos na análise de algoritmos multithread Observe que dentro de FIBn as duas chamadas recursivas nas linhas 3 e 4 a FIBn1 e FIBn2 respectivamente são independentes uma da outra poderiam ser chamadas em qualquer ordem e a computação executada por uma delas em nada afeta a outra Portanto as duas chamadas recursivas podem ser executadas em paralelo Aumentamos nosso pseudocódigo para indicar paralelismo acrescentando as palavraschaves de concorrência spawn e sync Agora apresentamos como podemos reescrever o procedimento FIB para usar multithread dinâmico Observe que se eliminarmos as palavraschaves de concorrência spawn e sync de PFIB o texto de pseudocódigo resultante é idêntico ao de FIB exceto o nome do procedimento no cabeçalho e nas duas chamadas recursivas Definimos a serialização de um algoritmo multithread como o algoritmo serial que resulta da eliminação das palavraschaves multithread spawn sync e quando examinamos laços parallel De fato nosso pseudocódigo multithread tem a seguinte propriedade atraente uma serialização é sempre pseudocódigo serial comum para resolver o mesmo problema Paralelismo aninhado ocorre quando a palavrachave spawn precede uma chamada de procedimento como na linha 3 A semântica de uma geração spawn é diferente da semântica de uma chamada de procedimento comum no sentido de que a instância de procedimento que executa a geração o pai pode continuar a ser executada em paralelo com a subrotina gerada seu filho em vez de esperar pela conclusão do filho como normalmente aconteceria em uma execução serial Nesse caso enquanto o filho gerado está calculando PFIBn 1 o pai pode continuar a calcular PFIBn 2 na linha 4 em paralelo com o filho gerado Visto que o procedimento PFIB é recursivo essas mesmas duas chamadas de subrotinas criam paralelismo alinhado assim como seus filhos criando assim uma árvore potencialmente vasta de subcomputações todas executadas em paralelo Contudo a palavrachave spawn não diz que um procedimento deve ser executado concorrentemente com seu filho gerado diz apenas que pode As palavraschaves de concorrência expressam o paralelismo lógico da computação indicando quais partes da computação podem prosseguir em paralelo Em tempo real cabe a um escalonador determinar quais subcomputações realmente são executadas concorrentemente designando a elas processadores disponíveis à medida que a computação transcorre Em breve discutiremos a teoria que fundamenta escalonadores Um procedimento não pode utilizar com segurança os valores retornados por seus filhos gerados até executar uma declaração sync como na linha 5 A palavrachave sync indica que o procedimento deve esperar o quanto for necessário pela conclusão de todos os seus filhos gerados antes de passar para a declaração depois de sync No procedimento PFIB é preciso uma sync antes da declaração return na linha 6 para evitar a anomalia que ocorreria se x e y fossem somados antes de x ser calculado Além da sincronização explícita proporcionada pela declaração sync todo procedimento executa uma sync implicitamente antes de retornar garantindo assim que todos os seus filhos terminam antes dela Um modelo para execução multithread Ajuda imaginar uma computação multithread o conjunto de instruções em tempo real executadas por um processador em nome de um programa multithread como um grafo acíclico dirigido G V E denominado um gad de computação Como exemplo a Figura 272 mostra o gad de computação que resulta do cálculo de PFIB4 Conceitualmente os vértices em V são instruções e as arestas em E representam dependências entre instruções onde u v E significa que a instrução u deve ser executada antes da instrução v Todavia por conveniência se uma cadeia de instruções não contém nenhum controle paralelo nenhuma spawn sync ou return de uma spawn seja por meio de uma declaração return explícita ou por meio de um retorno que ocorre implicitamente ao chegar ao fim de um procedimento podemos agrupálas em uma única fibra strand cada uma das quais representa uma ou mais instruções Instruções que envolvem controle paralelo não são incluídas em fibras mas são representadas na estrutura do gad Por exemplo se uma fibra tem dois sucessores um deles deve ter sido gerado e uma fibra com vários predecessores indica que os predecessores se uniram por causa de uma declaração sync Assim no caso geral o conjunto V forma o conjunto de fibras e o conjunto E de arestas dirigidas representa dependências entre fibras induzidas por controle paralelo Se G tem um caminho dirigido da fibra u até a fibra v dizemos que as duas fibras estão logicamente em série Caso contrário os filamentos u e v estão logicamente em paralelo Figura 272 Um grafo acíclico dirigido que representa a computação de PFIB4 Cada círculo representa uma fibra Círculos pretos representam ou casos bases ou parte do procedimento instância até a geração do PFIB n 1 na linha 3 Círculos sombreados representam a parte do procedimento que chama PFIBn 2 na linha 4 até sync na linha 5 onde fica suspenso até que PFIBn 1 retorne Círculos brancos representam a parte do procedimento depois de sync onde ele soma x e y até o ponto em que retorna o resultado Cada grupo de fibras que pertencem ao mesmo procedimento é cercada por um retângulo de cantos arredondados sombreado em tom mais claro para procedimentos gerados e em tom mais escuro para procedimentos chamados Em arestas geradas e arestas de chamada as setas apontam para baixo em arestas de continuação elas apontam para a direita na horizontal e em arestas de retorno apontam para cima Considerando que cada fibra demora uma unidade de tempo o trabalho é igual a 17 unidades de tempo visto que há 17 filamentos e a duração é 8 unidades de tempo já que o caminho crítico mostrado por arestas sombreadas contém 8 fibras Podemos representar uma computação multithread como um gad de fibras embutido em uma árvore de instância de procedimentos Por exemplo a Figura 271 mostra a árvore de instâncias de procedimento para PFIB6 sem a estrutura detalhada que mostra as fibras A Figura 272 mostra o detalhe de uma seção daquela árvore onde podemos ver as fibras que constituem cada procedimento Todas as arestas dirigidas que conectam fibras são executadas ou dentro de um procedimento ou ao longo de arestas não dirigidas na árvore de procedimentos Podemos classificar as arestas de um gad de computação para indicar o tipo de dependências entre as várias fibras Uma aresta de continuação u u desenhada na horizontal na Figura 272 conecta uma fibra u a seu sucessor u dentro da mesma instância de procedimento Quando uma fibra u gera uma fibra v um gad contém uma a aresta geradora u v que aponta para baixo na figura Arestas de chamada que representam chamadas de procedimento normais também apontam para baixo Fibra u gerar fibra v é diferente de u chamar v no sentido de que uma geração induz uma aresta de continuação horizontal de u até a fibra u e segue u em seu procedimento indicando que u está livre para ser executado ao mesmo tempo que v ao passo que uma chamada não induz tal aresta Quando uma fibra u retorna a seu procedimento de chamada e x é o filamento que vem imediatamente após a próxima sync no procedimento de chamada o gad de computação contém a aresta de retorno u x que aponta para cima Uma computação começa com uma única fibra inicial o vértice preto no procedimento identificado por PFIB4 na Figura 272e termina com uma única fibra final o vértice branco no procedimento identificado por PFIB4 Estudaremos a execução de algoritmos multithread em um computador paralelo ideal que consiste em um conjunto de processadores e uma memória compartilhada sequencialmente con sistente Consistência sequencial significa que a memória compartilhada que na realidade pode estar executando muitas cargas e armazenamentos de processadores ao mesmo tempo produz os mesmos resultados como se a cada etapa executasse exatamente uma instrução de um dos processadores Isto é a memória se comporta como se as instruções fossem executadas sequencialmente de acordo com alguma ordem linear global que preserva as ordens individuais nas quais cada processador emite suas próprias instruções Para computações multithread dinâmicas que são escalonadas para processadores automaticamente pela plataforma de concorrência a memória compartilhada comportase como se as instruções da computação multithread fossem intercaladas para produzir uma ordem linear que preserva a ordem parcial do gad de computação Dependendo do escalonamento a ordenação pode ser diferente de uma execução do programa para outra mas o comportamento de qualquer execução pode ser entendido considerando que as instruções dão executadas em alguma ordem linear consistente com o gad de computação Além de tais considerações semânticas o modelo do computador paralelo ideal também faz algumas considerações de desempenho Especificamente o modelo supõe que cada processador na máquina tem a mesma capacidade de computação e ignora o custo do escalonamento Embora essa última suposição possa parecer otimista acontece que para algoritmos com paralelismo suficiente um termo que definiremos exatamente em breve a sobrecarga de escalonamento geralmente é mínima na prática Medidas de desempenho Podemos aferir a eficiência teórica de um algoritmo multithread medindo duas medidas trabalho e duração O trabalho de uma computação multithread é o tempo total para executar a computação inteira em um processador Em outras palavras o trabalho é a soma dos tempos gastos por cada uma das fibras Para um gad de computação no qual cada fibra demora um tempo unitário o trabalho é apenas o número de vértices no gad A duração é o tempo mais longo para executar as fibras ao longo de qualquer caminho no gad Novamente para um gad no qual cada fibra demora um tempo unitário a duração é igual ao número de vértices em um caminho de comprimento máximo ou caminho crítico no gad Lembrese de que a Seção 242 mostrou que podemos encontrar um caminho crítico em um gad G V E no tempo V E Por exemplo o gad de computação da Figura 272 tem 17 vértices ao todo e 8 vértices em seu caminho crítico de modo que se cada fibra demorar tempo unitário seu trabalho é 17 unidades de tempo e sua duração é 8 unidades de tempo O tempo de execução propriamente dito de uma computação multithread depende não somente de seu trabalho e de sua duração mas também de quantos processadores estão disponíveis e de como o escalonador aloca fibras a processadores Para denotar o tempo de execução de uma computação multithread em P processadores usaremos o subscrito P Por exemplo poderíamos denotar o tempo de execução de um algoritmo em P processadores por TP O trabalho é o tempo de execução em um único processador ou T1 A duração é o tempo de execução se pudéssemos executar cada fibra em seu próprio processadorem outras palavras se tivéssemos um número ilimitado de processadores e portanto denotamos a duração por T O trabalho e a duração dão limites inferiores para o tempo de execução TP de uma computação multithread em P processadores Em uma etapa um computador paralelo ideal com P processadores pode realizar no máximo P unidades de trabalho e assim no tempo TP ele pode realizar máximo o trabalho PTP Visto que o trabalho total a realizar é T1 temos PTP T1 Dividindo por P obtemos a lei do trabalho Um computador paralelo ideal com P processadores não pode executar mais rapidamente do que uma máquina com um número ilimitado de processadores Visto por outro ângulo uma máquina com um número ilimitado de processadores pode emular uma máquina com P processadores utilizando apenas P de seus processadores Assim decorre a lei da duração Definimos o fator de aceleração de uma computação em P processadores pela razão T1TP que diz quantas vezes uma computação com P processadores é mais rápida que com 1 processador Pela lei do trabalho temos TP T1P o que implica que T1TP P Assim o fator de aceleração em P processadores pode ser no máximo P Quando o fator de aceleração é linear em relação ao número de processadores isto é quando T1TP P a computação exibe fator de aceleração linear e quando T1TP P temos fator de aceleração linear perfeito A razão T1T entre o trabalho e a duração dá o paralelismo da computação multithread Podemos enxergar o paralelismo de três pontos de vista Como uma razão o paralelismo denota a quantidade média de trabalho que pode ser realizada em paralelo para cada etapa ao longo do caminho crítico Como um limite superior o paralelismo dá o máximo fator de aceleração possível que pode ser conseguido com qualquer número de processadores Finalmente e talvez mais importante o paralelismo dá um limite para a possibilidade de conseguir fator de aceleração linear perfeito Especificamente tão logo o número de processadores exceda o paralelismo não há nenhuma possibilidade de conseguir fator de aceleração linear perfeito na computação Para ver esse último ponto suponha que P T1T caso em que a lei da duração implica que o fator de aceleração satisfaz T1TP T1T P Além disso se o número P de processadores no computador paralelo ideal for muito maior do que o paralelismo isto é se P T1T então T1TP P de modo que o fator de aceleração é muito menor que o número de processadores Em outras palavras quanto mais processadores usarmos além do paralelismo menos perfeito o fator de aceleração Como exemplo examine a computação PFIB4 na Figura 272 e suponha que cada fibra demora tempo unitário Visto que o trabalho é T1 17 e a duração é T 8 o paralelismo é T1T 178 2125 Consequentemente conseguir muito mais que o dobro do fator de aceleração é impossível não importando quantos processadores empregamos para executar a computação Contudo para tamanhos maiores de entradas veremos que PFIBn exibe substancial paralelismo Definimos a folga paralela de uma computação multithread executada em um computador paralelo ideal com P processadores como a razão T1TP T1PT que é o fator que representa quantas vezes o paralelismo da computação excede o número de processadores na máquina Assim se a folga é menor que 1 não podemos esperar conseguir um fator de aceleração linear perfeito porque T1PT 1 e a lei da duração implica que o fator de aceleração em P processadores satisfaz T1TP T1T P Realmente à medida que folga diminui de 1 até 0 o fator de aceleração da computação diverge cada vez mais do fator de aceleração linear perfeyto Todavia se a folga é maior que 1 o trabalho por processador é a restrição limitativa Como veremos à medida que a folga aumenta em relação a 1 um bom escalonador pode chegar cada vez mais perto de um fator de aceleração linear perfeito Escalonamento Bom desempenho depende de mais coisas do que apenas minimizar trabalho e duração As fibras também têm de ser escalonadas eficientemente nos processadores da máquina paralela Nosso modelo de programação multithread não dá nenhum modo para especificar quais fibras executar em quais processadores Em vez disso confiamos no escalonador da plataforma de concorrência para mapear a computação que está se desenvolvendo dinamicamente para processadores individuais Na prática o escalonador mapeia as fibras para threads estáticos e o sistema operacional escalona os threads nos próprios escalonadores mas esse nível extra de indireção é desnecessário para entendermos o escalonamento Basta imaginar que o escalonador da plataforma de concorrência mapeia fibras para processadores diretamente Um escalonador multithread deve escalonar a computação sem saber de antemão quando as fibras serão geradas ou quando serão concluídos ele tem de funcionar online Além do mais um bom escalonador funciona de modo distribuído no qual os threads que implementam o escalonador cooperam no equilíbrio de cargas da computação Existem escalonadores distribuídos online provadamente bons mas analisálos é complicado Em vez disso para manter a simplicidade de nossa análise investigaremos um escalonador centralizado online que sabe qual é o estado global da computação a qualquer tempo dado Em particular analisaremos escalonadores gulosos que designam o maior número possível de filamentos a processadores em cada etapa de tempo Se no mínimo P fibras estão prontas para executar durante uma etapa de tempo dizemos que essa é uma etapa completa e um escalonador guloso designa qualquer P das fibras prontas a processadores Caso contrário um número menor do que P fibras estão prontas para executar e então dizemos que essa é uma etapa incompleta e o escalonador designa cada fibra pronta a seu próprio processador Pela lei do trabalho o melhor tempo de execução que podemos esperar para P processadores é TP T1P e pela lei da duração o melhor que podemos esperar é TP T O teorema a seguir mostra que o escalonamento guloso é provadamente bom no sentido de que faz da soma desses dois limites inferiores um limite superior Teorema 271 Em um computador paralelo ideal com P processadores um escalonador guloso executa uma computação multithread com trabalho T1 e duração T no tempo Prova Começamos considerando as etapas completas Em cada etapa completa os P processadores juntos executam um total de trabalho P Suponha por contradição que o número de etapas completas é estritamente maior que T1P Então o trabalho total das etapas completas é no mínimo Assim obtemos a contradição que os P processadores executariam mais trabalho que o exigido pela computação o que nos permite concluir que o número de etapas completas é no máximo T1P Agora considere uma etapa incompleta Seja G o gad que representa a computação inteira e sem perda da generalidade suponha que cada filamento demora tempo unitário Podemos substituir cada fibra mais longa por uma cadeia de fibras de tempo unitário Seja G o subgrafo de G que ainda tem de ser executado no início da etapa incompleta e seja G o subgrafo que resta para ser executado depois da etapa incompleta Um caminho de comprimento máximo em um gad deve necessariamente começar em um vértice com grau de entrada 0 Visto que uma etapa incompleta de um escalonador guloso executa todas as fibras com grau de entrada 0 em G o comprimento do caminho de comprimento máximo em G deve ter uma unidade a menos que o comprimento do caminho de comprimento máximo em G Em outras palavras uma etapa incompleta diminui de 1 a duração do gad não executado Por consequência o número de etapas incompletas é no máximo T Visto que cada etapa ou é complete ou é incompleta o teorema segue O seguinte corolário para o Teorema 271 mostra que um escalonador guloso sempre funciona bem Corolário 272 O tempo de execução TP de qualquer computação multithread escalonada por um escalonador guloso em um computador paralelo ideal com P processadores está dentro de um fator de 2 em relação ao ótimo Prova Seja TP o tempo de execução produzido por um escalonador ótimo em uma máquina com P processadores e sejam T1 e T o trabalho e a duração da computação respectivamente Visto que as leis do trabalho e da duração desigualdades 272 e 273 nos dão T P maxT1P T o Teorema 271 implica que O próximo corolário mostra que de fato um escalonador guloso consegue fator de aceleração linear quase perfeito em qualquer computação multithread à medida que a folga aumenta Corolário 273 Seja TP o tempo de execução de uma computação multithread produzida por um escalonador guloso em um computador paralelo ideal com P processadores e sejam T1 e T o trabalho e a duração da computação respectivamente Então se P T1T temos TP T1P ou o que é equivalente um fator de aceleração de aproximadamente P Prova Se supusermos que P T1T então temos também T T1P e por consequência o Teorema 271 nos dá TP T1P T T1P Visto que a lei do trabalho 272 impõe que TP T1P concluímos que TP T1P ou o que é equivalente que o fator de aceleração é T1TP P O símbolo denota muito menos mas quanto menos é muito menos Como regra prática uma folga de no mínimo 10 isto é 10 vezes mais paralelismo que processadores geralmente é suficiente para conseguir um bom fator de aceleração Então o termo de duração no limite guloso desigualdade 274 é menor que 10 do tempo de trabalho por processador que é suficientemente bom para a maioria das situações encontradas na engenharia Por exemplo se uma computação for executada em somente 10 ou 100 processadores não tem sentido preferir paralelismo de digamos 1000000 em comparação com o paralelismo de 10000 mesmo com o fator de 100 para a diferença Como mostra o Problema 272 reduzindo o paralelismo extremo às vezes podemos obter algoritmos que são melhores em relação a outros tópicos e que aproveitam bem um número razoável de processadores Análise de algoritmos multithread Agora temos todas as ferramentas que precisamos para analisar algoritmos multithread e conseguir bons limites para seus tempos de execução com vários números de processadores Analisar o trabalho é relativamente direto visto que nada mais é do que analisar o tempo de execução de um algoritmo serial comum isto é a serialização do algoritmo multithread com o que você já deve estar familiarizado visto que a quase totalidade deste livro trata dele Analisar a duração é mais interessante porém em geral não é mais difícil desde que você pegue o jeito da coisa Investigaremos as idéias básicas utilizando o programa PFIB Analisar o trabalho T1n de PFIBn não apresenta obstáculos porque já o fizemos O procedimento FIB original é essencialmente a serialização de PFIB e por consequência T1n Tn n pela equação 271 A Figura 273 ilustra como analisar a duração Se duas subcomputações estão ligadas em série suas durações se somam para formar a duração de sua composição ao passo que se estiverem ligadas em paralelo a duração de sua composição é o máximo das durações das duas subcomputações Para PFIBn a chamada gerada a PFIBn1 na linha 3 é executada em paralelo com a chamada a PFIBn 2 na linha 4 Por consequência podemos expressar a duração de PFIBn como a recorrência cuja solução é Tn n O paralelismo de PFIBn é T1nTn n que cresce dramaticamente à medida que n fica grande Assim mesmo nos maiores computadores paralelos um valor modesto para n é suficiente para conseguir um fator de aceleração linear quase perfeito para PFIBn porque esse procedimento exibe folgas paralelas consideráveis Figura 273 O trabalho e a duração de subcomputações compostas a Quando duas subcomputações são ligadas em série o trabalho da composição é a soma de seus trabalhos e a duração da composição pela soma de suas durações b Quando duas subcomputações são ligadas em paralelo o trabalho de composição continua sendo a soma de seus trabalhos mas a duração da composição é somente o máximo de suas durações Laços paralelos Muitos algoritmos contêm laços nos quais todas as iterações podem funcionar em paralelo Como veremos podemos paralelizar tais laços utilizando as palavraschave spawn e sync porém é muito mais conveniente especificar diretamente que as iterações de tais laços podem ser executadas concorrentemente Nosso pseudocódigo proporciona essa funcionalidade por meio da palavrachave de concorrência parallel que precede a palavrachave for em uma declaração de laço for Como exemplo considere o problema de multiplicar uma matriz n n A aij por um nvetor x xj O nvetor resultante y yi é dado pela equação para i 1 2 n Podemos efetuar a multiplicação matrizvetor calculando todas as entradas de y em paralelo da seguinte maneira Nesse código as palavraschave parallel for nas linhas 3 e 5 indicam que as iterações dos respectivos laços podem ser executadas concorrentemente Um compilador pode implementar cada laço parallel for como uma sub rotina com divisão e conquista utilizando paralelismo aninhado Por exemplo o laço parallel for nas linhas 57 pode ser implementado com a chamada MATVECMAINLOOPA x y n 1 n onde o compilador produz a subrotina auxiliar MATVEC MAINLOOP da seguinte maneira Esse código gera recursivamente a primeira metade das iterações do laço para ser executada em paralelo com a segunda metade das iterações e depois executa uma sync criando assim uma árvore binária de execução na qual as folhas são iterações de laço individuais como mostra a Figura 274 Para calcular o trabalho T1n de MATVEC em uma matriz nn simplesmente calculamos o tempo de execução de sua serialização o que obtemos substituindo os laços parallel for por laços for comuns Assim temos T1n n2 porque o tempo de execução quadrático dos laços duplamente aninhados nas linhas 57 domina Contudo essa análise parece ignorar a sobrecarga para geração recursiva na implementação dos laços paralelos Na verdade a sobrecarga da geração recursiva aumenta o trabalho de um laço paralelo em comparação com o trabalho de sua serialização mas não assintoticamente Para ver por que observe que como a árvore de instâncias de procedimento recursivo é uma árvore binária cheia o número de nós internos é uma unidade menor que o número de folhas veja o Exercício B53 Cada nó interno realiza trabalho constante para dividir a faixa de iteração e cada folha corresponde a uma iteração do laço que demora no mínimo o tempo constante n nesse caso Assim podemos amortizar a sobrecarga de geração recursiva em relação ao trabalho das iterações contribuindo no máximo com um fator constante para o trabalho global Figura 274 Um gad que representa a computação de MATVECMAINLOOPA x y 8 1 8 Os dois números dentro de cada retângulo com cantos arredondados dão os valores dos dois últimos parâmetros i e i no cabeçalho do procedimento na invocação geração ou chamada do procedimento Os círculos pretos representam fibras que correspondem ou ao casobase ou à parte do procedimento até a geração de MATVECMAINLOOP na linha 5 os círculos sombreados representam fibras que correspondem à parte do procedimento que chama MATVECMAINLOOP na linha 6 até a sync na linha 7 onde é suspenso até que a subrotina gerada na linha 5 retorne e os círculos brancos representam fibras que correspondem à parte desprezível do procedimento após a sync até o ponto onde ela retorna Como questão prática aplicar multithread dinâmico a plataformas de concorrência às vezes adensa as folhas da recursão por executar várias iterações em uma única folha seja automaticamente seja sob controle do programador reduzindo assim a sobrecarga da geração recursiva Todavia essa sobrecarga reduzida é conseguida à custa de reduzir também o paralelismo Porém se a computação tem folga paralela suficiente o fator de aceleração linear quase perfeito não precisa ser sacrificado Também temos de levar em conta a sobrecarga de geração recursiva quando analisamos a duração de um constructo de laço paralelo Visto que a profundidade da chamada recursiva é logarítmica em relação ao número de iterações para um laço paralelo com n iterações no qual a iésima iteração tem duração iteri a duração é Por exemplo para MATVEC em uma matriz n n o laço de inicialização paralelo nas linhas 34 tem duração lg n porque a geração recursiva domina o trabalho de tempo constante de cada iteração A duração dos laços duplamente aninhados nas linhas 57 é n porque cada iteração do laço parallel for externo contém n iterações do laço for interno serial A duração do código restante no procedimento é constante e assim a duração é dominada pelos laços duplamente aninhados o que produz uma duração global de n para todo o procedimento Visto que o trabalho é n2 o paralelismo é n2n n O Exercício 2716 pede que você dê uma implementação que tenha paralelismo ainda maior Condições de corrida Um algoritmo multithread é determinístico se sempre faz a mesma coisa na mesma entrada não importando como as instruções são escalonadas no computador multinúcleo É não determinístico se seu comportamento pode variar de execução para execução Muitas vezes um algoritmo multithread que deveria ser determinístico deixa de ser porque contém uma corrida de determinância Condições de corrida são os venenos da concorrência Entre os bugs famosos de corrida citamos o aparelho de radioterapia Therac25 que matou três pessoas e feriu várias outras e o blecaute que ocorreu nos Estados Unidos em 2003 que deixou mais de 50 milhões de pessoas sem energia elétrica Esses bugs perniciosos são notoriamente difíceis 1 2 3 de descobrir Você pode executar testes em laboratório dias a fio sem ocorrer nenhuma falha só para descobrir que seu software quebra esporadicamente em campo Uma corrida de determinância ocorre quando duas instruções logicamente paralelas acessam a mesma localização de memória e no mínimo uma das instruções faz uma gravação O seguinte procedimento ilustra a condição de corrida Após inicializar x como 0 na linha 1 RACEEXAMPLE cria duas fibras paralelas e cada uma incrementa x na linha 3 Embora aparentemente RACEEXAMPLE deva sempre imprimir o valor 2 sua serialização certamente o faz poderia imprimir o valor 1 Vamos ver como essa anomalia poderia ocorrer Quando um processador incrementa x a operação não é indivisível mas é composta por uma sequência de instruções Leia x da memória para um dos registradores do processador Incremente o valor no registrador Grave o valor no registrador de volta em x na memória A Figura 275a ilustra um gad de computação que representa a execução de RACEEXAMPLE com as fibras decompostas em instruções individuais Lembrese de que como um computador paralelo ideal suporta consistência sequencial podemos ver a execução paralela de um algoritmo multithread como uma intercalação de instruções que respeita as dependências no gad A parte b da figura mostra os valores em uma execução da computação que revela a anomalia O valor x é armazenado na memória e r1 e r2 são registradores de processador Na etapa 1 um dos processadores atribui 0 a x Nas etapas 2 e 3 o processador 1 lê x da memória para seu registrador r1 e o incrementa produzindo o valor 1 em r1 Nesse ponto o processador 2 entra em cena e executa as instruções 46 O processador 2 lê x da memória para o registrador r2 incrementa o registrador produzindo o valor 1 em r2 depois armazena esse valor em x definindo x como 1 Agora o processador 1 retoma a etapa 7 armazenando o valor 1 em r1 em x o que deixa o valor de x inalterado Portanto a etapa 8 imprime o valor 1 em vez de 2 como a serialização imprimiria Podemos ver o que aconteceu Se o efeito da execução paralela fosse que o processador 1 executa todas as suas instruções antes do processador 2 o valor 2 seria impresso Ao contrário se o efeito fosse que o processador 2 executa todas as suas instruções antes do processador 1 o valor 2 ainda seria impresso Contudo quando as instruções dos dois processadores são executadas ao mesmo tempo é possível como nesse exemplo de execução que uma das atualizações para x seja perdida É claro que muitas das execuções não expõem o bug Por exemplo se a ordem da execução fosse 1 2 3 7 4 5 6 8 ou 1 4 5 6 2 3 7 8 obteríamos o resultado correto Esse é o problema das corridas de determinância Em geral a maioria das ordenações produz resultados corretos como qualquer uma na qual as instruções à esquerda são executadas antes das instruções à direita ou viceversa Porém algumas ordenações geram resultados impróprios quando as instruções se intercalam Consequentemente pode ser muito difícil testar corridas Você pode executar testes dias a fio e nunca ver o bug só para sofrer uma catastrófica queda do sistema em campo quando o resultado é crítico Figura 275 Ilustração da corrida de determinância em RACEEXAMPLE a Um gad de computação que mostra as dependências entre instruções individuais Os registradores do processador são r1 e r2 Instruções não relacionadas com a corrida como a implementação de controle de laço são omitidas b Uma sequência de execução que revela o bug mostrando os valores de x na memória e nos registradores r1 e r2 para cada etapa na sequência de execução Embora haja vários modos possíveis de enfrentar corridas incluindo utilizar travas de exclusão mútua e outros métodos de sincronização para a nossa finalidade simplesmente garantiremos que filamentos que funcionam em paralelo são independentes não existe nenhuma corrida de determinância entre eles Assim em um constructo parallel for todas as iterações devem ser independentes Entre uma spawn e a sync correspondente o código do filho gerado deve ser independente do código do pai incluindo código executado por filho adicional gerado ou chamado Observe que argumentos para um filho gerado são avaliados no pai antes de ocorrer a geração propriamente dita e assim a avaliação de argumentos para uma subrotina gerada é em série com quaisquer acessos àqueles argumentos após a geração Como exemplo que mostra como é fácil gerar código com corridas apresentamos uma implementação defeituosa de multiplicação multithread de matriz por vetor que alcança uma duração de lg n pela paralelização do laço for interno Infelizmente esse procedimento é incorreto por causa de corridas na atualização yi na linha 7 que é executada concorrentemente para todos os n valores de j O Exercício 2716 pede que você dê uma implementação correta com duração lg n 2711 2712 2713 2714 Às vezes um algoritmo multithread com corridas pode estar correto Como exemplo dois threads paralelos poderiam armazenar o mesmo valor em uma variável compartilhada e não importaria qual armazenaria o valor antes Todavia em geral consideraremos códigos com corridas ilegais Uma aula de xadrez Concluímos esta seção com uma história verdadeira que ocorreu durante o desenvolvimento do programa multithread de classe mundial para jogar xadrez denominado Socrates 81 embora os tempos a seguir tenham sido simplificados para essa demonstração O programa foi prototipado em um computador com 32 processadores mas afinal era para ser executado em um supercomputador com 512 processadores A certa altura os desenvolvedores incorporaram uma otimização no programa que reduzia seu tempo de execução em relação a um importante padrão de comparação estabelecido na máquina de 32 processadores de T32 65 segundos a T32 40 segundos No entanto os desenvolvedores usaram as medidas de desempenho de trabalho e duração para concluir que a versão otimizada que era mais rápida com 32 processadores na verdade seria mais lenta que a versão original com 512 processadores O resultado é que eles abandonaram essa otimização Apresentamos a seguir a análise que eles fizeram A versão original do programa tinha trabalho T1 2048 segundos e duração T 1 segundo Se tratarmos a desigualdade 274 como uma equação TP T1P T e a usarmos como uma aproximação para o tempo de execução com P processadores veremos que de fato T32 204832 1 65 Com a otimização o trabalho tornouse T1 1024 segundos e a duração tornouse T 8 segundos Utilizando novamente nossa aproximação obtemos T32 102432 8 40 Todavia as velocidades relativas das duas versões mudam quando calculamos os tempos de execução com 512 processadores Em particular temos T512 2048512 1 5 segundos e T512 1024512 8 10 segundos Então a otimização que acelerou o programa com 32 processadores faria com que o programa ficasse duas vezes mais lento com 512 processadores A duração 8 da versão otimizada que não era o termo dominante no tempo de execução com 32 processadores tornouse o termo dominante com 512 processadores anulando a vantagem de utilizar mais processadores A moral da história é que trabalho e duração podem nos dar um modo melhor de extrapolar desempenho que tempos de execução medidos Exercícios Suponha que geramos PFIBn 2 na linha 4 de PFIB em vez de chamála como é feito no código Qual é o impacto no trabalho na duração e no paralelismo assintóticos Desenhe o gad de computação que resulta de executar PFIB5 Considerando que cada fibra na computação demora tempo unitário quais são o trabalho a duração e o paralelismo da computação Mostre como escalonar o gad em três processadores utilizando escalonamento guloso rotulando cada filamento com a etapa de tempo na qual é executado Prove que um escalonador guloso consegue o seguinte limite de tempo que é ligeiramente mais forte que o limite provado no Teorema 271 Construa um gad de computação para o qual uma execução de um escalonador guloso pode demorar quase duas vezes o tempo de uma outra execução de um escalonador guloso com o mesmo número de processadores Descreva como ocorreriam as duas execuções 2715 2716 2717 2718 2719 272 A professora Karan mede seu algoritmo multithread determinístico com 4 10 e 64 processadores de um computador paralelo ideal utilizando um escalonador guloso Diz ela que as três execuções produziram T4 80 segundos T10 42 segundos e T64 10 segundos Demonstre que a professora está mentindo ou é incompetente Sugestão Use a lei do trabalho 272 a lei da duração 273 e a desigualdade 275 do Exercício 2713 Dê um algoritmo multithread para multiplicar uma matriz n n por um nvetor que consegue paralelismo n2lg n mantendo ao mesmo tempo trabalho n2 Considere o seguinte pseudocódigo multithread para transpor uma matriz n n A no lugar Analise o trabalho a duração e o paralelismo desse algoritmo Suponha que substituímos o laço parallel for na linha 3 de PTRANSPOSE veja o Exercício 2717 por um laço for comum Analise o trabalho a duração e o paralelismo do algoritmo resultante Para quantos processadores as duas versões dos programas de jogo de xadrez são executadas com a mesma rapidez considerando que TP T1P T MULTIPLICAÇÃO MULTITHREAD DE MATRIZES Nesta seção examinamos como aplicar multithread a uma multiplicação de matrizes um problema cujo tempo de execução serial estudamos na Seção 42 Examinaremos algoritmos multithread baseados no laçopadrão triplamente aninhado bem como em algoritmos de divisão e conquista Multiplicação multithread de matrizes O primeiro algoritmo que estudamos é o algoritmo direto baseado na paralelização dos laços no procedimento SQUAREMATRIXMULTIPLY na página 75 Para analisar esse algoritmo observe que como a serialização do algoritmo é exatamente SQUAREMATRIXMULTIPLY o trabalho é portanto simplesmente T1n n3 igual ao tempo de execução de SQUAREMATRIXMULTIPLY A duração é Tn n porque segue um caminho que desce pela árvore de recursão para o laço parallel for que começa na linha 3 depois desce pela árvore de recursão para o laço parallel for que começa na linha 4 e executa todas as n iterações do laço for comum que começa na linha 6 resultando em duração total de lg n lg n n n Assim o paralelismo é n3n n2 O Exercício 2723 pede que se paralelize o laço interno para obter um paralelismo de n3lg n o que não se pode fazer diretamente utilizando parallel for porque criaria corridas Algoritmo multithread de divisão e conquista para multiplicação de matrizes Como aprendemos na Seção 42 podemos multiplicar matrizes n n serialmente no tempo nlg 7 On281 utilizando a estratégia de divisão e conquista de Strassen que nos motiva a considerar a aplicação de multithread a tal algoritmo Começamos como fizemos na Seção 42 com a aplicação de multithread a um algoritmo de divisão e conquista mais simples Lembrese de que vimos na Seção 42 que o procedimento SQUAREMATRIXMULTIPLYRECURSIVE que multiplica duas matrizes n n A e B para produzir a matriz n n C recorre ao particionamento de cada uma das três matrizes em quatro submatrizes n 2 n 2 Então podemos escrever o produto de matrizes como Assim para multiplicar duas matrizes n n efetuamos oito multiplicações de matrizes n 2 n 2 e uma adição de matrizes n n O pseudocódigo apresentado a seguir implementa essa estratégia de divisão e conquista utilizando paralelismo aninhado Diferentemente do procedimento SQUAREMATRIXMULTIPLYRECURSIVE no qual é baseado PMATRIXMULTIPLYRECURSI VE adota a matriz de saída como parâmetro para evitar alocar matrizes desnecessariamente A linha 3 trata do casobase onde estamos multiplicando matrizes 1 1 Tratamos o caso recursivo nas linhas 4 17 Alocamos uma matriz temporária T na linha 4 e a linha 5 particiona cada uma das matrizes A B C e T em submatrizes n 2 n 2 Como ocorre com SQUAREMATRIXMULTIPLYRECURSIVE na Seção 42 atenuamos a questão de menor importância que é como usar cálculos de índices para representar seções de submatriz de uma matriz A chamada recursiva na linha 6 define a submatriz C11 como o produto de submatrizes A11B11 de modo que C11 é igual ao primeiro dos dois termos que formam sua soma na equação 276 De modo semelhante as linhas 79 definem C12 C21 e C22 como o primeiro dos dois termos que são iguais às suas somas na equação 276 A linha 10 define a submatriz T11 como o produto de submatrizes A12B21 de modo que T11 é igual ao segundo dos dois termos que formam a soma de C11 As linhas 1113 definem T12 T21 e T22 como o segundo dos dois termos que formam a soma de C12 C21 e C22 respectivamente As primeiras sete chamadas recursivas são geradas e a última é executada na fibra principal A declaração sync na linha 14 garante que todos os subprodutos de matrizes nas linhas 613 foram calculados depois disso acrescentamos os produtos de T em C utilizando os laços parallel for duplamente aninhados nas linhas 1517 Primeiro analisamos o trabalho M1n do procedimento PMATRIXMULTIPLYRECURSIVE ecoando a análise do tempo de execução serial de seu progenitor SQUAREMATRIXMULTIPLYRECURSIVE No caso recursivo particionamos no tempo 1 executamos oito multiplicações recursivas de matrizes n 2 n 2 e encerramos com o trabalho n2 resultante da soma de duas matrizes n n Assim a recorrência para o trabalho M1n é pelo caso 1 do teorema mestre Em outras palavras o trabalho de nosso algoritmo multithread é assintoticamente o mesmo que o tempo de execução do procedimento SQUAREMATRIXMULTIPLY na Seção 42 com seus laços triplamente aninhados Para determinar a duração Mn de PMATRIXMULTIPLYRECURSIVE primeiro observamos que a duração para particionamento é 1 que é dominado pela duração lg n do laço parallel for duplamente aninhado nas linhas 1517 Como todas as oito chamadas recursivas paralelas são executadas em matrizes do mesmo tamanho a duração máxima para qualquer chamada recursiva é exatamente a duração de qualquer uma Por consequência a recorrência para a duração M1n de PMATRIXMULTIPLYRECURSIVE é 1 2 3 4 2721 2722 2723 2724 2725 Essa recorrência não se enquadra em nenhum dos casos do teorema mestre mas obedece à condição do Exercício 462 Portanto pelo Exercício 462 a solução para a recorrência 277 é Mn lg2 n Agora que conhecemos o trabalho e a duração de PMATRIXMULTIPLYRECURSIVE podemos calcular seu paralelismo como M1nMn n3 lg2 n que é muito alto Aplicar multithread ao método de Strassen Para aplicar multithread ao algoritmo de Strassen seguimos as mesmas linhas gerais da página 79 só que utilizando paralelismo aninhado Divida as matrizes de entrada A e B e a matriz de saída C em submatrizes n 2 n 2 como na equação 276 Essa etapa demora trabalho 1 e duração por cálculo de índice Crie 10 matrizes S1 S2 S10 cada uma delas sendo n 2 n 2 e a soma ou diferença das duas matrizes criadas na etapa 1 Podemos criar todas as 10 matrizes com trabalho n2 e duração lg n utilizando laços parallel for duplamente aninhados Utilizando as submatrizes criadas na etapa 1 e as 10 matrizes criadas na etapa 2 gere recursivamente a computação dos sete produtos de matrizes n 2 n 2 P1P2 P7 Calcule as submatrizes desejadas C11 C12 C21 C22 da matriz de resultados C somando e subtraindo várias combinações das Pi matrizes utilizando mais uma vez laços parallel for duplamente aninhados Podemos calcular todas as quatro submatrizes com trabalho n2 e duração lg n Para analisar esse algoritmo primeiro observamos que a serialização é igual à do algoritmo serial original e o trabalho é exatamente o tempo de execução da serialização isto é nlg 7 Quanto a PMATRIXMULTIPLYRECURSIVE podemos criar uma recorrência para a duração Nesse caso sete chamadas recursivas são executadas em paralelo porém visto que todas elas funcionam em matrizes do mesmo tamanho obtemos a mesma recorrência 277 que obtivemos para PMATRIXMULTIPLYRECURSIVE que tem solução lg2 n Assim o paralelismo do método multithread de Strassen é nlg 7 lg2 n que é alto embora ligeiramente menor que o paralelismo de PMATRIXMULTIPLYRECURSIVE Exercícios Desenhe o gad de computação para calcular PSQUAREMATRIXMULTIPLY de matrizes 22 identificando como os vértices em seu diagrama correspondem a fibras na execução do algoritmo Use a seguinte convenção arestas geradas e arestas de chamada apontam para baixo arestas de continuação apontam para a direita na horizontal e arestas de retorno apontam para cima Supondo que cada fibra demora tempo unitário analise o trabalho a duração e o paralelismo dessa computação Repita o Exercício 2721 para PMATRIXMULTIPLYRECURSIVE Dê pseudocódigo para um algoritmo multithread que multiplica duas matrizes n n com trabalho n3 mas duração de somente lg n Analise seu algoritmo Dê pseudocódigo para um algoritmo multithread eficiente que multiplica uma matriz p q por uma matriz q r Seu algoritmo deve ter alto grau de paralelismo mesmo se qualquer das p q e r for 1 Analise seu algoritmo Dê pseudocódigo para um algoritmo multithread eficiente que transponha uma matriz n n no local utilizando divisão e conquista para dividir a matriz recursivamente em quatro submatrizes n 2 n 2 Analise seu algoritmo 2726 273 Dê pseudocódigo para uma implementação multithread eficiente do algoritmo de FloydWarshall veja a Seção 252 que calcula caminhos mínimos entre todos os pares de vértices em um grafo de arestas ponderadas Analise seu algoritmo ORDENAÇÃO POR INTERCALAÇÃO MULTITHREAD Primeiro vimos ordenação por intercalação serial na Seção 231 e na Seção 232 analisamos seu tempo de execução e mostramos que é n lg n Como a ordenação por intercalação já usa o paradigma de divisão e conquista parece ser uma candidata espetacular para multithread por paralelismo aninhado É fácil modificar o pseudocódigo para gerar a primeira chamada recursiva Como sua contraparte serial MERGESORT ordena o subarranjo Ap r Após a conclusão das duas subrotinas recursivas nas linhas 3 e 4 garantida pela declaração sync na linha 5 MERGESORT chama o mesmo procedimento MERGE chamado na página 31 Vamos analisar MERGESORT Para tal primeiro precisamos analisar MERGE Lembrese de que seu tempo de execução serial para intercalar n elementos é n Como MERGE é serial seu trabalho bem como sua duração são n Assim a seguinte recorrência caracteriza o trabalho MS1n de MERGESORT para n elementos que é igual ao tempo de execução serial de ordenação por intercalação Visto que as duas chamadas recursivas de MERGESORT podem ser executadas em paralelo a duração MS é dada pela recorrência Assim o paralelismo de MERGESORT chega a MS1nMSn lg n que não é um grau impressionante de paralelismo Para ordenar 10 milhões de elementos por exemplo ele poderia alcançar fator de aceleração linear com um pequeno número de processadores mas a escala não aumentaria efetivamente com centenas de processadores É provável que você já tenha uma ideia de onde se encontra o gargalo do paralelismo nessa ordenação por intercalação multithread o procedimento serial MERGE Embora de início a intercalação pareça ser inerentemente serial na verdade podemos criar uma versão multithread dela utilizando paralelismo aninhado Nossa estratégia de divisão e conquista para intercalação multithread que é ilustrada na Figura 276 funciona em subarranjos de um arranjo T Suponha que estejamos intercalando os dois subarranjos ordenados T p1 r1 de comprimento n1 r1 p1 1 e T p2 r2 de comprimento n2 r2 p2 1 em um outro subarranjo Ap3 r3 de comprimento n3 r3 p3 1 n1 n2 Sem perda de generalidade adotamos a hipótese simplificadora n1 n2 Em primeiro lugar determinamos o elemento do meio x T q1 do subarranjo T p1 r1 onde q1 p1 r12 Como o subarranjo está ordenado x é uma mediana de T p1 r1 nenhum elemento em T p1 q1 1 é maior que 1 2 3 4 x e nenhum elemento em T q1 1 r1 é menor que x Então usamos busca binária para encontrar o índice q2 no subarranjo T p2 r2 de modo que o subarranjo ainda estaria ordenado se inseríssemos x entre T q2 1 e T q2 Figura 276 A ideia que fundamenta a intercalação multithread de dois subarranjos ordenados T p1 r1 e T p2 r2 para o subarranjo Ap3 r3 Fazendo x T q1 a mediana de T p1 r1 e q2 o lugar em T p2 r2 tal que x cairia entre T q2 1 e T q2 todo elemento nos subarranjos T p1 q1 1 e T p2 q2 1 sombreado em tom mais claro é menor ou igual a x e todo elemento nos subarranjos T q1 1 r1 e T q2 1 r2 sombreado em tom mais escuro é no mínimo x Para intercalar calculamos o índice q3 do local em Ap3 r3 ao qual x pertence copiamos x para Aq3 e então intercalamos recursivamente T p1 q1 1 com T p2 q2 1 em Ap3 q3 1 e T q1 1 r1 com T q2 r2 em Aq3 1 r3 Em seguida intercalamos os subarranjos originais T p1 r1 e T p2 r2 em Ap3 r3 da seguinte maneira Defina q3 p3 q1 p1 q2 p2 Copie x para Aq3 Intercale recursivamente T p1 q1 1 com T p2 q2 1 e coloque o resultado no subarranjo Ap3 q3 1 Ordene recursivamente T q1 1 r1 com T q2 r2 e coloque o resultado no subarranjo Aq3 1 r3 Quando calculamos q3 a quantidade q1p1 é o número de elementos no subarranjo T p1 q1 1 e a quantidade q2 p2 é o número de elementos no subarranjo T p2 q2 1 Assim a soma das duas é o número de elementos que acabam ficando antes de x no subarranjo Ap3 r3 O casobase ocorre quando n1 n2 0 e não temos nenhum trabalho a fazer para intercalar os dois subarranjos vazios Visto que supomos que o subarranjo T p1 r1 é no mínimo tão comprido quanto T p2 r2 isto é n1 n2 para verificar se é o casobase basta verificar se n1 0 Devemos também garantir que a recursão trate adequadamente do caso em que um dos dois subarranjos é vazio o qual como supomos que n1 n2 deve ser o subarranjo T p2 r2 Agora vamos passar essas ideias para pseudocódigo Começamos com a busca binária que expressamos serialmente O procedimento BINARYSEARCHx T p r toma uma chave x e um subarranjo T p r e retorna um dos seguintes Se T p r é vazio r p então ele devolve o índice p Se x T p e por consequência menor ou igual a todos os elementos de T p r então ele devolve o índice p Se x T p então ele devolve o maior índice q na faixa p q r 1 tal que T q 1 x Este é o pseudocódigo A chamada BINARYSEARCHx T p r demora tempo serial lg n no pior caso onde n r p 1 é o tamanho do subarranjo no qual ela é executada veja o Exercício 235 Visto que BINARYSEARCH é um procedimento serial o trabalho e a duração de seu pior caso são lg n Agora estamos preparados para escrever pseudocódigo para o procedimento de intercalação multithread em si Como o procedimento MERGE na página 31 o procedimento PMERGE supõe que os dois subarranjos que devem ser intercalados encontramse no mesmo arranjo Entretanto diferentemente de MERGE PMERGE não supõe que os dois subarranjos que devem ser intercalados são adjacentes dentro do arranjo isto é PMERGE não requer que p2 r1 1 Uma outra diferença entre MERGE e PMERGE é que PMERGE adota como argumento um subarranjo de saída A no qual os valores intercalados devem ser armazenados Uma chamada PM E RG E T p1 r1 p2 r2 A p3 intercala os subarranjos ordenados T p1 r1 e T p2 r2 no subarranjo Ap3 r3 onde r3 p3 r1 p1 1 r2 p2 1 1 p3 r1 p1 r2 p2 1 e não é dado como uma entrada O procedimento PMERGE funciona da seguinte maneira as linhas 12 calculam os comprimentos n1 e n2 dos subarranjos T p1 r1 e T p2 r2 respectivamente As linhas 36 forçam a condição n1 n2 A linha 7 testa se é o casobase onde o subarranjo T p1 r1 é vazio e por consequência também T p2 r2 é vazio caso em que simplesmente retornamos As linhas 915 implementam a estratégia de divisão e conquista A linha 9 calcula o ponto do meio de T p1 r1 e a linha 10 encontra o ponto q2 em T p2 r2 tal que todos os elementos em T p2 q2 1 são menores que T q1 que corresponde a x e todos os elementos em T q2 r2 são no mínimo tão grandes quanto T q1 A linha 11 calcula o índice q3 do elemento que divide o subarranjo de saída Ap3 r3 em Ap3 q3 1 e Aq3 1 r3 e então a linha 12 copia T q1 diretamente para Aq3 Então executamos recursão utilizando paralelismo aninhado A linha 13 gera o primeiro subproblema enquanto a linha 14 chama o segundo subproblema em paralelo A declaração sync na linha 15 garante que os subproblemas estão concluídos antes de o procedimento retornar Visto que todo procedimento implicitamente executa sync antes de retornar poderíamos ter omitido a declaração sync na linha 15 mas incluíla é boa prática de codificação Há certa esperteza na codificação para garantir que quando o subarranjo T p2 r2 é vazio o código funciona corretamente O modo como funciona é que em cada chamada recursiva um elemento mediana de T p1 r1 é colocado no subarranjo de saída até que o próprio T p1 r1 finamente se torna vazio o que aciona o casobase Análise de intercalação multithread Primeiro deduzimos uma recorrência para a duração PMn de PMERGE onde os dois subarranjos contêm um total de n n1n2 elementos Como a geração na linha 13 e a chamada na linha 14 funcionam logicamente em paralelo basta examinar somente a chamada que custa mais A chave é entender que no pior caso o número de elementos em qualquer das chamadas recursivas pode ser no máximo 3n4 o que verificamos da seguinte maneira como as linhas 36 garantem que n2 n1 decorre que n2 2n22 n1 n22 n2 No pior caso uma das duas chamadas recursivas intercala n12 elementos de T p1 r1 com todos os n2 elementos de T p2 r2 e por consequência o número de elementos envolvidos na chamada é Somando também o custo lg n da chamada a BINARYSEARCH na linha 10 obtemos a seguinte recorrência para a duração do pior caso Para o casobase a duração é 1 visto que as linhas 18 são executadas em tempo constante Essa recorrência não se enquadra em nenhum dos casos do teorema mestre mas cumpre a condição do Exercício 462 Portanto a solução para a recorrência 278 é PM1n lg2 n Agora analisamos o trabalho PM1n de PMERGE para n elementos que é n Visto que cada um dos n elementos deve ser copiado do arranjo T para o arranjo A temos PMn n Assim resta apenas mostrar que PM1n On Primeiro deduziremos uma recorrência para o trabalho do pior caso A busca binária na linha 10 custa lg n no pior caso que domina o outro trabalho fora das chamadas recursivas Para as chamadas recursivas observe que se bem que as chamadas nas linhas 13 e 14 poderiam intercalar quantidades diferentes de elementos as duas chamadas recursivas juntas intercalam no máximo n elementos na verdade n 1 elementos visto que T q1 não participa de qualquer das duas chamadas recursivas Além disso como vimos na análise da duração uma chamada recursiva funciona para no máximo 3n4 elementos Portanto obtemos a recorrência onde α encontrase na faixa 14 α 34 e entendemos que o valor propriamente dito de α pode variar para cada nível de recursão Provamos que a recorrência 279tem solução PM1 On por meio do método de substituição Suponha que PM1n c1n c2 lg n para algumas constantes positivas c1 e c2 Substituindo temos visto que podemos escolher c2 grande o suficiente para que c2lg n lgα1 α domine o termo lg n Ainda mais podemos escolher c1 grande o suficiente para satisfazer as condiçõesbase da recorrência Visto que o trabalho PM1n de PMERGE É n e On temos PM1n n O paralelismo de PMERGE é PM1nPMn nlg2 n Ordenação por intercalação multithread Agora que temos um procedimento multithread de intercalação minuciosamente paralelizado podemos incorporá lo a uma ordenação por intercalação multithread Essa versão da ordenação por intercalação é semelhante ao procedimento MERGESORT que já vimos porém diferentemente de MERGESORT adota como argumento um subarranjo de saída B que conterá o resultado ordenado Em particular a chamada PMERGESORTA p r B s ordena os elementos em Ap r e os armazena em Bs s r p Após a linha 1 calcular o número n de elementos no subarranjo de entrada Ap r as linhas 23 tratam o caso base quando o arranjo tem somente um elemento As linhas 46 se preparam para a geração recursiva na linha 7 e chamam na linha 8 que funciona em paralelo Em particular a linha 4 aloca um arranjo temporário T com n elementos para armazenar os resultados da ordenação por intercalação recursiva A linha 5 calcula o índice q de Ap r para dividir os elementos nos dois subarranjos Ap q e Aq 1 r que serão ordenados recursivamente e a linha 6 continua e passa a calcular o número q de elementos no primeiro subarranjo Ap q que a linha 8 usa para determinar o índice inicial em T referente ao lugar onde será armazenado o resultado ordenado de Aq 1 r Nesse ponto a geração e a chamada recursiva são executadas seguidas pela sync na linha 9 que obriga o procedimento a esperar até que o procedimento gerado termine Finalmente a linha 10 chama PMERGE para intercalar os subarranjos ordenados agora em T1 q e Tq 1 n no subarranjo de saída Bs s r p Análise de ordenação por intercalação multithread Começamos analisando o trabalho PMS1n de PMERGESORT o que é consideravelmente mais fácil do que analisar o trabalho de PMERGE De fato o trabalho é dado pela recorrência 2731 2732 2733 2734 2735 2736 Essa recorrência é igual à recorrência 44 para MERGESORT comum dada na Seção 231 e tem solução PMS1n n lg n pelo caso 2 do teorema mestre Agora deduzimos e analisamos uma recorrência para a duração do pior caso PMSn Como as duas chamadas recursivas a PMERGESORT nas linhas 7 e 8 funcionam logicamente em paralelo podemos ignorar uma delas obtendo a recorrência Como ocorre com a recorrência 278 o teorema mestre não se aplica à recorrência 2710 mas o Exercício 462 se aplica A solução é PMS1n lg3 n e assim a duração de PMERGESORT é lg3 n A ordenação paralela dá a PMERGESORT uma vantagem significativa de paralelismo em relação a MERGESORT Lembrese de que o paralelismo de MERGESORT que chama o procedimento serial MERGE é somente lg n Para P MERGESORT o paralelismo é que é muito melhor tanto na teoria quanto na prática Uma boa implementação na prática sacrificaria algum paralelismo por adensar o casobase de modo a reduzir as constantes ocultas pela notação assintótica O modo direto de adensar o casobase é passar para um tipo de ordenação serial talvez quicksort quando o tamanho do arranjo é suficientemente pequeno Exercícios Explique como adensar o casobase de PMERGE Em vez de encontrar o elemento mediana no subarranjo maior como faz PMERGE considere uma variante que encontra um elemento mediana de todos os elementos nos dois subarranjos ordenados utilizando o resultado do Exercício 938 Dê pseudocódigo para um procedimento eficiente de intercalação multithread que usa esse procedimento de encontrar o elemento mediana Analise seu algoritmo Dê um algoritmo multithread eficiente para particionar um arranjo em torno de um pivô como faz o procedimento PARTITION na página 171 Você não precisa particionar o arranjo no lugar Seu algoritmo deve ser o mais paralelo possível Analise seu algoritmo Sugestão Talvez você precise de um arranjo auxiliar e também de fazer mais de uma passagem pelos elementos de entrada Dê uma versão multithread de RECURSIVEFFT na Seção 302 Sua implementação deve ser a mais paralela possível Analise seu algoritmo Dê uma versão multithread de RANDOMIZEDSELECT na Seção 92 Sua implementação deve ser a mais paralela possível Analise seu algoritmo Sugestão Use o algoritmo de particionamento do Exercício 2733 Mostre como aplicar multithread a SELECT da Seção 93 Sua implementação deve ser a mais paralela possível Analise seu algoritmo Problemas 271 a b c 272 a b Implementar laços paralelos utilizando paralelismo aninhado Considere o seguinte algoritmo multithread para efetuar adição aos pares em arranjos de n elementos A1 n e B1 n armazenando as somas em C1 n Reescreva o laço paralelo em SUMARRAYS utilizando paralelismo aninhado spawn e sync à maneira de MATVECMAINLOOP Analise o paralelismo de sua implementação Considere a seguinte implementação alternativa do laço paralelo que contém um valor granularidade a ser especificado Suponha que definimos granularidade 1 Qual é o paralelismo dessa implementação Dê a fórmula para a duração de SUMARRAYS em termos de n e granularidade Deduza o melhor valor para granularidade para maximizar paralelismo Economizar espaço temporário em multiplicação de matrizes O procedimento PMATRIXMULTIPLYRECURSIVE apresenta a desvantagem de ter de alocar uma matriz temporária T de tamanho n n o que pode acarretar efeitos adversos nas constantes ocultas pela notação Todavia o procedimento PMATRIXMULTIPLYRECURSIVE realmente tem alto paralelismo Por exemplo ignorando as constantes na notação o paralelismo para multiplicar matrizes 1000 1000 chega a aproximadamente 10003102 107 visto que lg 1000 10 A maioria dos computadores paralelos tem muito menos que 10 milhões de processadores Descreva um algoritmo multithread recursivo que elimine a necessidade da matriz temporária T ao custo de aumentar a duração para n Sugestão Calcule C C AB seguindo a estratégia geral de PMATRIX MULTIPLYRECURSIVE mas inicialize C em paralelo e insira uma sync em uma localização criteriosamente escolhida Dê e resolva recorrências para o trabalho e duração de sua implementação c 273 a b c d 274 a Analise o paralelismo de sua implementação Ignorando as constantes na notação estime o paralelismo em matrizes 1000 1000 Compare com o paralelismo de PMATRIXMULTIPLYRECURSIVE Algoritmos multithread com matrizes Paralelize o procedimento LUDECOMPOSITION na Seção 281 dando pseudocódigo para uma versão multithread desse algoritmo Sua implementação deve ser a mais paralela possível analise seu trabalho duração e paralelismo Faça o mesmo para LUPDECOMPOSITION Faça o mesmo para LUPSOLVE Faça o mesmo para um algoritmo multithread baseado na equação 2813 para inverter uma matriz simétrica definida positiva Multithread aplicado a reduções e cálculos de prefixo Uma redução de um arranjo x1 n onde é um operador associativo é o valor O seguinte procedimento calcula serialmente a redução de um subarranjo xi j Use paralelismo aninhado para implementar um algoritmo multithread PREDUCE que executa a mesma função com trabalho n e duração lg n Analise seu algoritmo Um problema relacionado é o de calcular uma computação prefixo às vezes denominada scan em um arranjo x1 n onde é novamente um operador associativo A scan produz o arranjo 1 n dado por isto é todos os prefixos do arranjo x somados utilizando o operador O seguinte procedimento serial SCAN executa uma computação prefixo b c Infelizmente aplicar multithread a SCAN não é direto Por exemplo mudar o laço for para um laço parallel for criaria corridas visto que cada iteração do corpo do laço depende da iteração anterior O seguinte procedimento PSCAN1 executa a computação prefixo em paralelo se bem que ineficientemente Analise o trabalho duração e paralelismo de PSCAN1 Utilizando paralelismo aninhado podemos obter uma computação prefixo mais eficiente Demonstre que PSCAN2 é correto e analise seu trabalho duração e paralelismo d e 275 Podemos melhorar PSCAN1 e PSCAN2 executando a computação prefixo em duas passagens distintas pelos dados Na primeira passagem reunimos os termos para vários subarranjos contíguos de x em um arranjo temporário t e na segunda passagem usamos os termos em t para calcular o resultado final y O seguinte pseudocódigo implementa essa estratégia mas certas expressões foram omitidas Preencha as três expressões que faltam na linha 8 de PSCANUP e nas linhas 5 e 6 de PSCANDOWN Demonstre que com as expressões que você deu PSCAN3 é correto Sugestão Prove que o valor v passado para PSCANDOWNv x t y i j satisfaz v x1 x2 xi 1 Analise o trabalho a duração e o paralelismo de PSCAN3 Multithread aplicado a um cálculo simples com estêncil A ciência da computação está repleta de algoritmos que exigem que as entradas de um arranjo sejam preenchidas com valores que dependem dos valores já calculados de certas entradas vizinhas juntamente com outras informações que não mudam no curso da computação O padrão de entradas vizinhas não muda durante a computação e é denominado estêncil Por exemplo a Seção 154 apresenta um algoritmo estêncil para calcular uma subsequência comum mais longa onde o valor na entrada ci j depende somente dos valores em ci 1 j ci j 1 e ci 1 j 1 bem como dos elementos xi e yj dentro das duas sequências dadas como entradas As sequências de entrada são fixas mas o algoritmo preenche o arranjo bidimensional a b c d 276 c de modo a calcular a entrada ci j após calcular todas as três entradas ci1 j ci j 1 e ci 1 j 1 Nesse problema examinamos como usar paralelismo aninhado para aplicar multithread a cálculo simples com estêncil em um arranjo n n A no qual dos valores em A o valor colocado dentro da entrada Ai j depende somente dos valores em Ai j onde i i e j j e é claro i i ou j j Em outras palavras o valor em uma entrada depende somente dos valores em entradas que estão acima dele ou à sua esquerda juntamente com a informação estática que está fora do arranjo Além disso supomos em todo esse problema que uma vez preenchidas as entradas das quais Ai j depende podemos preencher Ai j no tempo 1 como no procedimento LCSLENGTH da Seção 154 Podemos particionar o arranjo n n A em quatro subarranjos n2 n2 da seguinte maneira Observe agora que podemos preencher o subarranjo A11 recursivamente visto que ele não depende das entradas dos outros três subarranjos Uma vez completado A11 podemos continuar a preencher A12 e A21 recursivamente em paralelo porque embora ambos dependam de A11 não dependem um do outro Por fim podemos preencher A22 recursivamente Dê pseudocódigo multithread que execute esses cálculo simples com estêncil utilizando um algoritmo de dividir e conquistar SIMPLESTENCIL baseado na decomposição 2711 e na discussão anterior Não se preocupe com os detalhes do casobase que depende de cada estêncil específico Dê e resolva recorrências para o trabalho e a duração desse algoritmo em termos de n Qual é o paralelismo Modifique sua solução para a parte a para dividir um arranjo n n em nove subarranjos n3 n3 novamente executando recursão com o máximo de paralelismo possível Analise esse algoritmo Mais ou menos quanto paralelismo tem esse algoritmo em comparação com o algoritmo da parte a Generalize suas soluções para as partes a e b da seguinte maneira escolha um inteiro b 2 Divida um arranjo n n em b2 subarranjos cada um de tamanho nb nb executando recursão com o máximo de paralelismo possível Em termos de n e b quais são o trabalho a duração e o paralelismo de seu algoritmo Demonstre que utilizando essa abordagem o paralelismo deve ser on para qualquer escolha de b 2 Sugestão Para este último argumento mostre que o expoente de n no paralelismo é estritamente menor que 1 para qualquer escolha de b 2 Dê pseudocódigo para um algoritmo multithread para esse cálculo simples com estêncil que consiga paralelismo nlg n Demonstre utilizando noções de trabalho e duração que na verdade o problema tem paralelismo inerente n Acontece que a natureza de divisão e conquista do nosso pseudocódigo multithread não nos permite conseguir esse paralelismo máximo Algoritmos multithread aleatorizados Exatamente como ocorre com os algoritmos seriais comuns às vezes queremos implementar algoritmos multithread aleatorizados Este problema explora como adaptar as várias medições de desempenho para tratar o comportamento esperado de tais algoritmos O problema pede também que você projete e analise um algoritmo multithread para quicksort aleatorizada a b c d e Explique como modificar a lei do trabalho 272 a lei da duração 273 e o limite do escalonador guloso 274 para trabalhar com esperanças quando TP T1 e T são variáveis aleatórias Considere um algoritmo multithread aleatorizado para o qual durante 1 do tempo temos T1 104 e T10000 1 mas durante 99 do tempo temos T1 T10000 109 Explique por que o fator de aceleração do algoritmo multithread aleatorizado deve ser definido como E T1 E TP em vez de E T1TP Explique por que o paralelismo de um algoritmo multithread aleatorizado deve ser definido como a razão E T1E T Aplique multithread ao algoritmo RANDOMIZEDQUICKSORT na página 179 utilizando paralelismo aninhado Não paralelize RANDOMIZEDPARTITION Dê o pseudocódigo para seu algoritmo PRANDOMIZEDQUICKSORT Analise seu algoritmo multithread para quicksort aleatorizada Sugestão Revise a análise de RANDOMIZED SELECT na Seção 92 NOTAS DO CAPÍTULO Computadores paralelos modelos para computadores paralelos e modelos algorítmicos para programação paralela estão por aí há anos sob várias formas Edições anteriores deste livro incluíam material sobre redes de ordenação e sobre o modelo PRAM Parallel RandomAccess Machine Máquina Paralela de Acesso Aleatório O modelo de dados paralelos 48 168 é um outro modelo popular de programação algorítmica que apresenta operações com vetores e matrizes como primitivas Graham 149 e Brent 55 mostraram que existem escalonadores que alcançam os limites do Teorema 271 Blumofe e Leiserson 52 mostraram que todo escalonador guloso atinge o limite Blelloch 47 desenvolveu um modelo de programação algorítmica baseado em trabalho e duração que ele denominou profundidade da computação para programação de dados paralelos Blumofe e Leiserson 52 deram um algoritmo de escalonamento distribuído para multithread dinâmico baseado em roubo de trabalho aleatorizado e mostraram que ele alcança o limite E TP T1P OT Arora Blumofe e Plaxton 19 e Blelloch Gibbons e Matias 49 também apresentaram algoritmos provadamente bons para escalonar computações multithread dinâmicas O modelo de pseudocódigo e programação multithread foi muito influenciado pelo projeto Cilk 51 118 do MIT e pelas extensões Cilk 71 de C distribuídas por Cilk Arts Inc Muitos dos algoritmos multithread neste capítulo apareceram em notas não publicadas de conferências realizadas por C E Leiserson e H Prokop e foram implementadas em Cilk ou Cilk O algoritmo multithread de ordenação por intercalação foi inspirado num algoritmo de Akl 12 A noção de consistência sequencial se deve a Lamport 223 N do RT Embora algumas traduções para threads sejam correntes preferimos importar a palavra diretamente somente ela e não suas flexões 281 28 OPERAÇÕES COM MATRIZES Como operações com matrizes encontramse no núcleo da computação científica algoritmos eficientes para trabalhar com matrizes têm muitas aplicações práticas Este capítulo focaliza como multiplicar matrizes e resolver conjuntos de equações lineares simultâneas O Apêndice D dá uma revisão dos fundamentos de matrizes A Seção 281 mostra como resolver um conjunto de equações lineares usando decomposições LUP Em seguida a Seção 282 explora a estreita relação entre multiplicar e inverter matrizes Finalmente a Seção 283 a importante classe de matrizes simétricas positivas definidas e mostra como podemos usálas para determinar uma solução de mínimos quadrados para um conjunto superdeterminado de equações lineares Uma questão importante que surge na prática é a estabilidade numérica Devido à precisão limitada de representações de ponto flutuante em computadores reais erros de arredondamento em computações numéricas podem ser amplificados no curso de uma computação levando a resultados incorretos tais computações são denominadas numericamente instáveis Se bem que faremos breve menção à estabilidade numérica não a abordaremos neste capítulo Para uma discussão completa de questões de estabilidade indicamos o excelente livro de Golub e Van Loan 144 RESOLVENDO SISTEMAS DE EQUAÇÕES LINEARES Numerosas aplicações precisam resolver conjuntos de equações lineares simultâneas Podemos formular um sistema linear como uma equação matricial na qual cada elemento de matriz ou de vetor pertence a um corpo normalmente o dos números reais Esta seção discute como resolver um sistema de equações lineares usando um método denominado decomposição LUP Começamos com um conjunto de equações lineares com n incógnitas x1 x2 xn Uma solução para as equações 281 é um conjunto de valores para x1 x2 xn que satisfaz todas as equações simultaneamente Nesta seção trataremos somente do caso em que há exatamente n equações com n incógnitas Um modo conveniente de expressar as equações 281 é sob a forma de uma equação matricial de vetores ou o que é equivalente escrever A aij x xi e b bi como Se A é não singular possui uma inversa A1 e é o vetor solução Podemos provar que x é a única solução para a equação 282 da seguinte maneira se existem duas soluções x e x então Ax Ax b e denotando uma matriz identidade por I Nesta seção nossa preocupação predominante será o caso em que A é não singular ou o que é equivalente pelo Teorema D1 o posto de A é igual ao número n de incógnitas Contudo existem outras possibilidades que merecem uma breve discussão Se o número de equações é menor que o número n de incógnitas ou de modo mais geral se o posto de A é menor que n o sistema é subdeterminado Normalmente um sistema subdeterminado tem um número infinito de soluções embora possa não ter absolutamente nenhuma solução se as equações são inconsistentes Se o número de equações for maior que o número n de incógnitas o sistema é superdeterminado e é possível que não exista nenhuma solução A Seção 283 aborda o importante problema de determinar boas soluções aproximadas para sistemas superdeterminados de equações lineares Vamos retornar ao nosso problema de resolver o sistema Ax b de n equações com n incógnitas Poderíamos calcular A1 e depois usando a equação 283 multiplicar b por A1 e obter x A1b Na prática essa abordagem sofre de instabilidade numérica Felizmente existe outra abordagem a decomposição LUP que é numericamente estável e tem a vantagem adicional de ser mais rápida na prática Visão geral da decomposição LUP A ideia por trás da decomposição LUP é encontrar três matrizes n n L U e P tais que onde L é uma matriz triangular inferior unitária U é uma matriz triangular superior e P é uma matriz de permutação Denominamos as matrizes L U e P que satisfazem a equação 284 decomposição LUP da matriz A Mostraremos que toda matriz não singular A possui tal decomposição A vantagem de calcular uma decomposição LUP para a matriz A é que é mais fácil resolver sistemas lineares quando as matrizes são triangulares como é o caso das matrizes L e U Uma vez determinada uma decomposição LUP para A podemos resolver a equação 282 Ax b resolvendo somente sistemas lineares triangulares da maneira mostrada a seguir Multiplicando ambos os lados de Ax b por P obtemos a equação equivalente PAx Pb que pelo Exercício D14 equivale a permutar as equações 281 Usando nossa decomposição 284 obtemos LUx Pb Agora podemos resolver essa equação resolvendo dois sistemas lineares triangulares Definimos y Ux onde x é o vetor solução desejado Primeiro resolvemos o sistema triangular inferior para o vetor incógnita y por um método denominado substituição direta Depois de resolvido para y resolvemos o sistema triangular superior para a incógnita x por um método denominado substituição reversa Como a matriz de permutação P é inversível Exercício D23 multiplicamos ambos os lados da equação 284 por P1 dá P1PA P1LU de modo que Por consequência o vetor x é a nossa solução para Ax b Nossa próxima etapa é mostrar como funcionam a substituição direta e a substituição reversa e atacar o problema do cálculo da decomposição LUP Substituição direta e inversa Substituição direta pode resolver o sistema triangular inferior 285 no tempo n2 dados L P e b Por conveniência representamos a permutação P compactamente por um arranjo 1 n Para i 1 2 n a entrada pi indica que Pi pi 1 e Pij 0 para j pi Assim PA tem api na linha i e coluna j e Pb tem bpi como seu iésimo elemento Visto que L é triangular inferior unitária a equação 285 pode ser reescrita como A primeira equação nos diz que y1 bp1 Conhecendo o valor de y1 podemos substituílo na segunda equação o que dá Agora podemos substituir y1 e y2 na terceira equação obtendo Em geral substituímos y1 y2 yi 1 diretamente na iésima equação para resolver para yi Agora que resolvemos para y resolvemos para x na equação 286 usando substituição reversa que é semelhante à substituição direta Aqui resolvemos primeiro a nésima equação e trabalhamos em sentido contrário até a primeira equação Como a substituição direta esse processo é executado no tempo n2 Visto que U é triangular superior podemos reescrever o sistema 286 como Assim podemos resolver sucessivamente para xn xn1 x1 da seguinte maneira ou em geral Dados P L U e b o procedimento LUPSOLVE resolve para x combinando substituição direta e substituição reversa O pseudocódigo considera que a dimensão n aparece no atributo Llinhas e que a matriz de permutação P é representada pelo arranjo p O procedimento LUPSOLVE resolve para y usando substituição direta nas linhas 34 e depois resolve para x usando substituição inversa nas linhas 56 Visto que o somatório dentro de cada um dos laços for inclui um laço implícito o tempo de execução é n2 Como exemplo desses métodos considere o sistema de equações lineares definido por onde que desejamos resolver para a incógnita x A decomposição LUP é Seria interessante você verificar que PA LU Usando substituição direta resolvemos Ly Pb para y e obtemos calculando primeiro y1 depois y2 e finalmente y3 Usando substituição inversa resolvemos Ux y para x obtendo assim a resposta desejada calculando primeiro x3 depois x2 e finalmente x1 Calculando uma decomposição LU Agora já mostramos que se podemos criar uma decomposição LUP para uma matriz não singular A substituição direta e substituição inversa podem resolver o sistema Ax b de equações lineares Agora mostraremos como calcular eficientemente uma decomposição LUP para A Começamos com o caso no qual A é uma matriz não singular n n e P está ausente ou o que é equivalente P In Nesse caso fatoramos A LU Denominamos as duas matrizes L e U decomposição LU de A Usamos um processo conhecido como método de eliminação de Gauss para criar uma decomposição LU Começamos subtraindo múltiplos da primeira equação das outras equações para eliminar a primeira variável dessas equações Então subtraímos múltiplos da segunda equação da terceira equação e das equações subsequentes de modo que agora a primeira e a segunda variáveis são eliminadas dessas equações Continuamos esse processo até que o sistema remanescente tenha forma triangular superior na verdade ele é a matriz U A matriz L é formada pelos multiplicadores de linha que provocam a eliminação de variáveis Nosso algoritmo para implementar essa estratégia é recursivo Desejamos construir uma decomposição LU para uma matriz não singular n n A Se n 1 terminamos já que podemos escolher L I1 e U A Para n 1 dividimos A em quatro partes onde v v2 v3 vn a21 a31 an1 é um n 1vetor coluna wT w2 w3 wnT a12 a13 a1nT é um n 1vetor linha e A é uma matriz n 1 n 1 Então usando álgebra de matrizes verifique as equações simplesmente efetuando as multiplicações podemos fatorar A como Os zeros na primeira e na segunda matrizes da equação 288 são n 1vetores linha e coluna respectivamente O termo vwTa 11 formado tomando o produto externo de v e w e dividindo cada elemento do resultado por a11 é uma matriz n 1 n 1 que corresponde em tamanho à matriz A da qual ela é subtraída A matriz n 1 n 1 resultante é denominada complemento de Schur de A em relação a a11 Afirmamos que se A é não singular o complemento de Schur também é não singular Por quê Suponha que o complemento de Schur que é n 1 n 1 seja singular Então pelo Teorema D1 ele tem posto linha estritamente menor que n 1 Como as n 1 entradas inferiores na primeira coluna da matriz são zero as n 1 linhas inferiores dessa matriz devem ter posto estritamente menor que n 1 Portanto o posto linha da matriz inteira é estritamente menor que n Aplicando o Exercício D28 à equação 288 A tem posto estritamente menor que n e pelo Teorema D1 deduzimos a contradição de que A é singular Como o complemento de Schur é não singular agora podemos determinar recursivamente uma decomposição LU para ele Digamos que onde L é triangular inferior unitária e U é triangular superior Então usando álgebra de matrizes temos o que dá a nossa decomposição LU Observe que como L é uma matriz triangular inferior unitária L também é e como U é triangular superior U também é É claro que se a11 0 esse método não funciona porque divide por zero Também não funciona se a entrada superior da extrema esquerda do complemento de Schur A vwTa11 para zero já que dividimos por ela na etapa seguinte da recursão Os elementos que usamos como divisores durante a decomposição LU são denominados pivôs e ocupam os elementos diagonais da matriz U A razão por que incluímos uma matriz permutação P durante a decomposição LUP é que ela nos permite evitar a divisão por zero Quando usamos permutações para evitar a divisão por zero ou por números pequenos estamos pivotando Uma classe importante de matrizes para as quais a decomposição LU sempre funciona corretamente é a classe das matrizes simétricas positivas definidas Tais matrizes não exigem pivotamento e assim podemos empregar a estratégia recursiva que acabamos de delinear sem medo de dividir por zero Provaremos esse resultado bem como vários outros na Seção 283 Nosso código para decomposição LU de uma matriz A segue a estratégia recursiva exceto que um laço de iteração substitui a recursão Essa transformação é uma otimizaçãopadrão para um procedimento com recursão de cauda um procedimento cuja última operação é uma chamada recursiva a ele mesmo Veja o Problema 74 O código supõe que o atributo Alinhas dá a dimensão de A Inicializamos a matriz U com zeros abaixo da diagonal e a matriz L com 1s em sua diagonal e zeros acima da diagonal Cada iteração trabalha com uma submatriz quadrada usando o elemento do canto superior esquerdo como pivô para computar os vetores v e w e o complemento de Schur que passa a ser a matriz quadrada com que a próxima iteração trabalha O laço for externo que começa na linha 5 itera uma vez para cada etapa recursiva Dentro desse laço a linha 6 determina que o pivô é ukk akk O laço for nas linhas 79 que não é executado quando k n usa os vetores v e w para atualizar L e U A linha 8 determina os elementos de L abaixo da diagonal armazenando viakk em lik e a linha 9 calcula os elementos de L acima da diagonal armazenando wi em uki Finalmente as linhas 1012 calculam os elementos do complemento de Schur e os armazenam de volta na matriz A Não precisamos dividir por akk na linha 12 porque já o fizemos quando calculamos lik na linha 8 Como a linha 12 é triplamente aninhada LUDECOMPOSITION é executada no tempo n3 A Figura 281 ilustra a operação de LUDECOMPOSITION Ela mostra uma otimizaçãopadrão do procedimento na qual armazenamos os elementos significativos de L e U no lugar na matriz A Isto é podemos configurar uma correspondência entre cada elemento aij e ou lij se i j ou uij se i j e atualizar a matriz A para que ela contenha L e U quando o procedimento termina Para obter o pseudocódigo para essa otimização pelo pseudocódigo dado basta substituir cada referência a l ou u por a é fácil verificar que essa transformação preserva a correção Calculando uma decomposição LUP Em geral quando resolvemos um sistema de equações lineares Ax b temos de pivotar em elementos de A que estão fora da diagonal para evitar divisão por zero Claro que dividir por zero seria desastroso Porém também queremos evitar dividir por um valor pequeno mesmo que A seja não singular porque isso pode produzir instabilidades numéricas Então tentamos pivotar em um valor grande A matemática por trás da decomposição LUP é semelhante à da decomposição LU Lembrese de que temos uma matriz n n não singular A e desejamos encontrar uma matriz de permutação P uma matriz triangular inferior unitária L e uma matriz triangular superior U tais que PA LU Antes de particionar a matriz A como fizemos para a decomposição LU passamos um elemento não nulo digamos ak1 de algum lugar na primeira coluna até a posição 1 1 da matriz Para estabilidade numérica escolhemos ak1 como o elemento na primeira coluna que tem o maior valor absoluto A primeira coluna não pode conter somente zeros porque A seria singular já que seu determinante seria zero pelos Teoremas D4 e D5 Para preservar o conjunto de equações trocamos a linha 1 com a linha k o que equivale a multiplicar A por uma matriz de permutação Q à esquerda Exercício D14 Assim podemos escrever QA como Figura 281 A operação de LUDECOMPOSITION a A matriz A b O elemento a11 2 no círculo preto é o pivô a coluna sombreada é va e a linha sombreada é wT Os elementos de U calculados até agora estão acima da linha horizontal e os elementos de L estão à esquerda da linha vertical A matriz complemento de Schur A vwTa11 ocupa a parte inferior direita c Agora operamos na matriz complemento de Schur produzida pela parte b O elemento a22 4 no círculo preto é o pivô e a coluna e a linha sombreadas são va22 e wT no particionamento do complemento de Schur respectivamente As linhas dividem a matriz nos elementos de U calculados até agora acima elementos de L calculados até agora esquerda e o novo complemento de Schur direita inferior d Após a próxima etapa a matriz A está fatorada O elemento 3 no novo complemento de Schur se torna parte de U quando a recursão termina e Fatoração A LU onde v a21 a31 an1 exceto que a11 substitui ak1 w ak2 ak3 akn e A é uma matriz n 1 n 1 Visto que ak1 0 agora podemos executar praticamente a mesma álgebra linear que usamos para a decomposição LU porém desta vez garantindo que não haverá divisão por zero Como vimos na decomposição LU se A é não singular o complemento de Schur A vwTa também é não singular Portanto podemos determinar recursivamente uma decomposição LUP para ela com a matriz triangular inferior unitária L a matriz triangular superior U e a matriz de permutação P tais que Defina que é uma matriz de permutação visto que é o produto de duas matrizes permutação Exercício D14 Agora temos o que produz a decomposição LUP Como L é triangular inferior unitária L também é e como U é triangular superior U também é Observe que nessa dedução diferentemente daquela que ocorre na decomposição LU temos de multiplicar o vetor coluna vak1 e o complemento de Schur A vwT ak1 pela matriz de permutação P Apresentamos a seguir o pseudocódigo para decomposição LUP Como LUDECOMPOSITION nosso pseudocódigo para decomposição LUP substitui a recursão por um laço de iteração Como uma melhoria em relação à implementação direta da recursão mantemos dinamicamente a matriz de permutação P como um arranjo p onde pi j significa que a iésima linha de P contém 1 na coluna j Também implementamos o código para calcular L e U no lugar na matriz A Portanto quando o procedimento termina A Figura 282 ilustra como LUPDECOMPOSITION fatora uma matriz As linhas 34 inicializam o arranjo p para representar a permutação identidade O laço for externo que começa na linha 5 implementa a recursão Cada vez que passamos pelo laço externo as linhas 610 determinam o elemento akk com maior valor absoluto dentre os que estão na primeira coluna atual a coluna k da matriz n k 1 n k 1 cuja decomposição LU estamos determinando Se todos os elementos na primeira coluna atual são zero as linhas 1112 informam que a matriz é singular Para pivotar trocamos pk por pk na linha 13 e trocamos a késima e a k ésima linha de A nas linhas 1415 o que transforma o elemento akk em pivô As linhas inteiras são trocadas porque na dedução do método anterior não é só A vwTak1 que é multiplicado por P vak1 também é Por fim o complemento de Schur é calculado pelas linhas 1619 praticamente do mesmo modo que é calculado pelas linhas 712 de LUDECOMPOSITION exceto que aqui a operação é escrita para funcionar no lugar Devido à sua estrutura de laço triplamente aninhado o tempo de execução de LUPDECOMPOSITION é n3 que é igual ao de LUDECOMPOSITION Assim pivotar nos custa no máximo um fator de tempo constante Exercícios 2811 2812 Resolva a equação usando substituição direta Figura 282 A operação de LUPDECOMPOSITION a A matriz de entrada A com a permutação identidade das linhas à esquerda A primeira etapa do algoritmo determina que o elemento 5 no círculo preto na terceira linha é o pivô para a primeira coluna b As linhas 1 e 3 são trocadas e a permutação é atualizada A coluna e a linha sombreadas representam v e wT c O vetor v é substituído por v 5 e a parte inferior direita da matriz é atualizada com o complemento de Schur Segmentos de reta dividem a matriz em três regiões elementos de U em cima elementos de L esquerda e elementos do complemento de Schur inferior direita df A segunda etapa gi A terceira etapa Nenhuma outra mudança ocorre na quarta e última etapa j A decomposição LUP PA LU Determine uma decomposição LU da matriz 2813 2814 2815 2816 2817 282 Resolva a equação usando uma decomposição LUP Descreva a decomposição LUP de uma matriz diagonal Descreva a decomposição LUP de uma matriz de permutação A e prove que ela é única Mostre que para todo n 1 existe uma matriz singular n n que tem uma decomposição LU Em LUDECOMPOSITION é necessário executar a iteração do laço for mais externo quando k n E em LUP DECOMPOSITION INVERSÃO DE MATRIZES Normalmente não utilizamos inversas de matrizes para resolver sistemas de equações lineares na prática em vez disso preferimos usar técnicas numericamente mais estáveis como a decomposição LUP Porém às vezes precisamos calcular a inversa de uma matriz Nesta seção mostramos como usar decomposição LUP para calcular a inversa de uma matriz Provamos também que a multiplicação de matrizes e o cálculo da inversa de uma matriz são problemas de dificuldade equivalente no sentido de que sujeitos a condições técnicas podemos usar um algoritmo escrito para um dos problemas para resolver o outro no mesmo tempo de execução assintótico Assim podemos usar o algoritmo de Strassen veja Seção 42 escrito para multiplicação de matrizes para inverter uma matriz Na verdade o artigo original publicado por Strassen foi motivado pelo problema de mostrar que um conjunto de equações lineares podia ser resolvido mais rapidamente do que pelo método usual Calculando a inversa de uma matriz a partir de uma decomposição LUP Suponha que temos uma decomposição LUP de uma matriz A na forma de três matrizes L U e P tais que PA LU Usando LUPSOLVE podemos resolver uma equação da forma Ax b no tempo n2 Visto que a decomposição LUP depende de A mas não de b podemos executar LUPSOLVE para um segundo conjunto de equações da forma Ax b no tempo adicional n2 Em geral tão logo tenhamos a decomposição LUP de A podemos resolver no tempo kn2 k versões da equação Ax b cuja única diferença é o termo b Podemos considerar a equação que define a matriz X a inversa de A como um conjunto de n equações distintas da forma Ax b Para sermos precisos seja Xi a iésima coluna de X e lembrese de que o vetor unitário ei é a iésima coluna de In Então podemos resolver a equação 2810 para X usando a decomposição LUP de A para resolver cada equação separadamente para Xi Tão logo tenhamos a decomposição LUP podemos calcular cada uma das n colunas Xi no tempo n 2 e portanto podemos calcular X pela decomposição LUP de A no tempo n3 Visto que podemos determinar a decomposição LUP de A no tempo n3 podemos calcular a inversa A1 de uma matriz A no tempo n3 Multiplicação de matrizes e inversão de matrizes Agora mostraremos que os fatores de aceleração teóricos obtidos para multiplicação de matrizes se traduzem em fatores de aceleração para inversão de matrizes Na verdade provamos algo mais forte a inversão de matrizes é equivalente à multiplicação de matrizes no seguinte sentido se Mn denota o tempo para multiplicar duas matrizes n n então podemos inverter uma matriz n n não singular no tempo OMn Ademais se In denota o tempo para inverter uma matriz n n não singular podemos multiplicar duas matrizes n n no tempo OIn Provamos esses resultados em dois teoremas separados Teorema 281 Multiplicação não é mais difícil que inversão Se podemos inverter uma matriz n n no tempo In onde In n2 e In satisfazem a condição de regularidade I3n OIn então podemos multiplicar duas matrizes n n no tempo OIn Prova Sejam A e B matrizes n n cujo produto de matrizes C desejamos calcular Definimos a matriz 3n 3n D por A inversa de D é 1 2 e assim podemos calcular o produto AB tomando a submatriz superior direita n n de D1 Podemos construir a matriz D no tempo n2 que é OIn porque supomos que In n2 e podemos inverter D no tempo OI3n OIn pela condição de regularidade para In Assim temos Mn OIn Observe que In satisfaz a condição de regularidade sempre que In nc lgd n para quaisquer constantes c 0 d 0 A prova de que inversão de matrizes não é mais difícil que multiplicação de matrizes se baseia em algumas propriedades de matrizes simétricas positivas definidas que provaremos na Seção 283 Teorema 282 Inversão não é mais difícil que multiplicação Suponha que podemos multiplicar duas matrizes n n reais no tempo Mn onde Mn n2 e Mn satisfaz as duas condições de regularidade Mn k OMn para qualquer k na faixa 0 k n e Mn2 cMn para alguma constante c 12 Então podemos calcular a inversa de qualquer matriz n n real não singular no tempo OMn Prova Aqui provamos o teorema para matrizes reais O Exercício 2826 pede que você generalize a prova para matrizes cujas entradas são números complexos Podemos supor que n é uma potência exata de 2 já que temos para qualquer k 0 Assim escolhendo k tal que n k é uma potência de 2 aumentamos a matriz até um tamanho que é a próxima potência de 2 e obtemos a resposta desejada A1 pela resposta ao problema aumentado A primeira condição de regularidade para Mn assegura que esse aumento não provoca o aumento do tempo de execução por mais que um fator constante Por enquanto vamos supor que a matriz n n A seja simétrica e positiva definida Particionamos A e sua inversa A1 em quatro submatrizes n2 n2 Então se fizermos de o complemento de Schur de A com relação a B veremos mais detalhes sobre essa forma do complemento de Schur na Seção 283 temos já que AA1 I como podemos verificar executando a multiplicação de matrizes Como A é simétrica e positiva definida os Lemas 284 e 285 na Seção 283 implicam que B e S são simétricas e positivas definidas Portanto pelo Lema 283 na Seção 283 as inversas B1 e S1 existem e pelo Exercício D26 B1 e S1 são simétricas de modo que B1T B1 e S1T S1 Portanto podemos calcular as submatrizes R T U e V de A1 da maneira descrita a seguir onde todas as matrizes mencionadas são n2 n2 Forme as submatrizes B C CT e D de A Calcule recursivamente a inversa B1 de B 3 4 5 6 7 2821 Calcule o produto de matrizes W CB1 e depois sua transposta W T que é igual a B1CT pelo Exercício D12 e B1T B1 Calcule o produto de matrizes X WCT que é igual a CB1CT e depois a matriz S D X D CB1CT Calcule recursivamente a inversa S1 de S e defina V como S1 Calcule o produto de matrizes Y S1W que é igual a S1CB1 e depois sua transposta Y T que é igual a B1CTS1 pelo Exercício D12 B1T B1 e S1T S1 Defina T como Y T e U como Y Calcule o produto de matrizes Z W TY que é igual a B1CTS1CB1 e defina R como B1 Z Assim podemos inverter uma matriz n n simétrica positiva definida invertendo duas matrizes n2 n2 nas etapas 2 e 5 efetuando quatro multiplicações de matrizes n2 n2 nas etapas 3 4 6 e 7 mais um custo adicional de On2 para extrair submatrizes de A inserir submatrizes em A1 e executar um número constante de adições subtrações e transpostas para matrizes n2 n2 matrizes Obtemos a recorrência A segunda linha é válida porque a condição de regularidade no enunciado do teorema implica que 4Mn2 2Mn e porque consideramos que Mn n2 A terceira linha decorre porque a segunda condição de regularidade nos permite aplicar o caso 3 do teorema mestre Teorema 41 Resta provar que podemos obter o mesmo tempo de execução assintótico para multiplicação de matrizes que o obtido para inversão de matrizes quando A é inversível mas não simétrica e positiva definida A ideia básica é que para qualquer matriz não singular A a matriz ATA é simétrica pelo Exercício D12 e positiva definida pelo Teorema D6 Então o artifício é reduzir o problema de inverter A ao problema de inverter ATA A redução é baseada na seguinte observação quando A é uma matriz n n não singular temos já que ATA 1 ATA ATA 1 ATA I e uma matriz inversa é única Portanto podemos calcular A1 primeiro multiplicando AT por A para obter ATA e depois invertendo a matriz simétrica positiva definida ATA empregando o algoritmo de divisão e conquista e finalmente multiplicando o resultado por AT Cada uma dessas três etapas demora o tempo OMn e assim podemos inverter qualquer matriz não singular com entradas reais no tempo OMn A prova do Teorema 282 sugere um meio de resolver a equação Ax b usando decomposição LU sem pivotação desde que A seja não singular Multiplicamos ambos os lados da equação por AT o que produz ATAx ATb Essa transformação não afeta a solução x já que AT é inversível e assim podemos fatorar a matriz simétrica positiva definida ATA calculando uma decomposição LU Então usamos substituição direta e inversa para resolver para x com o lado direito ATb Embora esse método esteja teoricamente correto na prática o procedimento LUP DECOMPOSITION funciona muito melhor A decomposição LUP requer menor número de operações aritméticas por um fator constante e tem propriedades numéricas um pouco melhores Exercícios Seja Mn o tempo para multiplicar duas matrizes n n e seja Sn o tempo necessário para elevar uma matriz n n ao quadrado Mostre que multiplicar e elevar matrizes ao quadrado têm essencialmente a mesma dificuldade um algoritmo de multiplicação de matrizes de tempo Mn implica um algoritmo de elevação ao quadrado de tempo OMn e um algoritmo de elevação ao quadrado de tempo Sn implica um algoritmo de multiplicação de matrizes de tempo OSn 2822 2823 2824 2825 2826 283 Seja Mn o tempo para multiplicar duas matrizes n n e seja Ln o tempo para calcular a decomposição LUP de uma matriz n n Mostre que um algoritmo de multiplicação de matrizes de tempo Mn implica um algoritmo de decomposição LUP de tempo OMn Seja Mn o tempo para multiplicar duas matrizes n n e seja Dn o tempo necessário para encontrar o determinante de uma matriz n n Mostre que multiplicar matrizes e calcular o determinante têm essencialmente a mesma dificuldade um algoritmo de multiplicação de matrizes de tempo Mn implica um algoritmo de determinante de tempo OMn e um algoritmo de determinante de tempo Dn implica um algoritmo de multiplicação de matrizes de tempo ODn Seja Mn o tempo para multiplicar duas matrizes booleanas n n e seja Tn o tempo para determinar o fecho transitivo de uma matriz booleana n n veja a Seção 252 Mostre que um algoritmo de multiplicação de matrizes booleanas de tempo Mn implica um algoritmo de fecho transitivo de tempo OMn lg n e um algoritmo de fecho transitivo de tempo Tn implica um algoritmo de multiplicação de matrizes booleanas de tempo OTn O algoritmo de inversão de matrizes baseado no Teorema 282 funciona quando elementos de matrizes são retirados do corpo de inteiros módulo 2 Explique Generalize o algoritmo de inversão de matrizes do Teorema 282 para tratar matrizes de números complexos e prove que sua generalização funciona corretamente Sugestão Em vez da transposta de A use a transposta conjugada A que é obtida da transposta de A pela substituição de cada entrada por seu conjugado complexo Em vez de matrizes simétricas considere matrizes hermitianas que são matrizes A tais que A A MATRIZES SIMÉTRICAS POSITIVAS DEFINIDAS E APROXIMAÇÃO DE MÍNIMOS QUADRADOS Matrizes simétricas positivas definidas têm muitas propriedades interessantes e desejáveis Por exemplo elas são não singulares e podemos executar decomposição LU com elas sem precisar nos preocupar com divisão por zero Nesta seção provaremos várias outras propriedades importantes de matrizes simétricas positivas definidas e mostraremos uma aplicação interessante para ajuste de curvas por uma aproximação de mínimos quadrados A primeira propriedade que provamos talvez seja a mais básica Lema 283 Qualquer matriz simétrica positiva definida é não singular Prova Suponha que uma matriz A seja singular Então pelo Corolário D3 existe um vetor não nulo x tal que Ax 0 Por consequência xTAx 0 e A não pode ser positiva definida A prova de que podemos executar a decomposição LU para uma matriz simétrica positiva definida A sem dividir por zero é mais complicada Começamos provando propriedades de certas submatrizes de A Defina a késima submatriz líder de A como a matriz Ak que consiste na interseção das primeiras k linhas e das primeiras k colunas de A Lema 284 Se A é uma matriz simétrica positiva definida então toda submatriz líder de A é simétrica e positiva definida Prova É óbvio que cada submatriz líder Ak é simétrica Para provar que Ak é positiva definida suponhamos que ela não seja e deduzimos uma contradição Se Ak não é positiva definida então existe um kvetor xk 0 tal que xTk Ak xk 0 Tomando A como n n e para submatrizes B que é n kk e C que é n kn k Defina o nvetor x xT k 0T onde n k zeros vêm depois de xT Então temos o que contradiz a afirmação de que A seja positiva definida Agora voltamos a algumas propriedades essenciais do complemento de Schur Seja A uma matriz simétrica positiva definida e seja Ak uma submatriz líder k k de A Particione A mais uma vez de acordo com a equação 2814 Generalizamos a equação 289 para definir o complemento de Schur S de A com relação a Ak como Pelo Lema 284 Ak é simétrica e positiva definida portanto A k existe pelo Lema 283 e S é bem definida Observe que nossa primeira definição 289 do complemento de Schur é consistente com a equação 2815 se fizermos k 1 O próximo lema mostra que as matrizes de complemento de Schur de matrizes simétricas positivas definidas são também simétricas e positivas definidas Usamos esse resultado no Teorema 282 e precisamos de seu corolário para provar a correção da decomposição LU para matrizes simétricas positivas definidas Lema 285 Lema do complemento de Schur Se A é uma matriz simétrica positiva definida e Ak é uma submatriz líder k k de A então o complemento de Schur de A com relação a Ak é simétrico e positivo definido Prova Como A é simétrica a submatriz C também é Pelo Exercício D26 o produto BAk1BT é simétrico e pelo Exercício D11 S é simétrica Resta mostrar que S é positiva definida Considere a partição de A dada na equação 2814 Para qualquer vetor não nulo x temos xTAx 0 pela hipótese de A ser positiva definida Vamos decompor x em dois subvetores y e z compatíveis com Ak e C respectivamente Como existe temos por mágica de matrizes verifique efetuando multiplicações Esta última equação equivale a completar o quadrado da forma quadrática veja o Exercício 2832 Visto que xTAx 0 é válida para qualquer x não nulo qualquer z não nulo para podermos escolher y A1k BTz o que faz o primeiro termo da equação 2816 desaparecer restando como o valor da expressão Portanto para qualquer z 0 temos zTSz xTAx 0 e assim S é positiva definida Corolário 286 A decomposição LU de uma matriz simétrica positiva definida nunca provoca uma divisão por zero Prova Seja A uma matriz simétrica positiva definida Provaremos algo mais forte que o enunciado do corolário todo pivô é estritamente positivo O primeiro pivô é a11 Seja e1 o primeiro vetor unitário do qual obtemos a11 eT1 Ae1 0 Visto que a primeira etapa da decomposição LU produz o complemento de Schur de A com relação a A1 a11 o Lema 285 implica por indução que todos os pivôs são positivos Aproximação de mínimos quadrados Uma aplicação importante de matrizes simétricas positivas definidas é o ajuste de curvas a determinados conjuntos de pontos de dados Suponha que tenhamos um conjunto de m pontos de dados onde sabemos que os valores yi estão sujeitos a erros de medição Gostaríamos de determinar uma função Fx tal que os erros de aproximação são pequenos para i 1 2 m A forma da função F depende do problema em questão Aqui consideramos a forma de uma soma linearmente ponderada onde o número de somandos n e as funções de base fj específicas são escolhidos com base no conhecimento do problema em questão Uma opção comum é fjx xj 1 o que significa que é um polinômio de grau n 1 em x Assim dados m pontos de dados x1 y1 x2 y2 xm ym desejamos calcular n coeficientes c1 c2 cn que minimizem os erros de aproximação 1 2 m Escolhendo n m podemos calcular cada yi exatamente na equação 2817 Porém tal função F de grau elevado ajusta o ruído bem como os dados e em geral produz resultados ruins quando usada com a finalidade de predizer y para valores de x que ainda não foram vistos Normalmente é melhor escolher n significativamente menor que m e esperar que escolhendo bem os coeficientes cj possamos obter uma função F que determine os padrões significativos nos pontos de dados sem prestar atenção indevida ao ruído Existem alguns princípios teóricos para escolher n mas eles não fazem parte do escopo deste texto Em todo caso uma vez escolhido um valor de n menor que m acabamos com um conjunto superdeterminado de equações cuja solução desejamos aproximar Mostramos agora como fazer isso Seja a matriz de valores das funções básicas nos pontos dados isto é aij fjxi Seja c ck o desejado vetor n de coeficientes Então é o vetor m de valores previstos para y Assim é o vetor m de erros de aproximação Para minimizar erros de aproximação optamos por minimizar a norma do vetor de erro o que nos dá uma solução de mínimos quadrados já que Como podemos minimizar η diferenciando η2 em relação a cada ck e então exigindo que o resultado seja 0 As n equações 2818 para k 1 2 n são equivalentes à única equação matricial Ac yT A 0 ou o que é equivalente usando o Exercício D12 a que implica Em estatística essa expressão é denominada equação normal A matriz ATA é simétrica pelo Exercício D12 e se A tem posto total de colunas pelo Teorema D6 ATA também é positiva definida Por consequência ATA1 existe e a solução para a equação 2819 é onde a matriz A ATA1 AT é denominada pseudoinversa da matriz A A pseudoinversa generaliza naturalmente a noção de uma matriz inversa para o caso em que A não é quadrada Compare a equação 2820 como a solução aproximada para Ac y com a solução A1b como a solução exata para Ax b Como exemplo da produção de um ajuste de mínimos quadrados suponha que tenhamos cinco pontos de dados mostrados como pontos pretos na Figura 283 Desejamos ajustar esses pontos com um polinômio quadrático Começamos com a matriz de valores de funções de base Figura 283 O ajuste de mínimos quadrados de um polinômio quadrático ao conjunto de cinco pontos de dados 1 2 1 1 2 1 3 0 5 3 Os pontos pretos são os pontos de dados e os pontos brancos são seus valores estimados previstos pelo polinômio Fx 12 0757x 0214x2 o polinômio quadrático que minimiza a soma dos erros elevados ao quadrado Cada linha sombreada mostra o erro para um ponto de dado cuja pseudoinversa é 2831 2832 2833 2834 2835 2836 2837 Multiplicando y por A obtemos o vetor de coeficientes que corresponde ao polinômio quadrático como o polinômio que melhor se ajusta aos dados especificados em um sentido de mínimos quadrados Por uma questão prática resolvemos a equação normal 2819 multiplicando y por AT e determinando uma decomposição LU de ATA Se A tem posto total é garantido que a matriz ATA é não singular porque é simétrica e positiva definida Veja o Exercício D12 e o Teorema D6 Exercícios Prove que todo elemento da diagonal de uma matriz simétrica positiva definida é positivo Seja A uma matriz 2 2 simétrica positiva definida Prove que seu determinante ac b2 é positivo completando o quadrado de maneira semelhante à usada na prova do Lema 285 Prove que o elemento máximo em uma matriz simétrica positiva definida encontrase na diagonal Prove que o determinante de cada submatriz líder de uma matriz simétrica positiva definida é positivo Seja Ak a késima submatriz líder de uma matriz simétrica positiva definida A Prove que detAkdetAk1 é o késimo pivô durante a decomposição LU onde por convenção detA0 1 Determine a função da forma que é o melhor ajuste de mínimos quadrados para os pontos de dados Mostre que a pseudoinversa A satisfaz as quatro equações a seguir 281 a b c d e 282 Problemas Sistemas tridiagonais de equações lineares Considere a matriz tridiagonal Determine uma decomposição LU de A Resolva a equação Ax 1 1 1 1 1T usando substituição direta e inversa Determine a inversa de A Mostre para qualquer matriz tridiagonal n n simétrica positiva definida A e qualquer vetor b de n elementos como resolver a equação Ax b no tempo On executando uma decomposição LU Demonstre que qualquer método baseado na formação de A1 é assintoticamente mais caro no pior caso Mostre para qualquer matriz tridiagonal n n não singular A e qualquer vetor b de n elementos como resolver a equação Ax b no tempo On executando uma decomposição LUP Splines Um método prático para interpolar um conjunto de pontos com uma curva é usar spli nes cúbicos Temos um conjunto xi yi i 0 1 n de n 1 pares de valores de pontos onde x0 x1 xn Desejamos ajustar uma curva cúbica por partes spline fx aos pontos Isto é a curva fx é formada por n polinômios cúbicos fix ai bix cix2 dix3 para i 0 1 n 1 onde se x cair na faixa x i x x i 1 o valor da curva será dado por fx fix xi Os pontos xi onde os polinômios cúbicos são colados um ao outro são denominados nós Por simplicidade suporemos que xi i para i 0 1 n Para garantir continuidade de fx é necessário que a b c d e f para i 0 1 n 1 Para garantir que fx seja suficientemente suave também insistimos em que a derivada de primeiro grau seja contínua em cada nó para i 0 1 n 1 Suponha que para i 0 1 n tenhamos não somente os pares de valores de pontos xi yi mas também as derivadas Di f xi em cada nó Expresse cada coeficiente ai bi ci e di em termos dos valores yi yi1 Di e Di1 Lembrese de que xi i Com que rapidez podemos calcular os 4n coeficientes pelos pares de valores de pontos e derivadas de primeiro grau Ainda resta a questão de como escolher as derivadas de fx nos nós Um método é exigir que as derivadas segundas sejam contínuas nos nós para i 0 1 n 1 No primeiro e no último nó consideramos que f x 00 f 000 0 e f x n f n 1 1 0 essas hipóteses fazem de fx um spline cúbico natural Use as restrições de continuidade na derivada segunda para mostrar que para i 1 2 n 1 Mostre que Reescreva as equações 2821 a 2823 como uma equação matricial envolvendo o vetor D D0 D1 Dn de incógnitas Quais atributos têm a matriz em sua equação Demonstre que uma spline cúbica natural pode interpolar um conjunto de n 1 pares de valores de pontos no tempo On veja o Problema 281 Mostre como determinar um spline cúbico natural que interpola um conjunto de n 1 pontos xi yi satisfazendo x0 x1 xn mesmo quando xi não é necessariamente igual a i Qual equação matricial seu método deve resolver e com que rapidez seu algoritmo é executado NOTAS DO CAPÍTULO Muitos textos excelentes descrevem computação numérica e científica com muito mais detalhes do que o espaço nos permite aqui Os textos a seguir são especialmente interessantes George e Liu 132 Golub e Van Loan 144 Press Teukolsky Vetterling e Flannery 283 284 e Strang 323 324 O método de eliminação de Gauss no qual se baseiam as decomposições LU e LUP foi o primeiro método sistemático para resolver sistemas de equações lineares Também foi um dos primeiros algoritmos numéricos Embora fosse conhecido antes sua descoberta é comumente atribuída a C F Gauss 17771855 Em seu famoso artigo 325 Strassen mostrou que uma matriz n n pode ser invertida no tempo Onlg 7 Winograd 358 provou originalmente que multiplicação de matrizes não é mais difícil que inversão de matrizes e a recíproca se deve a Aho Hopcroft e Ullman 5 Outra decomposição de matrizes importante é a decomposição de valor singular ou SVD singular value decomposition A SVD fatora uma matriz m n A em A Q 1QT2 onde é uma matriz m n com valores não nulos somente na diagonal Q1 é m m com colunas mutuamente ortonormais e Q2 é n n também com colunas mutuamente ortonormais Dois vetores são ortonormais se seu produto interno é 0 e cada vetor tem uma norma de 1 Os livros de Strang 323 324 e de Golub e Van Loan 144 contêm bons tratamentos da SVD Strang 324 tem uma apresentação excelente de matrizes simétricas positivas definidas e de álgebra linear em geral 29 PROGRAMAÇÃO LINEAR Muitos problemas consistem em maximizar ou minimizar um objetivo dados recursos limitados e restrições concorrentes Se pudermos especificar o objetivo como uma função linear de certas variáveis e se pudermos especificar as restrições aos recursos como igualdades ou desigualdades lineares nessas variáveis teremos um problema de programação linear Programas lineares surgem em uma variedade de aplicações práticas Começamos estudando uma aplicação em política eleitoral Um problema político Suponha que você seja um político tentando vencer uma eleição Seu eleitorado está distribuído por três tipos diferentes de áreas urbana suburbana e rural Essas áreas têm respectivamente 100000 200000 e 50000 eleitores registrados Embora nem todos os eleitores registrados se apresentem para votar você decide que para governar efetivamente gostaria que no mínimo metade dos eleitores registrados em cada uma das três regiões vote em você Você é honrado e nunca consideraria apoiar políticas nas quais não acredita mas percebe que certas questões têm mais poder para conquistar votos em certos lugares As questões primordiais de sua agenda de candidato são construção de mais estradas controle de armas subsídios agrícolas e um imposto sobre combustíveis destinado à melhoria do trânsito De acordo com as pesquisas da sua equipe de campanha você pode estimar quantos votos conquistará ou perderá em cada segmento da população gastando 1000 em propaganda para cada questão Essa informação aparece na tabela da Figura 291 Nessa tabela cada entrada descreve o número de milhares de eleitores urbanos suburbanos ou rurais que você conquistaria se gastasse 1000 com propaganda em defesa de uma questão específica Entradas negativas denotam votos que seriam perdidos Sua tarefa é determinar a quantidade mínima de dinheiro que seria preciso gastar para obter 50000 votos urbanos 100000 votos suburbanos e 25000 votos rurais Se bem que você poderia criar por tentativa e erro uma estratégia que conquistasse o número necessário de votos tal estratégia poderia não ser a menos dispendiosa Por exemplo você poderia dedicar 20000 à propaganda para construção de estradas 0 para controle de armas 4000 para subsídios agrícolas e 9000 para um imposto sobre combustíveis Nesse caso você conquistaria 202 08 40 910 50 mil votos urbanos 205 02 40 90 100 mil votos suburbanos e 203 05 410 92 82 mil votos rurais Essas seriam as quantidades exatas de votos desejados nas áreas urbanas e suburbanas mais que a quantidade de votos suficientes na área rural Na verdade na área rural você receberia mais votos que o número de eleitores existentes Para arrebanhar esses votos você teria pago 20 0 4 9 33 mil dólares em propaganda Figura 291 O efeito das políticas sobre os eleitores Cada entrada descreve o número de milhares de eleitores urbanos suburbanos ou rurais que poderiam ser conquistados gastando 1000 em propaganda de apoio a uma política para uma questão específica Entradas negativas denotam votos que seriam perdidos Seria natural você pensar se essa estratégia é a melhor possível Isto é será que você poderia alcançar suas metas gastando menos com propaganda Um processo adicional de tentativa e erro poderia ajudálo a responder a essa pergunta mas não seria ótimo ter um método sistemático para responder a tais perguntas Para desenvolver tal método formulamos essa questão em termos matemáticos Introduzimos quatro variáveis x1 é o número de milhares de dólares gastos com a propaganda da construção de estradas x2 é o número de milhares de dólares gastos com a propaganda do controle de armas x3 é o número de milhares de dólares gastos com a propaganda dos subsídios agrícolas x4 é o número de milhares de dólares gastos com a propaganda do imposto sobre combustíveis O requisito para conquistar no mínimo 50000 votos urbanos pode ser expresso como De modo semelhante podemos expressar os requisitos para conquistar no mínimo 100000 votos suburbanos e 25000 votos rurais como Qualquer configuração das variáveis x1 x2 x3 x4 que satisfaça as desigualdades 291 293 produz uma estratégia que conquista um número suficiente de cada tipo de voto Para manter os custos tão baixos quanto possível você gostaria de minimizar a quantia gasta com propaganda Isto é o que você quer é minimizar a expressão Embora seja comum ocorrer propaganda negativa em campanhas políticas certamente não existe propaganda de custo negativo Consequentemente temos de impor a seguinte condição Combinando as desigualdades 291293 e 295 com o objetivo de minimizar 294 obtemos o que é conhecido como programa linear Formatamos esse problema como A solução desse programa linear produz sua estratégia ótima Programas lineares gerais No problema geral de programação linear desejamos otimizar uma função linear sujeita a um conjunto de desigualdades lineares Dado um conjunto de números reais a1 a2 an e um conjunto de variáveis x1 x2 xn definimos uma função linear f dessas variáveis por Se b é um número real e f é uma função linear então a equação é uma igualdade linear e as desigualdades e são desigualdades lineares Usamos a expressão geral restrições lineares para denotar igualdades lineares ou desigualdades lineares Em programação linear não permitimos desigualdades estritas Formalmente um problema de programação linear é o problema de minimizar ou maximizar uma função linear sujeita a um conjunto finito de restrições lineares Se formos minimizar denominamos o programa linear programa linear de minimização e se formos maximizar denominamos o programa linear programa linear de maximização O restante deste capítulo abrangerá a formulação e a solução de programas lineares Embora vários algoritmos de tempo polinomial para programação linear tenham sido desenvolvidos não os estudaremos neste capítulo Em vez disso estudaremos o algoritmo simplex que é o mais antigo algoritmo de programação linear O algoritmo simplex não é executado em tempo polinomial no pior caso mas é razoavelmente eficiente e muito utilizado na prática Uma visão geral da programação linear Para descrever propriedades e algoritmos de programas lineares é conveniente expressálos em formas canônicas Neste capítulo utilizaremos duas formas a formapadrão e a forma de folgas Daremos as definições exatas na Seção 291 Informalmente um programa linear na formapadrão é a maximização de uma função linear sujeita a desigualdades lineares enquanto um programa linear em forma de folgas é a maximização de uma função linear sujeita a igualdades lineares Em geral utilizaremos a formapadrão para expressar programas lineares mas achamos mais conveniente usar a forma de folgas quando descrevemos os detalhes do algoritmo simplex Por enquanto restringimos nossa atenção a maximizar uma função linear de n variáveis sujeita a um conjunto de m desigualdades lineares Vamos considerar primeiro o seguinte programa linear com duas variáveis Denominamos qualquer configuração das variáveis x1 e x2 que satisfaça todas as restrições 29122915 uma solução viável para o programa linear Se representarmos as restrições em um gráfico de coordenadas cartesianas x1 x2 como na Figura 292a vemos que o conjunto de soluções viáveis sombreado na figura forma uma região convexa1 no espaço bidimensional Denominamos essa região convexa região viável e denominamos função objetivo a função que desejamos maximizar Conceitualmente poderíamos avaliar a função objetivo x1 x2 em cada ponto da região viável damos o nome de valor objetivo ao valor da função objetivo em um determinado ponto Então podemos identificar um ponto que tem o valor objetivo máximo como uma solução ótima Para esse exemplo e para a maioria dos programas lineares a região viável contém um número infinito de pontos e portanto precisamos determinar um modo eficiente de encontrar um ponto que alcance o valor objetivo máximo sem avaliar explicitamente a função objetivo em cada ponto na região viável Figura 292 a O programa linear dado em 29122915 Cada restrição é representada por uma reta e uma direção A interseção das restrições que é a região viável está sombreada b As retas pontilhadas mostram respectivamente os pontos para os quais o valor objetivo é 0 4 e 8 A solução ótima para o programa linear é x1 2 e x2 6 com valor objetivo 8 Em duas dimensões podemos otimizar por meio de um procedimento gráfico O conjunto de pontos para os quais x1 x2 z para qualquer z é uma reta de inclinação 1 Se representarmos x1 x2 0 em gráfico obteremos a reta de inclinação 1 que passa pela origem como na Figura 292b A interseção dessa reta com a região viável é o conjunto de soluções viáveis que têm um valor objetivo 0 Nesse caso essa interseção da reta com a região viável é o ponto único 0 0 De modo mais geral para qualquer z a interseção da reta x1 x2 z com a região viável é o conjunto de soluções viáveis que têm valor objetivo z A Figura 292b mostra as retas x1 x2 0 x1 x2 4 e x1 x2 8 Como a região viável na Figura 292 é limitada deve existir algum valor máximo z para o qual a interseção da reta x1 x2 z com a região viável é não vazia Qualquer ponto em que isso ocorra é uma solução ótima para o programa linear que nesse caso é o ponto x1 2 e x2 6 com valor objetivo 8 Não é por acidente que uma solução ótima para o programa linear ocorre em um vértice da região viável O valor máximo de z para o qual a reta x1 x2 z intercepta a região viável deve estar no contorno da região viável e assim a interseção dessa reta com o contorno da região viável é um vértice único ou um segmento de reta Se a interseção é um vértice único existe apenas uma solução ótima e ela é esse vértice Se a interseção é um segmento de reta todo ponto nesse segmento de reta deve ter o mesmo valor objetivo em particular ambas as extremidades do segmento de reta são soluções ótimas Visto que cada extremidade de um segmento de reta é um vértice também nesse caso existe uma solução ótima em um vértice Embora não seja fácil representar em gráficos programas lineares com mais de duas variáveis a mesma intuição é válida Se temos três variáveis então cada restrição corresponde a um semiespaço no espaço tridimensional A interseção desses semiespaços forma a região viável O conjunto de pontos para os quais a função objetivo obtém um valor z é agora um plano Se todos os coeficientes da função objetivo são não negativos e se a origem é uma solução viável para o programa linear então à medida que afastamos esse plano da origem em uma direção normal à função objetivo encontramos pontos de valor objetivo crescente Se a origem não é viável ou se alguns coeficientes na função objetivo são negativos o quadro intuitivo se torna um pouco mais complicado Como ocorre em duas dimensões se a região viável é convexa o conjunto de pontos que alcançam o valor objetivo ótimo deve incluir um vértice da região viável De modo semelhante se temos n variáveis cada restrição define um semiespaço no espaço n dimensional A região viável formada pela interseção desses semiespaços é denominada simplex A função objetivo é agora um hiperplano e devido à convexidade uma solução ótima ainda ocorre em um vértice da simplex O algoritmo simplex toma como entrada um programa linear e retorna uma solução ótima Começa em algum vértice do simplex e executa uma sequência de iterações Em cada iteração o algoritmo percorre uma aresta do simplex de um vértice atual até um vértice vizinho cujo valor objetivo não é menor que o do vértice atual e normalmente é maior O algoritmo simplex termina quando atinge um máximo local que é um vértice em relação ao qual todos os vértices vizinhos têm um valor objetivo menor Como a região viável é convexa e a função objetivo é linear esse local ótimo é na verdade um ótimo global Na Seção 294 usaremos um conceito denominado dualidade para mostrar que a solução devolvida pelo algoritmo simplex é de fato ótima Embora a visão geométrica dê uma boa perspectiva intuitiva para as operações do algoritmo simplex não faremos referência explícita a ela quando desenvolvermos os detalhes do algoritmo simplex na Seção 293 Em vez disso adotaremos uma visão algébrica Primeiro escrevemos o programa linear dado em forma de folgas que é um conjunto de igualdades lineares Essas igualdades lineares expressam algumas das variáveis denominadas variáveis básicas em termos de outras variáveis denominadas variáveis não básicas Passamos de um vértice para outro fazendo uma variável básica se tornar não básica e fazendo uma variável não básica se tornar básica Essa operação é denominada pivô e de um ponto de vista algébrico nada mais é do que reescrever o programa linear em uma forma de folgas equivalente O exemplo de duas variáveis que já citamos foi particularmente simples Precisaremos abordar muitos outros detalhes neste capítulo Essas questões incluem identificar programas lineares que não têm nenhuma solução programas lineares que não têm nenhuma solução ótima finita e programas lineares para os quais a origem não é uma solução viável Aplicações de programação linear A programação linear tem grande número de aplicações Qualquer livro didático sobre pesquisa operacional está repleto de exemplos de programação linear e a programação linear tornouse uma ferramentapadrão ensinada a alunos 291 na maioria dos cursos de administração de empresas O cenário eleitoral é um exemplo típico Dois outros exemplos de programação linear são os seguintes Uma empresa aérea deseja programar as tripulações de seus voos A Federal Aviation Administration impõe muitas restrições como limitar o número de horas consecutivas que cada membro da tripulação pode trabalhar e insistir que uma determinada tripulação trabalhe somente em um modelo de aeronave por mês A empresa aérea quer programar tripulações em todos os seus voos usando o menor número possível de tripulantes Uma empresa petrolífera quer decidir onde perfurar em busca de petróleo A instalação de uma plataforma de perfuração em determinado local tem um custo associado e com base em pesquisas geológicas um retorno esperado de algum número de barris de petróleo A empresa tem um orçamento limitado para localizar novas áreas de perfuração e quer maximizar a quantidade de petróleo que espera encontrar dado esse orçamento Usamos programas lineares também para modelar e resolver problemas e combinatórios como os que aparecem neste livro Já vimos um caso especial de programação linear usado para resolver sistemas de restrições de diferenças sobre grafos na Seção 244 Na Seção 292 estudaremos como formular vários problemas de grafos e redes de fluxo como programas lineares Na Seção 354 utilizaremos programação linear como ferramenta para determinar uma solução aproximada para um outro problema de grafos Algoritmos para programação linear Este capítulo estuda o algoritmo simplex Esse algoritmo quando implementado cuidadosamente muitas vezes resolve programas lineares gerais rapidamente na prática Porém com algumas entradas criadas cuidadosamente o algoritmo simplex pode exigir tempo exponencial O primeiro algoritmo de tempo polinomial para programação linear foi o algoritmo dos elipsóides cuja execução é lenta na prática Uma segunda classe de algoritmos de tempo polinomial é conhecida como métodos de pontos interiores Ao contrário do algoritmo simplex que percorre o exterior da região viável e mantém uma solução viável que é um vértice do simplex em cada iteração esses algoritmos percorrem o interior da região viável As soluções intermediárias embora viáveis não são necessariamente vértices do simplex mas a solução final é um vértice Para entradas grandes a execução de algoritmos de pontos interiores pode ser tão rápida quanto a do algoritmo simplex e às vezes mais rápida Se acrescentarmos a um programa linear o requisito adicional de que todas as variáveis devem ter valores inteiros temos um programa linear inteiro O Exercício 3453 pede que você mostre que só determinar uma solução viável para esse problema já é NPdifícil visto que não há nenhum algoritmo de tempo polinomial conhecido para quaisquer problemas NPdifíceis não existe nenhum algoritmo de tempo polinomial conhecido para programação linear inteira Ao contrário podemos resolver um problema geral de programação linear em tempo polinomial Neste capítulo se tivermos um programa linear com variáveis x x1 x2 xn e quisermos nos referir a um valor particular das variáveis usaremos a notação x x 1 x 2 x n FORMAPADRÃO E FORMA DE FOLGAS Esta seção descreve dois formatos a formapadrão e a forma de folgas que são úteis quando especificamos e trabalhamos com programas lineares Na formapadrão todas as restrições são desigualdades enquanto na forma de folgas todas as restrições são igualdades exceto as que exigem que as variáveis sejam não negativas Formapadrão Na formapadrão temos n números reais c1 c2 cn m números reais b1 b2 bm e mn números reais aij para i 1 2 m e j 1 2 n Desejamos determinar n números reais x1 x2 xn que 1 2 3 4 Generalizando a terminologia que apresentamos para o programa linear de duas variáveis denominamos a expressão 2916 função objetivo e as n m desigualdades nas linhas 2917 e 2918 restrições As n restrições na linha 2918 são as restrições de não negatividade Um programa linear arbitrário não precisa ter restrições de não negatividade mas a formapadrão as exige Às vezes achamos que é conveniente expressar um programa linear de uma forma mais compacta Se criarmos uma matriz m n A aij um mvetor b bi um nvetor c cj e um n vetor x xj então podemos reescrever o programa linear definido em 29162918 como Na reta 2919 cTx é o produto interno de dois vetores Na desigualdade 2920 Ax é um produto vetormatriz e na desigualdade 2921 x 0 significa que cada entrada do vetor x deve ser não negativa Vemos que podemos especificar um programa linear na formapadrão por uma tupla A b c e adotaremos a convenção que A b e c sempre têm as dimensões dadas acima Agora apresentamos a terminologia para descrever soluções para programas lineares Usamos parte dessa terminologia no exemplo anterior de um programa linear com duas variáveis Denominamos solução viável uma configuração das variáveis x que satisfazem todas as restrições enquanto uma configuração das variáveis x que deixa de satisfazer no mínimo uma restrição é uma solução inviável Dizemos que uma solução x tem valor objetivo cT x Uma solução viável x cujo valor objetivo é máximo para todas as soluções viáveis é uma solução ótima e denominamos seu valor objetivo cT x valor objetivo ótimo Se um programa linear não tem nenhuma solução viável dizemos que o programa linear é inviável caso contrário é viável Se um programa linear tem algumas soluções viáveis mas não tem um valor objetivo ótimo finito dizemos que o programa linear é ilimitado O Exercício 2919 pede que você mostre que um programa linear pode ter um valor objetivo ótimo finito mesmo que a região viável não seja limitada Converter programas lineares para a formapadrão Sempre é possível converter um programa linear dado como minimizador ou maximizador de uma função linear sujeita a restrições lineares para a formapadrão Um programa linear pode não estar na formapadrão por uma das quatro razões possíveis A função objetivo pode ser uma minimização em vez de uma maximização Pode haver variáveis sem restrições de não negatividade Pode haver restrições de igualdade que têm um sinal de igualdade em vez de um sinal de menor que ou igual a Pode haver restrições de desigualdade mas em vez de terem um sinal de menor que ou igual a elas têm um sinal de maior que ou igual a Ao converter um programa linear L em outro programa linear L gostaríamos que a propriedade de uma solução ótima para L produzir uma solução ótima para L Para captar essa ideia dizemos que dois programas lineares de maximização L e L são equivalentes se para cada solução viável para L com valor objetivo z existe uma solução viável correspondente x para L com valor objetivo z e para cada solução viável x para L com valor objetivo z existe uma solução viável x correspondente para L com valor objetivo z Essa definição não implica uma correspondência unívoca entre soluções viáveis Um programa linear de minimização L e um programa linear de maximização L são equivalentes se para cada solução viável x para L com valor objetivo z existe uma solução viável correspondente x para L com valor objetivo z e para cada solução xviável para L com valor objetivo z existe uma solução viável x correspondente para L com valor objetivo z Mostramos agora como eliminar um a um cada um dos problemas possíveis da lista apresentada no início desta subseção Depois de eliminar cada um deles demonstraremos que o novo programa linear é equivalente ao antigo Para converter um programa linear de minimização L em um programa linear de maximização L equivalente simplesmente negamos os coeficientes na função objetivo Visto que L e L têm conjuntos idênticos de soluções viáveis e que para qualquer solução viável o valor objetivo em L é o negativo do valor objetivo em L esses dois programas lineares são equivalentes Por exemplo se temos o programa linear e negamos os coeficientes da função objetivo obtemos Em seguida mostramos como converter um programa linear no qual algumas das variáveis não têm restrições de não negatividade em um programa no qual cada variável tem uma restrição de não negatividade Suponha que alguma variável xj não tenha uma restrição de não negatividade Então substituímos cada ocorrência de xj por xj xj e adicionamos as restrições de não negatividade xj 0 e xj 0 Assim se a função objetivo tem um termo cjxj nós o substituímos por cjxj cjxj e se a restrição i tem um termo aijxj nós o substituímos por aijxj aijxj Qualquer solução viável xˆ para o novo programa linear corresponde a uma solução viável para o programa linear original x com x xˆ xˆ e com o mesmo valor objetivo Além disso qualquer solução viável x para o programa linear original corresponde a uma solução viável xˆ para o novo programa linear com xˆ j xj e xˆj 0 se x 0 ou com xˆj xJ e xˆj 0 se x 0 Os dois programas lineares têm o mesmo valor objetivo independentemente do sinal de xj Assim os dois programas lineares são equivalentes Aplicamos esse esquema de conversão a cada variável que não tem uma restrição de não negatividade para produzir um programa linear equivalente no qual todas as variáveis têm restrições de não negatividade Continuando o exemplo queremos garantir que cada variável tenha uma restrição de não negatividade correspondente A variável x1 tem tal restrição mas a variável x2 não tem Portanto substituímos x2 por duas variáveis x2 e x2 e modificamos o programa linear para obter Em seguida convertemos as restrições de igualdade em restrições de desigualdade Suponha que um programa linear tenha uma restrição de igualdade fx1 x2 xn b Visto que x y se e somente se x y e x y podemos substituir essa restrição de igualdade pelo par de restrições de desigualdade fx1 x2 xn b e fx1 x2 xn b Repetindo essa conversão para cada restrição de igualdade temos um programa linear no qual todas as restrições são desigualdades Finalmente podemos converter as restrições maior que ou igual a em restrições menor que ou igual a multiplicando todas essas restrições por 1 Isto é qualquer desigualdade da forma é equivalente a Assim substituindo cada coeficiente aij por aij e cada valor bi por bi obtemos uma restrição menor que ou igual a equivalente Concluindo nosso exemplo substituímos a igualdade na restrição 2922 por duas desigualdades obtendo Finalmente negamos a restrição 2923 Para manter a consistência para os nomes de variáveis renomeamos x2 como x2 e x2 como x3 e obtemos a formapadrão Converter programas lineares para a forma de folgas Para resolver eficientemente um programa linear com o algoritmo simplex preferimos expressálo em uma forma na qual algumas das restrições são restrições de igualdade Mais exatamente nós o converteremos para uma forma na qual as restrições de não negatividade são as únicas restrições de desigualdade e as restrições restantes são igualdades Seja uma restrição de desigualdade Introduzimos uma nova variável s e reescrevemos a desigualdade 2929 como as duas restrições Denominamos s variável de folga porque ela mede a folga ou diferença entre o lado esquerdo e o lado direito da equação 2929 Veremos em breve por que achamos que é conveniente escrever a restrição com apenas a variável de folga no lado esquerdo Como a desigualdade 2929 é verdadeira se e somente se a equação 2930 e a desigualdade 2931 são verdadeiras podemos converter cada restrição de desigualdade de um programa linear desse modo para obter um programa linear equivalente no qual as únicas restrições de desigualdade são as restrições de não negatividade Quando convertermos da formapadrão para a forma de folgas usaremos xni em vez de s para denotar a variável de folga associada à iésima desigualdade Portanto a iésima restrição é juntamente com a restrição de não negatividade xn i 0 Convertendo cada restrição de um programa linear na formapadrão obtemos um programa linear em uma forma diferente Por exemplo para o programa linear descrito em 2924 2928 introduzimos variáveis de folga x4 x5 e x6 obtendo Nesse programa linear todas as restrições exceto as restrições de não negatividade são igualdades e cada variável está sujeita a uma restrição de não negatividade Escrevemos cada restrição de igualdade com uma das variáveis no lado esquerdo da igualdade e todas as outras no lado direito Além disso cada equação tem o mesmo conjunto de variáveis no lado direito e essas variáveis são também as únicas que aparecem na função objetivo As variáveis no lado esquerdo das igualdades são denominadas variáveis básicas e as do lado direito são denominadas variáveis não básicas Para programas lineares que satisfazem essas condições às vezes omitimos as palavras maximizar e sujeito a bem como as restrições explícitas de não negatividade Utilizaremos também a variável z para denotar o valor da função objetivo Denominamos o formato resultante forma de folgas Se escrevermos o programa linear dado em 2933 2937 em forma de folgas obteremos Como ocorre com a formapadrão achamos que seja conveniente adotar uma notação mais concisa para descrever uma forma de folgas Como veremos na Seção 293 os conjuntos de variáveis básicas e não básicas mudarão à medida que o algoritmo simplex for executado Usamos N para denotar o conjunto de índices das variáveis não básicas e B para denotar o conjunto de índices das variáveis básicas Sempre temos que N n B m e N B 1 2 n m As equações são indexadas pelas entradas de B e as variáveis no lado direito são indexadas pelas entradas de N Como na formapadrão usamos bi cj e aij para denotar termos constantes e coeficientes Também usamos v para denotar um termo constante opcional na função objetivo Um pouco mais adiante veremos que incluir o termo constante na função objetivo facilita a determinação do valor da função objetivo Assim podemos definir concisamente uma forma de folgas por uma tupla N B A b c v denotando a forma de folgas na qual todas as variáveis x são restritas a ser não negativas Como subtraímos a soma jN aij x j em 2943 os valores aij são na verdade os negativos dos coeficientes que aparecem na forma de folgas Por exemplo na forma de folgas temos B 1 2 4 N 3 5 6 c c3 c5 c6T 16 16 23T e v 28 Observe que os índices em A b e c não são necessariamente conjuntos de inteiros contíguos eles dependem dos conjuntos de índices B e N Como exemplo de que as entradas de A são os negativos dos coeficientes que aparecem na forma de folgas observe que a equação para x1 inclui o termo x36 ainda que o coeficiente a13 seja realmente 16 em vez de 16 Exercícios 2911 2912 2913 2914 2915 2916 2917 Se expressarmos o programa linear em 29242928 na notação compacta de 29192921 o que são n m A b e c Dê três soluções viáveis para o programa linear em 29242928 Qual é o valor objetivo de cada uma Para a forma de folgas em 29382941 o que são N B A b c e v Converta o seguinte programa linear para a formapadrão Converta o seguinte programa linear para a forma de folgas Quais são as variáveis básicas e não básicas Mostre que o seguinte programa linear é inviável Mostre que o seguinte programa linear é ilimitado 2918 2919 292 Suponha que tenhamos um programa linear geral com n variáveis e m restrições e suponha que o convertemos para a formapadrão Dê um limite superior para o número de variáveis e restrições no programa linear resultante Dê um exemplo de programa linear para o qual a região viável não é limitada mas o valor objetivo ótimo é finito FORMULAR PROBLEMAS COMO PROGRAMAS LINEARES Embora o foco deste capítulo seja o algoritmo simplex também é importante que saibamos reconhecer quando podemos formular um problema como um programa linear Uma vez expresso o problema como um programa linear de tamanho polinomial podemos resolvêlo em tempo polinomial pelo algoritmo dos elipsoides ou dos pontos interiores Vários pacotes de software de programação linear podem resolver problemas eficientemente portanto uma vez expresso como um programa linear tal pacote pode resolvêlo Examinaremos vários exemplos concretos de problemas de programação linear Começamos com dois problemas que já estudamos o problema de caminhos mínimos de fonte única veja o Capítulo 24 e o problema de fluxo máximo veja o Capítulo 26 Então descrevemos o problema de fluxo de custo mínimo Embora o problema de fluxo de custo mínimo tenha um algoritmo de tempo polinomial que não se baseia em programação linear não o descreveremos Finalmente descrevemos o problema do fluxo de várias mercadorias para o qual o único algoritmo de tempo polinomial conhecido se baseia em programação linear Quando resolvemos problemas de grafos na Parte VI usamos notação de atributo tal como vd e u v f Todavia problemas lineares normalmente usam variáveis com índices em vez de objetos com atributos anexos Portanto quando expressarmos variáveis em programas lineares indicaremos vértices e arestas por índices Por exemplo não denotamos o peso do caminho mínimo para o vértice por v por vd mas por dv De modo semelhante não denotamos o fluxo do vértice u ao vértice v por u v f mas por fuv Quando se trata de quantidades dadas como entradas para problemas por exemplo capacidades ou pesos de arestas continuaremos a usar notações como wu v e cuv Caminhos mínimos Podemos formular o problema de caminhos mínimos de fonte única como um programa linear Nesta seção focalizaremos a formulação do problema de caminhos mínimos para um par deixando a extensão para o problema mais geral de caminhos mínimos de fonte única para o Exercício 2923 No problema de caminhos mínimos para um par temos um grafo ponderado dirigido G V E com função peso w E que mapeia arestas para pesos de valor real um vértice de fonte s e um vértice de destino t Desejamos calcular o valor dt que é o peso de um caminho mínimo de s a t Para expressar esse problema como um programa linear precisamos determinar um conjunto de variáveis e restrições que definem quando temos um caminho mínimo desde s a t Felizmente o algoritmo de BellmanFord faz exatamente isso Quando termina o algoritmo de Bellman Ford calculou para cada vértice v um valor dv usando agora a notação por índices em vez da notação por atributo tal que para cada aresta u v E temos dv du wu v Inicialmente o vértice de fonte recebe um valor ds 0 que nunca muda Assim obtemos o seguinte programa linear para calcular o peso do caminho mínimo de s a t Você talvez se surpreenda porque esse programa linear maximiza uma função objetivo quando supostamente deveria calcular caminhos mínimos Não queremos minimizar a função objetivo visto que definir dv 0 para todo v V produziria uma solução ótima para o programa linear sem resolver o problema dos caminhos mínimos Maximizamos porque uma solução ótima para o problema dos caminhos mínimos define cada dv como minuu vEdu wu v de modo que dv é o maior valor que é menor ou igual a todos os valores no conjunto du wu v Queremos maximizar dv para todos os vértices v em um caminho mínimo de s a t sujeito a essas restrições em todos os vértices v e maximizar dt cumpre essa meta Esse programa linear tem V variáveis dv uma para cada vértice v V Há também E 1 restrições uma para cada aresta mais a restrição adicional de que o peso do caminho mínimo do vértice fonte tem o valor 0 Fluxo máximo Em seguida expressamos o problema do fluxo máximo como um programa linear Lembrese de que temos um grafo dirigido G V E no qual cada aresta u v E tem uma capacidade não negativa cu v 0 e dois vértices preeminentes uma fonte s e um sorvedouro t Como definimos na Seção 261 um fluxo é uma função não negativa de valor real f V V que satisfaz a restrição de capacidade e conservação de fluxo Um fluxo máximo é um fluxo que satisfaz essas restrições e maximiza o valor de fluxo que é o fluxo total que sai da fonte menos o fluxo total que entra na fonte Portanto um fluxo satisfaz restrições lineares e o valor de um fluxo é uma função linear Lembrando também que convencionamos que cu v 0 se u v E e que não há arestas antiparalelas podemos expressar o problema de fluxo máximo como um programa linear Esse programa linear tem V2 variáveis correspondendo ao fluxo entre cada par de vértices e 2V2 V 2 restrições Normalmente é mais eficiente resolver um programa linear de tamanho menor O programa linear em 2947 2950 tem por facilidade de notação fluxo e capacidade 0 para cada par de vértices u v com u v E Seria mais eficiente reescrever o programa linear de modo que ele tenha OV E restrições O Exercício 2925 pede que você faça isso Fluxo de custo mínimo Nesta seção usamos programação linear para resolver problemas para os quais já conhecíamos algoritmos eficientes Na verdade muitas vezes um algoritmo eficiente projetado especificamente para um problema como o algoritmo de Dijkstra para o problema de caminhos mínimos de fonte única ou o método pushrelabel para fluxo máximo será mais eficiente que a programação linear tanto na teoria quanto na prática O real poder da programação linear vem da capacidade de resolver novos problemas Lembrese do problema enfrentado pelo político no início deste capítulo O problema de obter um número suficiente de votos e ao mesmo tempo não gastar muito dinheiro não é resolvido por qualquer dos algoritmos que estudamos neste livro no entanto podemos resolvêlo por programação linear Há muitos livros que descrevem tais problemas reais que a programação linear pode resolver A programação linear também é particularmente útil para resolver variantes de problemas para os quais talvez ainda não conheçamos um algoritmo eficiente Considere por exemplo a seguinte generalização do problema de fluxo máximo Suponha que além de uma capacidade cu v para cada aresta u v tenhamos um custo de valor real au v Como no problema do fluxo máximo convencionamos que cu v 0 se u v E e que não existe nenhuma aresta antiparalela Se enviarmos fuv unidades de fluxo pela aresta u v incorreremos em um custo au vfuv Temos também uma demanda de fluxo d Desejamos enviar d unidades de fluxo de s a t e ao mesmo tempo minimizar o custo total uvE au v fuv incorrido pelo fluxo Esse problema é conhecido como problema de fluxo de custo mínimo A Figura 293a mostra um exemplo do problema de fluxo de custo mínimo Desejamos enviar quatro unidades de fluxo de s para t incorrendo no custo total mínimo Qualquer fluxo válido específico isto é uma função f que satisfaça as restrições 29482950 incorre em um custo total uvE au v fuv Desejamos determinar o fluxo específico de quatro unidades que minimiza esse custo A Figura 293b mostra uma solução ótima com custo total uvE au v fuv 2 2 5 2 3 1 7 1 1 3 27 Existem algoritmos de tempo polinomial projetados especificamente para o problema de fluxo de custo mínimo mas eles não estão no escopo deste livro Entretanto podemos expressar o problema de fluxo de custo mínimo como um programa linear O programa linear é semelhante ao do problema de fluxo máximo com a restrição adicional que o valor do fluxo deve ser exatamente d unidades e com a nova função objetivo de minimizar o custo Figura 293 a Exemplo de um problema de fluxo de custo mínimo Denotamos as capacidades por c e os custos por a O vértice s é a fonte e o vértice t é o sorvedouro e desejamos enviar quatro unidades de fluxo de s a t b Solução para o problema de fluxo de custo 2921 2922 mínimo no qual quatro unidades de fluxo são enviadas de s a t Para cada aresta o fluxo e a capacidade estão escritos como fluxocapacidade Fluxo multimercadorias Como exemplo final consideramos outro problema de fluxo Suponha que a empresa Lucky Puck da Seção 261 decida diversificar sua linha de produtos e comercializar bastões e capacetes de hóquei além de discos de hóquei Cada item de equipamento é produzido em sua própria fábrica tem seu próprio armazém e deve ser transportado todo dia da fábrica ao armazém Os bastões são fabricados em Vancouver e devem ser transportados para Saskatoon e os capacetes são fabricados em Edmonton e devem ser transportados para Regina No entanto a capacidade da rede de transporte não muda e os diferentes itens ou mercadorias devem compartilhar a mesma rede Esse exemplo é uma instância de um problema de fluxo multimercadorias Nesse problema temos novamente um grafo dirigido G V E no qual cada aresta u v E tem uma capacidade não negativa cu v 0 Como no problema de fluxo máximo supomos implicitamente que cu v 0 para u v E e que o grafo não tem nenhuma aresta antiparalela Além disso temos k mercadorias diferentes K1 K2 Kk onde especificamos a mercadoria i pela tripla Ki si ti di Aqui o vértice si é a fonte da mercadoria i o vértice ti é o sorvedouro da mercadoria i e di é a demanda para a mercadoria i que é o valor de fluxo desejado para a mercadoria de si a ti Definimos um fluxo para a mercadoria i denotado por fi de modo que fiuv é o fluxo da mercadoria i do vértice u ao vértice v como uma função de valor real que satisfaz as restrições de conservação de fluxo e capacidade Agora definimos fu v o fluxo agregado como a soma dos vários fluxos de mercadorias de modo que fuv O fluxo agregado na aresta u v não deve ser maior que a capacidade da aresta u v Não estamos tentando minimizar qualquer função objetivo nesse problema precisamos somente determinar se tal fluxo existe Assim escrevemos um programa linear com uma função objetivo nula O único algoritmo de tempo polinomial conhecido para esse problema o expressa como um programa linear e depois o resolve com um algoritmo de programação linear de tempo polinomial Exercícios Expresse o programa linear de caminhos mínimos para um par de 29442946 na formapadrão Escreva explicitamente o programa linear correspondente a determinar o caminho mínimo do nó s ao nó y na Figura 242a 2923 2924 2925 2926 2927 293 No problema de caminhos mínimos de fonte única queremos determinar os pesos de caminhos mínimos de um vértice de fonte s a todos os vértices v V Dado um grafo G escreva um programa linear para o qual a solução tenha a seguinte propriedade dv é o peso do caminho mínimo de s a v para cada vértice v V Escreva explicitamente o programa linear correspondente a determinar o fluxo máximo na Figura 261a Reescreva o programa linear para fluxo máximo 29472950 de modo que ele use apenas OV E restrições Escreva um programa linear que dado um grafo bipartido G V E resolva o problema do emparelhamento máximo em grafo bipartido No problema do fluxo de custo mínimo para várias mercadorias temos um grafo dirigido G V E no qual cada aresta u v E tem uma capacidade não negativa cu v 0 e um custo au v Como no problema de fluxo de várias mercadorias temos k mercadorias diferentes K1 K2 Kk onde especificamos a mercadoria i pela tripla Ki si ti di Definimos o fluxo fi para a mercadoria i e o fluxo agregado fu v na aresta u v como no problema de fluxo de várias mercadorias Um fluxo viável é aquele no qual o fluxo agregado em cada aresta u v não é maior que a capacidade da aresta u v O custo de um fluxo é uvV au v fuv e a meta é determinar o fluxo viável de custo mínimo Expresse esse problema como um programa linear O ALGORITMO SIMPLEX O algoritmo simplex é o método clássico para resolver programas lineares Ao contrário da maioria dos outros algoritmos neste livro seu tempo de execução não é polinomial no pior caso porém sugere ideias para programas lineares e muitas vezes é extraordinariamente rápido na prática Além de ter uma interpretação geométrica já descrita neste capítulo o algoritmo simplex guarda alguma semelhança com o método de eliminação de Gauss discutido na Seção 281 O método de eliminação de Gauss começa com um sistema de igualdades lineares cuja solução é desconhecida Em cada iteração reescrevemos esse sistema em uma forma equivalente que tem alguma estrutura adicional Após um certo número de iterações reescrevemos o sistema de modo que a solução seja simples de obter O algoritmo simplex age de maneira semelhante e podemos considerálo como o método de eliminação de Gauss para desigualdades Agora descrevemos a ideia principal por trás de uma iteração do algoritmo simplex Associada a cada iteração haverá uma solução básica fácil de obter pela forma de folgas do programa linear definir cada variável não básica como 0 e calcular os valores das variáveis básicas pelas restrições de igualdade Uma iteração converte uma forma de folgas em uma forma de folgas equivalente O valor objetivo da solução básica viável associada não será menor que o da iteração anterior e em geral será maior Para conseguir esse aumento no valor objetivo escolhemos uma variável não básica tal que se fôssemos aumentar o valor dessa variável começando em 0 o valor objetivo também aumentaria O valor do aumento que podemos conseguir para a variável está limitado pelas outras restrições Em particular só o aumentamos até que algumas variáveis básicas se tornem 0 Então reescrevemos a forma de folgas trocando os papéis daquela variável básica e da variável não básica escolhida Embora tenhamos usado uma configuração específica das variáveis para guiar o algoritmo a qual usaremos em nossas provas o algoritmo não mantém explicitamente essa solução Ele simplesmente reescreve o programa linear até que uma solução ótima se torne óbvia Um exemplo do algoritmo simplex Começamos com um exemplo estendido Considere o seguinte programa linear na formapadrão Para usar o algoritmo simplex devemos converter o programa linear para a forma de folgas vimos como fazer isso na Seção 291 Além de ser uma manipulação algébrica a folga é um conceito algorítmico útil Lembrese de que na Seção 291 observamos que cada variável tem uma restrição de não negatividade correspondente dizemos que uma restrição de igualdade é exata para uma configuração particular de suas variáveis não básicas se ela faz com que a variável básica da restrição se torne 0 De modo semelhante uma configuração das variáveis não básicas que tornasse uma variável básica negativa viola aquela restrição Assim as variáveis de folga mantêm explicitamente o quanto cada restrição está longe de ser exata e portanto ajudam a determinar o quanto podemos aumentar valores de variáveis não básicas sem violar nenhuma restrição Associando as variáveis de folga x4 x5 e x6 respectivamente às desigualdades 29542956 e expressando o programa linear em forma de folgas obtemos O sistema de restrições 29592961 tem três equações e seis variáveis Qualquer configuração das variáveis x1 x2 e x3 define valores para x4 x5 e x6 portanto temos um número infinito de soluções para esse sistema de equações Uma solução é viável se todos os valores x1 x2 x6 são não negativos e pode haver também um número infinito de soluções viáveis O número infinito de soluções possíveis para um sistema como esse será útil em provas posteriores Focalizamos a solução básica faça todas as variáveis não básicas no lado direito iguais a 0 e depois calcule os valores das variáveis básicas no lado esquerdo Nesse exemplo a solução básica é x1 x2 x6 0 0 0 30 24 36 e ela tem valor objetivo z 3 0 1 0 2 0 0 Observe que essa solução básica define xi bi para cada i B Uma iteração do algoritmo simplex reescreve o conjunto de equações e a função objetivo de modo a colocar um conjunto diferente de variáveis no lado direito Assim uma solução básica diferente é associada ao problema reescrito Enfatizamos que reescrever não altera de modo algum o problema de programação linear subjacente o problema em uma iteração tem o conjunto de soluções viáveis idêntico ao do problema na iteração anterior Entretanto o problema realmente tem uma solução básica diferente da solução na iteração anterior Se uma solução básica também é viável nós a denominamos solução básica viável Durante a execução do algoritmo simplex a solução básica quase sempre é uma solução básica viável Porém veremos na Seção 295 que para as primeiras iterações do algoritmo simplex a solução básica pode não ser viável Nossa meta em cada iteração é reformular o programa linear de modo que a solução básica tenha um valor objetivo maior Selecionamos uma variável não básica xe cujo coeficiente na função objetivo é positivo e aumentamos o valor de xe o quanto possível sem violar quaisquer das restrições A variável xe se torna básica e alguma outra variável xl se torna não básica Os valores de outras variáveis básicas e da função objetivo também podem mudar Para continuar o exemplo vamos pensar em aumentar o valor de x1 À medida que aumentamos x1 os valores de x4 x5 e x6 diminuem Como temos uma restrição de não negatividade para cada variável não podemos permitir que nenhuma delas se torne negativa Se x1 aumenta acima de 30 então x4 se torna negativa e x5 e x6 se tornam negativas quando x1 aumenta acima de 12 e 9 respectivamente A terceira restrição 2961 é a mais rígida e limita o quanto podemos aumentar x1 Portanto trocamos os papéis de x1 e x6 Resolvemos a equação 2961 para x1 e obtemos Para reescrever as outras equações com x6 no lado direito substituímos x1 usando a equação 2962 Fazendo isso para a equação 2959 obtemos De modo semelhantecombinamos a equação 2962 com a restrição 2960 e com a função objetivo 2958 para reescrever nosso programa linear na seguinte forma Denominamos essa operação pivô Como acabamos de demonstrar um pivô escolhe uma variável não básica xe denominada variável de entrada e uma variável básica xl denominada variável de saída e troca suas funções O programa linear descrito nas equações 29642977 é equivalente ao programa linear descrito nas equações 29582961 Executamos duas operações no algoritmo simplex reescrever equações de modo que as variáveis passem do lado esquerdo para o lado direito e substituir uma equação em outra A primeira operação cria trivialmente um problema equivalente e a segunda por álgebra linear elementar também cria um problema equivalente veja o Exercício 2933 Para demonstrar essa equivalência observe que nossa solução básica original 0 0 0 30 24 36 satisfaz as novas equações 29652967 e tem valor objetivo 27 14 0 12 0 34 36 0 A solução básica associada ao novo programa linear define os valores não básicos como 0 e é 9 0 0 21 6 0 com valor objetivo z 27 Simples aritmética verifica que essa solução também satisfaz as equações 29592961 e quando substituída na função objetivo 29 58 tem valor objetivo 3 9 1 0 2 0 27 Continuando o exemplo desejamos encontrar uma nova variável cujo valor queremos aumentar Não queremos aumentar x6 já que à medida que seu valor aumenta o valor objetivo diminui Podemos tentar aumentar ou x2 ou x3 escolhemos x3 Ate quanto podemos aumentar x3 sem violar nenhuma das restrições A restrição 2965 a limita a 18 a restrição 2966 a limita a 425 e a restrição 2967 a limita a 32 A terceira restrição é novamente a mais rígida e portanto reescrevemos a terceira restrição de modo que x3 fique no lado esquerdo e x5 no lado direito Então substituímos essa nova equação x3 32 3x28 x54 x68 nas equações 2964 2966 e obtemos o sistema novo mas equivalente Esse sistema tem a solução básica associada 334 0 32 694 0 0 com valor objetivo 1114 Agora o único modo de aumentar o valor objetivo é aumentar x2 As três restrições dão limites superiores de 132 4 e respectivamente Obtemos um limite superior pela restrição 2971 porque à medida que aumentamos x2 o valor da variável básica x4 também aumenta Portanto essa restrição não limita o quanto podemos aumentar x2 Aumentamos x2 para 4 e ela se torna não básica Então resolvemos a equação 2970 para x2 e a substituímos nas outras equações para obter Nesse ponto todos os coeficientes na função objetivo são negativos Como veremos mais adiante neste capítulo essa situação ocorre somente quando reescrevemos o programa linear de modo que a solução básica seja uma solução ótima Assim para esse problema a solução 8 4 0 18 0 0 com valor objetivo 28 é ótima Agora podemos retornar ao nosso programa linear original dado em 29532957 As únicas variáveis no programa linear original são x1 x2 e x3 e assim nossa solução é x1 8 x2 4 e x3 0 com valor objetivo 3 8 1 4 2 0 28 Observe que os valores das variáveis de folga na solução final medem quanta folga sobra em cada desigualdade A variável de folga x4 é 18 e na desigualdade 2957 o lado esquerdo com valor 8 4 0 12 é 18 unidades menor que o lado direito 30 As variáveis de folga x5 e x6 são 0 e de fato nas desigualdades 2955 e 2956 o lado esquerdo e o lado direito são iguais Observe também que embora os coeficientes na forma original de folgas sejam inteiros os coeficientes nos outros programas lineares não são necessariamente inteiros e as soluções intermediárias não são necessariamente inteiras Além disso a solução final para um programa linear não precisa ser inteira é simples coincidência que esse exemplo tenha uma solução inteira Pivotar Agora formalizamos o procedimento para pivotar O procedimento PIVOT toma como entrada uma forma de folgas dada pela tupla N B A b c v o índice l da variável de saída xl e o índice e da variável de entrada xe Ele retorna a tupla Nˆ Bˆ Aˆ bˆ cˆ vˆ que descreve a nova forma de folgas Lembrese mais uma vez de que as entradas das matrizes m n A e  são na realidade as negativas dos coeficientes que aparecem na forma de folgas PIVOT funciona da maneira descrita a seguir As linhas 36 calculam os coeficientes na nova equação para xe reescrevendo a equação que tem xl no lado esquerdo de modo que agora tenha xe no lado esquerdo As linhas 812 atualizam as equações restantes substituindo o lado direito dessa nova equação em cada ocorrência de xe As linhas 14 17 fazem a mesma substituição para a função objetivo e as linhas 19 e 20 atualizam os conjuntos de variáveis não básicas e básicas A linha 21 retorna a nova forma de folgas Como dado se ale 0 PIVOT causaria um erro de divisão por zero mas como veremos nas provas dos Lemas 292 e 2912 chamamos PIVOT somente quando ale 0 Agora resumimos o efeito de PIVOT sobre os valores das variáveis na solução básica Lema 291 Considere uma chamada PIVOTN B A b c v l e na qual ale 0 Sejam Nˆ Bˆ Aˆ bˆ cˆ vˆ os valores retornados pela chamada e seja x a solução básica depois da chamada Então Prova A primeira afirmação é verdadeira porque a solução básica sempre define todas as variáveis não básicas como 0 Quando definimos cada variável não básica como 0 em uma restrição temos que xi bˆ i para cada i Bˆ Visto que e Bˆ a linha 3 de PIVOT dá o que prova a segunda afirmação De modo semelhante usando a linha 9 para cada i Bˆ e temos o que prova a terceira afirmação O algoritmo simplex formal Agora estamos prontos para formalizar o algoritmo simplex que já demonstramos como exemplo Tal exemplo foi particularmente interessante e poderíamos ter várias outras questões a abordar Como determinamos se um programa linear é viável O que fazemos se o programa linear é viável mas a solução básica inicial não é viável Como determinamos se um programa linear é ilimitado Como escolhemos as variáveis que entram e saem Na Seção 295 mostraremos como determinar se um problema é viável e se for como determinar uma forma de folgas na qual a solução básica inicial seja viável Portanto vamos supor que temos um procedimento INITIALIZE SIMPLEXA b c que toma como entrada um programa linear na formapadrão isto é uma matriz m n A aij um m vetor b bi e um n vetor c cj Se o problema for inviável o procedimento retorna uma mensagem indicando que o programa é inviável e em seguida termina Caso contrário retorna uma forma de folgas para a qual a solução básica inicial é viável O procedimento SIMPLEX toma como entrada um programa linear na formapadrão exatamente como foi descrito e retorna um n vetor x xj que é uma solução ótima para o programa linear descrito em 29192921 O procedimento SIMPLEX funciona da seguinte maneira na linha 1 chama o procedimento INITIALIZESIMPLEXA b c já descrito que determina que o programa linear é inviável ou retorna uma forma de folgas para a qual a solução básica é viável O laço while das linhas 312 forma a parte principal do algoritmo Se todos os coeficientes da função objetivo 1 2 3 são negativos o laço while termina Caso contrário a linha 4 seleciona como variável de entrada uma variável xe cujo coeficiente na função objetivo é positivo Embora possamos escolher qualquer variável como variável de entrada supomos que usamos alguma regra determinística previamente especificada Em seguida as linhas 59 verificam cada restrição e escolhem a que impõe limites mais estritos ao aumento possível de xe sem violar nenhuma das restrições de não negatividade a variável básica associada a essa restrição é xl Novamente estamos livres para escolher uma de diversas variáveis para sair da base mas supomos que usamos alguma regra determinística previamente especificada Se nenhuma das restrições impuser um limite ao aumento possível da variável de entrada o algoritmo retornará ilimitado na linha 11 Caso contrário a linha 12 trocará os papéis da variável que entra com a que sai chamando PIVOTN B A b c v l e como já descrevemos As linhas 1316 calculam uma solução x1 x2 xn para as variáveis de programação linear originais definindo todas as variáveis não básicas como 0 e cada variável básica xi como bi e a linha 17 devolve esses valores Para mostrar que SIMP LEX é correto primeiro mostramos que se SIMP LEX tem uma solução inicial viável e eventualmente termina então ele retorna uma solução viável ou determina que o programa linear é ilimitado Então mostramos que SIMPLEX termina Finalmente na Seção 294 Teorema 2910 mostramos que a solução retornada é ótima Lema 292 Dado um programa linear A b c suponha que a chamada INITIALIZESIMPLEX na linha 1 de SIMPLEX retorne uma forma de folgas para a qual a solução básica é viável Então se SIMPLEX retorna uma solução na linha 17 essa solução é uma solução viável para o programa linear Se SIMPLEX retorna ilimitado na linha 11 o programa linear é ilimitado Prova Usamos o seguinte invariante de laço de três partes No início de cada iteração do laço while das linhas 312 A forma de folgas é equivalente à forma de folgas retornada pela chamada de INITIALIZESIMPLEX Para cada i B temos bi 0 A solução básica associada à forma de folgas é viável Inicialização A equivalência das formas de folgas é trivial para a primeira iteração Admitimos no enunciado do lema que a chamada a INITIALIZESIMPLEX na linha 1 de SIMPLEX retorna uma forma de folgas para a qual a solução básica é viável Assim a terceira parte do invariante é verdadeira Além disso visto que a solução básica define cada variável básica xi como bi temos que bi 0 para todo i B Assim a segunda parte do invariante é válida Manutenção Mostraremos que cada iteração do laço while mantém o invariante de laço supondo que a declaração return na linha 11 não é executada Trataremos o caso no qual a linha 11 é executada quando discutirmos término Uma iteração do laço while troca o papel de uma variável básica e uma variável não básica chamando o procedimento PIVOT Pelo Exercício 2933 a forma de folgas é equivalente à da iteração anterior que pelo invariante de laço é equivalente à forma de folgas inicial Agora demonstramos a segunda parte do invariante de laço Supomos que no início de cada iteração do laço while bi 0 para cada i B e mostraremos que essas desigualdades permanecem verdadeiras após a chamada a PIVOT na linha 12 Visto que as únicas mudanças para as variáveis bi e o conjunto B de variáveis básicas ocorrem nessa atribuição basta mostrar que a linha 12 mantém essa parte do invariante Fazemos bi aij e B se referirem a valores antes da chamada de PIVOT e se referir a valores retornados de PIVOT Primeiro observamos que bˆe 0 porque bl 0 pelo invariante de laço ale 0 pelas linhas 6 e 9 de SIMPLEX e bˆe b al le pela linha 3 de PIVOT Para os índices restantes i B l temos que Temos dois casos a considerar dependendo de aie 0 ou aie 0 Se aie 0 então desde que escolhamos l tal que temos e assim bˆi 0 Se aie 0 então como ale bi e bl são não negativos a equação 2976 implica que bˆ i também deve ser não negativo Agora demonstramos que a solução básica é viável isto é que todas as variáveis têm valores não negativos As variáveis não básicas são atribuídas 0 e portanto são não negativas Cada variável básica xi é definida pela equação A solução básica define xi bi Usando a segunda parte do invariante de laço concluímos que cada variável básica é não negativa Término O laço while pode terminar de dois modos Se terminar por causa da condição na linha 3 a solução básica atual é viável e a linha 17 retorna essa solução O outro modo de terminar é retornar ilimitado na linha 11 Nesse caso para cada iteração do laço for nas linhas 58 quando a linha 6 é executada verificamos que aie 0 Considere a solução x definida como Agora mostramos que essa solução é viável isto é que todas as variáveis são não negativas As variáveis não básicas exceto xe são 0 e xe 0 assim todas as variáveis não básicas são não negativas Para cada variável básica xi temos O invariante de laço implica que bi 0 e temos aie 0 e xe 0 Portanto xi 0 Mostramos agora que o valor objetivo para a solução é ilimitado O valor objetivo é Visto que ce 0 pela linha 4de SIMPLEX e xe o valor objetivo é e assim o programa linear é ilimitado Resta mostrar que SIMPLEX termina e quando termina a solução que ele retorna é ótima A Seção 294 tratará de otimalidade Agora discutimos término Término No exemplo dado no início desta seção cada iteração do algoritmo simplex aumentou o valor objetivo associado à solução básica Como o Exercício 2932 pede que você mostre nenhuma iteração de SIMPLEX pode diminuir o valor objetivo associado à solução básica Infelizmente é possível que uma iteração deixe o valor objetivo inalterado Esse fenômeno é denominado degenerescência e agora o estudaremos em detalhes A atribuição na linha 14 de PIVOT vˆ v ce bˆe muda o valor objetivo Visto que SIMPLEX chama PIVOT somente quando ce 0 o único modo de o valor objetivo permanecer inalterado isto é vˆ v é bˆ ser 0 Esse valor é atribuído como bˆe bl ale na linha 3 de PIVOT Como sempre chamamos PIVOT com ale 0 vemos que para bˆe ser igual a 0 e consequentemente o valor objetivo permanecer inalterado devemos ter bl 0 De fato essa situação pode ocorrer Considere o programa linear Suponha que escolhemos x1 como a variável de entrada e x4 como a variável de saída Após pivotar obtemos Nesse ponto nossa única escolha é pivotar com x3 entrando e x5 saindo Visto que b5 0 o valor objetivo de 8 permanece inalterado após o pivotamento O valor objetivo não mudou mas nossa forma de folgas mudou Felizmente se pivotarmos novamente com x2 entrando e x1 saindo o valor objetivo aumenta para 16 e o algoritmo simplex poderá continuar Valores degenerados podem impedir que o algoritmo simplex termine porque podem levar a um fenômeno conhecido como ciclagem as formas de folgas em duas iterações diferentes de SIMPLEX são idênticas Por causa dos valores degenerados SIMP LEX poderia escolher uma sequência de operações de pivô que deixam o valor objetivo inalterado mas repetem uma forma de folgas dentro da sequência Visto que SIMPLEX é um algoritmo determinístico se ele ciclar percorrerá a mesma série de formas de folgas para sempre e nunca terminará A ciclagem é a única razão pela qual SIMPLEX poderia não terminar Para mostrar esse fato temos de desenvolver algumas ferramentas adicionais A cada iteração SIMPLEX mantém A b c e v além dos conjuntos N e B Embora seja preciso manter A b c e v explicitamente para implementar o algoritmo simplex eficientemente conseguimos passar sem mantêlos Em outras palavras os conjuntos de variáveis básicas e não básicas são suficientes para determinar inequivocamente a forma de folgas Antes de provar esse fato provamos uma lema algébrico útil Lema 293 Seja I um conjunto de índices Para cada j I sejam αj e βj números reais e seja xj uma variável de valor real Seja γ qualquer número real Suponha que para quaisquer configurações de xj tenhamos Então αj βj para cada j I e γ 0 Prova Visto que a equação 2978 é válida para quaisquer valores de xj podemos usar valores específicos para tirar conclusões sobre α β e γ Se fizermos xj 0 para cada j I concluímos que γ 0 Agora escolha um índice arbitrário j I e sejam xj 1 e xk 0 para todo k j Então devemos ter αj βj Visto que escolhemos j como qualquer índice em I concluímos que αj βj para cada j I Um programa linear determinado tem muitas formas de folgas diferentes lembrese de que cada forma de folgas tem o mesmo conjunto de soluções viáveis e ótimas que o programa linear original Mostramos agora que a forma de folgas de um programa linear é determinada exclusivamente pelo conjunto de variáveis básicas Isto é dado o conjunto de variáveis básicas uma única forma de forma de folgas um único conjunto de coeficientes e lados direitos está associado a essas variáveis básicas Lema 294 Seja A b c um programa linear na formapadrão Dado um conjunto B de variáveis básicas a forma de folgas associada é determinada inequivocamente Prova Suponha por contradição que haja duas formas de folga diferentes com o mesmo conjunto B de variáveis básicas As formas de folga devem também ter conjuntos idênticos N 1 2 n m B de variáveis não básicas Escrevemos a primeira forma de folgas como E a segunda como Considere o sistema de equações formado subtraindo cada equação na linha 2982 da equação correspondente na linha 2980 O sistema resultante é ou de modo equivalente Agora para cada i B aplicamos o Lema 293 com αi αij βj aij e γ bi bi e I N Visto que αj βj temos que aij aij para cada j N e como γ 0 temos que bi bi Assim para as duas formas de folga A e b são idênticos a A e b Usando um argumento semelhante o Exercício 2931 mostra que também deve ocorrer c c e v v e consequentemente que as formas de folga devem ser idênticas Agora podemos mostrar que ciclagem é a única razão pela qual SIMPLEX poderia não terminar Lema 295 Ciclar é teoricamente possível mas extremamente raro Podemos evitar que isso ocorra escolhendo as variáveis que entram e saem com um pouco mais de cuidado Uma opção é perturbar ligeiramente a entrada de modo que seja impossível ter duas soluções com o mesmo valor objetivo Uma outra opção é desempatar escolhendo sempre a variável com menor índice uma estratégia conhecida como regra de Bland Omitimos a prova de que essas estratégias evitam ciclagem Lema 296 Se as linhas 4 e 9 de SIMPLEX sempre desempatam escolhendo a variável com o menor índice então SIMPLEX termina Concluímos esta seção com o lema a seguir Lema 297 2931 2934 2935 2936 2937 294 Exercícios Conclua a prova do Lema 294 mostrando que deve ser o caso em que c c e v v 2932 Mostre que a chamada a PIVOT na linha 12 de SIMPLEX nunca diminuirá o valor de v 2933 Prove que a forma de folgas dada ao procedimento PIVOT e a forma de folga que o procedimento devolve são equivalentes Suponha que convertemos um programa linear A b c em formapadrão para forma de folgas Mostre que a solução básica é viável se e somente se bi 0 para i 1 2 m Resolva o seguinte programa linear usando SIMPLEX Resolva o seguinte programa linear usando SIMPLEX Resolva o seguinte programa linear usando SIMPLEX DUALIDADE Provamos que sob certas circunstâncias SIMP LEX termina Contudo ainda não mostramos que ele realmente encontra uma solução ótima para um programa linear Para tal apresentamos um conceito importante denominado dualidade de programação linear A dualidade nos permite provar que uma solução é de fato ótima Vimos um exemplo de dualidade no Capítulo 26 com o Teorema 266 o teorema do fluxo máximocorte mínimo Suponha que dada uma instância de um problema de fluxo máximo encontramos um fluxo f com valor f Como saber se f é um fluxo máximo Pelo teorema do fluxo máximocorte mínimo se pudermos determinar um corte cujo valor também seja f teremos verificado que f é de fato um fluxo máximo Essa relação nos dá um exemplo de dualidade dado um problema de maximização definimos um problema de minimização relacionado tal que os dois problemas têm os mesmos valores objetivos ótimos Dado um programa linear no qual o objetivo é maximizar descreveremos como formular um programa linear dual no qual o objetivo é minimizar e cujo valor ótimo é idêntico ao do programa linear original Quando nos referimos a programas lineares duais denominamos o programa linear original primal Dado um programa linear primal na formapadrão como em 29162918 definimos o programa linear dual como Para formar o dual trocamos a maximização para uma minimização permutamos os papéis dos coeficientes dos lados direitos e a função objetivo e substituímos o sinal menor que ou igual a por um sinal maior que ou igual a Cada uma das m restrições no primal tem uma variável associada yi no dual e cada uma das n restrições no dual tem uma variável xj associada no primal Por exemplo considere o programa linear dado em 29562957 O dual desse programa linear é Mostraremos no Teorema 2910 que o valor ótimo do programa linear dual é sempre igual ao valor ótimo do programa linear primal Além disso na verdade o algoritmo simplex resolve implicitamente os programas lineares primal e dual ao mesmo tempo dando assim uma prova da otimalidade Começamos demonstrando a dualidade fraca que afirma que qualquer solução viável para o programa linear primal tem um valor não maior que o de qualquer solução viável para o programa linear dual Lema 298 Dualidade fraca de programação linear Seja x uma solução viável para o programa linear primal em 29162918 e seja y solução viável para o programa linear dual em 29832985 Então temos Prova Temos Corolário 299 Seja x uma solução viável para um programa linear primal A b c e seja y uma solução viável para o programa linear dual correspondente Se então x e y são soluções ótimas para os programas lineares primal e dual respectivamente Prova Pelo Lema 298 o valor objetivo de uma solução viável para o primal não pode exceder o de uma solução viável para o dual O programa linear primal é um problema de maximização e o dual é um problema de minimização Assim se as soluções viáveis x e y têm o mesmo valor objetivo nenhuma delas pode ser melhorada Antes de provar que sempre existe uma solução dual cujo valor é igual ao de uma solução primal ótima descreveremos como encontrar tal solução Quando executamos o algoritmo simplex no programa linear em 2953 2957 a iteração final produziu a forma de folgas 29722975 com objetivo z 28 x36 x56 2x63 B 1 2 4 e N 3 5 6 Como veremos a seguir a solução básica associada à forma de folgas final é de fato uma solução ótima para o programa linear portanto uma solução ótima para o programa linear 29532957 é 8 4 0 com valor objetivo 3 8 1 4 2 0 28 Como também veremos a seguir podemos ler uma solução dual ótima os negativos dos coeficientes da função objetivo primal são os valores das variáveis duais Mais precisamente suponha que a última forma de folgas da primal seja Então para produzir uma solução dual ótima definimos Assim uma solução ótima para o programa linear dual definido em 29862990 é y1 0 já que n 1 4 B y2 c5 16 e y3 c6 23 Avaliando a função objetivo dual 2986 obtemos um valor objetivo de 30 0 24 16 36 23 28 o que confirma que o valor objetivo do primal é de fato igual ao valor objetivo do dual Combinando esses cálculos com o Lema 298 obtemos uma prova de que o valor objetivo ótimo do programa linear primal é 28 Agora mostramos que essa abordagem se aplica em geral podemos determinar uma solução ótima para o dual e simultaneamente provar que uma solução para o primal é ótima Teorema 2910 Dualidade de programação linear Suponha que SIMPLEX retorne valores x x1 x2 xn para o programa linear primal A b c Sejam N e B as variáveis não básicas e básicas para a forma de folgas final seja c a representação dos coeficientes na forma de folgas final e seja y y1 y2 yn definido pela equação 2991 Então x é uma solução ótima para o programa linear primal y é uma solução ótima para o programa linear dual e Prova Pelo Corolário 299 se podemos determinar soluções viáveis x e N que satisfaçam a equação 2992 então x e y devem ser soluções primal e dual ótimas Agora mostraremos que as soluções x e y descritas no enunciado do teorema satisfazem a equação 2992 Suponha que executamos SIMP LEX em um programa linear primal como dado nas linhas 29162918 O algoritmo prossegue por uma série de formas de folga até terminar com uma forma de folgas final com função objetivo Visto que SIMPLEX terminou com uma solução pela condição na linha 3 sabemos que Se definirmos podemos reescrever a equação 2993 como Para a solução básica x associada a essa forma de folgas final xj 0 para todo j N e z v Visto que todas as formas de folga são equivalentes se avaliarmos a função objetivo original em x devemos obter o mesmo valor objetivo isto é Portanto para qualquer conjunto de valores x x1 x2 xn temos de modo que Aplicando o Lema 293 à equação 2999 obtemos que satisfaz as restrições 2984 do dual Finalmente visto que cj 0 para cada j N B quando definimos de acordo com a equação 2991 temos que cada yi 0 e assim as restrições de não negatividade também são satisfeitas 2941 2942 2943 2944 2945 2946 295 Mostramos que dado um programa linear viável se INITIALIZESIMPLEX retorna uma solução viável e se SIMPLEX termina sem retornar ilimitado a solução retornada é de fato uma solução ótima Mostramos também como elaborar uma solução ótima para o programa linear dual Exercícios Formule o dual do programa linear dado no Exercício 2934 Suponha que temos um programa linear que não está na formapadrão Poderíamos produzir o dual primeiro convertendoo para a formapadrão e depois tomando o dual Porém seria mais conveniente poder produzir o dual diretamente Explique como podemos tomar o dual diretamente de um programa linear arbitrário Escreva o dual do programa linear de fluxo máximo como dado nas linhas 2947 2950 Explique como interpretar essa formulação como um problema de corte mínimo Escreva o dual do programa linear de fluxo de custo mínimo como dado nas linhas 29512955 Explique como interpretar esse problema em termos de grafos e fluxos Mostre que o dual do dual de um programa linear é o programa linear primal Qual resultado do Capítulo 26 pode ser interpretado como dualidade fraca para o problema de fluxo máximo A SOLUÇÃO BÁSICA VIÁVEL INICIAL Nesta seção primeiro descrevemos como testar se um programa linear é viável e se for como produzir uma forma de folgas para a qual a solução básica seja viável Concluímos provando o teorema fundamental de programação linear que afirma que o procedimento SIMPLEX sempre produz o resultado correto Determinando uma solução inicial Na Seção 293 admitimos que tínhamos um procedimento INITIALIZESIMPLEX que determina se um programa linear tem soluções viáveis e se tiver dá uma forma de folgas para a qual a solução básica é viável Descrevemos esse procedimento aqui Um programa linear pode ser viável e apesar disso a solução básica inicial pode não ser viável Por exemplo considere o seguinte programa linear Se tivéssemos de converter esse programa linear para forma de folgas a solução básica definiria x1 0 e x2 0 Essa solução infringe a restrição 29104 e portanto não é uma solução viável Assim INITIALIZESIMPLEX não pode simplesmente retornar a forma de folgas óbvia Para determinar se um programa linear tem quaisquer soluções viáveis formularemos um programa linear auxiliar Por esse programa linear auxiliar podemos determinar com um pouco de trabalho uma forma de folgas para a qual a solução básica seja viável Além disso a solução desse programa linear auxiliar determina se o programa linear inicial é viável e se for dará uma solução viável com a qual poderemos inicializar SIMPLEX Lema 2911 Seja L um programa linear na formapadrão dado como em 29162918 Seja x0 uma nova variável e seja Laux o seguinte programa linear com n 1 variáveis Então L é viável se e somente se o valor objetivo ótimo de Laux é 0 Prova Suponha que L tenha uma solução viável x x1 x2 xn Então a solução x0 0 combinada com x é uma solução viável para Laux com valor objetivo 0 Visto que x0 0 é uma restrição de Laux e a função objetivo é para maximizar x0 essa solução deve ser ótima para Laux Ao contrário suponha que o valor objetivo ótimo de Laux seja 0 Então x0 0 e os valores das soluções restantes satisfazem as restrições de L Agora descrevemos nossa estratégia para determinar uma solução básica inicial viável para um programa linear L em formapadrão INITIALIZESIMPLEX funciona da maneira descrita a seguir Nas linhas 13 testamos implicitamente a solução básica para a forma de folgas inicial para L dada por N 1 2 n B n 1 n 2 n m xi bi para todo i B e xj 0 para todo j N Criar a forma de folgas não requer nenhum esforço explícito já que os valores de A b e c são os mesmos na forma de folgas e também na formapadrão Se a linha 2 determinar que essa solução básica é viável isto é xi 0 para todo i N B então a linha 3 retornará a forma de folgas Caso contrário na linha 4 formamos o programa linear auxiliar Laux como no Lema 2911 Visto que a solução básica inicial para L não é viável a solução básica inicial para a forma de folgas correspondente a Laux também não é viável Para encontrar uma solução básica viável executamos uma única operação de pivô A linha 6 seleciona l n k como o índice da variável básica que será a variável de saída na operação de pivô que será realizada Visto que as variáveis básicas são xn1 xn2 xnm a variável de saída xl será aquela que tiver o maior valor negativo A linha 8 executa aquela chamada de PIVOT com x0 entrando e xl saindo Em breve veremos que a solução básica resultante dessa chamada de PIVOT será viável Agora que temos uma forma de folgas para a qual a solução básica é viável podemos na linha 10 chamar repetidamente PIVOT para resolver completamente o programa linear auxiliar Como o teste da linha 11 demonstra se encontrarmos uma solução ótima para Laux com valor objetivo 0 então nas linhas 1214 criaremos uma forma de folgas para L para a qual a solução básica é viável Para tal em primeiro lugar nas linhas 1213 tratamos o caso degenerado no qual x0 ainda pode ser básica com valor x0 0 Nesse caso executamos uma etapa de pivô para eliminar x0 da base usando qualquer e N tal que a0e 0 como a variável de entrada A nova solução básica permanece viável o pivô degenerado não muda o valor de nenhuma das variáveis Em seguida eliminamos todos os termos x0 das restrições e restauramos a função objetivo original para L A função objetivo original pode conter variáveis básicas e não básicas Portanto na função objetivo substituímos cada variável básica pelo lado direito de sua restrição associada Depois a linha 15 devolve essa forma de folgas modificada Se por outro lado a linha 11 descobre que o programa linear original L é inviável a linha 16 devolve essa informação Agora demonstramos o funcionamento de INITIALIZESIMPLEX no programa linear 29102 29105 Esse programa linear é viável se pudermos determinar valores não negativos para x1 e x2 que satisfaçam as desigualdades 29103 e 29104 Pelo Lema 2911 formulamos o programa linear auxiliar Pelo Lema 2911 se o valor objetivo ótimo desse programa linear auxiliar for 0 o programa linear original terá uma solução viável Se o valor objetivo ótimo desse programa linear auxiliar for negativo o programa linear original não terá uma solução viável Escrevemos esse programa linear na forma de folgas obtendo Ainda não estamos fora de perigo porque a solução básica que definiria x4 4 não é viável para esse programa linear auxiliar Contudo com uma chamada a PIVOT podemos converter essa forma de folgas em uma forma na qual a solução básica seja viável Como a linha 8 indica escolhemos x0 como a variável de entrada Na linha 6 escolhemos como variável de saída x4 que é a variável básica cujo valor na solução básica é o mais negativo Depois de pivotar temos a forma de folgas A solução básica associada é x0 x1 x2 x3 x4 4 0 0 6 0 que é viável Agora chamamos PIVOT repetidamente até obtermos uma solução ótima para Laux Nesse caso uma chamada a PIVOT com x2 entrando e x0 saindo produz Essa forma de folgas é a solução final para o problema auxiliar Visto que essa solução tem x0 0 sabemos que nosso problema inicial era viável Além disso visto que x0 0 podemos simplesmente removêla do conjunto de restrições Então restauramos a função objetivo original com substituições apropriadas feitas para incluir somente variáveis não básicas Em nosso exemplo obtemos a função objetivo Definindo x0 0 e simplificando obtemos a função objetivo e a forma de folgas Essa forma de folgas tem uma solução básica viável e podemos retornála ao procedimento SIMPLEX Agora mostramos formalmente a correção de INITIALIZESIMPLEX Lema 2912 Se um programa linear L não tem nenhuma solução viável então INITIALIZESIMPLEX retorna inviável Caso contrário retorna uma forma de folgas válida para a qual a solução básica é viável que contradiz que o valor objetivo é negativo Assim o teste na linha 11 resulta no retorno de inviável na linha 16 Agora suponha que o programa linear L tenha uma solução viável Pelo Exercício 2934 sabemos que se bi 0 para i 1 2 m então a solução básica associada à forma de folgas inicial é viável Nesse caso as linhas 23 retornam a forma de folgas associada à entrada Converter a formapadrão para a forma de folgas é fácil já que A b e c são as mesmas em ambas No restante da prova tratamos o caso no qual o programa linear é viável mas não retornamos na linha 3 Demonstramos que nesse caso as linhas 410 encontram uma solução viável para Laux com valor objetivo 0 Primeiro pelas linhas 12 devemos ter Na linha 8 executamos uma operação de pivô na qual a variável de saída xl lembrese de que l n k de modo que bl 0 é o lado esquerdo da equação com bi mínimo e a variável de entrada é x0 a variável extra adicionada Agora mostramos que depois desse pivô todas as entradas de b são não negativas e consequentemente a solução básica para Laux é viável Fazendo x a solução básica depois da chamada a PIVOT e sendo bˆ e Bˆ valores retornados por PIVOT o Lema 291 implica que A chamada a PIVOT na linha 8 tem e 0 Se reescrevermos as desigualdades 29107 para incluir coeficientes ai0 então Observe que ai0 é o coeficiente de x0 tal como ele aparece em 29114 e não a negação do coeficiente porque Laux está na formapadrão em vez de estar na forma de folgas Visto que l B também temos que ale 1 Assim blale 0 e portanto xe 0 Para as variáveis básicas restantes temos 1 2 3 2951 2952 2953 2954 2955 que implica que cada variável básica é agora não negativa Consequentemente a solução básica depois da chamada a PIVOT na linha 8 é viável Em seguida executamos a linha 10 o que resolve Laux Visto que consideramos que L tem uma solução viável o Lema 2911 implica que Laux tem uma solução ótima com valor objetivo 0 Considerando que todas as formas de folga são equivalentes a solução básica final para Laux deve ter x0 0 e depois de eliminar x0 do programa linear obtemos uma forma de folgas que é viável para L Então a linha 15 retorna essa forma de folgas Teorema fundamental de programação linear Concluímos este capítulo mostrando que o procedimento SIMPLEX funciona Em particular qualquer programa linear é inviável ilimitado ou tem uma solução ótima com um valor objetivo finito Em cada caso SIMPLEX age adequadamente Teorema 2913 Teorema fundamental de programação linear Qualquer programa linear L dado na formapadrão tem uma solução ótima com um valor objetivo finito é inviável ou é ilimitado Se L é inviável SIMPLEX retorna inviável Se L é ilimitado SIMPLEX retorna ilimitado Caso contrário SIMPLEX retorna uma solução ótima com um valor objetivo finito Prova Pelo Lema 2912 se o programa linear L é inviável SIMPLEX retorna inviável Agora suponha que o programa linear L seja viável Pelo Lema 2912 INITIALIZESIMPLEX retorna uma forma de folgas para a qual a solução básica é viável Portanto pelo Lema 297 SIMPLEX retorna ilimitado ou termina com uma solução viável Se terminar com uma solução finita o Teorema 2910 nos diz que essa solução é ótima Por outro lado se SIMPLEX retorna ilimitado o Lema 292 nos diz que o programa linear L é realmente ilimitado Visto que SIMPLEX sempre termina de um desses modos a prova está completa Exercícios Dê pseudocódigo detalhado para implementar as linhas 5 e 14 de INITIALIZESIMPLEX Mostre que quando o laço principal de SIMPLEX é executado por INITIALIZESIMPLEX o procedimento nunca pode retornar ilimitado Suponha que temos um programa linear L na formapadrão e que para L e o dual de L as soluções básicas associadas às formas de folga iniciais sejam viáveis Mostre que o valor objetivo ótimo de L é 0 Suponha que permitimos desigualdades estritas em um programa linear Mostre que nesse caso o teorema fundamental de programação linear não é válido Resolva o seguinte programa linear usando SIMPLEX 2956 2957 2958 2959 Resolva o seguinte programa linear usando SIMPLEX Resolva o seguinte programa linear usando SIMPLEX Resolva o programa linear dado em 2962910 Considere o seguinte programa linear de uma variável que denominamos P onde r s e t são números reais arbitrários Seja D o dual de P Diga para quais valores de r s e t você pode afirmar que 1 2 3 4 291 a b 292 a b P e D têm soluções ótimas com valores objetivos finitos P é viável mas D é inviável D é viável mas P é inviável Nem P nem D é viável Problemas Viabilidade de desigualdade linear Dado um conjunto de m desigualdades lineares com n variáveis x1 x2 xn o problema de viabilidade de desigualdades lineares pergunta se existe uma configuração das variáveis que satisfaça simultaneamente cada uma das desigualdades Mostre que se tivermos um algoritmo para programação linear podemos usálo para resolver o problema de viabilidade de desigualdades lineares O número de variáveis e restrições que você usar no problema de programação linear deve ser polinomial em n e m Mostre que se tivermos um algoritmo para problema de viabilidade de desigualdades lineares podemos usálo para resolver um problema de programação linear O número de variáveis e desigualdades lineares que você usar no problema de viabilidade de desigualdades lineares deve ser polinomial em n e m número de variáveis e restrições no programa linear Folgas complementares Folgas complementares descreve uma relação entre os valores de variáveis primais e restrições duais e entre os valores de variáveis duais e restrições primais Seja x uma solução ótima para o programa linear primal dado em 29162918 e seja y uma solução viável para o programa linear dual dado em 29832985 As folgas complementares dizem que as seguintes condições são necessárias e suficientes para x e y serem ótimas e Verifique se as folgas complementares são válidas para o programa linear nas linhas 29532957 Prove que as folgas complementares são válidas para qualquer programa linear primal e seu dual correspondente 293 a b c 294 295 a b c Programação linear inteira Um problema de programação linear inteira é um problema de programação linear que tem a seguinte restrição adicional as variáveis x devem ter valores inteiros O Exercício 3453 mostra que apenas determinar se um programa linear inteiro tem uma solução viável já é NPdifícil o que significa que não há um algoritmo de tempo polinomial conhecido para esse problema Mostre que a dualidade fraca Lema 298 é válida para um programa linear inteiro Mostre que a dualidade Teorema 2910 nem sempre é válida para um programa linear inteiro Dado um programa linear primal na formapadrão vamos definir P como o valor objetivo ótimo para o programa linear primal D como o valor objetivo ótimo para seu dual IP como o valor objetivo ótimo para a versão inteira do primal isto é o primal com a restrição adicional de as variáveis terem valores inteiros e ID como o valor objetivo ótimo para a versão com inteiros do dual Mostre que IP P D ID Lema de Farkas Seja A uma matriz m n e c um n vetor Então o lema de Farkas afirma que exatamente um dos sistemas é solúvel onde x é um nvetor e y é um mvetor Prove o lema de Farkas Circulação de custo mínimo Neste problema consideramos uma variante do problema de fluxo de custo mínimo da Seção 292 no qual não temos nem uma demanda nem uma fonte nem um sorvedouro Em vez disso temos como antes uma rede de fluxo e custos de aresta au v Um fluxo é viável se satisfaz a restrição de capacidade em todas as arestas e de conservação de fluxo em todos os vértices A meta desse problema é determinar entre todos os fluxos possíveis o que tem o menor custo e o denominamos problema da circulação de menor custo Formule o problema da circulação de menor custo como um programa linear Suponha que para todas as arestas u v E tenhamos au v 0 Caracterize uma solução ótima para o problema da circulação de menor custo Formule o problema de fluxo máximo como um programa linear para o problema de circulação de custo mínimo Isto é dada uma instância de problema de custo máximo G V E com fonte s sorvedouro t e capacidades de arestas c crie um problema de circulação de custo mínimo dando uma rede G V E possivelmente diferente com capacidades de arestas c e custos de arestas a tal que você possa obter d uma solução para o problema de fluxo máximo a partir de uma solução para o problema de circulação de custo mínimo Formule o problema de caminho mínimo de fonte única como um um problema de circulação de custo mínimo NOTAS DO CAPÍTULO Este capítulo só inicia o estudo do amplo campo da programação linear Vários livros se dedicam exclusivamente à programação linear inclusive os de Chvátal 69 Gass 130 Karloff 197 Schrijver 303 e Vanderbei 344 Muitos outros livros apresentam uma ampla abordagem da programação linear entre eles os de Papadimitriou e Steiglitz 271 e Ahuja Magnanti e Orlin 7 A abordagem deste capítulo se baseia na adotada por Chvátal O algoritmo simplex para programação linear foi inventado por G Dantzig em 1947 Logo depois pesquisadores descobriram como formular vários problemas em diversas áreas como programas lineares e a resolvêlos com o algoritmo simplex O resultado é que as aplicações da programação linear floresceram assim como vários algoritmos Variantes do algoritmo simplex continuam a ser os métodos mais populares para resolver problemas de programação linear Essa história aparece em vários lugares inclusive nas notas em 69 e 197 O algoritmo dos elipsoides foi o primeiro algoritmo de tempo polinomial para programação linear e se deve a L G Khachian em 1979 ele se baseou em trabalho anterior de N Z Shor D B Judin e A S Nemirovskii Grötschel Lovász e Schrijver 154 descrevem como usar o algoritmo dos elipsoides para resolver uma variedade de problemas de otimização combinatória Até agora parece que o algoritmo dos elipsoides não compete com o algoritmo simplex na prática O artigo de Karmarkar 198 inclui uma descrição do primeiro algoritmo de pontos interiores Muitos pesquisadores depois dele projetaram algoritmos de pontos interiores Boas resenhas aparecem no artigo de Goldfarb e Todd 141 e no livro de Ye 361 A análise do algoritmo simplex continua sendo uma área ativa de pesquisa V Klee e G J Minty construíram um exemplo no qual o algoritmo simplex executa 2n 1 iterações O algoritmo simplex normalmente funciona muito bem na prática e muitos pesquisadores tentaram dar justificativa teórica para essa observação empírica Uma linha de pesquisa iniciada por K H Borgwardt e seguida por muitos outros mostra que sob certas hipóteses probabilísticas em relação à entrada o algoritmo simplex converge em tempo polinomial esperado Spielman e Teng 322 fizeram progresso nessa área apresentando a análise suavizada de algoritmos e aplicandoa ao algoritmo simplex O algoritmo simplex é conhecido por funcionar eficientemente em certos casos especiais Particularmente digno de nota é o algoritmo simplex de rede que é o algoritmo simplex especializado para problemas de rede de fluxo Para certos problemas de rede inclusive os problemas de caminhos mínimos fluxo máximo e fluxo de custo mínimo variantes do algoritmo simplex em rede são executadas em tempo polinomial Consulte por exemplo o artigo de Orlin 268 e as citações ali contidas 1 Uma definição intuitiva de região convexa é que ela cumpre o seguinte requisito para quaisquer dois pontos na região todos os pontos sobre um segmento de reta entre eles também estão na região N do RT esse uso do termo simplex está em desacordo com toda a literatura entretanto mantivemos a terminologia dos autores 30 POLINÔMIOS E A FFT O método direto para somar dois polinômios de grau n demora o tempo Qn mas o método direto para multiplicálos demora o tempo Qn2 Neste capítulo mostraremos como a transformada rápida de Fourier FFT Fast Fourier Transform pode reduzir o tempo para multiplicar polinômios a Qn lg n O uso mais comum das transformadas de Fourier e consequentemente da FFT é no processamento de sinais Um sinal é dado no domínio do tempo como uma função que mapeia tempo para amplitude A análise de Fourier nos permite expressar o sinal como uma soma ponderada de senoides defasadas de frequências variáveis Os pesos e fases associados às frequências caracterizam o sinal no domínio da frequência Entre as muitas aplicações corriqueiras da FFT estão as técnicas de compressão utilizadas para codificar informações digitais de vídeo e áudio incluindo arquivos MP3 Vários livros de boa qualidade pesquisam a fundo a rica área de processamento de sinais as notas do capítulo citam alguns deles Polinômios Um polinômio na variável x em um corpo algébrico F representa uma função Ax como uma soma formal Denominamos os valores a0 a1 an 1 coeficientes do polinômio Os coeficientes são extraídos de um corpo F normalmente o conjunto de números complexos Um polinômio Ax tem grau k se este é o maior coeficiente não nulo Qualquer inteiro estritamente maior que o grau de um polinômio é um limite do grau desse polinômio Portanto o grau de um polinômio de grau limitado por n pode ser qualquer inteiro entre 0 e n 1 inclusive Podemos definir uma variedade de operações com polinômios No caso da adição de polinômios se Ax e Bx são polinômios de grau limitado por n sua soma é um polinômio Cx também de grau limitado por n tal que Cx Ax Bx para todo x no corpo Isto é se e então onde cj aj bj para j 0 1 n 1 Por exemplo se tivermos os polinômios Ax 6x 7x2 10x 9 e Bx 2x3 4x 5 então Cx 4x3 7x2 6x 4 No caso da multiplicação de polinômios se Ax e Bx são polinômios de grau limitado por n seu produto Cx é um polinômio de grau limitado por 2n 1 tal que Cx AxBx para todo x no corpo É provável que você já tenha multiplicado polinômios multiplicando cada termo em Ax por cada termo em Bx e combinando termos com potências iguais Por exemplo podemos multiplicar Ax 6x3 7x2 10x 9 e Bx 2x3 4x 5 da seguinte maneira Outro modo de expressar o produto Cx é onde Observe que grauC grauA grauB implicando que se A é um polinômio de grau limitado por na e B é um polinômio de grau limitado por nb então C é um polinômio de grau limitado por na nb 1 Visto que um polinômio de grau limitado por k é também um polinômio de grau limitado a k 1 normalmente diremos que o produto de polinômios C é um polinômio de grau limitado por na nb Esboço do capítulo A Seção 301 apresenta dois modos de representar polinômios a representação por coeficientes e a representação por pares pontovalor Os métodos diretos para multiplicar polinômios equações 301 e 302 demoram o 301 tempo Qn2 quando representamos polinômios na forma de coeficientes mas apenas o tempo Qn quando os representamos na forma de pares pontovalor Porém usando a representação por coeficientes a multiplicação de polinômios demorará somente o tempo Qn lg n se fizermos a conversão entre as duas representações Para verificar por que essa abordagem funciona primeiro temos de estudar raízes complexas da unidade o que fazemos na Seção 302 Em seguida usamos a FFT e sua inversa também descrita na Seção 302 para efetuar as conversões A Seção 303 mostra como implementar a FFT rapidamente em modelos seriais bem como paralelos Este capítulo usa números complexos extensivamente e o símbolo i será usado exclusivamente para denotar 1 REPRESENTAÇÃO DE POLINÔMIOS As representações de polinômios por coeficientes e por pares pontovalor são em certo sentido equivalentes isto é um polinômio na forma de pares pontovalor tem uma contraparte exclusiva na forma de coeficientes Nesta seção apresentamos as duas representações e mostramos como combinálas de modo a multiplicar dois polinômios de grau limitado a n no tempo Qn lg n Representação por coeficientes Uma representação por coeficientes de um polinômio Ax de grau limitado a n é um vetor de coeficientes a a0 a1 an 1 Nas equações matriciais deste capítulo em geral trataremos vetores como vetores coluna A representação por coeficientes é conveniente para certas operações com polinômios Por exemplo a operação de avaliar o polinômio Ax em um determinado ponto x0 consiste em calcular o valor de Ax0 Podemos avaliar um polinômio no tempo Qn usando a regra de Horner De modo semelhante somar dois polinômios representados pelos vetores de coeficientes a a0 a1 an 1 e b b0 b1 bn 1 demora o tempo Qn simplesmente produzimos o vetor de coeficientes c c0 c1 cn 1 onde cj aj bj para j 0 1 n 1 Agora considere multiplicar dois polinômios de grau limitado a n Ax e Bx representados na forma de coeficientes Se usarmos o método descrito pelas equações 301 e 302 a multiplicação de polinômios demorará o tempo Qn2 já que temos de multiplicar cada coeficiente no vetor a por cada coeficiente no vetor b A operação de multiplicar polinômios em forma de coeficientes parece ser consideravelmente mais difícil que a de avaliar um polinômio ou somar dois polinômios O vetor de coeficientes c resultante dado pela equação 302 é também denominado convolução dos vetores de entrada a e b denotada por c a b Visto que multiplicar polinômios e calcular convoluções são problemas computacionais fundamentais de considerável importância prática este capítulo se concentra em algoritmos eficientes para essas operações Representação por pares pontovalor Uma representação por pares pontovalor de um polinômio Ax de grau limitado a n é um conjunto de n pares pontovalor tal que todos os valores xk são distintos e para k 0 1 n 1 Um polinômio tem muitas representações por pares pontovalor diferentes já que podemos usar qualquer conjunto de n pontos distintos x0 x1 xn 1 como base para a representação Calcular uma representação por pares pontovalor para um dado polinômio na forma por coeficientes é em princípio direto já que tudo o que temos de fazer é selecionar n pontos distintos x0 x1 xn 1 e então avaliar Axk para k 0 1 n 1 Com o método de Horner avaliar um polinômio em n pontos demora o tempo Qn2 Mais adiante veremos que se escolhermos xk inteligentemente podemos acelerar essa operação e conseguir tempo de execução Qn lg n O inverso da avaliação determinar a forma por coeficientes de um polinômio partindo de uma representação por pares pontovalor é a interpolação O teorema a seguir mostra que a interpolação é bem definida quando o polinômio interpolador desejado deve ser um polinômio de grau limitado igual ao número dado de pares pontovalor Teorema 301 Unicidade de um polinômio interpolador Para qualquer conjunto x0 y0 x1 y1 xn 1 yn 1 de n pares pontovalor tal que todos os valores xk são distintos existe um polinômio único Ax de grau limitado por n tal que yk Axk para k 0 1 n 1 Prova A prova é baseada na existência da inversa de certa matriz A equação 303 é equivalente à equação matricial A matriz no lado esquerdo é denotada por Vx0 x1 xn 1 e é conhecida como matriz de Vandermonde Pelo Problema D1 essa matriz tem determinante e portanto pelo Teorema D5 ela é inversível isto é não singular se os xk são distintos Assim podemos resolver para os coeficientes aj unicamente dada a representação por pares pontovalor a Vx0 x1 xn 11 y A prova do Teorema 301 descreve um algoritmo para interpolação baseado na solução do conjunto 304 de equações lineares Usando os algoritmos de decomposição LU do Capítulo 28 podemos resolver essas equações no tempo On3 Um algoritmo mais rápido para interpolação de n pontos se baseia na fórmula de Lagrange Seria interessante verificar que o lado direito da equação 305 é um polinômio de grau limitado por n que satisfaz Axk yk para todo k O Exercício 3015 pede que você mostre como calcular os coeficientes de A no tempo Qn2 usando a fórmula de Lagrange Assim avaliação e interpolação de n pontos são operações inversas bem definidas que transformam a representação de um polinômio por coeficientes em uma representação por pares pontovalor e viceversa 1 Os algoritmos já descritos para esses problemas demoram o tempo Qn2 A representação por pares pontovalor é bastante conveniente para muitas operações com polinômios No caso da adição se Cx Ax Bx então Cxk Axk Bxk para qualquer ponto xk Mais precisamente se temos uma representação por pares pontovalor para A e para B observe que A e B são avaliados nos mesmos n pontos então uma representação por pares pontovalor para C é Assim o tempo para somar dois polinômios de grau limitado a n na forma com pares pontovalor é Qn De modo semelhante a representação por pares pontovalor é conveniente para multiplicar polinômios Se Cx AxBx então Cxk AxkBxk para qualquer ponto xk e podemos multiplicar ponto a ponto uma representação por pares pontovalor para A por uma representação por pares pontovalor para B para obter uma representação por pares pontovalor para C Contudo temos de encarar o seguinte problema grau C grauA grauB se A e B são polinômios de grau limitado por n então C é um polinômios de grau limitado por 2n Uma representaçãopadrão por pares pontovalor para A e B consiste em n pares pontovalor para cada polinômio Quando nós os multiplicamos obtemos n pares pontovalor mas precisamos de 2n pares para interpolar um polinômio único c de grau limitado por 2n veja o Exercício 3014 Portanto devemos começar com representações por pares pontovalor estendidas para A e B consistindo em 2n pares pontovalor cada uma Dada uma representação por pares pontovalor estendida para A e uma representação por pares pontovalor estendida correspondente para B então uma representação por pares pontovalor para C é Dados dois polinômios de entrada na forma com pares pontovalor estendida vemos que o tempo para multiplicálos de modo a obter a forma com pares pontovalor do resultado é Qn muito menor que o tempo requerido para multiplicar polinômios na forma com coeficientes Finalmente consideramos como avaliar um polinômio dado na forma com pares pontovalor em um novo ponto Para esse problema não conhecemos nenhuma abordagem mais simples que converter o polinômio primeiro para a forma com coeficientes e depois avaliálo no novo ponto Multiplicação rápida de polinômios na forma com coeficientes 1 2 3 4 Podemos usar o método de multiplicação em tempo linear para polinômios na forma com pares pontovalor para acelerar a multiplicação de polinômios na forma com coeficientes A resposta depende de podermos ou não converter um polinômio rapidamente da forma com coeficientes para a forma com pares pontovalor avaliar e viceversa interpolar Podemos usar quaisquer pontos que quisermos como pontos de avaliação mas escolhendo os pontos de avaliação cuidadosamente a conversão entre representações demora apenas o tempo Qn lg n Como veremos na Seção 302 se escolhermos raízes complexas da unidade como pontos de avaliação poderemos produzir uma representação por pares pontovalor tomando a transformada discreta de Fourier DFT Discrete Fourier Transform de um vetor de coeficientes Podemos efetuar a operação inversa a interpolação tomando a DFT inversa de pares pontovalor produzindo um vetor de coeficientes A Seção 302 mostrará como a FFT executa as operações DFT e DFT inversa no tempo Qn lg n A Figura 301 mostra essa estratégia em gráfico Um pequeno detalhe referente às limitações de grau o produto de dois polinômios de grau limitado por n é um polinômio de grau limitado por 2n Portanto antes de avaliar os polinômios de entrada A e B primeiro temos de dobrar as limitações de grau para 2n somando n coeficientes de ordem alta iguais a 0 Como os vetores têm 2n elementos usamos raízes 2nésimas complexas da unidade que são denotadas pelos 2n termos na Figura 301 Figura 301 Esboço gráfico de um processo eficiente de multiplicação de polinômios As representações na parte superior estão na forma com coeficientes enquanto as da parte inferior estão na forma com pares pontovalor As setas da esquerda para a direita correspondem à operação de multiplicação Os 2n termos são raízes complexas 2nésimas da unidade Dada a FFT temos o procedimento de tempo Qn lg n descrito a seguir para multiplicar dois polinômios Ax e Bx de grau limitado a n onde as representações de entrada e saída estão na forma com coeficientes Supomos que n é uma potência de 2 sempre podemos cumprir esse requisito adicionando coeficientes de ordem alta iguais a zero Dobrar a limitação do grau Crie representações por coeficientes de Ax e Bx como polinômios de grau limitado por 2n adicionando n coeficientes zero de ordem alta a cada um Avaliar Calcule representações por pares pontovalor de Ax e Bx de comprimento 2n aplicando a FFT de ordem 2n a cada polinômio Essas representações contêm os valores dos dois polinômios nas raízes 2nésimas da unidade Multiplicação ponto a ponto Calcule uma representação por pares pontovalor para o polinômio Cx AxBx multiplicando esses valores ponto a ponto Essa representação contém o valor de Cx em cada raiz 2nésima da unidade Interpolar Crie a representação por coeficientes do polinômio Cx aplicando a FFT a 2n pares pontovalor para calcular a DFT inversa 3011 3012 3013 3014 3015 3016 3017 As etapas 1 e 3 demoram o tempo Qn e as etapas 2 e 4 demoram o tempo Qn lg n Assim uma vez demonstrado como usar a FFT teremos provado o seguinte Teorema 302 Podemos multiplicar dois polinômios de grau limitado a n no tempo Qn lg n com ambas as representações de entrada e saída na forma com coeficientes Exercícios Multiplique os polinômios Ax 7x3 x2 x 10 e Bx 8x3 6x 3 usando as equações 301 e 302 Um outro modo de avaliar um polinômio Ax de grau limitado a n em um dado ponto x0 é dividir Ax pelo polinômio x x0 obtendo um polinômio quociente qx de grau limitado a n 1 e um resto r tais que Claramente Ax0 r Mostre como calcular o resto r e os coeficientes de qx no tempo Qn dados x0 e os coeficientes de A Deduza uma representação por pares pontovalor para Arevx partindo de uma representação por pares pontovalor para Ax supondo que nenhum dos pontos é 0 Prove que são necessários n pares pontovalor distintos para especificar unicamente um polinômio de grau limitado por n isto é se são dados menos do que n pares pontovalor distintos eles não conseguem especificar um polinômio de grau limitado por n único Sugestão Usando o Teorema 301 o que você pode dizer sobre um conjunto de n 1 pares pontovalor ao qual acrescenta um par pontovalor escolhido de modo arbitrário Mostre como usar a equação 305 para interpolar no tempo Qn2 Sugestão Primeiro calcule a representação por coeficientes do polinômio j x x j e então divida por x xj conforme necessário para o numerador de cada termo Veja o Exercício 3012 Podemos calcular cada um dos n denominadores no tempo On Explique o que está errado na abordagem óbvia para divisão de polinômios usando uma representação por pares pontovalor isto é dividindo os valores y correspondentes Discuta separadamente o caso em que o resultado da divisão é exato e o caso em que não é exato Considere dois conjuntos A e B cada um com n inteiros na faixa de 0 a 10n Desejamos calcular a soma cartesiana de A e B definida por Observe que os inteiros em C estão na faixa de 0 a 20n Queremos determinar os elementos de C e o número de vezes que cada elemento de C é obtido como uma soma de elementos em A e B Mostre como resolver o problema no tempo On lg n Sugestão Represente A e B como polinômios de grau no máximo 10n 302 DFT E FFT Na Seção 301 afirmamos que se usarmos raízes complexas da unidade podemos avaliar e interpolar polinômios no tempo Qn lg n Nesta seção definimos raízes complexas da unidade e estudamos suas propriedades definimos a DFT e depois mostramos como a FFT calcula a DFT e sua inversa no tempo Qn lg n Figura 302 Os valores de ω08 ω18 ω78 no plano complexo onde w8 e2πi8 é a raiz oitava principal da unidade Raízes complexas da unidade Uma raiz complexa nésima da unidade é um número complexo tal que Há exatamente n raízes nésimas complexas da unidade e2pikn para k 0 1 n 1 Para interpretar essa fórmula usamos a definição da exponencial de um número complexo A Figura 302 mostra que as n raízes complexas da unidade estão igualmente espaçadas ao redor do círculo de raio unitário com centro na origem do plano complexo O valor é raiz nésima principal da unidade2 todas as outras raízes nésimas complexas da unidade são potências de n As n raízes nésimas complexas da unidade Lema 303 Lema do cancelamento Para quaisquer inteiros n 0 k 0 e d 0 Prova O lema decorre diretamente da equação 306 visto que Corolário 304 Para qualquer inteiro par n 0 Prova A prova fica para o Exercício 3021 Lema 305 Lema da divisão em metades Se n 0 é par então os quadrados das n raízes nésimas complexas da unidade são as n2 raízes n2ésimas complexas da unidade Prova Pelo lema do cancelamento temos kn2 kn2 para qualquer inteiro não negativo k Observe que se elevarmos ao quadrado todas as raízes nésimas complexas da unidade cada raiz n2ésima da unidade será obtida exatamente duas vezes visto que Assim ωkn e ωknn2 têm o mesmo quadrado Também poderíamos ter usado o Corolário 304 para provar essa propriedade já que ωnn2 1 implica ωkn2 ω kn e portanto ωnkn2 2 ω kn 2 Como veremos o lema da divisão em metades é essencial para nossa abordagem de divisão e conquista para converter representações por coeficientes em representações por pares pontovalor e viceversa já que garante que os subproblemas recursivos terão somente metade do tamanho Lema 306 Lema do somatório Para qualquer inteiro n 1 e inteiro não nulo k não divisível por n Prova A equação A5 se aplica a valores complexos bem como a reais e então temos Como impomos que k não seja divisível por n e como k 1 somente quando k é divisível por n garantimos que o denominador não é 0 A DFT Lembrese de que desejamos avaliar um polinômio 2 O vetor y y0 y1 yn 1 é a transformada discreta de Fourier DFT Discrete Fourier Trans form do vetor de coeficientes a a0 a1 an 1 Escrevemos também y DFTna A FFT Usando um método conhecido como transformada rápida de Fourier FFT Fast Fourier Transform que aproveita as propriedades especiais das raízes complexas da unidade podemos calcular DFTna no tempo Qn lg n em comparação com o tempo Qn2 do método direto Supomos em tudo que n é uma potência exata de 2 Embora existam estratégias para lidar com tamanhos que não sejam potências de 2 elas estão fora do escopo deste livro O método da FFT emprega uma estratégia de divisão e conquista utilizando separadamente os coeficientes de índice par e os coeficientes de índice ímpar de Ax para definir os dois novos polinômios de grau limitado por n2 A0 x e A1x e então combinar os resultados de acordo com equação 309 Pelo lema da divisão em metades a lista de valores 3010 não consiste em n valores distintos mas somente nas n2 raízes n2ésimas complexas da unidade sendo que cada raiz ocorre exatamente duas vezes Portanto avaliamos recursivamente os polinômios A0 e A1 de grau limitado por n2 nas n2 raízes n2ésimas complexas da unidade Esses subproblemas têm exatamente a mesma forma do problema original mas metade do tamanho Agora conseguimos dividir o cálculo de uma DFTn de n elementos em dois cálculos de DFTn2 de n2 elementos Essa decomposição é a base para o algoritmo recursivo da FFT a seguir que calcula a DFT de um vetor de n elementos a a0 a1 an 1 onde n é uma potência de 2 O procedimento RecursiveFft funciona da seguinte maneira as linhas 23 representam a base da recursão a DFT de um elemento é o próprio elemento já que nesse caso As linhas 67 definem os vetores de coeficientes para os polinômios A0 e A1 As linhas 4 5 e 13 garantem que é atualizado corretamente de modo que sempre que as linhas 1112 são executadas temos ω ω k Manter um valor contínuo de iteração a iteração poupa tempo em relação a calcular ω k desde o início a cada passagem pelo laço for As linhas 89 executam os cálculos recursivos de DFTn2 definindo para k 0 1 n2 1 Assim podemos avaliar um polinômio de grau limitado a n nas raízes nésimas complexas da unidade no tempo Qn lg n usando a transformada rápida de Fourier Interpolação nas raízes complexas da unidade Agora completamos o esquema de multiplicação de polinômios mostrando como interpolar as raízes complexas da unidade por um polinômio o que nos permite reconverter da forma com pares pontovalor para a forma com coeficientes Interpolamos escrevendo a DFT como uma equação matricial e depois observando a forma da inversa da matriz Pela equação 304 podemos escrever a DFT como o produto de matrizes y Vn onde Vn é uma matriz de Vandermonde que contém as potências adequadas de ωn 3021 3022 3023 3024 3025 3026 3027 3028 303 Teorema 308 Teorema de convolução Para quaisquer dois vetores a e b de comprimento n onde n é uma potência de 2 onde os vetores a e b são preenchidos com zeros até o comprimento 2n e denota o produto componente a componente de dois vetores de 2n elementos Exercícios Prove o Corolário 304 Calcule a DFT do vetor 0 1 2 3 Faça o Exercício 3011 usando o esquema de tempo Qn lg n Escreva pseudocódigo para calcular DFT1n no tempo Qn lg n Descreva a generalização do procedimento FFT para o caso em que n é uma potência de 3 Dê uma recorrência para o tempo de execução e resolva a recorrência Suponha que em vez de executar uma FFT de n elementos no corpo dos números complexos onde n é par usamos o anel m de inteiros módulo m onde m 2 tn2 1 e t é um inteiro positivo arbitrário Use 2t em vez de n como uma raiz nésima principal da unidade módulo m Prove que a DFT e a DFT inversa estão bem definidas nesse sistema Dada uma lista de valores z0 z1 zn 1 possivelmente com repetições mostre como determinar os coeficientes de um polinômio Px de grau limitado por n que tem zeros somente em z0 z1 zn 1 possivelmente com repetições Seu procedimento deve ser executado no tempo On lg2 n Sugestão O polinômio Px tem um zero em zj se e somente se Px é um múltiplo de x zj A transformada chirp de um vetor a a0 a1 an 1 é o vetor y y0 y1 y n 1 onde é qualquer número complexo Portanto a DFT é um caso especial da transformada chirp obtida tomando z n Mostre como avaliar a transformada chirp no tempo On lg n para qualquer número complexo z Sugestão Use a equação para ver a transformada chirp como uma convolução IMPLEMENTAÇÕES EFICIENTES DE FFT Considerando que as aplicações práticas da DFT como o processamento de sinais exigem a máxima velocidade esta seção examina duas implementações eficientes de FFT Primeiro examinaremos uma versão iterativa do algoritmo da FFT que é executada no tempo Qn lg n mas que pode ter uma constante oculta mais baixa na notação Q que a implementação recursiva da Seção 302 Dependendo da exata implementação a versão recursiva pode usar a cache do hardware com maior eficiência Então usaremos as ideias que nos levaram à implementação iterativa para projetar um circuito FFT paralelo eficiente Uma implementação iterativa de FFT Em primeiro lugar observamos que o laço for das linhas 1013 de RecursiveFft envolve calcular o valor duas vezes Em terminologia de compilador esse valor é denominado subexpressão comum Podemos mudar o laço para calculálo apenas uma vez armazenandoo em uma variável temporária t A operação nesse laço que é multiplicar o fator de giro ω ωkn por y1k armazenar o produto em t e adicionar e subtrair t de y0k é conhecida como operação borboleta e é mostrada esquematicamente na Figura 303 Agora mostramos como transformar a estrutura do algoritmo FFT em iterativa em vez de recursiva Na Figura 304 organizamos os vetores de entrada para as chamadas recursivas em uma invocação de RecursiveFft em uma estrutura de árvore onde a chamada inicial é para n 8 A árvore tem um nó para cada chamada do procedimento identificado pelo vetor de entrada correspondente Cada invocação de RecursiveFft faz duas chamadas recursivas a menos que tenha recebido um vetor de um elemento A primeira chamada aparece no filho à esquerda e a segunda chamada aparece no filho à direita Examinando a árvore observamos que se pudéssemos organizar os elementos do vetor inicial a na ordem em que eles aparecem nas folhas poderíamos seguir o curso da execução do procedimento Recursivefft mas de baixo para cima em vez de de cima para baixo Primeiro tomamos os elementos aos pares calculamos a DFT de cada par usando uma operação borboleta e substituímos o par por sua DFT Então o vetor contém n2 DFTs de dois elementos Em seguida tomamos essas n2 DFTs aos pares e calculamos a DFT dos quatro elementos de vetor de onde elas vieram executando duas operações borboleta substituindo duas DFTs de dois elementos por uma DFT de quatro elementos Então o vetor contém n4 DFTs de quatro elementos Continuamos dessa maneira até o vetor conter duas DFTs de n2 elementos as quais combinamos usando n2 operações borboleta na DFT final de n elementos Para transformar essa abordagem de baixo para cima em código usamos um arranjo A0 n 1 que inicialmente contém os elementos do vetor de entrada a na ordem em que eles aparecem nas folhas da árvore da Figura 304 Mais adiante mostraremos como determinar essa ordem conhecida como permutação com inversão de bits Como temos de combinar DFTs em cada nível da árvore introduzimos uma variável s para contar os níveis que varia de 1 na parte inferior quando estamos combinando pares para formar DFTs de dois elementos a lg n na parte superior quando estamos combinando duas DFTs de n2 elementos para produzir o resultado final Portanto o algoritmo tem a seguinte estrutura Figura 303 Uma operação borboleta a Os dois valores de entrada entram pela esquerda o fator de giro k n é multiplicado por yk1 e a soma e a diferença saem pela direita b Desenho simplificado de uma operação borboleta Usaremos essa representação em um circuito FFT paralelo Figura 304 Árvore de vetores de entrada para as chamadas recursivas do procedimento RECURSIVEFFT A invocação inicial é para n 8 Podemos expressar o corpo do laço linha 3 como pseudocódigo mais preciso Copiamos o laço for do procedimento RecursiveFft identificando y0 com Ak k 2s1 1 e y1 com Ak 2s1 k 2s 1 O valor de giro usado em cada operação borboleta depende do valor de s ele é uma potência de m onde m 2 Introduzimos a variável m exclusivamente em atenção à legibilidade Introduzimos outra variável temporária u que nos permite executar a operação borboleta no lugar Quando substituímos a linha 3 da estrutura global pelo corpo do laço obtemos o pseudocódigo a seguir que forma a base da implementação paralela que apresentaremos mais adiante Primeiro o código chama o procedimento auxiliar BitReverseCopya A para copiar o vetor a para o arranjo A na ordem inicial em que precisamos dos valores Como BitReverseCopy obtém os elementos do vetor de entrada a na ordem desejada no arranjo A A ordem em que as folhas aparecem na Figura 304 é uma permutação com inversão de bits Isto é se representarmos por revk o inteiro de lg n bits formado pela inversão dos bits da representação binária de k teremos de inserir o elemento de vetor ak na posição de arranjo Arevk Na Figura 304 por exemplo as folhas aparecem na ordem 0 4 2 6 1 5 3 7 em linguagem binária essa sequência é 000 100 010 110 001 101 011 111 e quando invertemos os bits de cada valor obtemos a sequência 000 001 010 011 100 101 110 111 Para ver que precisamos de uma permutação com inversão de bits em geral observamos que no nível superior da árvore índices cujo bit de ordem baixa é 0 entram na subárvore à esquerda e índices cujo bit de ordem baixa é 1 entram na subárvore à direita Extraindo o bit de ordem baixa em cada nível continuamos esse processo descendo a árvore até obtermos a ordem dada pela permutação por reversão de bits nas folhas Visto que é fácil calcular a função revk o procedimento BitReverseCopy é simples A implementação de FFT iterativa é executada no tempo Qn lg n A chamada a BitReverseCopya A certamente é executada no tempo On lg n já que iteramos n vezes e podemos inverter a representação de um inteiro entre 0 e n 1 com lg n bits no tempo Olg n Na prática como em geral conhecemos o valor inicial de n com antecedência provavelmente codificaríamos um mapeamento de tabela k para revk fazendo BitReverseCopy ser executado no tempo Qn com uma constante oculta baixa Como alternativa poderíamos usar o esquema inteligente do contador binário com inversão de bits descrito no Problema 171 Para concluir a prova de que IterativeFft é executado no tempo Qn lg n mostramos que Ln o número de vezes que o corpo do laço mais interno linhas 813 é executado é Qn lg n O laço for das linhas 613 itera nm n2s vezes para cada valor de s e o laço mais interno das linhas 813 itera m2 2s1 vezes Assim Um circuito FFT paralelo Podemos explorar muitas das propriedades que nos permitiram implementar um algoritmo FFT iterativo eficiente para produzir um algoritmo paralelo eficiente para a FFT Expressaremos o algoritmo FFT paralelo como um circuito A Figura 305 mostra um circuito FFT paralelo que calcula a FFT para n entradas para n 8 O circuito começa com uma permutação com inversão de bits das entradas seguida por lg n estágios cada estágio consistindo em n2 borboletas executadas em paralelo A profundidade do circuito o número máximo de elementos computacionais entre qualquer saída e qualquer entrada que pode alcançálo é portanto Qlg n A parte da extrema esquerda do circuito FFT paralelo executa a permutação com inversão de bits e o restante imita o procedimento iterativo IterativeFft Como cada iteração do laço for mais externo executa n2 operações borboleta independentes o circuito as executa em paralelo O valor de s em cada iteração dentro de IterativeFft corresponde a um estágio de borboletas como mostra a Figura 305 Para s 1 2 lg n o estágio s consiste em n2s grupos de borboletas correspondentes a cada valor de k em IterativeFft com 2s1 borboletas por grupo correspondentes a cada valor de j em IterativeFft As borboletas mostradas na Figura 305 correspondem às operações borboleta do laço mais interno linhas 912 de IterativeFft Observe também que os fatores de giro usados nas borboletas correspondem aos que são utilizados em IterativeFft no estágio s usamos onde m 2s 3031 3032 3033 3034 301 Figura 305 Um circuito que calcula a FFT em paralelo mostrado aqui para n 8 entradas Cada operação borboleta toma como entrada os valores em dois fios juntamente com um fator de giro e produz como saídas os valores em dois fios Os estágios de borboletas são identificados de modo a corresponder a iterações do laço mais externo do procedimento iTERATIVEFFT Somente os fios superior e inferior que passam por uma borboleta interagem com ela fios que passam pelo meio de uma borboleta não afetam essa borboleta nem seus valores são alterados por essa borboleta Por exemplo a borboleta superior no estágio 2 não tem nenhuma relação com o fio 1 o fio cuja saída é identificada por y1 suas entradas e saídas estão apenas nos fios 0 e 2 identificadas por y0 e y2 respectivamente Esse circuito tem profundidade Qlg n e executa Qn lg n operações borboleta no total Exercícios Mostre como Iterative FFT calcula a DFT do vetor de entrada 0 2 3 1 4 5 7 9 Mostre como implementar um algoritmo FFT com a permutação com inversão de bits ocorrendo no final e não no início do cálculo Sugestão Considere a DFT inversa Quantas vezes Iterative FFT calcula fatores de giro em cada fase Reescreva Iterative FFT para calcular fatores de giro somente 2s1 vezes na fase s Suponha que os somadores dentro das operações borboleta no circuito FFT às vezes falham de tal maneira que sempre produzem uma saída zero independentemente de suas entradas Suponha que exatamente um somador tenha falhado mas que você não saiba qual Descreva como é possível identificar o somador que falhou fornecendo entradas para o circuito FFT global e observando as saídas Qual é a eficiência do seu método Problemas Multiplicação por divisão e conquista a b c 302 a b c d 303 a b c 304 Mostre como multiplicar dois polinômios lineares ax b e cx d usando apenas três multiplicações Sugestão Uma das multiplicações é a b c d Dê dois algoritmos de divisão e conquista para multiplicar dois polinômios de grau limitado por n no tempo Qnlg 3 O primeiro algoritmo deve dividir os coeficientes dos polinômios de entrada em uma metade alta e uma metade baixa e o segundo algoritmo deve dividilos conforme o índice seja ímpar ou par Mostre como multiplicar dois inteiros de n bits em Qnlg 3 etapas em que cada etapa opera no máximo em um número constante de valores de 1 bit Matrizes de Toeplitz Uma matriz de Toeplitz é uma matriz n n A aij tal que aij ai 1 j 1 para i 2 3 n e j 2 3 n A soma de duas matrizes de Toeplitz é necessariamente de Toeplitz E o produto Descreva como representar uma matriz de Toeplitz de modo que você possa somar duas matrizes de Toeplitz n n no tempo On Dê um algoritmo de tempo On lg n para multiplicar uma matriz de Toeplitz n n por um vetor de comprimento n Use sua representação da parte b Dê um algoritmo eficiente para multiplicar duas matrizes de Toeplitz n n Analise o tempo de execução Transformada rápida de Fourier multidimensional Podemos generalizar a transformada discreta de Fourier unidimensional definida pela equação 308 para d dimensões A entrada é um arranjo ddimensional A aj1 j2jdcujas dimensões são n1 n2 nd onde n1n2 nd n Definimos a transformada discreta de Fourier ddimensional pela equação Mostre que podemos calcular uma DFT ddimensional calculando DFTs unidimensionais em cada dimensão por vez Isto é primeiro calculamos nn1 DFTs unidimensionais separadas ao longo da dimensão 1 Então usando o resultado das DFTs ao longo da dimensão 1 como entrada calculamos nn2 DFTs unidimensionais separadas ao longo da dimensão 2 Usando esse resultado como entrada calcule nn3 DFTs unidimensionais separadas ao longo da dimensão 3 e assim por diante até a dimensão d Mostre que a ordenação de dimensões não importa de modo que podemos calcular uma DFT d dimensional calculando as DFTs unidimensionais em qualquer ordem das d dimensões Mostre que se calcularmos cada DFT unidimensional calculando a transformada rápida de Fourier o tempo total para calcular uma DFT ddimensional é On lg n independentemente de d Avaliar todas as derivadas de um polinômio em um ponto a b c 305 Dado um polinômio Ax de grau limitado a n definimos sua tésima derivada por Pela representação por coeficientes a0 a1 an 1 de Ax e um ponto dado x0 desejamos determinar At x para t 0 1 n 1 Dados os coeficientes b0 b1 bn 1 tais que mostre como calcular Atx0 para t 0 1 n 1 no tempo On Explique como determinar b 0 b1 bn1 no tempo On lg n dado Ax ωk para k 01n 1 onde fj aj j e Explique como avaliar Ax0 n para k 0 1 n 1 no tempo On lg n Conclua que podemos avaliar todas as derivadas não triviais de Ax em x0 no tempo On lg n Avaliar polinômios em vários pontos Já vimos como avaliar um polinômio de grau limitado por n 1 em um ponto isolado no tempo On usando a regra de Horner Também descobrimos como avaliar tal polinômio em todas as n raízes complexas da unidade no tempo On lg n usando a FFT Agora mostraremos como avaliar um polinômio de grau limitado por n em n pontos arbitrários no tempo On lg2 n Para tal suporemos que podemos calcular o resto do polinômio quando um desses polinômios é dividido por outro no tempo On lg n um resultado que afirmamos sem prova Por exemplo o resto de 3x3 x2 3x 1 quando dividido por x2 x 2 é a b c d 306 a b c d Prove que Ax mod x z Az para qualquer ponto z Prove que Qkkx Axk e que Q0 n 1x Ax Prove que para i k j temos Qikx Qijx mod Pikx e Qkjx Qijx mod Pkjx Dê um algoritmo de tempo On lg2 n para avaliar Ax Ax Ax FFT com aritmética modular Conforme definido a transformada discreta de Fourier requer cálculo com números complexos o que pode resultar em uma perda de precisão devido a erros de arredondamento Para alguns problemas sabese que a resposta contém somente inteiros e se usarmos uma variante da FFT baseada em aritmética modular poderemos garantir que a resposta será calculada com exatidão Um exemplo de tal problema é o de multiplicar dois polinômios com coeficientes inteiros O Exercício 3026 nos dá uma abordagem usando um módulo de comprimento Ωn bits para tratar uma DFT em n pontos Este problema apresenta uma outra abordagem que usa um módulo com o comprimento mais razoável Olg n O problema requer que você entenda o material do Capítulo 31 Seja n uma potência de 2 Suponha que procuramos o menor k tal que p kn 1 é primo Dê um argumento heurístico simples que explique por que poderíamos esperar que k seja aproximadamente ln n O valor de k poderia ser muito maior ou muito menor mas é razoável esperar que examinaremos Olg n valores candidatos de k em média Como o comprimento esperado de p se compara com o de n Seja g um gerador de p e seja w gk mod p Demonstre que a DFT e a DFT inversa são operações inversas bem definidas módulo p onde w é usado como uma raiz nésima principal da unidade Demonstre como fazer com que a FFT e sua inversa funcionem em módulo p no tempo On lg n onde operações em palavras de Olg n bits demoram um tempo unitário Considere que o algoritmo conhece p e w Calcule a DFT módulo p 17 do vetor 0 5 3 7 7 2 1 6 Observe que g 3 é um gerador de 17 NOTAS DO CAPÍTULO O livro de Van Loan 343 dá um tratamento extraordinário da transformada rápida de Fourier Press Teukolsky Vetterling e Flannery 283 284 apresentam uma boa descrição da transformada rápida de Fourier e suas aplicações Se quiser uma excelente introdução ao processamento de sinais uma área bem conhecida de aplicação de FFT consulte os textos de Oppenheim e Schafer 266 e de Oppenheim e Willsky 267 O livro de Oppenheim e Schafer também mostra como tratar casos em que n não é uma potência inteira de 2 A análise de Fourier não é limitada a dados unidimensionais Ela é amplamente usada em processamento de imagens para analisar dados em duas ou mais dimensões Os livros de Gonzalez e Woods 146 e Pratt 281 discutem transformadas de Fourier multidimensionais e seu uso em processamento de imagens e os livros de Tolimieri An e Lu 338 e Van Loan 343 discutem os fundamentos matemáticos de transformadas rápidas de Fourier Cooley e Tukey 77 são amplamente reconhecidos como os criadores da FFT na década de 1960 Na verdade a FFT foi descoberta muito antes dessa data mas sua importância só foi completamente percebida após o advento dos computadores digitais modernos Embora Press Teukolsky Vetterling e Flannery atribuam as origens do método a Runge e König em 1924 um artigo de Heideman Johnson e Burrus 163 afirma que o histórico da FFT remonta à época de C F Gauss em 1805 Frigo e Johnson 117 desenvolveram uma implementação rápida e flexível da FFT denominada FFTW a transformada de Fourier mais rápida do oeste A FFTW é projetada para situações que exigem vários cálculos de DFT para o mesmo tamanho de problema Antes de calcular as DFTs a FFTW executa um planejador que por uma série de execuções experimentais determina como decompor melhor o cálculo da FFT para o tamanho do problema dado no computador hospedeiro A FFTW adaptase para utilizar a cache do hardware eficientemente e desde que os problemas sejam suficientemente pequenos a FFTW os resolve com um código otimizado sem laços Além disso a FFTW tem a vantagem incomum de demorar o tempo Q n lg n para qualquer tamanho n de problema mesmo quando n é um número primo grande Embora a transformada de Fourier padrão supõe que a entrada representa pontos uniformemente espaçados no domínio do tempo outras técnicas podem aproximar a FFT para dados que não são uniformemente espaçados equiespaçados O artigo de Ware 348 dá uma visão geral 1A interpolação é um problema notoriamente complicado do ponto de vista da estabilidade numérica Embora as abordagens descritas aqui sejam matematicamente corretas pequenas diferenças nas entradas ou erros de arredondamento durante o cálculo podem gerar grandes diferenças no resultado 2 Muitos outros autores dão uma definição diferente de n e2pin Essa definição alternativa tende a ser usada para aplicações de processamento de sinais A matemática subjacente é substancialmente a mesma com qualquer das definições de n 3 O comprimento n é na realidade o que denominamos 2n na Seção 301 visto que dobramos a limitação de grau dos polinômios dados antes da avaliação Portanto no contexto da multiplicação de polinômios na verdade estamos trabalhando com raízes 2nésimas complexas da unidade 31 ALGORITMOS DA TEORIA DOS NÚMEROS A teoria dos números já foi vista como um assunto belo mas em grande parte inútil na matemática pura Hoje os algoritmos da teoria dos números são amplamente utilizados devido em parte à criação de esquemas criptográficos baseados em números primos grandes Esses esquemas são viáveis porque é fácil encontrar primos grandes e são seguros porque não sabemos como fatorar eficientemente o produto de primos grandes ou resolver outros problemas relacionados como calcular logaritmos discretos Este capítulo apresenta alguns dos algoritmos da teoria dos números e associados subjacentes a tais aplicações A Seção 311 apresenta conceitos básicos da teoria dos números como divisibilidade equivalência modular e fatoração única A Seção 312 estuda um dos algoritmos mais antigos do mundo o algoritmo de Euclides para calcular o máximo divisor comum de dois inteiros A Seção 313 revê conceitos de aritmética modular A Seção 314 estuda o conjunto de múltiplos de um dado número a módulo n e mostra como determinar todas as soluções para a equação ax b mod n usando o algoritmo de Euclides O teorema chinês do resto é apresentado na Seção 315 A Seção 316 considera potências de um dado número a módulo n e apresenta um algoritmo de elevação ao quadrado repetido para calcular eficientemente ab mod n dados a b e n Essa operação está no núcleo do teste de primalidade eficiente e em grande parte da criptografia moderna Em seguida a Seção 317 descreve o sistema de criptografia de chave pública RSA A Seção 318 examina um teste de primalidade aleatorizado Podemos usar esse teste para determinar primos eficientemente tarefa necessária para criar chaves para o sistema de criptografia RSA Finalmente a Seção 319 revê uma heurística simples mas efetiva para fatorar inteiros pequenos Não deixa de ser curioso que a fatoração é um problema que as pessoas gostariam que fosse intratável já que a segurança do RSA depende da dificuldade de fatorar inteiros grandes Tamanho de entradas e custo de cálculos aritméticos Como trabalharemos com inteiros grandes precisamos ajustar nosso modo de pensar sobre o tamanho de uma entrada e sobre o custo de operações aritméticas elementares Neste capítulo entrada grande em geral significa uma entrada que contenha inteiros grandes em vez de uma entrada que contenha muitos inteiros como na ordenação Assim mediremos o tamanho de uma entrada em termos do número de bits exigidos para representar essa entrada não apenas em termos do número de inteiros na entrada Um algoritmo com entradas inteiras a1 a2 ak é um algoritmo de tempo polinomial se for executado em tempo polinomial em relação a lg a1 lg a2 lg ak isto é polinomial em relação aos comprimentos de suas entradas codificadas em binário Na maior parte deste livro verificamos que é conveniente pensar em operações aritméticas elementares multiplicações divisões ou cálculo de restos como operações primitivas que demoram uma unidade de tempo Contando o número dessas operações aritméticas que um algoritmo efetua temos uma base para fazer uma estimativa razoável do tempo de execução real do algoritmo em um computador Contudo operações elementares podem ser demoradas quando suas entradas são grandes Assim tornase conveniente medir quantas operações com bits um algoritmo da teoria dos números exige Nesse modelo multiplicar dois inteiros de bits pelo método comum utiliza 2 311 operações com bits De modo semelhante podemos dividir um inteiro de bits por um inteiro mais curto ou tomar o resto da divisão de um inteiro de bits quando dividido por um inteiro mais curto no tempo 2 por algoritmos simples veja o Exercício 31112 São conhecidos métodos mais rápidos Por exemplo um método simples de divisão e conquista para multiplicar dois inteiros de bits tem um tempo de execução lg3 e o método mais rápido conhecido tem um tempo de execução lg lg lg Porém para finalidades práticas o algoritmo 2 frequentemente é melhor e utilizaremos esse limite como base para nossas análises Neste capítulo geralmente analisamos algoritmos em termos do número de operações aritméticas e também do número de operações com bits que eles exigem NOÇÕES DA TEORIA ELEMENTAR DOS NÚMEROS Esta seção apresenta uma breve revisão de noções da teoria elementar dos números concernentes ao conjunto 2 1 0 1 2 de inteiros e ao conjunto 0 1 2 de números naturais Divisibilidade e divisores A noção de que um inteiro é divisível por outro é fundamental na teoria dos números A notação d a leia d divide a significa que a kd para algum inteiro k Todo inteiro divide 0 Se a 0 e d a então d a Se d a então dizemos também que a é um múltiplo de d Se d não divide a escrevemos d a Se d a e d 0 dizemos que d é um divisor de a Note que d a se e somente se d a de modo que não há nenhuma perda de generalidade se definirmos os divisores como não negativos entendendose que o negativo de qualquer divisor de a também divide a Um divisor de um inteiro não nulo a é no mínimo 1 mas não maior que a Por exemplo os divisores de 24 são 1 2 3 4 6 8 12 e 24 Todo inteiro positivo a é divisível pelos divisores triviais 1 e a Os divisores não triviais de a são os fatores de a Por exemplo os fatores de 20 são 2 4 5 e 10 Números primos e compostos Um inteiro a 1 cujos únicos divisores são os divisores triviais 1 e a é chamado número pri mo ou mais simplesmente primo Primos têm muitas propriedades especiais e desempenham um papel fundamental na teoria dos números Os primeiros 20 primos em ordem crescente são 2 3 5 7 11 13 17 19 23 29 31 37 41 43 47 53 59 61 67 71 O Exercício 3112 pede que você prove que existe um número infinito de primos Um inteiro a 1 que não é primo é denominado número composto ou mais simplesmente composto Por exemplo 39 é composto porque 3 39 O inteiro 1 é denominado unidade e não é primo nem composto De modo semelhante o inteiro 0 e todos os inteiros negativos não são primos nem compostos Teorema da divisão restos e equivalência modular Dado um inteiro n podemos repartir os inteiros entre os que são múltiplos de n e os que não são múltiplos de n Grande parte da teoria dos números é baseada em um refinamento dessa partição pela classificação dos não múltiplos de n de acordo com seus restos quando divididos por n O teorema a seguir é a base para esse refinamento Omitimos a prova mas veja por exemplo Niven e Zuckerman 265 Teorema 311 Teorema da divisão Para qualquer inteiro a e qualquer inteiro positivo n existem inteiros únicos q e r tais que 0 r e a qn r O valor q an é o quociente da divisão O valor r a mod n é o resto da divisão Temos que n a se e somente se a mod n 0 Podemos repartir os inteiros em n classes de equivalência de acordo com seus restos módulo n A classe de equivalência módulo n que contém um inteiro a é Por exemplo 37 11 4 3 10 17 também podemos representar esse conjunto por 47 e 107 Usando a notação definida na página 40 podemos dizer que escrever a bn é o mesmo que escrever a b O conjunto de todas essas classes de equivalência é Quando vir a definição você a deve ler como equivalente à equação 311 entendendo que 0 representa 0n 1 representa 1n e assim por diante cada classe é representada por seu menor elemento não negativo Contudo você deve ter em mente as classes de equivalência subjacentes Por exemplo se nos referirmos a 1 como um membro de n na verdade estamos nos referindo a n 1n já que 1 n 1 mod n Divisores comuns e máximos divisores comuns Se d é um divisor de a e também um divisor de b então d é um divisor comum de a e b Por exemplo os divisores de 30 são 1 2 3 5 6 10 15 e 30 e portanto os divisores comuns de 24 e 30 são 1 2 3 e 6 Observe que 1 é um divisor comum de quaisquer dois inteiros Uma propriedade importante dos divisores comuns é que De modo mais geral temos que para quaisquer inteiros x e y Além disso se a b então a b ou b 0 o que implica que O máximo divisor comum de dois inteiros a e b ambos não nulos é o maior dos divisores comuns de a e b e é denotado por mdca b Por exemplo mdc24 30 6 mdc5 7 1 e mdc0 9 9 Se a e b são não nulos então mdca b é um inteiro entre 1 e mina b Definimos mdc0 0 como 0 essa definição é necessária para que as propriedades padrões da função mdc como a equação 319 a seguir sejam universalmente válidas As seguintes são propriedades elementares da função mdc O teorema apresentado a seguir dá uma caracterização alternativa e útil de mdca b Teorema 312 Se a e b são inteiros quaisquer e não nulos então mdca b é o menor elemento positivo do conjunto ax by x y de combinações lineares de a e b Prova Seja s a menor combinação positiva dessas combinações lineares de a e b e seja s ax by para algum x y Seja q as Então a equação 38 implica e portanto a mod s também é uma combinação linear de a e b Porém como 0 a temos que a mod s 0 porque s é a menor combinação positiva dessas combinações lineares Portanto temos que s a e por raciocínio análogo s b Assim s é um divisor comum de a e b então mdca b s A equação 314 implica que mdca b s visto que mdca b divide a e b e s é uma combinação linear de a e b Porém mdca b s e s 0 implicam que mdca b s Combinando mdca b s e mdca b s obtemos mdca b s Concluímos que s é o máximo divisor comum de a e b Corolário 313 Para quaisquer inteiros a e b se d a e d b então d mdca b Prova Esse corolário decorre da equação 314 porque mdca b é uma combinação linear de a e b pelo Teorema 312 Corolário 314 Para todos os inteiros a e b e qualquer inteiro não negativo n mdcan bn n mdca b Prova Se n 0 o corolário é trivial Se n 0 então mdcan bn é o menor elemento positivo do conjunto anx bny x y e que é n vezes o menor elemento positivo do conjunto ax by x y e Corolário 315 Para todos os inteiros positivos n a e b se n ab e mdca n 1 então n b Prova Deixamos a prova para o Exercício 3115 Inteiros primos entre si Dois inteiros a e b são primos entre si também cada um é primo com o outro se seu único divisor comum é 1 isto é se mdca b 1 Por exemplo 8 e 15 são primos entre si já que os divisores de 8 são 1 2 4 e 8 enquanto os divisores de 15 são 1 3 5 e 15 O teorema a seguir afirma que se cada um de dois inteiros e um inteiro p são primos entre si então seu produto e p são primos entre si 3111 3112 3113 Teorema 316 Para quaisquer inteiros a b e p se mdca p 1 e mdcb p 1 então mdcab p 1 Prova Decorre do Teorema 312 que existem inteiros x y x e y tais que ax py 1 bx py 1 Multiplicando essas equações e reorganizando temos abxx pybx yax pyy 1 Assim visto que 1 é uma combinação linear positiva de ab e p usamos o Teorema 312 para concluir a prova Os inteiros n1 n2 nk são primos dois a dois se sempre que i j temos mdcni nj 1 Fatoração única Um fato elementar mas importante sobre a divisibilidade por primos é dado a seguir Teorema 317 Para todos os primos p e todos os inteiros a b se p ab então p a ou p b ou ambos Prova Suponha por contradição que p ab mas que p a e p b Assim mdca p 1 e mdcb p 1 já que os únicos divisores de p são 1 e p e estamos supondo que p não divide a nem b Então o Teorema 316 implica que mdcab p 1 contradizendo nossa hipótese de que p ab já que p ab implica mdcab p p Essa contradição conclui a prova Uma consequência do Teorema 317 é que um inteiro tem uma fatoração única em primos Teorema 318 Fatoração única Há exatamente um modo de escrever qualquer inteiro composto a como um produto da forma onde os pi são primos p1 p2 pr e os ei são inteiros positivos Prova Deixamos a prova para o Exercício 31111 Como exemplo o número 6000 pode ser fatorado unicamente em primos como 24 3 53 Exercícios Prove que se a b 0 e c a b então c mod a b Prove que existe um número infinito de primos Sugestão Mostre que nenhum dos primos p1 p2 pk divide p1p2 pk 1 Prove que se a b e b c então a c 3114 3115 3116 3117 3118 3119 31110 31111 31112 31113 312 Prove que se p é primo e 0 k p então mdck p 1 Prove o Corolário 315 Prove que se p é primo e 0 k p então P Conclua que para todos os inteiros a b e primos p a bp ap bp mod p Prove que se a e b são quaisquer inteiros positivos tais que a b então x mod b mod a x mod a para qualquer x Prove sob as mesmas hipóteses que x y mod b implica x y mod a para quaisquer inteiros x e y Para qualquer inteiro k 0 dizemos que um inteiro n é uma késima potência se existe um inteiro a tal que ak n Além disso n 1 é uma potência não trivial se é uma késima potência para algum inteiro k 1 Mostre como determinar se um determinado inteiro n de bits é uma potência não trivial em tempo polinomial em Prove as equações 3163110 Mostre que o operador mdc é associativo Isto é prove que para todos os inteiros a b e c mdca mdcb c mdcmdca b c Prove o Teorema 318 Dê algoritmos eficientes para as operações de dividir um inteiro de bits por um inteiro mais curto e de tomar o resto da divisão de um inteiro de bits por um inteiro mais curto Seus algoritmos devem ser executados no tempo 2 Dê um algoritmo eficiente para converter um determinado inteiro binário de bits para representação decimal Demonstre que se a multiplicação ou divisão de inteiros cujo comprimento é no máximo demorar o tempo M então podemos converter de binário para decimal no tempo M lg Sugestão Use uma abordagem de divisão e conquista obtendo as metades superior e inferior do resultado com recursões separadas MÁXIMO DIVISOR COMUM Nesta seção descrevemos o algoritmo de Euclides para calcular eficientemente o máximo divisor comum de dois inteiros Quando analisarmos o tempo de execução veremos uma conexão surpreendente com os números de Fibonacci que produz uma entrada do pior caso para o algoritmo de Euclides Nesta seção nos limitaremos a inteiros não negativos Essa restrição é justificada pela equação 318 que declara que mdca b mdca b Em princípio podemos calcular mdca b para inteiros positivos a e b pelos fatores primos de a e b De fato se sendo que expoentes nulos são usados para tornar o conjunto de primos p1 p2 pr igual para a e b então como o Exercício 3121 pede para mostrar Porém como mostraremos na Seção 319 os melhores algoritmos existentes para fatoração não são executados em tempo polinomial Assim parece improvável que essa abordagem para calcular o máximo divisor comum produza um algoritmo eficiente O algoritmo de Euclides para calcular máximos divisores comuns é baseado no teorema a seguir Teorema 319 Teorema de recursão para o MDC Para qualquer inteiro não negativo a e qualquer inteiro positivo b mdca b mdcb a mod b Prova Mostraremos que mdca b e mdcb a mod b são divisíveis entre si de modo que pela equação 315 eles devem ser iguais já que ambos são não negativos Primeiro mostramos que mdca b mdcb a mod b Se fizermos d mdca b então d a e d b Pela equação 38 a mod b a qb onde q ab Visto que a mod b é uma combinação linear de a e b a equação 314 implica que d a mod b Portanto visto que d b e d a mod b o Corolário 313 implica que d mdcb a mod b ou o que é equivalente Mostrar que mdcb a mod b mdca b é quase a mesma coisa Se agora fizermos d mdcb a mod b então d b e d a mod b Visto que a qb a mod b onde q ab temos que a é uma combinação linear de b e a mod b Pela equação 314 concluímos que d a Como d b e d a temos que d mdca b pelo Corolário 313 ou o que é equivalente Usando a equação 315 para combinar as equações3114 e 3115 concluímos a prova Algoritmo de Euclides A obra Elementos de Euclides aproximadamente 300 aC descreve o algoritmo para mdc que apresentamos a seguir embora sua origem talvez seja ainda mais remota Expressamos o algoritmo de Euclides como um programa recursivo baseado diretamente no Teorema 319 As entradas a e b são inteiros não negativos arbitrários Como exemplo da execução de EUCLID considere o cálculo de mdc30 21 Esse cálculo chama EUCLID recursivamente três vezes A correção de EUCLID decorre do Teorema 319 e da seguinte propriedade se o algoritmo retorna a na linha 2 então b 0 de modo que a equação 319 implica que mdca b mdca 0 a O algoritmo não pode executar recursões indefinidamente já que o segundo argumento diminui estritamente em cada chamada recursiva e é sempre não negativo Assim EUCLID sempre termina com a resposta correta Tempo de execução do algoritmo de Euclides Analisamos o tempo de execução do pior caso de EUCLID em função do tamanho de a e b Supomos sem perda de generalidade que a b 0 Para justificar essa hipótese observe que se b a 0 então EUCLIDa b faz imediatamente a chamada recursiva EUCLIDb a Isto é se o primeiro argumento é menor que o segundo argumento EUCLID gasta uma chamada recursiva permutando seus argumentos e depois prossegue De modo semelhante se b a 0 o procedimento termina após uma chamada recursiva já que a mod b 0 O tempo de execução global de EUCLID é proporcional ao número de chamadas recursivas que ele executa Nossa análise usa os números de Fibonacci Fk definidos pela recorrência 322 Lema 3110 Se a b 1 e a chamada EUCLIDa b executa k 1 chamadas recursivas então a Fk 2 e b Fk 1 Prova A prova é por indução em relação a k Para a base da indução seja k 1 Então b 1 F2 e como a b devemos ter a 2 F3 Visto que b a mod b em cada chamada recursiva o primeiro argumento é estritamente maior que o segundo a hipótese a b é válida para cada chamada recursiva Suponha indutivamente que o lema vale se forem executadas k 1 chamadas recursivas então provaremos que o lema vale para k chamadas recursivas Visto que k 0 temos b 0 e EUCLID a b chama EUCLIDb a mod b recursivamente que por sua vez efetua k 1 chamadas recursivas Então a hipótese de indução implica que b Fk 1 provando assim uma parte do lema e a mod b Fk Temos visto que a b 0 implica ab 1 Assim O teorema a seguir é um corolário imediato desse lema Teorema 3111 Teorema de Lamé Para qualquer inteiro k 1 se a b 1 e b Fk 1 então a chamada EUCLIDa b faz menos de k chamadas recursivas Podemos mostrar que o limite superior do Teorema 3111 é o melhor possível mostrando que a chamada EUCLIDFk 1 Fk faz exatamente k 1 chamadas recursivas quando k 2 Usamos indução em relação a k Para o casobase k 2 e a chamada EUCLIDF3 F2 faz exatamente uma chamada recursiva a EUCLID1 0 Temos de começar em k 2 porque quando k 1 não temos F2 F1 Para o passo de indução suponha que EUCLIDFk Fk1 faz exatamente k 2 chamadas recursivas Para k 2 temos Fk Fk 1 0 e Fk 1 Fk Fk 1 e assim pelo Exercício 3111 temos Fk 1 mod Fk Fk 1 Assim temos Portanto a chamada EUCLID Fk 1 Fk executa uma recursão a mais que a chamada EUCLID Fk Fk 1 ou exatamente k 1 vezes atingindo o limite superior dado pelo Teorema 3111 Visto que Fk é aproximadamente φ k 5 onde f é a razão áurea 15 2 definida pela equação 324 o número de chamadas recursivas em EUCLID é Olg b Veja um limite mais preciso no Exercício 3125 Portanto se chamarmos EUCLID para dois números de bits então o procedimento executa O operações aritméticas e O3 operações de bits supondo que multiplicação e divisão de números de bits demorem O2 operações com bits O Problema 312 pede que você mostre um limite O2 para o número de operações com bits A forma estendida do algoritmo de Euclides Agora reescrevemos o algoritmo de Euclides para calcular informações adicionais úteis Especificamente estendemos o algoritmo para calcular os coeficientes inteiros x e y tais que Observe que x e y podem ser zero ou negativos Verificaremos mais adiante que esses coeficientes são úteis para calcular inversos multiplicativos modulares O procedimento EXTENDEDEUCLID toma como entrada um par de inteiros não negativos e retorna uma tripla da forma d x y que satisfaz a equação 3116 A Figura 311 ilustra o cálculo de mdc99 78 por EXTENDEDEUCLID O procedimento EXTENDEDEUCLID é uma variação do procedimento EUCLID A linha 1 é equivalente ao teste b 0 na linha 1 de EUCLID Se b 0 então EXTENDEDEUCLID retorna não somente d a na linha 2 mas também os coeficientes x 1 e y 0 de modo que a ax by Se b 0 EXTENDEDEUCLID primeiro calcula d y x tal que d mdcb a mod b e 3121 3122 3123 3124 3125 3126 Figura 311 Cálculo de mdc9978 por EXTENDEDEUCLID Cada linha mostra um nível da recursão os valores das entradas a e b o valor calculado ab e os valores d x e y retornados A tripla d x y retornada se torna a tripla d x y usada no cálculo do próximo nível mais alto de recursão A chamada EXTENDEDEUCLID99 78 retorna 3 11 14 e assim mdc99 78 3 99 11 78 14 Como em EUCLID temos nesse caso d mdca b d mdcb a mod b Para obter x e y tais que d ax by começamos reescrevendo a equação 3117 usando a equação d d e a equação 38 Assim escolher x y e y x ab y satisfaz a equação d ax by provando a correção de EXTENDED EUCLID Visto que o número de chamadas recursivas feitas em EUCLID é igual ao número de chamadas recursivas feitas em EXTENDEDEUCLID os tempos de execução de EUCLID E EXTENDEDEUCLID são iguais a menos de um fator constante Isto é para a b 0 o número de chamadas recursivas é Olg b Exercícios Prove que as equações 3111 e 3112 implicam a equação 3113 Calcule os valores d x y que a chamada EXTENDEDEUCLID899 493 retorna Prove que para todos os inteiros a k e n mdca n mdca kn n Reescreva EUCLID em uma forma iterativa que use somente uma quantidade constante de memória isto é armazene apenas um número constante de valores inteiros Se a b 0 mostre que a chamada EUCLIDa b faz no máximo 1 logfb chamadas recursivas Melhore esse limite para 1 logf bmdca b O que EXTENDEDEUCLIDFk 1 Fk retorna Prove a correção da sua resposta 3127 3128 3129 313 1 2 3 4 Defina a função mdc para mais de dois argumentos pela equação recursiva mdca0 a1 an mdca0 mdca0 a1 an Mostre que a função mdc retorna a mesma resposta independentemente da ordem na qual seus argumentos são especificados Mostre também como determinar inteiros x0 x1 xn tais que mdca0 a1 an a0x0 a1x1 anxn Mostre que o número de divisões executadas por seu algoritmo é On lgmax a0 a1 an Defina mmca1 a2 an como o mínimo múltiplo comum dos n inteiros a1 a2 an isto é o menor inteiro não negativo que é um múltiplo de cada ai Mostre como calcular mmca1 a2 an eficientemente usando a operação mdc de dois argumentos como uma subrotina Prove que n1 n2 n3 e n4 são primos dois a dois se e somente se mdcn1n2 n3n4 mdc n1n3 n2n4 1 De modo mais geral mostre que n1 n2 nk são primos entre si aos pares se e somente se um conjunto de lg k pares de números derivados de ni são primos entre si ARITMÉTICA MODULAR Informalmente podemos entender a aritmética modular como a aritmética usual com inteiros exceto que se estamos trabalhando módulo n todo resultado x é substituído pelo elemento de 0 1 n 1 que é equivalente a x módulo n isto é x é substituído por x mod n Esse modelo informal é suficiente se nos limitarmos às operações de adição subtração e multiplicação Um modelo mais formal para aritmética modular que damos agora é mais bem descrito dentro da estrutura da teoria de grupos Grupos finitos Um grupo S é um conjunto S aliado a uma operação binária definida em S para a qual são válidas as seguintes propriedades Fechamento Para todo a b S temos a b S Identidade Existe um elemento e S denominado identidade do grupo tal que e a a e a para todo a S Associatividade Para todo a b c S temos a b c a b c Inversos Para cada a S existe um elemento único b S denominado inverso de a tal que Como exemplo considere o conhecido grupo dos inteiros na operação de adição 0 é a identidade e o inverso de a é a Se um grupo S satisfaz a lei comutativa a b b a para todo a b S então ele é um grupo abeliano Se um grupo S satisfaz S então ele é um grupo finito Grupos definidos por adição e multiplicação modulares Podemos formar dois grupos abelianos finitos usando adição e multiplicação módulo n onde n é um inteiro positivo Esses grupos são baseados nas classes de equivalência dos inteiros módulo n definidas na Seção 311 Para definir um grupo em n precisamos ter operações binárias adequadas que obtemos redefinindo as operações comuns de adição e multiplicação É fácil definir operações de adição e multiplicação para n porque a classe de equivalência de dois inteiros determina unicamente a classe de equivalência de sua soma ou produto Isto é se a a mod n e b b mod n então Figura 312 Dois grupos finitos As classes de equivalência são denotadas por seus elementos representantes a O grupo 6 6 b O grupo 15 15 Assim definimos adição e multiplicação módulo n denotadas por n e n por Podemos definir de modo semelhante a subtração em n por an n bn a bn mas a divisão é mais complicada como veremos Esses fatos justificam a prática comum e conveniente de usar o menor elemento não negativo de cada classe de equivalência como seu representante ao executar cálculos em n Somamos subtraímos e multiplicamos como sempre usando os representantes mas substituímos cada resultado x pelo representante de sua classe isto é por x mod n Usando essa definição de adição módulo n definimos o grupo aditivo módulo n como n n O tamanho do grupo aditivo módulo n é n n A Figura 312a apresenta a tabela de operação para o grupo 6 6 Teorema 3112 O sistema n n é um grupo abeliano finito Prova A equação 3118 mostra que n n é fechado A associatividade e a comutatividade de n decorrem da associatividade e da comutatividade de O elemento identidade de n é 0 isto é 0n O inverso aditivo de um elemento a isto é de an é o elemento a isto é an ou n an visto que an n an a an 0n Usando a definição de multiplicação módulo n definimos o grupo multiplicativo módulo n como n n Os elementos desse grupo são o conjunto n de elementos em n que são primos com n Para ver que n é bem definido observe que para 0 a n temos a a kn mod n para todos os inteiros k Então pelo Exercício 3123 mdca n 1 implica mdca kn n 1 para todos os inteiros k Visto que an a kn k o conjunto n é bem definido Um exemplo de tal grupo é onde a operação de grupo é multiplicação módulo 15 Aqui denotamos um elemento a15 por a15 por exemplo denotamos 715 por 7 A Figura 312b mostra o grupo 15 15 Por exemplo 8 11 13 mod 15 trabalhando com A identidade para esse grupo é 1 Teorema 3113 O sistema n n é um grupo abeliano finito Prova O Teorema 316 implica que n n é fechado Associatividade e comutatividade podem ser provadas para n como foram para n na prova do Teorema 3112 O elemento identidade é 1n Para mostrar a existência de inversos seja a um elemento de n e seja d x y retornado por EXTENDEDEUCLIDa n Então d 1 já que a n e ou o que é equivalente Assim xn é um inverso multiplicativo de an módulo n Além disso afirmamos que xn n Para ver por que a equação 3119 demonstra que a menor combinação linear possível de x e n deve ser 1 Portanto o Teorema 312 implica que mdcx n 1 Adiamos para o Corolário 3126 a prova de que inversos são unicamente definidos Como exemplo do cálculo de inversos multiplicativos suponha que a 5 e n 11 Então EXTENDEDEUCLIDa n retorna d x y 1 2 1 de modo que 1 5 2 11 1 Assim 211 isto é 911 é o inverso multiplicativo de 511 Quando trabalharmos com os grupos n n e n n no restante deste capítulo seguiremos a prática conveniente de denotar classes de equivalência por seus elementos representantes e denotar as operações n e n pelas notações aritméticas usuais e ou justaposição de modo que ab a b respectivamente Além disso equivalências módulo n também podem ser interpretadas como equações em n Por exemplo as duas declarações seguintes são equivalentes Como conveniência adicional às vezes nos referimos a um grupo S somente como S quando a operação é entendida pelo contexto Assim podemos nos referir aos grupos n n e n n como n e respectivamente Denotamos o inverso multiplicativo de um elemento a por a1 mod n Divisão em é definida pela equação a b ab1 Por exemplo em 15 temos que 71 13 mod 15 visto que 7 13 91 1 mod 15 de modo que 47 4 13 7 mod 15 O tamanho de n é denotado por fn Essa função conhecida como função fi de Euler satisfaz a equação de modo que p percorre todos os primos que dividem n inclusive o próprio n se n é primo Não provaremos essa fórmula aqui Intuitivamente começamos com uma lista dos n restos 0 1 n 1 e depois para cada primo p que divide n cancelamos todos os múltiplos de p na lista Por exemplo como os divisores primos de 45 são 3 e 5 Se p é primo então 1 2 p 1 e Se n é composto então f n n 1 mas podese mostrar que para n 3 onde 05772156649 é a constante de Euler Um limite inferior um pouco mais simples porém mais relaxado para n 5 é O limite inferior 3122 é essencialmente o melhor possível visto que Subgrupos Se S é um grupo S S e S também é um grupo então S é um subgrupo de S Por exemplo os inteiros pares formam um subgrupo dos inteiros para a operação de adição O teorema a seguir dá uma ferramenta útil para reconhecer subgrupos Teorema 3114 Um subconjunto fechado não vazio de um grupo finito é um subgrupo Se S é um grupo finito e S é qualquer subconjunto não vazio de S tal que a b S para todo a b S então S é um subgrupo de S Prova Deixamos a prova para o Exercício 3133 Por exemplo o conjunto 0 2 4 6 forma um subgrupo de 8 já que é não vazio e fechado pela operação isto é é fechado para 8 O teorema a seguir dá uma restrição extremamente útil para o tamanho de um subgrupo omitimos a prova Teorema 3115 Teorema de Lagrange Se S é um grupo finito e S é um subgrupo de S então S é um divisor de S Um subgrupo S de um grupo S é um subgrupo próprio se S S Usaremos o corolário a seguir na análise que fazemos na Seção 318 do procedimento de teste de primalidade de MillerRabin Corolário 3116 Se S é um subgrupo próprio de um grupo finito S então S S2 Subgrupos gerados por um elemento O Teorema 3114 nos dá um modo fácil para produzir um subgrupo de um grupo finito S escolha um elemento a e tome todos os elementos que podem ser gerados de a usando a operação de grupo Especificamente defina ak para k 1 por Por exemplo se tomarmos a 2 no grupo 6 a sequência a1 a2 é 2 4 0 2 4 0 2 4 0 No grupo n temos ak ka mod n e no grupo temos a k ak mod n Definimos o subgrupo gerado por a denotado por a ou a por Dizemos que a gera o subgrupo a ou que a é um gerador de a Visto que S é finito a é um subconjunto finito de S possivelmente incluindo todo o conjunto S Como a associatividade de implica a é fechado e portanto pelo Teorema 3114 a é um subgrupo de S Por exemplo em 6 temos De modo semelhante em temos A ordem de a no grupo S denotada por orda é definida como o menor inteiro positivo t tal que at e Teorema 3117 Para qualquer grupo finito S e qualquer a S a ordem de um elemento é igual ao tamanho do subgrupo que ele gera ou orda a Prova Seja t orda Visto que at e e atk at ak ak para k 1 se i t então ai aj para algum j i Assim à medida que geramos elementos por a não vemos nenhum elemento depois de at Portanto a a1 a2 at e a t Para mostrar que a t mostramos que cada elemento da sequência a1 a2 at é distinto Suponha por contradição que ai aj para algum i e j que satisfaça 1 i j t Então aik ajk para k 0 Mas essa igualdade implica que ait j aj t j e uma contradição já que i t j t mas t é o menor valor positivo tal que at e Portanto cada elemento da sequência a1 a2 at é distinto e a t Concluímos que orda a Corolário 3118 A sequência a1 a2 é periódica com período t orda isto é ai aj se e somente se i j mod t Compativelmente com o Corolário 3118 definimos a0 como e e ai como ai mod t onde t orda para todos os inteiros i Corolário 3119 Se S é um grupo finito com identidade e então para todo a S Prova O teorema de Lagrange Teorema 3115 implica que orda S e portanto S 0 mod t onde t orda Então aS a0 e 3131 3132 3133 3134 3135 314 Exercícios Desenhe as tabelas de operação de grupo para os grupos 4 4 e 5 5 Mostre que esses grupos são isomorfos exibindo uma correspondência de um para um α entre seus elementos tal que a b c mod 4 se e somente se aa αb αc mod 5 Organize uma lista com todos os subgrupos de 9 e de 13 Prove o Teorema 3114 Mostre que se p é primo e e é um inteiro positivo então Mostre que para qualquer inteiro n 1 e para qualquer a a função f a n n definida por fax ax mod n é uma permutação de n SOLUÇÃO DE EQUAÇÕES LINEARES MODULARES Agora consideramos o problema de encontrar soluções para a equação onde a 0 e n 0 Esse problema tem várias aplicações por exemplo nós o usaremos como parte do procedimento para determinar chaves no sistema de criptografia de chave pública RSA na Seção 317 Supomos que a b e n são dados e desejamos determinar todos os valores de x módulo n que satisfazem a equação 3125 A equação pode ter zero uma ou mais de uma solução como essa Seja a o subgrupo de n gerado por a Visto que a ax x 0 ax mod n x 0 a equação 3125 tem uma solução se e somente se b a O teorema de Lagrange Teorema 3115 afirma que a deve ser um divisor de n O teorema a seguir nos dá uma caracterização precisa de a Teorema 3120 Para quaisquer inteiros positivos a e n se d mdca n então em n e assim Prova Começamos mostrando que d a Lembrese de que EXTENDEDEUCLIDa n produz inteiros x e y tais que ax ny d Assim ax d de modo que d a Em outras palavras d é múltiplo de a em n Visto que d a decorre que todo múltiplo de d pertence a a porque qualquer múltiplo de um múltiplo de a é ele próprio um múltiplo de a Então a contém todos os elementos em 0 d 2d nd 1d Isto é d a Agora mostramos que a d Se m a então m ax mod n para algum inteiro x e portanto m ax ny para algum inteiro y Contudo d a e d n e assim d m pela equação 314 Portanto m d Combinando esses resultados temos que a d Para ver que a nd observe que há exatamente nd múltiplos de d entre 0 e n 1 inclusive Corolário 3121 A equação ax b pode ser resolvida para a incógnita x se e somente se d b onde d mdca n Prova A equação ax b mod n pode ser resolvida se e somente se b a que é o mesmo que dizer pelo Teorema 3120 Se 0 b n então b a se e somente se d b visto que os membros de a são exatamente os múltiplos de d Se b 0 ou b n então o corolário decorre da observação de que d b se e somente se d b mod n já que a diferença entre b e b mod n é um múltiplo de n que é ele próprio um múltiplo de d Corolário 3122 A equação ax b mod n tem d soluções distintas módulo n onde d mdca n ou não tem nenhuma solução Prova Se ax b mod n tem uma solução então b a Pelo Teorema 3117 orda a e assim o Corolário 3118 e o Teorema 3120 implicam que a sequência ai mod n para i 0 1 é periódica com período a nd Se b a então b aparece exatamente d vezes na sequência ai mod n para i 0 1 n 1 já que o bloco de valores a de comprimento nd é repetido exatamente d vezes à medida que i cresce de 0 a n 1 Os índices x das d posições para as quais ax mod n b são as soluções da equação ax b mod n Teorema 3123 Seja d mdca n e suponha que d ax ny para alguns inteiros x e y por exemplo como calculado por EXTENDED EUCLID Se d b então a equação ax b mod n tem como uma de suas soluções o valor x0 onde Prova Temos e assim x0 é uma solução para ax b mod n Teorema 3124 Suponha que a equação ax b mod n tenha solução isto é d b onde d mdca n e que x0 seja alguma solução para essa equação Então essa equação tem exatamente d soluções distintas módulo n dadas por xi x0 ind para i 0 1 d 1 Prova Como nd 0 e 0 ind n para i 0 1 d 1 os valores x0 x1 xd 1 são todos distintos módulo n Como x0 é uma solução de ax b mod n temos ax0 mod n b mod n Assim para i 0 1 d 1 temos e por consequência axi b mod n o que faz de xi uma solução também Pelo Corolário 3122 a equação a ax b mod n tem exatamente d soluções de modo que x0 x1 xd 1 devem ser todas elas Agora desenvolvemos a matemática necessária para resolver a equação ax b mod n o algoritmo a seguir imprime todas as soluções para essa equação As entradas a e n são inteiros positivos arbitrários e b é um inteiro arbitrário Como exemplo da operação desse procedimento considere a equação 14x 30 mod 100 aqui a 14 b 30 e n 100 Chamando EXTENDEDEUCLID na linha 1 obtemos d x y 2 7 1 Como 2 30 as linhas 35 são executadas A linha 3 calcula x0 715 mod 100 95 O laço nas linhas 45 imprime as duas soluções 95 e 45 O procedimento MODULARLINEAREQUATIONSOLVER funciona da seguinte maneira a linha 1 calcula d mdca n bem como dois valores x e y tais que d ax ny demonstrando que x é uma solução para a equação ax d mod n Se d não divide b então a equação ax b mod n não tem nenhuma solução pelo Corolário 3121 A linha 2 verifica se d b se não a linha 6 informa que não existe nenhuma solução Caso contrário a linha 3 calcula uma solução x0 para ax b mod n de acordo com o Teorema 3123 Dada uma solução o Teorema 3124 informa que somar múltiplos de nd módulo n produz as outras d 1 soluções O laço for das linhas 45 imprime todas as d soluções começando com x0 e espaçadas entre si nd módulo n MODULARLINEAREQUATIONSOLVER executa Olg n mdca n operações aritméticas já que EXTENDEDEUCLID executa Olg n operações aritméticas e cada iteração do laço for das linhas 45 executa um número constante de operações aritméticas Os seguintes corolários do Teorema 3124 dão especializações de particularmente interessantes Corolário 3125 Para qualquer n 1 se mdca n 1 então a equação ax b mod n tem uma solução única módulo n Se b 1 um caso comum de interesse considerável o x que estamos procurando é um inverso multiplicativo de a módulo n Corolário 3126 Para qualquer n 1 se mdca n 1 então a equação ax 1 mod n tem uma solução única módulo n Caso contrário ela não tem nenhuma solução Graças ao Corolário 3126 podemos usar a notação a1 mod n para nos referirmos ao inverso multiplicativo de a módulo n quando a e n são primos entre si Se mdca n 1 então a única solução para a equação ax 1 mod n é o inteiro x retornado por EXTENDEDEUCLID já que a equação implica ax 1 mod n Assim podemos calcular a1 mod n eficientemente usando EXTENDEDEUCLID 3141 3142 3143 3144 315 Exercícios Determine todas as soluções para a equação 35x 10 mod 50 Prove que a equação ax ay mod n implica x y mod n sempre que mdca n 1 Mostre que a condição mdca n 1 é necessária fornecendo um contraexemplo com mdca n 1 Considere a seguinte mudança na linha 3 do procedimento MODULARLINEAREQUA TIONSOLVER Isso funcionará Explique sua resposta Seja p primo e fx f0 f1x ftxt mod p um polinômio de grau t com coeficientes fi extraídos de p Dizemos que a p é um zero de f se fa 0 mod p Prove que se a é um zero de f então fx x a gx mod p para algum polinômio gx de grau t 1 Prove por indução em relação a t que se p é primo então um polinômio f x de grau t pode ter no máximo t zeros distintos módulo p O TEOREMA CHINÊS DO RESTO Por volta do ano 100 o matemático chinês SunTsu resolveu o problema de determinar os inteiros x que deixam restos 2 3 e 2 quando divididos por 3 5 e 7 respectivamente Uma dessas soluções é x 23 todas as soluções têm a forma 23 105k para inteiros arbitrários k O teorema chinês do resto dá uma correspondência entre um sistema de equações módulo de um conjunto de primos dois a dois por exemplo 3 5 e 7 e uma equação módulo o produto desses primos por exemplo 105 O teorema chinês do resto tem duas aplicações importantes Considere o inteiro n fatorado como n n1n2 nk onde os fatores ni são primos entre si aos pares Em primeiro lugar o teorema chinês do resto é um teorema de estrutura descritivo que mostra a estrutura de n como idêntica à do produto cartesiano a linha base do x tem que ser a mesma do n1 n2 nk com adição e multiplicação componente a componente módulo ni na iésima componente Em segundo lugar essa descrição nos ajuda a projetar algoritmos eficientes já que trabalhar em cada um dos sistemas ni pode ser mais eficiente em termos de operações com bits que trabalhar com módulo n Teorema 3127 Teorema chinês do resto Seja n n1n2 nk onde os ni são primos dois a dois Considere a correspondência onde a n ai ni e para i 1 2 k Então mapear 3127 é uma correspondência biunívoca bijeção entre n e o produto cartesiano n1 n2 nk Operações executadas nos elementos de n podem ser executadas de modo equivalente nas k tuplas correspondentes se as operações forem executadas independentemente em cada posição coordenada no sistema adequado Isto é se então Prova Transformar uma representação na outra é razoavelmente simples Passar de a para a1 a2 ak é bem fácil e requer somente k operações mod Calcular a pelas entradas a1 a2 ak é um pouco mais complicado Começamos definindo mi nni para i 1 2 k assim mi é o produto de todos os nj exceto ni mi n1n2 ni 1ni 1 nk Em seguida definimos para i 1 2 k A equação 3131 é sempre bem definida visto que mi e ni são primos entre si pelo Teorema 316 o Corolário 3126 garante que mi 1 mod ni existe Finalmente podemos calcular a como uma função de a1 a2 ak assim Agora mostramos que a equação 3132 garante que a ai mod ni para i 1 2 k Observe que se j i então mj 0 mod ni o que implica que cj mj 0 mod ni Observe também que cj 1 mod ni pela equação 3131 Assim temos a interessante e útil correspondência um vetor que tem zeros em todos os lugares exceto na iésima coordenada onde tem um 1 assim em certo sentido as ci formam uma base para a representação Então para cada i temos que é o que queríamos demonstrar nosso método de calcular a pelos ai produz um resultado a que satisfaz as restrições a ai mod ni para i 1 2 k A correspondência é biunívoca já que podemos transformar em ambas as direções Finalmente as equações 31283130 decorrem diretamente do Exercício 3117 já que x mod ni x mod n mod ni para qualquer x e i 1 2 k Os corolários a seguir serão usados mais adiante neste capítulo Corolário 3128 Se n1 n2 nk são primos dois a dois e n n1 n2 nk então para quaisquer inteiros a1 a2 ak o conjunto de equações simultâneas para i 1 2 k tem uma solução única módulo n para a incógnita x Corolário 3129 Se n1 n2 nk são primos dois a dois e n n1 n2 nk então para todos os inteiros x e a para i 1 2 k se e somente se Como exemplo da aplicação do teorema chinês do resto suponha que temos as duas equações de modo que a1 2 n1 m2 5 a2 3 e n2 m1 13 e desejamos calcular a mod 65 já que n 65 Como 131 2 mod 5 e 51 8 mod 13 temos e A Figura 313 apresenta uma ilustração do teorema chinês do resto módulo 65 Assim podemos trabalhar em módulo n trabalhando diretamente em módulo n ou na representação transformada usando cálculos módulo ni separados como for conveniente Os cálculos são totalmente equivalentes Figura 313 Ilustração do teorema chinês do resto para n1 5 e n2 13 Nesse exemplo c1 26 e c2 40 Na linha i coluna j é mostrado o valor de a módulo 65 tal que a mod 5 i e a mod 13 j Observe que a linha 0 coluna 0 contém um 0 De modo semelhante a linha 4 coluna 12 contém um 64 equivalente a 1 Visto que c1 26 descer uma linha aumenta a de 26 De modo semelhante c2 40 significa que passar para uma coluna à direita aumenta a de 40 Aumentar a de 1 corresponde a descer pela diagonal para a direita retornar de baixo para cima e da direita para a esquerda 3151 3152 3153 3154 316 Exercícios Determine todas as soluções para as equações x 4 mod 5 e x 5 mod 11 Determine todos os inteiros x que deixam restos 1 2 3 quando divididos por 9 8 7 respectivamente Demonstre que de acordo com as definições do Teorema 3127 se mdca n 1 então Pelas definições do Teorema 3127 prove que para qualquer polinômio f o número de raízes da equação fx 0 mod n é igual ao produto do número de raízes de cada uma das equações fx 0 mod n1 fx 0 mod n2 fx 0 mod nk POTÊNCIAS DE UM ELEMENTO Exatamente como muitas vezes consideramos os múltiplos de dado elemento a módulo n consideramos a sequência de potências de a módulo n onde a n módulo n Iniciando a indexação de 0 o 0ésimo valor nessa sequência é a0 mod n 1 e o iésimo valor é ai mod n Por exemplo as potências de 3 módulo 7 são enquanto as potências de 2 módulo 7 são Nesta seção representamos por a o subgrupo de n gerado por a por multiplicação repetida e representamos por ord a a ordem de a módulo n a ordem de a em n Por exemplo 2 1 2 4 em 7 e ord72 3 Usando a definição da função fi de Euler fn como o tamanho de n consulte a Seção 313 agora traduzimos o Corolário 3119 para a notação de n para obter o teorema de Euler e especializálo para n onde p é primo para obter o teorema de Fermat Teorema 3130 Teorema de Euler Para qualquer inteiro n 1 Teorema 3131 Teorema de Fermat Se p é primo então Prova Pela equação 3121 fn p 1 se p é primo O teorema de Fermat se aplica a todo elemento em p exceto 0 visto que 0 p Contudo para todo a p temos ap a mod p se p é primo Se ordng n então todo elemento em n é uma potência de g módulo n e g é uma raiz primitiva ou um gerador de n Por exemplo 3 é uma raiz primitiva módulo 7 mas 2 não é uma raiz primitiva módulo 7 Se n possui uma raiz primitiva o grupo n é cíclico Omitimos a prova do teorema a seguir que é provado por Niven e Zuckerman 265 Teorema 3132 Os valores de n 1 para os quais n é cíclico são 2 4 pe e 2pe para todos os primos p 2 e todos os inteiros positivos e Se g é uma raiz primitiva de n e a é qualquer elemento de n então existe um z tal que gz a mod n Esse z é um logaritmo discreto ou um índice de a módulo n na base g denotamos esse valor como indn ga Teorema 3133 Teorema do logaritmo discreto Se g é uma raiz primitiva de n então a equação gx gy mod n é válida se e somente se a equação x y mod fn é válida Prova Primeiro suponha que x y mod fn Então x y kfn para algum inteiro k Assim Ao contrário suponha que gx gy mod n Como a sequência de potências de g gera todo elemento de g e g f n o Corolário 3118 implica que a sequência de potências de g é periódica com período f n Portanto se gx gy mod n então devemos ter x y mod f n Agora voltamos nossa atenção às raízes quadradas de 1 módulo potência prima O teorema a seguir será útil no desenvolvimento de um teste de primalidade do algoritmo na Seção 318 Teorema 3134 Se p é um primo ímpar e e 1 então a equação tem somente duas soluções isto é x 1 e x 1 Prova A equação 3134 é equivalente a Visto que p 2 podemos ter p x 1 ou p x 1 mas não ambos Caso contrário pela propriedade 313 p também dividiria a diferença entre eles x 1 x 1 2 Se p x 1 então mdc pe x 1 1 e pelo Corolário 315 teríamos pe x 1 Isto é x 1 mod pe Simetricamente se p x 1 então mdc pe x 1 1 e o Corolário 315 implica que pe x 1 1 de modo que x 1 mod pe Portanto x 1 mod pe ou x 1 mod pe Um número x é uma raiz quadrada não trivial de 1 módulo n se satisfaz a equação x2 1 mod n mas x não é equivalente a nenhuma das duas raízes quadradas triviais 1 ou 1 módulo n Por exemplo 6 é uma raiz quadrada não trivial de 1 módulo 35 Usaremos o corolário do Teorema 3134 apresentado a seguir na prova de correção do procedimento de teste de primalidade de MillerRabin na Seção 318 Corolário 3135 Se existe uma raiz quadrada não trivial de 1 módulo n então n é composto Prova Pelo contrapositivo do Teorema 3134 se existe uma raiz quadrada não trivial de 1 módulo n então n não pode ser um primo ímpar ou uma potência de um primo ímpar Se x2 1 mod 2 então x 1 mod 2 e portanto todas as raízes quadradas de 1 módulo 2 são triviais Assim n não pode ser primo Finalmente devemos ter n 1 para que exista uma raiz quadrada não trivial de 1 Então n tem de ser composto Exponenciação com elevação ao quadrado repetida Uma operação que ocorre frequentemente em cálculos da teoria dos números é a elevação de um número a uma potência módulo outro número também conhecida como exponenciação modular Mais precisamente o que queremos é um modo eficiente para calcular ab mod n onde a e b são inteiros não negativos e n é um inteiro positivo A exponenciação modular é uma operação essencial em muitas rotinas de teste de primalidade e no sistema de criptografia de chave pública RSA O método de elevação ao quadrado repetida resolve esse problema eficientemente utilizando a representação binária de b Seja bk bk 1 b1 b0 a representação binária de b isto é a representação binária tem k 1 bits de comprimento bk é o bit mais significativo e b0 é o bit menos significativo O procedimento a seguir calcula ac mod n à medida que c é aumentada por duplicações e incrementações de 0 a b O uso essencial da elevação ao quadrado na linha 6 de cada iteração explica o nome elevação ao quadrado repetida Como exemplo para a 7 b 560 e n 561 o algoritmo calcula a sequência de valores módulo 561 mostrada na Figura 314 a sequência de expoentes utilizados é mostrada na linha da tabela identificada por c Na verdade o algoritmo não precisa da variável c mas ela é incluída para o seguinte invariante de laço de duas partes Imediatamente antes de cada iteração do laço for das linhas 49 1 2 3161 3162 3163 317 Figura 314 Resultados de MODULAReXPONENTIATION quando o procedimento calcula ab mod n onde a 7 b 560 1000110000 e n 561 Os valores são mostrados após cada execução do laço for O resultado final é 1 O valor de c é o mesmo que o do prefixo bk bk 1 bi 1 da representação binária de b d ac mod n Usamos esse invariante de laço da seguinte maneira Inicialização Inicialmente i k de modo que o prefixo bk bk 1 bi 1 está vazio o que corresponde a c 0 Além disso d 1 a0 mod n Manutenção Sejam c e d os valores de c e d no final de uma iteração do laço for e portanto os valores antes da próxima iteração Cada iteração atualiza c 2c se bi 0 ou c 2c 1 se bi 1 de modo que c estará correta antes da próxima iteração Se bi 0 então d d2 mod n ac2 mod n a2c mod n mod n ac mod n Se b i 1 então d d2 a mod n ac2 a mod n a2c 1 mod n ac mod n Em qualquer caso d ac mod n antes da próxima iteração Término No término i 1 Assim c b já que c tem o valor do prefixo bk bk 1 b0 da representação binária de b Consequentemente d ac mod n ab mod n Se as entradas a b e n são números de bits então o número total de operações aritméticas exigidas é O e o número total de operações com bits exigidas é O3 Exercícios Desenhe uma tabela mostrando a ordem de todos os elementos em 11 Escolha a menor raiz primitiva g e calcule uma tabela que dê ind11 gx para todo x 11 Dê um algoritmo de exponenciação modular que examine os bits de b da direita para a esquerda em vez de da esquerda para a direita Supondo que você conhece fn explique como calcular a1 mod n para qualquer a n usando o procedimento MODULAREXPONENTIATION O SISTEMA DE CRIPTOGRAFIA DE CHAVE PÚBLICA RSA Com um sistema de criptografia de chave pública podemos criptografar mensagens enviadas entre dois participantes de uma comunicação de modo que um intruso que escute as mensagens criptografadas não possa decifrá las Um sistema de criptografia de chave pública também permite que um dos participantes acrescente uma assinatura digital impossível de forjar ao final de uma mensagem eletrônica Tal assinatura é a versão eletrônica de uma assinatura manuscrita em um documento em papel e pode ser facilmente verificada por qualquer pessoa não pode ser forjada por ninguém e perde sua validade se qualquer bit da mensagem for alterado Portanto permite a autenticação da identidade do signatário bem como do conteúdo da mensagem assinada É a ferramenta perfeita para assinar eletronicamente contratos de negócios cheques eletrônicos pedidos de compras eletrônicos e outras comunicações eletrônicas que as partes desejem autenticar O sistema de criptografia de chave pública RSA se baseia na espetacular diferença entre a facilidade de encontrar números primos grandes e a dificuldade de fatorar o produto de dois números primos grandes A Seção 318 descreve um procedimento eficiente para encontrar números primos grandes e a Seção 319 discute o problema de fatorar inteiros grandes Sistemas de criptografia de chave pública Em um sistema de criptografia de chave pública cada participante tem uma chave pública e uma chave secreta Cada chave é uma informação Por exemplo no sistema de criptografia RSA cada chave consiste em um par de inteiros Os participantes Alice e Bob são tradicionalmente usados em exemplos de criptografia denotamos suas chaves públicas e secretas como PA SA para Alice e PB SB para Bob Cada participante cria suas próprias chaves pública e secreta Chaves secretas são mantidas em segredo mas chaves públicas podem ser reveladas a qualquer um ou até divulgadas publicamente Na verdade muitas vezes é conveniente supor que a chave pública de qualquer pessoa está disponível em um diretório público de modo que qualquer participante possa obter facilmente a chave pública de qualquer outro participante As chaves pública e secreta especificam funções que podem ser aplicadas a qualquer mensagem Seja D o conjunto de mensagens permissíveis Por exemplo D poderia ser o conjunto de todas as sequências de bits de comprimento finito Na formulação mais simples e original da criptografia de chave pública as chaves pública e secreta devem especificar funções biunívocas de D para ele próprio Denotamos a função correspondente à chave pública de Alice PA por PA e a função correspondente à sua chave secreta SA por SA Portanto as funções PA e SA são permutações de D Supomos que as funções PA e SA podem ser calculadas eficientemente dada a chave correspondente PA ou SA As chaves pública e secreta para qualquer participante formam um par compatível já que especificam funções que são inversas uma da outra Isto é para qualquer mensagem M D Transformar M com as duas chaves PA e SA sucessivamente em qualquer ordem produz novamente a mensagem M Em um sistema de criptografia de chave pública é essencial que ninguém exceto Alice possa calcular a função SA em qualquer período de tempo prático Tal proposição é crucial para manter a privacidade das mensagens criptografadas enviadas a Alice e para saber que as assinaturas digitais de Alice são autênticas Alice deve manter SA em segredo se ela não o fizer perderá a exclusividade da chave e o sistema de criptografia não poderá lhe oferecer recursos exclusivos A pressuposição de que somente Alice pode calcular SA deve se manter válida mesmo que todos conheçam PA e possam calcular eficientemente PA a função inversa de SA Para projetar um sistema de criptografia de chave pública funcional temos de formular um sistema no qual possamos revelar uma transformação PA sem com isso revelar como calcular a transformação inversa SA correspondente Essa tarefa parece descomunal mas veremos como podemos executála Em um sistema de criptografia de chave pública a codificação funciona como mostra a Figura 315 Suponha que Bob queira enviar a Alice uma mensagem M criptografada de tal forma que ela pareça algaravia ininteligível para um intruso O cenário para enviar a mensagem é dado a seguir Bob obtém a chave pública de Alice PA de um diretório público ou diretamente de Alice Bob calcula o texto cifrado C PAM correspondente à mensagem M e envia C a Alice Quando recebe o texto cifrado C Alice aplica sua chave secreta SA para recuperar a mensagem original SAC SAPAM M Como SA e PA são funções inversas Alice pode calcular M a partir de C Visto que somente Alice pode calcular SA ela é a única pessoa que pode calcular M a partir de C Como Bob criptografa M usando PA só Alice pode entender a mensagem transmitida Podemos implementar assinaturas digitais com igual facilidade dentro da nossa formulação de um sistema de criptografia de chave pública Há outros modos de abordar o problema de construir assinaturas digitais mas não os examinaremos aqui Suponha agora que Alice queira enviar a Bob uma resposta M com assinatura digital A Figura 316 mostra como ocorre a assinatura digital Alice calcula sua assinatura digital s para a mensagem M usando sua chave secreta SA e a equação s SAM Figura 315 Codificação em um sistema de chave pública Bob codifica a mensagem M usando a chave pública PA de Alice e transmite o texto cifrado resultante C PA M a Alice por um canal de comunicação Um intruso que capturar o texto cifrado transmitido não obterá nenhuma informação sobre M Alice recebe C e o decifra usando sua chave secreta para obter a mensagem original M SA C Alice envia o par mensagemassinatura M s a Bob Ao receber M s Bob pode confirmar que ela foi enviada por Alice utilizando a chave pública de Alice para verificar a equação M PAs Presumivelmente M contém o nome de Alice e assim Bob sabe qual chave pública deve usar Se a equação é válida Bob conclui que a mensagem M foi realmente assinada por Alice Se a equação não é válida Bob conclui que a mensagem M ou a assinatura digital s foi danificada por erros de transmissão ou que o par M s é uma tentativa de falsificação Como proporciona autenticação da identidade do signatário bem como autenticação do conteúdo da mensagem assinada uma assinatura digital é análoga a uma assinatura manuscrita no final de um documento escrito Uma assinatura digital tem de ser verificável por quem quer que tenha acesso à chave pública do signatário Uma mensagem assinada pode ser verificada por uma parte e depois repassada a outras partes que também podem verificar a assinatura Por exemplo a mensagem poderia ser um cheque eletrônico de Alice para Bob Depois de verificar a assinatura de Alice no cheque Bob pode entregálo a seu banco que então também pode verificar a assinatura e efetuar a transferência de fundos adequada Uma mensagem assinada não está necessariamente criptografada a mensagem pode estar às claras e não protegida contra revelação Compondo os protocolos já citados para codificação e para assinaturas podemos criar mensagens assinadas e criptografadas Primeiro o signatário anexa sua assinatura digital à mensagem e depois criptografa o par mensagemassinatura resultante com a chave pública do destinatário pretendido O destinatário decodifica a mensagem recebida com sua chave secreta para obter a mensagem original e também sua assinatura digital Então pode verificar a assinatura usando a chave pública do signatário O processo combinado correspondente quando são utilizados sistemas em papel é assinar o documento em papel e depois lacrálo dentro de um envelope de papel que será aberto apenas pelo destinatário pretendido 1 2 3 4 5 6 Figura 316 Assinaturas digitais em um sistema de chave pública Alice assina a mensagem M anexando a ela sua assinatura digital s SA M Ela transmite o par mensagemassinatura M s a Bob que a verifica conferindo a equação M PA s Se a equação é válida ele aceita M s como uma mensagem assinada por Alice O sistema de criptografia RSA No sistema de criptografia de chave pública RSA um participante cria suas chaves pública e secreta com o seguinte procedimento Selecione aleatoriamente dois números primos grandes p e q tais que p q Os primos p e q podem ter digamos 512 bits cada um Calcule n pq Selecione um inteiro ímpar pequeno e tal que e seja primo com fn que pela equação 3120 é igual a p 1q 1 Calcule d como o inverso multiplicativo de e módulo fn O Corolário 3126 garante que d existe e é definido unicamente Podemos usar a técnica da Seção 314 para calcular d dados e e fn Divulgue o par P e n como a chave pública RSA do participante Mantenha o par S d n em segredo como a chave secreta RSA do participante Por esse esquema o domínio D é o conjunto n Para transformar uma mensagem M associada a uma chave pública P e n calcule Para transformar um texto cifrado C associado a uma chave secreta S d n calcule Essas equações se aplicam à codificação bem como a assinaturas Para criar uma assinatura o signatário aplica sua chave secreta à mensagem a ser assinada em vez de a um texto cifrado Para verificar uma assinatura a chave pública do signatário é aplicada a ela em vez de ser aplicada a uma mensagem a ser criptografada Podemos implementar as operações de chave pública e chave secreta usando o procedimento MODULAR EXPONENTIATION descrito na Seção 316 Para analisar o tempo de execução dessas operações suponha que a chave pública e n e a chave secreta d n satisfaçam lg e O1 lg d e lg n Então aplicar uma chave pública requer O1 multiplicações modulares e usa O2 operações com bits Aplicar uma chave secreta requer O multiplicações modulares usando O3 operações com bits Teorema 3136 Correção do RSA As equações RSA 3137 e 3138 definem transformações inversas de n que satisfazem as equações 3135 e 3136 Prova Pelas equações 3137 e 3138 temos que para qualquer M n Visto que e e d são inversos multiplicativos módulo fn p 1q 1 para algum inteiro k Mas então se M 0 mod p temos Além disso Med M mod p se M 0 mod p Assim Med M mod p para todo M De modo semelhante Med M mod q para todo M Portanto pelo Corolário 3129 do teorema chinês do resto Med M mod n para todo M A segurança do sistema de criptografia RSA se baseia em grande parte na dificuldade de fatorar inteiros grandes Se um adversário pode fatorar o módulo n em uma chave pública então pode deduzir a chave secreta a partir da chave pública usando o conhecimento dos fatores p e q do mesmo modo que o criador da chave pública os usou Portanto se for fácil fatorar inteiros grandes então é fácil quebrar o sistema de criptografia RSA A afirmação inversa isto é se for difícil fatorar inteiros grandes é difícil quebrar o RSA não foi provada Todavia depois de duas décadas de pesquisas não foi encontrado nenhum método mais fácil para quebrar o sistema de criptografia de chave pública RSA do que fatorar o módulo n E como veremos na Seção 319 fatorar inteiros grandes é surpreendentemente difícil Selecionando aleatoriamente e multiplicando dois primos de 1024 bits podemos criar uma chave pública que não poderá ser quebrada em nenhum período de tempo viável com a tecnologia atual Na ausência de inovação fundamental no projeto de algoritmos da teoria dos números e quando implementado com cuidado de acordo com padrões recomendados o sistema de criptografia RSA pode garantir alto grau de segurança em aplicações Contudo para conseguir segurança com o sistema de criptografia RSA devemos trabalhar com inteiros muito longos centenas de bits de comprimento ou até mais para resistir a possíveis avanços na arte da fatoração À época da redação deste livro 2009 os módulos RSA encontravamse comumente na faixa de 768 a 2048 bits Para criar módulos desses tamanhos temos de determinar primos grandes eficientemente A Seção 318 aborda esse problema Por questão de eficiência muitas vezes o RSA é usado de um modo híbrido ou de gerenciamento de chaves com sistemas de criptografia rápidos de chaves não públicas Com um sistema desse tipo as chaves de codificação e decodificação são idênticas Se Alice desejar enviar a Bob uma longa mensagem secreta M ela seleciona uma chave aleatória K para o sistema de criptografia rápido de chave não pública e criptografa M usando K obtendo o texto cifrado C Nesse caso C é tão longo quanto M mas K é bem curto Em seguida ela codifica K usando a chave pública RSA de Bob Visto que K é curta calcular PBK é rápido muito mais rápido que calcular PBM Então ela transmite C PBK a Bob que decodifica PBK para obter K e depois usa K para decodificar C obtendo M Podemos usar uma abordagem híbrida semelhante para criar assinaturas digitais eficientemente Essa abordagem combina RSA com uma função hash resistente a colisões h uma função fácil de calcular mas para a qual é inviável em termos computacionais encontrar duas mensagens M e M tais que hM hM O valor hM é uma impressão digital curta digamos de 256 bits da mensagem M Se Alice deseja assinar uma mensagem M em 3171 3172 3173 318 primeiro lugar aplicará h a M para obter a impressão digital hM que então codificará com sua chave secreta Ela envia M SAhM a Bob como sua versão assinada de M Bob pode confirmar a assinatura calculando hM e verificando que PA aplicada a SAhM como foi recebida é igual a hM Como ninguém poder criar duas mensagens com a mesma impressão digital é impossível em termos computacionais alterar uma mensagem assinada e ainda assim preservar a validade da assinatura Finalmente observamos que o uso de certificados torna muito mais fácil a distribuição de chaves públicas Por exemplo suponha que existe uma autoridade confiável T cuja chave pública é conhecida por todos Alice pode obter de T uma mensagem assinada seu certificado que declara que a chave pública de Alice é PA Esse certificado é autoautenticado já que todos conhecem PT Alice pode incluir seu certificado em suas mensagens assinadas de modo que sua chave pública fique imediatamente disponível para o destinatário que assim pode verificar a assinatura da remetente Visto que a chave pública de Alice foi assinada por T o destinatário sabe que a chave de Alice é realmente de Alice Exercícios Considere um conjunto de chaves RSA com p 11 q 29 n 319 e e 3 Que valor de d deve ser usado na chave secreta Qual é a codificação da mensagem M 100 Prove que se o expoente público e de Alice é 3 e um adversário obtém o expoente secreto d de Alice onde 0 d fn então o adversário pode fatorar o módulo n de Alice em tempo polinomial em relação ao número de bits em n Se bem que não pedimos que você o prove seria interessante saber que esse resultado continua verdadeiro mesmo que a condição e 3 seja eliminada Consulte Miller 255 Prove que o RSA é multiplicativo no sentido de que Use esse fato para provar que se um adversário tivesse um procedimento que conseguisse decifrar eficientemente 1 das mensagens em n criptografadas com PA ele poderia empregar um algoritmo probabilístico para decifrar todas as mensagens criptografadas com PA com alta probabilidade TESTE DE PRIMALIDADE Nesta seção consideraremos o problema de encontrar primos grandes Começamos com uma discussão da densidade de primos em seguida examinamos uma abordagem plausível embora incompleta para testar primalidade e depois apresentamos um teste de primalidade aleatorizado efetivo criado por Miller e Rabin Densidade de números primos Para muitas aplicações como a criptografia precisamos encontrar primos grandes aleatórios Felizmente primos grandes não são muito raros de modo que é viável testar inteiros aleatórios do tamanho adequado até encontrar um primo A função distribuição de primos n especifica o número de primos menores ou iguais a n Por exemplo 10 4 já que existem quatro números primos menores ou iguais a 10 isto é 2 3 5 e 7 O teorema dos números primos nos dá uma aproximação útil para n Teorema 3137 Teorema dos números primos A aproximação nln n produz estimativas razoavelmente precisas de n mesmo para n pequeno Por exemplo ela erra por menos de 6 em n 109 onde n 50847534 e nln n 48254942 Para um especialista em teoria dos números 109 é um número pequeno Podemos ver o processo de selecionar aleatoriamente um inteiro n e determinar se ele é primo como uma tentativa de Bernoulli veja Seção C4 Pelo teorema dos números primos a probabilidade de sucesso isto é a probabilidade de n ser primo é aproximadamente 1 ln n A distribuição geométrica nos diz quantas tentativas precisamos para obter um sucesso e pela equação C32 o número esperado de tentativas é aproximadamente ln n Assim esperaríamos examinar aproximadamente ln n inteiros escolhidos aleatoriamente próximos de n para encontrar um primo com o mesmo comprimento de n Por exemplo esperamos que encontrar um primo de 1024 bits exigiria testar a primalidade de aproximadamente ln 21024 710 números de 1024 bits escolhidos aleatoriamente claro que podemos reduzir esse número à metade escolhendo somente inteiros ímpares No restante desta seção consideraremos o problema de determinar se um inteiro ímpar grande n é ou não primo Por conveniência de notação supomos que a fatoração de n em primos é onde r 1 p1 p2 pr são os fatores primos de n e e1 e2 er são inteiros positivos O inteiro n é primo se e somente se r 1 e e1 1 Uma abordagem simples para o problema de testar a primalidade é a divisão experimental Tentamos dividir n por cada inteiro 2 3 n novamente podemos ignorar inteiros pares maiores que 2 É fácil ver que n é primo se e somente se nenhum dos divisores experimentais divide n Considerando que cada divisão experimental demora um tempo constante o tempo de execução do pior caso é Θn que é exponencial em relação ao comprimento de n Lembrese de que se n for codificado em binário usando bits então lg n 1 e portanto n Θ22 Assim a divisão experimental funciona bem somente se n é muito pequeno ou se por acaso ele tem um fator primo pequeno Quando funciona a divisão experimental tem a vantagem de não somente determinar se n é primo ou composto mas também de determinar um dos fatores primos de n se n for composto Nesta seção estamos interessados apenas em determinar se um dado número n é primo se n for composto não nos preocuparemos em determinar seus fatores primos Como veremos na Seção 319 calcular os fatores primos de um número é dispendioso em termos computacionais Talvez seja surpreendente que seja muito mais fácil saber se um dado número é primo ou não que determinar os fatores primos do número se ele não for primo Teste de pseudoprimalidade Agora consideramos um método para testar primalidade que quase funciona e que na verdade é bom o bastante para muitas aplicações práticas Mais adiante apresentaremos um refinamento desse método que elimina o pequeno defeito Representamos por n os elementos não nulos de n Se n é primo então n n Dizemos que n é um pseudoprimo de base a se n é composto e O teorema de Fermat Teorema 3131 implica que se n é primo então n satisfaz a equação 3140 para todo a em n Assim se pudermos encontrar qualquer a n tal que n não satisfaz a equação 3140 então n é certamente composto É surpreendente que a recíproca quase seja válida de modo que esse critério forma um teste quase perfeito de primalidade Testamos para verificar se n satisfaz a equação 3140 para a 2 Se não declaramos que n é composto retornando COMPOSITE Caso contrário retornamos PRIME adivinhando que n é primo quando na verdade tudo o que sabemos é que n é primo ou é um pseudoprimo de base 2 O procedimento a seguir pretende verificar a primalidade de n desse modo Utiliza o procedimento MODULAR EXPONENTIATION da Seção 316 A entrada n supõe que n seja um inteiro ímpar maior que 2 Esse procedimento pode cometer erros mas somente de um tipo Isto é se o procedimento afirmar que n é composto então está sempre correto Porém se afirmar que n é primo comete um erro somente se n é um pseudoprimo base 2 Qual é a frequência de erro desse procedimento Surpreendentemente rara Há somente 22 valores de n menores que 10000 para os quais ele erra os quatro primeiros desses valores são 341 561 645 e 1105 Não provaremos mas a probabilidade de esse programa cometer um erro em um número de bits escolhido aleatoriamente tende a zero quando Utilizando estimativas mais precisas criadas por Pomerance 279 do número de pseudoprimos de base 2 de um dado tamanho podemos avaliar que a probabilidade de um número de 512 bits escolhido aleatoriamente e considerado primo pelo procedimento dado ser um pseudoprimo de base 2 é menor do que uma vez em 1020 e a probabilidade de um número de 1024 bits escolhido aleatoriamente e considerado primo ser um pseudoprimo de base 2 é menor que um em 1041 Portanto se estiver simplesmente tentando encontrar um número primo grande para alguma aplicação para todos os propósitos práticos você quase nunca estará errado se escolher números grandes aleatoriamente até que para um deles PSEUDOPRIME retorne PRIME Porém quando os números cuja primalidade está sendo testada não são escolhidos aleatoriamente precisamos de uma abordagem melhor para testar a primalidade Como veremos um pouco mais de esperteza e alguma aleatoriedade produzirão uma rotina de teste de primalidade que funciona bem para todas as entradas Infelizmente não podemos eliminar completamente todos os erros simplesmente verificando a equação 3140 para um segundo númerobase digamos a 3 porque existem inteiros compostos n conhecidos como números de Carmichael que satisfazem a equação 3140 para todo a n Observamos que a equação 3140 falha quando mdc a n 1 isto é quando a n mas esperar demonstrar que n é composto determinando tal a pode ser difícil se n tiver somente fatores primos grandes Os três primeiros números de Carmichael são 561 1105 e 1729 Números de Carmichael são extremamente raros há por exemplo apenas 255 deles menores que 100000000 O Exercício 3182 ajuda a explicar por que eles são tão raros Em seguida mostramos como melhorar nosso teste de primalidade de modo que ele não seja enganado por números de Carmichael Teste aleatório de primalidade de MillerRabin O teste de primalidade de MillerRabin supera os problemas do teste simples PSEUDOPRIME com duas modificações Experimenta diversos valoresbase a escolhidos aleatoriamente em vez de apenas um valorbase Enquanto calcula cada exponenciação modular procura uma raiz quadrada não trivial de 1 módulo n durante o teste final das elevações ao quadrado Se encontrar alguma para e retorna COMPOSITE O Corolário 3135 na Seção 316 justifica a detecção de compostos feita dessa maneira O pseudocódigo para o teste de primalidade de MillerRabin é dado a seguir A entrada n 2 é o número ímpar cuja primalidade será testada e s é o número de valoresbase escolhidos aleatoriamente de n que serão experimentados O código utiliza o gerador de número aleatórios RANDOM descrito na página 117 RANDOM1 n 1 retorna um inteiro a escolhido aleatoriamente que satisfaz 1 a n 1 O código emprega um procedimento auxiliar WITNESS tal que WITNESSa n é TRUE SE e somente se a é uma testemunha de que n é realmente composto isto é se é possível usar a para provar de um modo que veremos em breve que n é composto O teste WITNESSa n é uma extensão porém mais eficiente do teste que formou a base usando a 2 para PSEUDOPRIME Primeiro apresentamos e justificamos a construção de SC e depois mostramos como o utilizamos no teste de primalidade de MillerRabin Seja n 1 2tu onde t 1 e u é ímpar isto é a representação binária de n 1 é a representação binária do inteiro ímpar u seguido por exatamente t zeros Portanto an 1 au2t de modo que podemos calcular an 1 mod n calculando primeiro au mod n e depois elevando o resultado ao quadrado t vezes sucessivamente Esse pseudocódigo para WITNESS calcula an 1 mod n calculando primeiro o valor x au mod n na linha 2 e depois elevando o resultado ao quadrado t vezes em sequência no laço for das linhas 36 Por indução em relação a i a sequência x0 x1 xt de valores calculados satisfaz a equação xi a2iu mod n para i 0 1 t de modo que em particular xt an 1 mod n Contudo depois que a linha 4 executa uma etapa de elevação ao quadrado o laço pode terminar prematuramente se as linhas 56 perceberem que uma raiz quadrada não trivial de 1 foi encontrada Mais adiante explicaremos esse teste Se isso ocorrer o algoritmo para e devolve TRUE As linhas 78 retornam TRUE se o valor calculado para xt an 1 mod n não é igual a 1 exatamente como o procedimento PSEUDOPRIME devolve COMPOSITE nesse caso A linha 9 devolve FALSE SE não tivermos devolvido TRUE na linha 6 ou 8 Agora demonstramos que se WITNESSa n devolve TRUE podemos construir uma prova de que n é composto usando a como testemunha Se WITNESS devolve TRUE da linha 8 então descobriu que xt an 1 mod n 1 Contudo se n é primo temos pelo teorema de Fermat Teorema 3131 que an 1 1 mod n para todo a n Portanto n não pode ser primo e a equação an 1 mod n 1 prova esse fato Se WITNESS retorna TRUE da linha 6 então descobriu que xi 1 é uma raiz quadrada não trivial de 1 módulo n visto que temos que xi 1 1 mod n apesar de xi x2i 1 1 mod n O Corolário 3135 afirma que somente se n é composto pode existir uma raiz quadrada não trivial de 1 módulo n de modo que demonstrar que xi 1 é uma raiz quadrada não trivial de 1 módulo n prova que n é composto Isso conclui nossa prova da correção de WITNESS Se verificarmos que a chamada WITNESSa n devolve TRUE então n certamente é composto e a testemunha a aliada a devolução de TRUE pelo procedimento ele retornou da linha 6 ou da linha 8 prova que n é composto 1 2 3 4 Nesse ponto apresentamos uma descrição alternativa resumida do comportamento de WITNESS em função da sequência X x0 x1 xt que mais tarde verificaremos ser útil quando analisarmos a eficiência do teste de primalidade de MillerRabin Observe que se xi 1 para algum 0 i t WITNESS poderia não calcular o restante da sequência Porém se o fizesse cada valor xi 1 xi 2 xt seria 1 e supomos que essas posições na sequência X são todas iguais a 1 Temos quatro casos X d onde d 1 a sequência X não termina em 1 Devolva TRUE na linha 8 a é uma testemunha de que n é composto pelo Teorema de Fermat X 1 1 1 a sequência X é toda formada por 1 Devolva FALSE a não é uma testemunha de que n é composto X 1 1 1 a sequência X termina em 1 e o último valor não 1 é igual a 1 Devolva FALSE a não é uma testemunha de que n é composto X d 1 1 onde d 1 a sequência X termina em 1 mas o último valor não 1 não é 1 Devolva TRUE na linha 6 a é uma testemunha de que n é composto já que d é uma raiz quadrada não trivial de 1 Agora examinamos o teste de primalidade de MillerRabin com base no uso de WITNESS Novamente supomos que n seja um inteiro ímpar maior que 2 O procedimento MILLERRABIN é uma busca probabilística de uma prova de que n é composto O laço principal que começa na linha 1 escolhe até s valores aleatórios de a de linha 2 Se um dos valores de a escolhidos for uma testemunha de que n é composto então MILLERRABIN devolve COMPOSITE na linha 4 Tal resultado é sempre correto pela correção de WITNESS Se MILLERRABIN não encontrar nenhuma testemunha em s tentativas entenderá que isso ocorreu porque não existe nenhuma testemunha e portanto deduz que n é primo Veremos que esse resultado é provavelmente correto se s for suficientemente grande mas que ainda há uma minúscula chance de o procedimento ter sido infeliz em sua escolha dos valores de a e que as testemunhas realmente existem ainda que nenhuma tenha sido encontrada Para ilustrar a operação de MILLERRABIN seja n o número de Carmichael 561 de modo que n 1 560 24 35 t 4 e u 35 Se o procedimento escolher a 7 como base a Figura 314 na Seção 316 mostra que WITNESS calcula x0 a35 241 mod 561 e portanto calcula a sequência X 241 298 166 67 1 Assim WITNESS descobre uma raiz quadrada não trivial de 1 na última etapa de elevação ao quadrado já que a280 67 mod n e a560 1 mod n Então a 7 é uma testemunha de que n é composto WITNESS7 n retorna TRUE E MILLERRABIN retorna COMPOSITE Se n é um número de bits MILLERRABIN requer Os operações aritméticas e Os3 operações com bits já que assintoticamente não requer mais trabalho que s exponenciações modulares Taxa de erro do teste de primalidade de MillerRabin Se MILLERRABIN devolve PRIME há uma chance muito exígua de o procedimento ter cometido um erro Porém diferentemente de PSEUDOPRIME a chance de erro não depende de n não há nenhuma entrada ruim para esse procedimento Mais exatamente ela depende do tamanho de s e da sorte no jogo na escolha dos valoresbase a Além disso visto que cada teste é mais rigoroso que uma simples verificação da equação 3140 podemos esperar em princípios gerais que a taxa de erro seja pequena para inteiros n escolhidos aleatoriamente O teorema a seguir apresenta um argumento mais preciso Teorema 3138 Se n é um número composto ímpar o número de testemunhas de que n é composto é pelo menos n 12 Prova A prova mostra que o número de não testemunhas é no máximo n 12 o que implica o teorema Começamos afirmando que qualquer não testemunha deve ser um membro de Por quê Considere qualquer não testemunha a Ela deve satisfazer an 1 1 mod n ou o que é equivalente a an 2 1 mod n Portanto a equação ax 1 mod n tem uma solução a saber an2 Pelo Corolário 3121 mdca n 1 o que por sua vez implica que mdca n 1 Portanto a é um membro de todas as não testemunhas pertencem a n Para concluir a prova mostramos que não apenas todas as não testemunhas estão contidas em n mas todas elas estão contidas em um subgrupo próprio B de lembrese de que dizemos que B é um subgrupo próprio de n quando B é um subgrupo de n mas B não é igual a n Então pelo Corolário 3116 temos B n 2 Visto que n n 1 obtemos B n 12 Portanto o número de não testemunhas é no máximo n 12 e assim o número de testemunhas deve ser no mínimo n 12 Agora mostramos como encontrar um subgrupo próprio B de n que contém todas as não testemunhas Dividiremos a prova em dois casos Caso 1 Existe um x n tal que Em outras palavras n não é um número de Carmichael Como observamos antes os números de Carmichael são extremamente raros e por isso o Caso 1 é o caso principal que surge na prática por exemplo quando n foi escolhido aleatoriamente e sua primalidade está sendo testada Seja B B n bn 1 1 mod n Claramente B é não vazio já que 1 B Visto que B é fechado para multiplicação módulo n temos que B é um subgrupo de n pelo Teorema 3114 Observe que toda não testemunha pertence a B já que uma não testemunha a satisfaz an 1 1 mod n Como x n B temos que B é um subgrupo próprio de n Caso 2 Para todo x n Em outras palavras n é um número de Carmichael Esse caso é extremamente raro na prática Contudo o teste de MillerRabin diferentemente do teste de pseudoprimalidade pode determinar eficientemente que números de Carmichael são compostos como mostramos agora Nesse caso n não pode ser uma potência de primo Para ver por que vamos supor por contradição que n pe onde p é um primo e e 1 Deduzimos uma contradição da seguinte maneira visto que supomos que n é ímpar p também deve ser ímpar O Teorema 3132 implica que n é um grupo cíclico contém um gerador g tal que ord g n fn pe1 1p p 1 pe 1 Pela equação 3141 temos gn 1 1 mod n Então o teorema do logaritmo discreto Teorema 3133 tomando y 0 implica que n 1 0 mod fn ou Isso é uma contradição para e 1 já que p 1pe 1 é divisível pelo primo p mas pe 1 não é Assim n não é uma potência de primo Visto que o número composto ímpar n não é uma potência de primo decompomos esse número em um produto n n1n2 onde n1 e n2 são números ímpares maiores que 1 e primos entre si Teorema 3139 Para qualquer inteiro ímpar n 2 e inteiro positivo s a probabilidade de MILLERRABINn s errar é no máximo 2s Prova Usando o Teorema 3138 vemos que se n é composto então cada execução do laço for das linhas 14 tem uma probabilidade de no mínimo 12 de descobrir uma testemunha x de que n é composto MILLERRABIN só cometerá um erro se for tão sem sorte que não descubra uma testemunha de que n é composto em cada uma das s iterações do laço principal A probabilidade de ocorrer tal sequência é no máximo 2s Se n é primo MILLERRABIN sempre retorna PRIME e se n é composto a chance de MILLERRABIN informar PRIME é no máximo 2s Contudo ao aplicarmos MILLERRABIN a um inteiro grande n escolhido aleatoriamente precisamos considerar também a probabilidade anterior de n ser primo de modo a interpretar corretamente o resultado de MILLERRABIN Suponha que fixamos um comprimento de bits e escolhemos aleatoriamente um inteiro n de bits de comprimento para teste de primalidade Denotamos por A o evento de n ser primo Pelo teorema dos números primos Teorema 3137 a probabilidade de n ser primo é aproximadamente Agora denotamos por B o evento de MILLERRABIN retornar PRIME Temos que Pr B A 0 ou o que é equivalente Pr B A 1 e Pr B A 2s ou o que é equivalente Pr B A 1 2s Mas qual é Pr AB a probabilidade de n ser primo dado que MILLERRABIN retornou PRIME Pela forma alternativa do teorema de Bayes equação C18 temos 3181 3182 3183 319 Essa probabilidade não ultrapassa 12 até s exceder lgln n 1 Intuitivamente esse mesmo número de tentativas iniciais é necessário só para que a confiança derivada de não termos encontrado uma testemunha de que n é composto supere o viés anterior em favor de n ser composto Para um número com 1024 bits esse teste inicial requer aproximadamente tentativas De qualquer modo escolher s 50 deve ser suficiente para quase toda aplicação imaginável Na verdade a situação é muito melhor Se estamos tentando encontrar primos grandes aplicando MILLERRABIN a inteiros ímpares grandes escolhidos aleatoriamente então é muito improvável que escolher um valor pequeno de s digamos 3 leve a resultados errôneos embora não provemos isso aqui A razão é que para um inteiro ímpar composto n escolhido aleatoriamente é provável que o número esperado de não testemunhas de que n é composto seja muito menor que n 1 2 Entretanto se o inteiro n não for escolhido aleatoriamente o melhor que se pode provar é que o número de não testemunhas é no máximo n 1 4 usando uma versão melhorada do Teorema 3138 Além do mais existem inteiros n para os quais o número de não testemunhas é n 1 4 Exercícios Prove que se um inteiro ímpar n 1 não é primo ou uma potência prima existe uma raiz quadrada não trivial de 1 módulo n É possível fortalecer ligeiramente o teorema de Euler para a forma Prove que n fn Um número composto n é um número de Carmichael se n n 1 O menor número de Carmichael é 561 3 11 17 aqui n mmc2 10 16 80 que é um divisor de 560 Prove que os números de Carmichael devem ser livres de quadrados não divisíveis pelo quadrado de qualquer primo e o produto de no mínimo três primos Por essa razão eles não são muito comuns Prove que se x é uma raiz quadrada não trivial de 1 módulo n então mdcx 1 n e mdcx 1 n são divisores não triviais de n FATORAÇÃO DE INTEIROS Suponha que tenhamos um inteiro n que desejamos fatorar isto é decompor esse inteiro em um produto de primos O teste de primalidade da seção anterior pode nos informar que n é composto mas não nos informa os fatores primos de n Fatorar um inteiro grande n parece ser muito mais difícil que simplesmente determinar se n é primo ou composto Mesmo com os supercomputadores de hoje e com os melhores algoritmos existentes até agora é inviável fatorar um número arbitrário de 1024 bits Heurística rô de Pollard É garantido que a tentativa de divisão por todos os inteiros até R fatora completamente qualquer número até R2 Para a mesma quantidade de trabalho o procedimento a seguir POLLARDRHO fatora qualquer número até R4 a menos da má sorte Como o procedimento é apenas uma heurística nem seu tempo de execução nem seu sucesso é garantido embora o procedimento seja muito eficiente na prática Outra vantagem do procedimento POLLARDRHO é que ele usa somente um número constante de posições de memória Se você quisesse poderia implementar facilmente POLLARDRHO em uma calculadora de bolso programável para determinar fatores de números pequenos O procedimento funciona da seguinte maneira as linhas 12 inicializam i como 1 e x1 como um valor escolhido aleatoriamente em n O laço while que começa na linha 5 itera para sempre buscando fatores de n Durante cada iteração do laço while a linha 7 usa a recorrência para produzir o próximo valor de xi na sequência infinita e a linha 6 incrementa i correspondentemente Por questão de clareza o pseudocódigo utiliza variáveis xi com índices mas o programa funciona do mesmo modo se todos os índices forem eliminados já que somente o valor mais recente de xi precisa ser mantido Com essa modificação o procedimento utiliza somente um número constante de posições de memória De vez em quando o programa grava o valor xi gerado mais recentemente na variável y Especificamente os valores que são gravados são aqueles cujos índices são potências de 2 A linha 3 grava o valor xi e a linha 12 grava xk sempre que i é igual a k A variável k é inicializada como 2 na linha 4 e a linha 13 dobra esse valor sempre que a linha 12 atualiza y Então k segue a sequência 1 2 4 8 e sempre dá o índice do próximo valor xk a ser gravado em y As linhas 810 tentam encontrar um fator de n usando o valor gravado de y e o valor atual de xi Especificamente a linha 8 calcula o máximo divisor comum d mdcy xi n A linha 9 determina que d é um divisor não trivial de n e a linha 10 imprime d Esse procedimento para encontrar um fator pode parecer um pouco misterioso a princípio Contudo observe que POLLARDRHO nunca imprime uma resposta incorreta qualquer número que ele imprime é um divisor não trivial de n Entretanto POLLARDRHO poderia não imprimir nada não há nenhuma garantia de que ele imprimirá algum divisor Contudo veremos que há uma boa razão para esperar que POLLARDRHO imprima um fator p de n depois de p iterações do laço while Assim se n é composto podemos esperar que esse procedimento descubra divisores suficientes para fatorar n completamente após aproximadamente n14 atualizações já que todo fator primo p de n exceto possivelmente o maior deles é menor que n Iniciamos nossa análise do comportamento desse procedimento estudando o tempo que demora para uma sequência aleatória módulo n repetir um valor Visto que n é finito e que cada valor na sequência 3144 depende apenas do valor anterior a certa altura a sequência 3144 se repete Uma vez alcançado um xi tal que xi xj para algum j i estamos em um ciclo já que xi1 xj 1 xi 2 xj 2 e assim por diante A razão para o nome heurística rô é que como mostra a Figura 317 podemos desenhar a sequência x1 x2 xj 1 como a cauda da letra grega rô e o ciclo xj xj 1 xi como o corpo da letra rô Vamos considerar a questão do tempo necessário para que a sequência de xi se repita Essa informação não é exatamente o que precisamos mas veremos mais adiante como modificar o argumento Para a finalidade dessa estimativa vamos supor que a função se comporta como uma função aleatória É claro que ela não é realmente aleatória mas considerála como tal produz resultados compatíveis com o comportamento observado de POLLARDRHO Então podemos supor que cada xi foi extraído independentemente de n de acordo com uma distribuição uniforme em n Pela análise do paradoxo do aniversário da Seção 541 esperamos que sejam executadas n etapas antes de a sequência começar a ciclar A sequência xi induz uma sequência correspondente módulo p onde para todo i Além disso como fn é definido apenas por operações aritméticas elevação ao quadrado e subtração módulo n podemos calcular xi 1 a partir de xi a visão módulo p da sequência é uma versão menor de que está acontecendo módulo n Figura 317 A heurística rô de Pollard a Os valores produzidos pela recorrência xi 1 xi 1 mod 1387 começando com x1 2 A decomposição em fatores primos de 1387 é 19 73 As setas grossas indicam as etapas de iteração que são executadas antes de o fator 19 ser descoberto As setas finas apontam para valores não alcançados na iteração para ilustrar a forma rô Os valores sombreados são os valores y armazenados por POLLARDRHO O fator 19 é descoberto quando o procedimento alcança x7 177 quando mdc63 177 1387 19 é calculado O primeiro valor de x que se repetiria é 1186 mas o fator 19 é descoberto antes de esse valor ser repetido b Valores produzidos pela mesma recorrência módulo 19 Todo valor xi dado na parte a é equivalente módulo 19 ao valor xi mostrado aqui Por exemplo tanto x4 63 quanto x7 177 são equivalentes a 6 módulo 19 c Valores produzidos pela mesma recorrência módulo 73 Todo valor xi dado na parte a é equivalente módulo 73 ao valor xi mostrado aqui Pelo teorema chinês do resto cada nó na parte a corresponde a um par de nós um da parte b e outro da parte c Assim embora não calculando explicitamente a sequência xi essa sequência é bem definida e obedece à mesma recorrência que a sequência xi Pelo mesmo raciocínio de antes verificamos que o número esperado de etapas antes de a sequência xi se repetir é p Se p é pequeno em comparação com n a sequência xi poderia se repetir muito mais rapidamente que a sequência xi De fato como as partes b e c da Figura 317 mostram a sequência xi se repete tão logo os dois elementos da sequência xi sejam só equivalentes módulo p em vez de equivalentes módulo n Seja t o índice do primeiro valor repetido na sequência xi e seja u 0 o comprimento do ciclo assim produzido Isto é t e u 0 são os menores valores tais que xt 1 xt u i para todo i 0 Pelos argumentos citados os 3191 3192 3193 3194 valores esperados de t e u são p Observe que se xt 1 xt u i então p xt u i xt i Assim mdc xt u i xt i n 1 Portanto tão logo POLLARDRHO tenha gravado como y qualquer valor xk tal que k t então y mod p está sempre no ciclo módulo p Se um novo valor for gravado como y esse valor também estará no ciclo módulo p A certa altura k recebe um valor maior que u e então o procedimento executa um laço inteiro ao redor do ciclo módulo p sem mudar o valor de y Então o procedimento descobre um fator de n quando xi se defronta com o valor previamente armazenado de y módulo p isto é quando xi y mod p Podemos presumir que o fator encontrado seja o fator p embora ocasionalmente um múltiplo de p possa ser descoberto Como os valores esperados de t e u são p o número esperado de etapas necessárias para produzir o fator p é p Esse algoritmo poderia não funcionar exatamente como esperado por duas razões A primeira é que a análise heurística do tempo de execução não é rigorosa e é possível que o ciclo de valores módulo p seja muito maior que p Nesse caso o algoritmo funciona corretamente embora muito mais lentamente que o desejado Na prática essa questão parece ser irrelevante A segunda é que os divisores de n produzidos por esse algoritmo poderiam ser sempre um dos fatores triviais 1 ou n Por exemplo suponha que n pq onde p e q são primos Pode acontecer de os valores de t e u para p serem idênticos aos valores de t e u para q e assim o fator p é sempre revelado na mesma operação mdc que revela o fator q Visto que ambos os fatores são revelados ao mesmo tempo o fator trivial pq n é revelado o que é inútil Novamente esse problema parece ser insignificante na prática Se necessário a heurística pode reiniciar com uma recorrência diferente da forma xi 1 x2i cmod n Devemos evitar os valores c 0 e c 2 por razões que não abordaremos aqui mas os outros valores são bons É claro que essa análise é heurística e não rigorosa já que a recorrência não é realmente aleatória Todavia o procedimento funciona bem na prática e parece ser tão eficiente quanto essa análise heurística indica É o método preferido para encontrar fatores primos pequenos de um número grande Para fatorar completamente um número composto n de bits basta determinar todos os fatores primos menores que n12 e portanto esperamos que POLLARDRHO exija no máximo n12 24 operações aritméticas e no máximo n14 4 24 2 operações com bits A capacidade de POLLARDRHO para encontrar um fator pequeno p de n com um número esperado de p operações aritméticas é muitas vezes sua característica mais atraente Exercícios Consultando o histórico de execução mostrado na Figura 317a quando POLLARDRHO imprime o fator 73 de 1387 Suponha que tenhamos uma função f n n e um valor inicial x0 n Defina xi fxi 1 para i 1 2 Sejam t e u 0 os menores valores tais que xt i xt u i para i 0 1 Na terminologia do algoritmo rô de Pollard i é o comprimento da cauda e u é o comprimento do ciclo do rô Dê um algoritmo eficiente para determinar t e u exatamente e analise seu tempo de execução Quantas etapas você esperaria que POLLARDRHO exija para descobrir um fator da forma pe em que p seja primo e e 1 Uma desvantagem de POLLARDRHO como foi escrito é que ele exige um cálculo de mdc para cada etapa da recorrência Em vez disso poderíamos criar um lote de cálculos de mdc acumulando o produto de vários xi em uma linha e depois usando esse produto em vez de xi no cálculo do mdc Descreva cuidadosamente como você implementaria essa ideia por que ela funciona e que tamanho de lote você escolheria como o mais efetivo ao trabalhar com um número n de bits 311 a b c d 312 a b c 313 a b c Problemas Algoritmo binário de mdc A maioria dos computadores efetua operações de subtração teste de paridade ímpar ou par de um inteiro binário e divisão por 2 mais rapidamente que o cálculo de restos Este problema investiga o algoritmo de mdc binário que evita os cálculos de resto usados no algoritmo de Euclides Prove que se a e b são pares então mdca b 2 mdca2 b2 Prove que se a é ímpar e b é par então mdca b mdca b2 Prove que se a e b são ímpares mdca b mdca b2 b Projete um algoritmo de mdc binário eficiente para inteiros de entrada a e b onde a b que é executado no tempo Olg a Suponha que cada subtração teste de paridade e divisão em metades possa ser executada em tempo unitário Análise de operações com bits no algoritmo de Euclides Considere o algoritmo comum de lápis e papel para a divisão longa dividir a por b gerando um quociente q e um resto r Mostre que esse método exige O1 lg q lg b operações com bits Defina µa b 1 lg a1 lg b Mostre que o número de operações com bits executadas por EUCLID para reduzir o problema de calcular mdca b ao problema de calcular mdcb a mod b é no máximo cma b mb a mod b para alguma constante c 0 suficientemente grande Mostre que EUCLIDa b exige Oma b operações com bits em geral e O2 operações com bits quando aplicado a duas entradas de bits Três algoritmos para números de Fibonacci Este problema compara a eficiência de três métodos para calcular o nésimo número de Fibonacci Fn dado n Suponha que o custo de adicionar subtrair ou multiplicar dois números seja O1 independentemente do tamanho dos números Mostre que o tempo de execução do método recursivo direto para calcular Fn baseado na recorrência 322 é exponencial em n Veja por exemplo o procedimento FIB na página 775 Mostre como calcular Fn no tempo On usando memoização Mostre como calcular Fn no tempo Olg n usando apenas adição e multiplicação de inteiros Sugestão Considere a matriz e suas potências d 314 c d Agora suponha que somar dois números de bits demora o tempo e que multiplicar dois números de bits demora o tempo 2 Qual é o tempo de execução desses três métodos sob essa medida de custo mais razoável para as operações aritméticas elementares Resíduos quadráticos Seja p um primo ímpar Um número a n é um resíduo quadrático se a equação x2 a mod p tem uma solução para a incógnita x Dê um algoritmo eficiente que determine se um dado número a é ou não um resíduo quadrático módulo p Analise a eficiência de seu algoritmo Prove que se p é um primo da forma 4k 3 e a é um resíduo quadrático em p então ak 1 mod p é uma raiz quadrada de a módulo p Quanto tempo é necessário para determinar a raiz quadrada de um resíduo quadrático a módulo p Descreva um algoritmo aleatorizado eficiente para determinar um resíduo não quadrático módulo primo p arbitrário isto é um membro de p que não é um resíduo quadrático Quantas operações aritméticas seu algoritmo exige em média NOTAS DO CAPÍTULO Niven e Zuckerman 265 dão uma excelente introdução à teoria elementar dos números Knuth 210 contém uma boa discussão de algoritmos para encontrar o máximo divisor comum bem como outros algoritmos básicos da teoria dos números Bach 30 e Riesel 295 apresentam levantamentos mais recentes de teoria computacional dos números Dixon 92 apresenta uma visão geral da fatoração e do teste de primalidade Os procedimentos de conferências editados por Pomerance 280 contêm várias resenhas interessantes Mais recentemente Bach e Shallit 31 apresentaram uma cobertura excepcional dos conceitos básicos da teoria computacional dos números Knuth 210 discute a origem do algoritmo de Euclides Ele aparece no Livro 7 Proposições 1 e 2 de Elementos do matemático grego Euclides que foi escrito em torno de 300 aC A descrição de Euclides pode ter sido derivada de um algoritmo criado por Eudoxus por volta de 375 aC O algoritmo de Euclides pode ostentar a honra de ser o mais antigo algoritmo não trivial ele só encontra rival em um algoritmo para multiplicação conhecido pelos antigos egípcios Shallit 312 narra a história da análise do algoritmo de Euclides Knuth atribui um caso especial do teorema chinês do resto Teorema 3127 ao matemático chinês SunTsu que viveu em alguma época entre 200 aC e 200 dC a data é bastante incerta O mesmo caso especial foi apresentado pelo matemático grego Nichomachus por volta de 100 dC generalizado por Chin ChiuShao em 1247 O teorema chinês do resto foi finalmente enunciado e provado em sua total generalidade por L Euler em 1734 O algoritmo aleatorizado do teste de primalidade apresentado aqui se deve a Miller 225 e Rabin 289 é o algoritmo aleatorizado para teste de primalidade mais rápido que se conhece a menos de fatores constantes A prova do Teorema 3139 é uma ligeira adaptação de uma sugerida por Bach 29 Uma prova de um resultado mais forte para MILLERRABIN foi dada por Monier 258 259 A aleatorização parece ser necessária para obter um algoritmo de teste de primalidade de tempo polinomial O algoritmo determinístico mais rápido conhecido para teste de primalidade é a versão de CohenLenstra 75 do teste de primalidade de Adleman Pomerance e Rumely 3 Ao testar a primalidade de um número n de comprimento é lgn 1ù ele é executado no tempo lg nOlg lg lg n que é apenas ligeiramente superpolinomial O problema de encontrar primos grandes aleatórios é discutido agradavelmente em um artigo de Beauchemin Brassard Crépeau Gutier e Pomerance 36 O conceito de um sistema de criptografia de chave pública se deve a Diffie e Hellman 88 O sistema de criptografia RSA foi proposto em 1977 por Rivest Shamir e Adleman 296 Desde então a área da criptografia floresceu Nosso entendimento do sistema de criptografia SA se aprofundou e implementações modernas utilizam refinamentos significativos das técnicas básicas apresentadas aqui Além disso muitas novas técnicas foram desenvolvidas para demonstrar que sistemas de criptografia são seguros Por exemplo Goldwasser e Micali 142 mostram que a aleatorização poder ser uma ferramenta efetiva no projeto de esquemas confiáveis de criptografia de chave pública Para esquemas de assinaturas Goldwasser Micali e Rivest 143 apresentam um esquema de assinatura digital para o qual todo tipo concebível de falsificação é comprovadamente tão difícil quanto a decomposição em fatores primos Menezes van Oorschot e Vanstone 254 apresentam uma visão geral da criptografia aplicada A heurística rô para fatoração de inteiros foi criada por Pollard 277 A versão apresentada aqui é uma variante proposta por Brent 57 Os melhores algoritmos para fatorar números grandes têm um tempo de execução que cresce de forma aproximadamente exponencial com a raiz cúbica do comprimento do número n a ser fatorado O algoritmo geral de fatoração de peneira de corpo numérico foi desenvolvido por Buhler Lenstra e Pomerance 58 como uma extensão das idéias sobre o algoritmo de fatoração de peneira de corpo numérico criado por Pollard 278 e Lenstra et al 232 e refinado por Coppersmith 78 e outros é talvez o algoritmo mais eficiente em geral para grandes entradas Embora seja difícil apresentar uma análise rigorosa desse algoritmo sob hipóteses razoáveis podemos deduzir uma estimativa de tempo de execução igual a L13 n1902 o1 onde Lα n e ln naIn In In1 a O método de curva elíptica criado por Lenstra 233 pode ser mais efetivo para algumas entradas que o método de crivo de corpo de números já que como o método rô de Pollard ele pode encontrar um pequeno fator primo p com bastante rapidez Por esse método o tempo para encontrar p é estimado em L1 2 p201 32 CORRESPONDÊNCIA DE CADEIAS Frequentemente os programas de edição de textos precisam encontrar todas as ocorrências de um padrão no texto Em geral o texto é um documento que está sendo editado e o padrão procurado é uma palavra específica fornecida pelo usuário Algoritmos eficientes para esse problema denominados algoritmos de correspondência de cadeias podem ajudar muito no nível de resposta do programa de edição de textos Entre suas muitas outras aplicações algoritmos de correspondência de cadeias procuram padrões particulares em sequências de DNA Programas de busca na Internet também os usam para achar páginas relevantes para as consultas Formalizamos o problema de correspondência de cadeias da maneira mostrada a seguir Supomos que o texto seja um arranjo T1 n de comprimento n e que o padrão seja um arranjo P1m de comprimento m n Supomos ainda que os elementos de P e T sejam caracteres extraídos de um alfabeto finito S Por exemplo podemos ter S 0 1 ou S a b z Os arranjos de caracteres P e T são frequentemente denominados cadeias de caracteres Referindonos à Figura 321 dizemos que o padrão P ocorre com deslocamento s no texto T ou o que é equivalente que o padrão P ocorre começando na posição s 1 no texto T se 0 s n m e Ts 1 s m P1 m isto é se Ts j Pj para 1 j m Se P ocorre com deslocamento s em T então denominamos s deslocamento válido caso contrário denominamos s deslocamento inválido O problema da correspondência de cadeias é o problema de encontrar todos os deslocamentos válidos com os quais um determinado padrão P ocorre em dado texto T Com exceção do algoritmo ingênuo de força bruta que examinamos na Seção 321 cada algoritmo de correspondência de cadeias neste capítulo executa algum préprocessamento baseado no padrão e depois encontra todos os deslocamentos válidos denominamos essa fase posterior correspondência A Figura 322 mostra os tempos de préprocessamento e correspondência para cada um dos algoritmos neste capítulo O tempo de execução total de cada algoritmo é a soma dos tempos de préprocessamento e correspondência A Seção 322 apresenta um interessante algoritmo de correspondências de cadeias criado por Rabin e Karp Embora o tempo de execução do pior caso Qn m 1m desse algoritmo não seja melhor que o do método ingênuo ele funciona muito melhor em média na prática O algoritmo também pode produzir generalizações interessantes para outros problemas de correspondência de padrões A Seção 323 descreve um algoritmo de correspondência de cadeias que começa pela construção de um autômato finito projetado especificamente para procurar em um texto ocorrências do padrão P dado O tempo de préprocessamento desse algoritmo é OmS mas o tempo de correspondência é somente Qn A Seção 324 apresenta o algoritmo semelhante porém muito mais inteligente de KnuthMorrisPratt ou KMP Esse algoritmo tem o mesmo tempo de correspondência Qn e reduz o tempo de préprocessamento a apenas Qm Figura 321 Exemplo do problema da correspondência de cadeias no qual queremos encontrar todas as ocorrências do padrão P abaa no texto T abcabaabcabac O padrão ocorre apenas uma vez no texto no deslocamento s 3 que denominamos deslocamento válido Uma linha vertical liga cada caractere do padrão a seu caractere correspondente no texto e todos os caracteres para os quais ocorreu a correspondência estão sombreados Notação e terminologia Denotamos por S lêse sigma estrela o conjunto de todas as cadeias de comprimento finito extraídas do alfabeto S Neste capítulo consideramos somente cadeias de comprimento finito A cadeia vazia de comprimento zero denotada por também pertence a S O comprimento de uma cadeia x é denotado por x A concatenação de duas cadeias x e y representada por xy tem comprimento x y e consiste nos caracteres de x seguidos pelos caracteres de y Dizemos que uma cadeia w é um prefixo de uma cadeia x denotada por w x se x wy para alguma cadeia y S Observe que se w x então w x De modo semelhante dizemos que uma cadeia w é um sufixo de uma cadeia x representada por se x yw para algum y S Do mesmo modo que para um prefixo w x implica w x Por exemplo temos ab abcca e cca abcca A cadeia vazia é um sufixo e também um prefixo para todas as cadeias Para quaisquer cadeias x e y e qualquer caractere a temos x y se e somente se xa ya Observe também que e são relações transitivas O lema a seguir será útil mais adiante Lema 321 Lema dos sufixos sobrepostos Suponha que x y e z sejam cadeias tais que x z e y z Se x y então x y Se x y então y x Se x y então x y Prova Consulte a Figura 322 para ver uma prova gráfica Para abreviar a notação denotamos o prefixo de k caracteres P1k do padrão P1m por Pk Assim P0 e Pm P P1m De modo semelhante denotamos o prefixo de k caracteres do texto T por Tk Usando essa notação podemos enunciar o problema da correspondência de cadeias como o de encontrar todos os deslocamentos s no intervalo 0 s n m tais que P Ts m Em nosso pseudocódigo permitimos que a comparação para determinação da igualdade de duas cadeias de comprimentos iguais seja uma operação primitiva Se as cadeias são comparadas da esquerda para a direita e a comparação parar quando for descoberta uma incompatibilidade supomos que o tempo despendido por tal teste é função linear do número de caracteres correspondentes descobertos Para sermos precisos supomos que o teste x y demora o tempo Qt 1 onde t é o comprimento da mais longa cadeia z tal que z x e z y Escrevemos Qt 1 em vez de Qt para tratar o caso no qual t 0 os primeiros caracteres comparados não são correspondentes mas fazer essa comparação demora uma quantidade de tempo positiva Figura 322 Os algoritmos de correspondência de cadeias neste capítulo e seus tempos de préprocessamento e correspondência 321 Figura 323 Uma prova gráfica do Lema 321 Supomos que x z e y z As três partes da figura ilustram os três casos do lema Linhas verticais ligam regiões correspondentes sombreadas das cadeias a Se x y então x y b Se x y então y x c Se x y então x y O ALGORITMO INGÊNUO DE CORRESPONDÊNCIA DE CADEIAS O algoritmo ingênuo encontra todos os deslocamentos válidos usando um laço que verifica a condição P1 m Ts 1 s m para cada um dos n m 1 valores possíveis de s A Figura 324 retrata o procedimento ingênuo de procurar a correspondência como fazer deslizar sobre o texto um gabarito que contém o padrão e observar para quais deslocamentos todos os caracteres no gabarito são iguais aos caracteres correspondentes no texto O laço for nas linhas 35 considera cada deslocamento possível explicitamente O teste na linha 4 determina se o deslocamento em questão é válido ou não esse teste executa o laço implicitamente para verificar posições de caracteres correspondentes até que todas as posições correspondam ou até ser encontrada uma incompatibilidade A linha 5 imprime cada deslocamento s válido O procedimento NaiveStringMatcher demora o tempo On m 1m e esse limite é justo no pior caso Por exemplo considere a cadeia de texto an uma cadeia de n caracteres a e o padrão am Para cada um dos n m 1 valores possíveis do deslocamento s o laço implícito na linha 4 para comparar caracteres correspondentes deve ser executado m vezes para validar o deslocamento Assim o tempo de execução do pior caso é Qn m 1m que é Qn2 se m n2 Como não requer nenhum préprocessamento o tempo de execução de NaiveStringMatcher é igual ao seu tempo de correspondência 3211 3212 3213 3214 Figura 324 A operação do algoritmo de correspondência de cadeias ingênuo para o padrão P aab e o texto T acaabc Podemos imaginar o padrão P como um gabarito que fazemos deslizar próximo ao texto ad Os quatro alinhamentos sucessivos tentados pelo algoritmo de correspondência de cadeias ingênuo Em cada parte linhas verticais ligam regiões correspondentes que coincidem com o gabarito sombreadas e uma linha quebrada liga o primeiro caractere incompatível se houver O algoritmo encontra uma ocorrência do padrão no deslocamento s 2 mostrada na parte c Como veremos NaiveStringMatcher não é um procedimento ótimo para esse problema Na realidade neste capítulo veremos que o algoritmo KnuthMorrisPratt é muito melhor para o pior caso O matcher de cadeias ingênuo é ineficiente porque ignora inteiramente informações adquiridas do texto para um valor de s quando considera outros valores de s Porém tais informações podem ser muito valiosas Por exemplo se P aaab e descobrirmos que s 0 é válido então nenhum dos deslocamentos 1 2 ou 3 é válido já que T4 b Nas próximas seções examinaremos diversas maneiras de fazer uso efetivo desse tipo de informação Exercícios Mostre as comparações que o matcher de cadeias ingênuo realiza para o padrão P 0001 no texto T 000010001010001 Suponha que todos os caracteres no padrão P sejam diferentes Mostre como acelerar NaiveStringMatcher para ser executado no tempo On em um texto T de n caracteres Suponha que o padrão P e o texto T sejam cadeias de comprimento m e n respectivamente escolhidas aleatoriamente de um alfabeto dário Sd 0 1 d 1 onde d 2 Mostre que o número esperado de comparações de caractere para caractere feitas pelo laço implícito na linha 4 do algoritmo ingênuo é para todas as execuções desse laço Suponha que o ingênuo interrompe a comparação de caracteres para um dado deslocamento uma vez encontrada uma incompatibilidade ou se o padrão inteiro coincidir Assim para cadeias escolhidas aleatoriamente o algoritmo ingênuo é bastante eficiente Suponha que permitimos que o padrão P contenha ocorrências de um caractere lacuna que pode corresponder a uma cadeia de caracteres arbitrária mesmo uma cadeia de comprimento zero Por exemplo o padrão abbac ocorre no texto como cabccbacbacab e como 322 Observe que o caractere lacuna pode ocorrer um número arbitrário de vezes no padrão mas de modo algum no texto Dê um algoritmo de tempo polinomial para determinar se tal padrão P ocorre em um dado texto T e analise o tempo de execução de seu algoritmo O ALGORITMO RABINKARP Rabin e Karp propuseram um algoritmo de correspondência de cadeias que funciona bem na prática e que também pode ser generalizado para outros algoritmos para problemas relacionados como o da correspondência de padrões bidimensionais O algoritmo RabinKarp usa o tempo de préprocessamento Qm e seu tempo de execução do pior caso é Qn m 1m Todavia com base em certas hipóteses seu tempo de execução do caso médio é melhor Esse algoritmo faz uso de noções elementares da teoria dos números como a equivalência de dois números módulo um terceiro número Seria interessante consultar a Seção 311 que apresenta as definições relevantes Para fins de explanação vamos supor que S 0129 de modo que cada caractere seja um dígito decimal No caso geral podemos supor que cada caractere seja um dígito em base d onde d S Então podemos ver uma cadeia de k caracteres consecutivos como a representação de um número decimal de comprimento k Assim a cadeia de caracteres 31415 corresponde ao número decimal 31415 Como interpretamos os caracteres de entrada como símbolos gráficos e dígitos nesta seção achamos que é conveniente denotálos como denotaríamos dígitos em nossa fonte de texto padrão Dado um padrão P1m seja p seu valor decimal correspondente De modo semelhante dado um texto T1n seja ts o valor decimal da subcadeia de comprimento m Ts 1s m para s 0 1 n m Certamente ts p se e somente se Ts 1s m P1m assim s é um deslocamento válido se e somente se ts p Se pudéssemos calcular p no tempo Qm e todos os valores ts em um tempo total Qn m 11 poderíamos determinar todos os deslocamentos válidos s no tempo Qm Qn m 1 Qn comparando p com cada um dos valores ts Por enquanto não vamos nos preocupar com a possibilidade de que p e os valores de ts possam ser números muito grandes Podemos calcular p no tempo Qm usando a regra de Horner veja a Seção 301 De modo semelhante podemos calcular t0 por T1m no tempo Qm Para calcular os valores restantes t1 t2 tn m no tempo Qn m observe que podemos calcular ts 1 a partir de ts em tempo constante já que Subtrair 10m 1Ts 1 elimina o dígito de ordem mais alta de t multiplicar o resultado por 10 desloca o número uma posição de dígito para a esquerda e somar Ts m 1 introduz o dígito de ordem baixa adequado Por exemplo se m 5 e ts 31415 desejamos eliminar o dígito de ordem mais alta Ts 1 3 e introduzir o novo dígito de ordem baixa suponha que ele seja Ts 5 1 2 para obter Se calcularmos a constante 10m 1 com antecedência o que pode ser feito no tempo Olg m usando as técnicas da Seção 316 embora para essa aplicação um método direto de Om seja suficiente cada execução da equação 321 toma um número constante de operações aritméticas Assim podemos calcular p no tempo Qm e calcular todos os t0 t1 tn m no tempo Qn m 1 Portanto podemos encontrar todas as ocorrências do padrão P1m no texto T1n com o tempo de préprocessamento Qm e o tempo de correspondência Qn m 1 Até agora ignoramos intencionalmente um problema p e ts podem ser demasiadamente grandes para que possamos trabalhar com eles de uma forma conveniente Se P contém m caracteres não seria razoável considerar que cada operação aritmética para p que tem m dígitos de comprimento demora um tempo constante Felizmente é fácil resolver esse problema como mostra a Figura 325 calcule p e os valores ts módulo um módulo adequado q Podemos calcular p módulo p0 no tempo Qm e todos os valores ts módulo q no tempo Qn m 1 Se escolhermos o módulo q como um primo tal que 10q caiba em uma palavra de computador poderemos executar todos os cálculos necessários com aritmética de precisão simples Em geral com um alfabeto dário 0 1 d 1 escolhemos q de modo que dq caiba em uma palavra de computador e ajustamos a equação de recorrência 321 para calcular com módulo q assim ela se torna Figura 325 O algoritmo RabinKarp Cada caractere é um dígito decimal e calculamos valores módulo 13 a Uma cadeia de texto Uma janela de comprimento 5 está sombreada O valor numérico do número sombreado calculado módulo 13 produz o valor 7 b A mesma cadeia de texto com valores calculados módulo 13 para cada posição possível de uma janela de comprimento 5 Considerando o padrão P 31415 procuramos janelas cujo valor módulo 13 seja 7 já que 31415 7 mod 13 O algoritmo encontra duas dessas janelas sombreadas na figura A primeira que começa na posição de texto 7 é de fato uma ocorrência do padrão enquanto a segunda que começa na posição de texto 13 é um acerto espúrio c Como calcular o valor para uma janela em tempo constante dado o valor para a janela anterior A primeira janela tem valor 31415 Descartando o dígito 3 de ordem mais alta deslocandose para a esquerda multiplicando por 10 e depois somando o dígito de ordem baixa 2 resulta o novo valor 14152 Como todos os cálculos são executados módulo 13 o valor para a primeira janela é 7 e o valor calculado para a nova janela é 8 onde h dm 1 mod q é o valor do dígito 1 na posição de ordem alta de uma janela de texto de m dígitos Entretanto a solução para trabalhar com módulo q não é perfeita ts p mod q não implica que ts p Por outro lado se ts p mod q então definitivamente temos que ts p de modo que o deslocamento s é não válido Assim podemos usar o teste ts p mod q como um teste heurístico rápido para eliminar deslocamentos s não válidos Qualquer deslocamento s para o qual ts p mod q deve passar por um teste adicional para verificar se s é realmente válido ou se temos apenas um acerto espúrio Esse teste adicional verifica explicitamente a condição P1 m Ts 1 s m Se q é suficientemente grande esperamos que a ocorrência de acertos espúrios seja infrequente o suficiente para que o custo da verificação extra seja baixo O procedimento a seguir torna essas ideias precisas As entradas para o procedimento são o texto T o padrão P a base d a utilizar que em geral é considerada S e o primo q a empregar O procedimento RabinKarpMatcher funciona da seguinte maneira todos os caracteres são interpretados como dígitos em base d Os índices em t são fornecidos apenas por clareza o programa funciona corretamente se todos os índices forem descartados A linha 3 inicializa h com o valor da posição de dígito de ordem mais alta de uma janela de m dígitos As linhas 48 calculam p como o valor de P1m mod q e t0 como o valor de T1 m mod q O laço for das linhas 914 itera por todos os deslocamentos s possíveis mantendo o seguinte invariante Sempre que a linha 10 é executada ts Ts 1 s m mod q Se p ts na linha 10 um acerto então a linha 11 verifica se P1m Ts 1s m para eliminar a possibilidade de um acerto espúrio A linha 12 imprime quaisquer deslocamentos válidos encontrados Se s n m verificado na linha 13 então o laço for será executado no mínimo mais uma vez e assim a linha 14 é executada antes para garantir que o invariante de laço será válido quando voltarmos para a linha 10 A linha 14 calcula o valor de ts 1 mod q pelo valor de ts mod q em tempo constante usando a equação 322 diretamente 3221 3222 3223 3224 RabinKarpMatcher demora o tempo de processamento Qm e o tempo de correspondência é Qn m 1m no pior caso já que como no algoritmo ingênuo de correspondência de cadeias o algoritmo de RabinKarp verifica explicitamente todo deslocamento válido Se P am e T an então a verificação demora o tempo Qn m 1m visto que cada um dos n m 1 deslocamentos possíveis é válido Em muitas aplicações esperamos alguns deslocamentos válidos talvez alguma constante c deles Nessas aplicações o tempo de correspondência esperado do algoritmo é apenas On m 1 cm On m mais o tempo necessário para processar acertos espúrios Podemos basear uma análise heurística na seguinte hipótese a redução dos valores módulo q age como um mapeamento aleatório de S para q Veja a discussão sobre o uso da divisão para hashing na Seção 1131 É difícil formalizar e provar tal hipótese embora uma abordagem viável seja supor que q é escolhido aleatoriamente entre inteiros de tamanho adequado Não buscaremos essa formalização aqui Então podemos esperar que o número de acertos espúrios seja Onq já que podemos estimar que a chance de que um ts arbitrário será equivalente a p módulo q é 1q Visto que há On posições nas quais o teste da linha 10 falha e gastamos o tempo Om para cada acerto o tempo de correspondência do algoritmo RabinKarp é On Omv nq onde v é o número de deslocamentos válidos Esse tempo de execução é On se v O1 e escolhemos q m Isto é se o número esperado de deslocamentos válidos é pequeno O1 e escolhermos o primo q maior que o comprimento do padrão então podemos esperar que o procedimento de RabinKarp use somente tempo de correspondência On m Como m n esse tempo de correspondência esperado é On Exercícios Trabalhando com módulo q 11 quantos acertos espúrios o procedimento de Rabinkarp matcher encontra no texto T 3141592653589793 ao procurar o padrão P 26 Como você estenderia o método RabinKarp ao problema de examinar uma cadeia de texto em busca de uma ocorrência de qualquer padrão de um dado conjunto de k padrões Comece supondo que todos os k padrões têm o mesmo comprimento Então generalize sua solução para permitir que os padrões tenham comprimentos diferentes Mostre como estender o método RabinKarp para tratar o problema de procurar por um padrão m m dado em um arranjo de caracteres n n O padrão pode ser deslocado na vertical e na horizontal mas não pode ser girado Alice tem uma cópia de um longo arquivo de n bits A an 1 an 2 a0 e Bob tem um outro arquivo de n bits B bn 1 bn 2 b0 Alice e Bob desejam saber se seus arquivos são idênticos Para evitar transmitir os arquivos A ou B inteiros eles usam a seguinte verificação probabilística Juntos os dois selecionam um primo q 1000n e selecionam aleatoriamente um inteiro x de 0 1 q 1 Então Alice avalia e Bob também avalia Bx Prove que se A B existe no máximo uma chance em 1000 de que Ax Bx por outro lado se os dois arquivos forem iguais Ax é necessariamente igual a Bx Sugestão Veja o Exercício 3144 323 CORRESPONDÊNCIA DE CADEIAS COM AUTÔMATOS FINITOS Muitos algoritmos de correspondência de cadeias constroem um autômato finito uma máquina simples para processar informações que varre a cadeia de texto T em busca de todas as ocorrências do padrão P Esta seção apresenta um método para construir tal autômato Esses autômatos de correspondência de cadeias são muito eficientes examinam cada caractere de texto exatamente uma vez e demoram tempo constante por caractere de texto Portanto o tempo de correspondência usado após o préprocessamento do padrão para construir o autômato é Qn Porém o tempo para construir o autômato pode ser grande se S é grande A Seção 324 descreve um modo esperto de contornar esse problema Começamos esta seção com a definição de autômato finito Em seguida examinamos um autômato especial de correspondência de cadeias e mostramos como usálo para encontrar ocorrências de um padrão em um texto Finalmente mostraremos como construir o autômato de correspondência de cadeias para um padrão de entrada dado Autômatos finitos Um autômato finito M ilustrado na Figura 326 é uma 5tupla Q q0 A S d onde Q é um conjunto finito de estados q0 Q é o estado inicial A Q é um conjunto distinto de estados aceitadores S é um alfabeto de entrada finito d é uma função de Q S em Q denominada função de transição de M O autômato finito começa no estado q0 e lê os caracteres de sua cadeia de entrada um por vez Se o autômato está no estado q e lê o caractere de entrada a passa faz uma transição do estado q para o estado d q a Sempre que seu estado atual q é um membro de A a máquina M aceitou a cadeia lida até então Uma entrada que não é aceita é rejeitada Um autômato finito M induz uma função f denominada função estado final de S a Q tal que fw é o estado em que M termina após ter escaneado a cadeia w Assim M aceita uma cadeia w se e somente se fw A Definimos a função f recursivamente usando a função transição Figura 326 Um autômato finito simples de dois estados com o conjunto de estados Q 0 1 estado inicial q0 0 e alfabeto de entrada S ab a Uma representação tabular da função de transição d b Um diagrama de transição de estados equivalente O estado 1 mostrado em negro é o único estado aceitador Arestas dirigidas representam transições Por exemplo a aresta do estado 1 para o estado 0 identificada por b indica que d1 b 0 Esse autômato aceita as cadeias que terminam em um número ímpar de a s Mais precisamente aceita uma cadeia x se e somente se x yz onde y e ou y termina com um b e z ak onde k é ímpar Por exemplo na entrada abaaa incluindo o estado inicial esse autômato segue a sequência de estados 0 1 0 1 0 1 portanto aceita essa entrada Para a entrada abbaa ele segue a sequência de estados 0 1 0 0 1 0 e portanto rejeita essa entrada Autômatos de correspondência de cadeias Para um padrão P dado construímos um autômato de correspondência de cadeias em uma etapa de pré processamento antes de usálo para procurar a cadeia de texto A Figura 327 ilustra o autômato para o padrão P ababaca Daqui em diante suporemos que P seja uma cadeia de padrão fixo dada por brevidade não indicamos a dependência de P em nossa notação Para especificar o autômato de correspondência de cadeias relacionado a um padrão P1m dado primeiro definimos uma função auxiliar s denominada função sufixo correspondente a P A função s mapeia S para 0 1 m tal que sx é o comprimento do prefixo mais longo de P que é um sufixo de x A função sufixo s é bem definida visto que a cadeia vazia P0 é um sufixo de toda cadeia Como exemplos para o padrão P ab temos s 0 sccaca 1 e sccab 2 Para um padrão P de comprimento m temos sx m se e somente se P x Pela definição da função sufixo x y implica sx sx Figura 327 a Um diagrama de transição de estados para o autômato de correspondência de cadeias que aceita todos as cadeias que terminam com a cadeia ababaca O estado 0 é o estado inicial e o estado 7 mostrado em negro é o único estado aceitador Uma aresta dirigida do estado i para o estado j identificada por a representa di a j Exceto pela aresta do estado 7 para 02 as arestas dirigidas para a direita que formam a espinha dorsal do autômato representadas na figura pelas setas grossas em negro correspondem a comparações bemsucedidas entre caracteres do padrão e da entrada Exceto pela aresta do estado 7 para 02 as arestas dirigidas para a esquerda correspondem a comparações malsucedidas Algumas arestas correspondentes a comparações malsucedidas não são mostradas por convenção se um estado i não tem nenhuma aresta de saída identificada por a para algum a S então di a 0 b A função transição d correspondente e a cadeia de padrão P ababaca As entradas correspondentes a comparações bemsucedidas entre os caracteres do padrão e de entrada aparecem sombreadas c A operação do autômato no texto T abababacaba Sob cada caractere de texto T i é dado o estado fTi em que o autômato está depois de processar o prefixo Ti O autômato encontra uma ocorrência do padrão e termina na posição 9 Definimos o autômato de correspondência de cadeias relativo a um padrão P1 m dado da seguinte maneira O conjunto de estados Q é 0 1 m O estado inicial q0 é o estado 0 e o estado m é o único estado aceitador A função transição d é definida pela seguinte equação para qualquer estado q e caractere a Definimos dq a sPqa porque queremos manter o controle do prefixo mais longo do padrão P que correspondeu à corrente de texto T até agora Consideramos os caracteres de T lidos mais recentemente Para que uma subcadeia de T digamos a subcorrente que termina em Ti corresponda a algum prefixo Pj de P esse prefixo Pj deve ser um sufixo de Ti Suponha que q fTi de modo que após ler Ti o autômato está no estado q Projetamos a função transição d de modo que esse número de estado q nos informe o comprimento do prefixo mais longo de P que corresponde a um sufixo de Ti Isto é no estado q Pq Ti e q Ti Sempre que q m todos os m caracteres de P correspondem a um sufixo de Ti e portanto encontramos uma correspondência Assim visto que fTi e sTi são iguais a q veremos no Teorema 324 mais adiante que o autômato mantém o seguinte invariante Se o autômato está no estado q e lê o próximo caractere Ti 1 a então queremos que a transição leve ao estado correspondente ao prefixo mais longo de P que é um sufixo de Ti a e esse estado é sTi a Como Pq é o prefixo mais longo de P que é um sufixo de Ti o prefixo mais longo de P que é um sufixo de Ti a não é somente sTi a mas também sPq a O Lema 323 prova que sTia sPqa Assim quando o autômato está no estado q queremos que a função transição no caractere a leve o autômato para o estado sPqa Há dois casos a considerar No primeiro caso a Pq 1 de modo que o caractere a continua a corresponder ao padrão nesse caso como dq a q 1 a transição continua a ocorrer ao longo da espinha dorsal do autômato arestas grossas em negro na Figura 327 No segundo caso a Pq 1 de modo que a não continua a corresponder ao padrão Aqui temos de encontrar um prefixo menor de P que também é um sufixo de Ti Como a etapa de préprocessamento compara o padrão com ele mesmo quando criamos o autômato de correspondência de cadeias a função transição identifica rapidamente o mais longo de tais prefixos mais curtos de P Vamos examinar um exemplo O autômato de correspondência de cadeias da Figura 327 tem d5 c 6 ilustrando o primeiro caso no qual a correspondência continua Para ilustrar o segundo caso observe que o autômato da Figura 327 tem d5 b 4 Fazemos essa transição porque se o autômato lê um b no estado q 5 então Pqb ababab e o prefixo mais longo de P que também é um sufixo de ababab é P4 abab Para esclarecer a operação de um autômato de correspondência de cadeias damos agora um programa simples e eficiente para simular o comportamento de tal autômato representado por sua função transição d ao encontrar ocorrências de um padrão P de comprimento m em um texto de entrada T1 n Como em qualquer autômato de correspondência de cadeias para um padrão de comprimento m o conjunto de estado Q é 0 1 m o estado inicial é 0 e o único estado aceitador é o estado m Figura 328 a Ilustração para a prova do Lema 322 A figura mostra que r sx 1 onde r sx a Figura 329 Ilustração para a prova do Lema 323 A figura mostra que r sPq a onde q sx e r sxa Pela estrutura de laço simples de FiniteAutomatonMatcher é fácil ver que seu tempo de correspondência para uma cadeia de texto de comprimento n é Qn Porém esse tempo de correspondência não inclui o tempo de pré processamento necessário para calcular a função de transição d Abordaremos esse problema mais adiante depois de provar que o procedimento FiniteAutomatonMatcher funciona corretamente Considere como o autômato funciona em um texto de entrada T1 n Provaremos que o autômato está no estado sTi depois de examinar o caractere Ti Visto que sTi m se e somente se P Ti a máquina está no estado aceitador m se e somente se acabou de examinar P Para provar esse resultado fazemos uso dos dois lemas a seguir sobre a função sufixo s Lema 322 Desigualdade da função sufixo Para qualquer cadeia x e caractere a temos sxa sx 1 Prova Referindonos à Figura 328 seja r sxa Se r 0 então a conclusão sxa r sx 1 é satisfeita trivialmente pela não negatividade de sx Agora suponha que r 0 Então Pr xa pela definição de s Assim Pr 1 x descartando o a do final de Pr e do final de xa Portanto r 1 sx já que sx é o maior k tal que Pk x e sxa r sx 1 Lema 323 Lema de recursão da função sufixo Para qualquer cadeia x e caractere a se q sx então sxa sPq a Prova Pela definição de s temos Pq x Como mostra a Figura 329 temos também Pqa xa Se fizermos r sxa então Pr xa e pelo Lema 322 r q 1 Assim temos Pr r q 1 Pqa Visto que Pqa xa Pr xa ePq Pqa o Lema 321 implica que Pr Pqa Portanto r s Pqa isto é sxa sPqa Mas temos também sPqa sxa visto que Pqa xa Assim sxa s Pqa Agora estamos prontos para provar nosso teorema principal que caracteriza o comportamento de um autômato de correspondência de cadeias para um texto de entrada dado Como observamos antes esse teorema mostra que o autômato está simplesmente controlando em cada etapa o prefixo mais longo do padrão que é um sufixo do que foi lido até o momento Em outras palavras o autômato mantém o invariante 325 Teorema 324 Se f é a função estado final de um autômato de correspondência de cadeias para um dado padrão P e T1 n é um texto de entrada para o autômato então Prova A prova é por indução em i Para i 0 o teorema é trivialmente verdadeiro já que T0 E Portanto fT0 0 sT0 Agora supomos que fTi sTi e provamos que fTi1 sTi1 Representando fTi por q e Ti 1 por a temos Pelo Teorema 324 se a máquina entra no estado q na linha 4 então q é o maior valor tal que Pq Ti Assim temos q m na linha 5 se e somente se a máquina acabou de examinar uma ocorrência do padrão P Concluímos que Finite AutomatonMatcher funciona corretamente Cálculo da função transição O procedimento a seguir calcula a função transição d por um padrão P1 m dado 3231 3232 3233 3234 3235 324 Esse procedimento calcula dq a de maneira direta de acordo com sua definição na equação 324 Os laços aninhados que começam nas linhas 2 e 3 consideram todos os estados q e todos os caracteres a e as linhas 48 definem dq a como o maior k tal que Pk Pqa O código começa com o maior valor concebível de k que é minm q 1 Então diminui k até Pk Pqa o que a certa altura deve ocorrer visto que P0 é um sufixo de toda cadeia O tempo de execução de ComputeTransitionFunction é Om3 S porque os laços exteriores contribuem com um fator de mS o laço repeat interno pode ser executado no máximo m 1 vezes e o teste Pk Pqa na linha 7 pode exigir a comparação de até m caracteres Existem procedimentos muito mais rápidos se usarmos algumas informações sobre o padrão P inteligentemente calculadas veja o Exercício 3248 podemos melhorar até Om S o tempo requerido para calcular d a partir de P Com esse procedimento melhorado para calcular d podemos encontrar todas as ocorrências de um padrão de comprimento m em um texto de comprimento n que utilizou um alfabeto no tempo de préprocessamento Om S e tempo de correspondência Qn Exercícios Construa o autômato de correspondência de cadeias para o padrão P aabab e ilustre como ele funciona na cadeia de texto T aaababaabaababaab Desenhe um diagrama de transição de estados para um autômato de correspondência de cadeias para o padrão ababbabbababbababbabb no alfabeto S ab Dizemos que um padrão P é sem sobreposições se Pk Pq implica k 0 ou k q Descreva o diagrama de transição de estados do autômato de correspondência de cadeias para um padrão sem sobreposições Dados dois padrões P e P descreva como construir um autômato finito que determina todas as ocorrências de quaisquer desses padrões Procure minimizar o número de estados em seu autômato Dado um padrão P que contém caracteres lacuna veja o Exercício 3214 mostre como construir um autômato finito que possa encontrar uma ocorrência de P em um texto T no tempo de correspondência On onde n T O ALGORITMO KNUTHMORRISPRATT Agora apresentamos um algoritmo de correspondência de cadeias de tempo linear criado por Knuth Morris e Pratt Esse algoritmo evita totalmente o cálculo da função transição d e seu tempo de correspondência é Qn usando apenas uma função auxiliar p que calculamos antecipadamente a partir do padrão no tempo Qm e armazenamos em um arranjo p1 m O arranjo p nos permite calcular a função de transição d eficientemente em um sentido amortizado durante a execução conforme necessário Em termos aproximados para qualquer estado q 0 1 m e qualquer caractere a S o valor pq contém as informações de que precisamos para calcular dq a mas que não dependem de a Visto que o arranjo p tem apenas m entradas enquanto d tem Qm S entradas economizamos um fator de S no tempo de préprocessamento calculando p em vez de d A função prefixo para um padrão A função prefixo p para um padrão captura conhecimento sobre as corrrespondências entre o padrão e deslocamentos dele próprio Podemos aproveitar essa informação para evitar testes de deslocamentos inúteis no algoritmo ingênuo de correspondência de padrões e para evitar o cálculo antecipado da função de transição completa d para um autômato de correspondência de cadeias Considere a operação do algoritmo ingênuo A Figura 3210a mostra um determinado deslocamento s de um gabarito que contém o padrão P ababaca quando comparado com um texto T Para esse exemplo q 5 dos caracteres corresponderam aos do texto mas o sexto caractere não correspondeu ao caractere do texto A informação de que q caracteres do padrão corresponderam aos do texto determina os caracteres de texto correspondentes Saber quais são esses q caracteres de texto nos permite determinar imediatamente que certos deslocamentos são não válidos No exemplo da figura o deslocamento s 1 é necessariamente não válido já que o primeiro caractere do padrão a estaria alinhado com um caractere de texto que sabemos que não corresponde ao primeiro caractere do padrão mas corresponde ao segundo caractere do padrão b Contudo o deslocamento s s 2 mostrado na parte b da figura alinha os três primeiros caracteres do padrão com três caracteres de texto que devem necessariamente ser correspondentes Em geral é útil saber a resposta para a seguinte pergunta Dado que caracteres do padrão P1 q correspondem a caracteres de texto Ts 1 s q qual é o menor deslocamento s s tal que para algum k q onde s k s q Em outras palavras sabendo que Pq Ts q queremos o prefixo próprio mais longo Pk de Pq que é também um sufixo de Ts q Visto que s k s q se tivermos s e q encontrar o menor deslocamento s equivale a encontrar o maior comprimento de prefixo k Somamos a diferença q k nos comprimentos desses prefixos de P ao deslocamento s para chegarmos ao nosso novo deslocamento s de modo que s s q k No melhor caso k 0 de modo que s s q e descartamos imediatamente os deslocamentos s 1 s 2 s q 1 Em qualquer caso no novo deslocamento so não precisamos comparar os k primeiros caracteres de P com os caracteres correspondentes de T visto que a equação 326 garante que eles correspondem Figura 3210 A função prefixo p a O padrão P ababaca se alinha com um texto T de modo que os primeiros q 5 caracteres são correspondentes Os caracteres correspondentes sombreados estão ligados por linhas verticais b Usando somente o nosso conhecimento dos cinco caracteres correspondentes podemos deduzir que um deslocamento de s 1 é não válido mas que um deslocamento de s s 2 é compatível com tudo o que sabemos sobre o texto e portanto é potencialmente válido c Podemos calcular antecipadamente informações úteis para tais deduções comparando o padrão com ele próprio Aqui vemos que o prefixo mais longo de P que também é um sufixo de P5 é P3 Representamos essa informação calculada antecipadamente no arranjo p de modo que p5 3 Dado que q caracteres são correspondentes no deslocamento s o próximo deslocamento potencialmente válido é em s s q p q como mostra a parte b Podemos calcular antecipadamente a informação comparando o padrão com si mesmo como demonstra a Figura 3210c Visto que Ts 1 s k é parte da porção conhecida do texto é um sufixo da cadeia Pq Portanto podemos interpretar que a equação 326 solicita o maior k q tal que Pk Pq Então o novo deslocamento s s q k é o próximo deslocamento potencialmente válido Veremos que é conveniente armazenar para cada valor de q o número k de caracteres correspondentes no novo deslocamento s em vez de armazenar digamos s s Formalizamos a informação que précomputamos da seguinte maneira Dado um padrão P1m a função prefixo para o padrão P é a função p 1 2 m 0 1 m 1 tal que Isto é pq é o comprimento do prefixo mais longo de P que é um sufixo próprio de Pq A Figura 3211a dá a função prefixo completa p para o padrão ababaca O pseudocódigo a seguir dá o algoritmo de correspondência KnuthMorrisPratt como o procedimento KMp Matcher Em sua maior parte o procedimento decorre de FiniteAutomatonMatcher como veremos KMpMatcher chama o procedimento auxiliar ComputeprefixFunction para calcular p Figura 3211 Ilustração do Lema 325 para o padrão P ababaca e q 5 a A função p para o padrão dado Visto que p5 3 p3 1 e p1 0 iterando p obtemos p5 31 0 b Deslizamos o gabarito que contém o padrão P para a direita e observamos quando algum prefixo Pk de P corresponde a algum sufixo próprio de P5 conseguimos correspondências quando k 31 e 0 Na figura a primeira linha dá P e a linha vertical pontilhada é desenhada logo após P5 Linhas sucessivas mostram todos os deslocamentos de P que resultam na concordância entre algum prefixo Pk de P e algum sufixo de P5 Caracteres sucessivamente correspondentes são sombreados Linhas verticais ligam caracteres correspondentes alinhados Assim k k 5 e Pk P5 3 1 0 O Lema 325 afirma que pq k k q e Pk Pq para todo q Esses dois procedimentos têm muito em comum porque ambos comparam uma cadeia com o padrão P Kmp Matcher compara o texto T com P e ComputeprefixFunction compara P com ele mesmo Começamos com uma análise dos tempos de execução desses procedimentos Provar que os procedimentos são corretos será mais complicado Análise do tempo de execução O tempo de execução de ComputeprefixFunction é Qm o que mostramos usando o método agregado de análise amortizada veja a Seção 171 A única parte complicada é mostrar que o laço while das linhas 67 é executado Om vezes no total Mostraremos que ele faz no máximo m 1 iterações Começamos com algumas observações sobre k A primeira é que a linha 4 inicia k em 0 e a única maneira de k aumentar é pela operação de incremento na linha 9 que é executada no máximo uma vez por iteração do laço for das linhas 510 Assim o aumento total total em k é no máximo m 1 A segunda é que visto que k q quando entra no laço for e cada iteração do laço incrementa q temos sempre k q Portanto as atribuições nas linhas 3 e 10 garantem que pq q para todo q 1 2 m o que significa que cada iteração do laço while diminui k A terceira é que k nunca se torna negativo Juntando esses fatos vemos que a redução total em k resultante do laço while é limitada por cima pelo aumento total de k em todas as iterações do laço for que é m 1 Assim o laço while itera no máximo m 1 vezes no todo e Compute prefixfunction é executado no tempo Qm O Exercício 3244 pede que você mostre por uma análise agregada semelhante que o tempo de correspondência de KMpMatcher é Qn Comparado com FiniteAutomatonMatcher usando p em vez de d reduzimos o tempo de préprocessamento do padrão de Om S para Qm mantendo o tempo real de correspondência limitado por Qn Correção do cálculo da função prefixo Veremos um pouco mais adiante que a função prefixo p nos ajuda a simular a função transição d em um autômato de correspondência de cadeias Porém em primeiro lugar precisamos provar que o procedimento Computeprefix Function realmente calcula a função prefixo corretamente Para tal precisaremos encontrar todos os prefixos Pk que são sufixos próprios de um prefixo Pq dado O valor de pq nos dá tal prefixo mais longo mas o lema apresentado a seguir ilustrado na Figura 3211 mostra que iterando a função prefixo p podemos de fato enumerar todos os prefixos Pk que são sufixos próprios de Pq Seja onde piq é definida em termos de iteração funcional de modo que p0q q e piq pi1q para i 1 e onde a sequência em pq para quando ptq 0 Lema 325 Lema da iteração da função prefixo Seja P um padrão de comprimento m com função prefixo p Então para q 1 2 m temos pq k k q e Pk Pq Prova Primeiro provamos que pq k k q e Pk Pq ou o que é equivalente Se i pq então i puq para algum u 0 Provamos a equação 327 por indução em u Para u 1 temos i pq e a afirmação decorre já que i q e Ppq Pq pela definição de p Usando as relações pi i e Ppi Pi e a transitividade de e estabelece a afirmação para todo i em pq Portanto pq k k q e Pk P Agora provamos que k k q e Pk Pq pq por contradição Suponha ao contrário que o conjunto k k q e Pk Pq pq é não vazio e seja j o maior número no conjunto Como pq é o maior valor em k k q e Pk Pq e pq pq devemos ter j pq e assim denotamos por j o menor inteiro em pq que é maior que j Podemos escolher j pq se nenhum outro número em pq é maior que j Temos Pj Pq porque j k k q e Pk Pq e por j e p q e a equação 327 temos Pj Pq Assim Pj Pj pelo Lema 321 e j é o maior valor menor que j com essa propriedade Portanto devemos ter pj j e visto que j pq devemos ter também j pq Essa contradição prova o lema O algoritmo ComputeprefixFunction calcula pq em ordem para q 1 2 m Fazer p1 0 na linha 3 de ComputeprefixFunction certamente é correto já que pq q para todo q Usaremos o lema apresentado a seguir e seu corolário para provar que ComputeprefixFunction calcula pq corretamente para q 1 Lema 326 Seja P um padrão de comprimento m e seja p a função prefixo para P Para q 1 2 m se pq 0 então pq 1 pq 1 Prova Se r pq 0 então r q e Pr Pq portanto r 1 q 1 e Pr 1 Pq 1 descartando o último caractere de Pr e Pq o que podemos fazer porque r 0 Portanto pelo Lema 325 r 1 r q 1 Assim temos pq 1 r 1 p q 1 Para q 2 3 m defina o subconjunto Eq 1 pq 1 por O conjunto Eq 1 consiste nos valores k q 1 para os quais Pk Pq 1 e para os quais como Pk 1 Pq temos Pk 1 Pq Assim Eq 1 consiste nesses valores k pq 1 tais que podemos estender Pk a Pk 1 e obter um sufixo próprio de Pq Corolário 327 Seja P um padrão de comprimento m e seja p a função prefixo para P Para q 2 3 m Prova Se Eq 1 é vazio não existe nenhum k pq 1 incluindo k 0 para o qual possamos estender Pk a Pk 1 e obter um sufixo próprio de Pq Portanto pq 0 Se Eq 1 é não vazio então para cada k Eq 1 temos k 1 q e Pk 1 Pq Portanto pela definição de pq temos Observe que pq 0 Seja r pq 1 de modo que r 1 pq e portanto Pr 1 Pq Visto que r 1 0 temos Pr 1 Pq Além disso pelo Lema 326 temos r pq 1 Portanto r Eq 1 e assim r max k Eq 1 ou o que é equivalente Combinando as equações 328 e 329 concluise a prova Agora terminamos a prova de que ComputeprefixFunction calcula p corretamente No procedimento Compute prefixFunction no início de cada iteração do laço for das linhas 510 temos que k pq 1 Essa condição é imposta pelas linhas 3 e 4 quando entramos no laço pela primeira vez e permanece verdadeira em cada iteração sucessiva por causa da linha 10 As linhas 69 ajustam k de modo que ele se torna o valor correto de pq O laço while nas linhas 67 pesquisa todos os valores k pq 1 até encontrar um para o qual Pk 1 Pq nesse ponto k é o maior valor no conjunto Eq 1 de modo que pelo Corolário 327 podemos definir pq como k 1 Se o laço while não puder encontrar um k pq 1 tal que Pk 1 Pq então k é igual a 0 na linha 8 Se P1 Pq então devemos definir k e pq como 1 caso contrário devemos deixar k como está e definir pq como 0 As linhas 810 definem k e pq corretamente em qualquer caso Isso conclui nossa prova da correção de Compute prefixFunction Correção do algoritmo KnuthMorrisPratt Podemos considerar o procedimento KMpMatcher como uma versão reimplementada do procedimento Finite AutomatonMatcher mas usando a função prefixo p para calcular transições de estado Especificamente provaremos que na iésima iteração dos laços for de ambos KMpMatcher e FiniteAutomatonMatcher o estado q tem o mesmo valor quando testamos a igualdade com m na linha 10 em KMpmatcher e na linha 5 em Finite AutomatonMatcher Uma vez demonstrado que KMpMatchersimula o comportamento de FiniteAutomatonmatcher a correção de KMpMatcher decorre da correção de FiniteAutomatonMatcher embora vejamos mais adiante por que a linha 12 em KMpMatcher é necessária Antes de provarmos formalmente que Kmpmatcher simula corretamente FiniteAutomatonMatcher vamos gastar um instante para entender como a função prefixo p substitui a função transição d Lembrese de que quando um autômato de correspondência de cadeias está no estado q e varre um caractere a Ti ele passa para um novo estado dq a If a Pq 1 de modo que a continua a corresponder ao padrão então dq a q 1 Caso contrário a Pq 1 de modo que a não continua a corresponder ao padrão e 0 dq a q No primeiro caso quando a continua a corresponder KMpMatcher passa para o estado q 1 sem referenciar a função p o laço while na linha 6 resulta falso na primeira vez o teste na 8 resulta verdadeiro e a linha 9 incrementa q A função p entra em ação quando o caractere a não continua a corresponder ao padrão de modo que o novo estado dq a é q ou está à esquerda de q ao longo da espinha dorsal do autômato O laço while das linhas 67 em KMpMatcher itera pelos estados em pq e para ou quando chega a um estado digamos q tal que a corresponde a Pq 1 ou q já tenha percorrida todo o caminho descendente até 0 Se a corresponde a Pq 1 então a linha 9 define o novo estado como q 1 que deve ser igual a dq a para que a simulação funcione corretamente Em outras palavras o novo estado deve ser ou o estado 0 ou um a mais do que algum estado em pq Vamos examinar as Figuras 327 e 3211 onde os exemplos são para o padrão P ababaca Suponha que o autômato esteja no estado q 5 os estados em p5 são em ordem descendente 3 1 e 0 Se o próximo caractere verificado é c então é fácil ver que o autômato passa para o estado d5 c 6 em FiniteAutomatonMatcher e também em KMpMatcher Agora suponha que o próximo caractere verificado seja b de modo que o autômato deve passar para o estado d5 b 4 O laço while em KMpMatcher sai após executar a linha 7 uma vez e chega ao estado q p5 3 Visto que Pq 1 P4 b o teste na linha 8 revelase verdadeiro e KMpMatcher passa para novo estado q 1 4 d5 b Finalmente suponha que o próximo caractere escaneado seja a de modo que o autômato deve passar para o estado d5 a 1 Nas três primeiras vezes em que o teste na linha 6 é executado ele dá verdadeiro Na primeira vez verificamos que P6 c a e KmpMatcher passa para o estado p5 3 o primeiro estado em p5 Na segunda vez verificamos que P4 b a e passamos para o estado p3 1 o segundo estado em p5 Na terceira vez verificamos que P2 b a e passamos para o estado p1 0 o último estado em p 5 O laço while sai uma vez e chega ao estado q 0 Agora a linha 8 descobre que Pq 1 P1 a e a linha 9 passa o autômato para o novo estado q 1 1 d 5 a Assim nossa intuição é que KmpMatcher itera em todos os estados em pq em ordem decrescente parando em algum q e então possivelmente passando para o estado q 1 Embora isso possa parecer muito trabalho só para simular o cálculo de dq a não esqueça que assintoticamente KMpMatcher não é mais lento que FiniteAutomaton Matcher Agora estamos prontos para provar formalmente a correção do algoritmo KnuthMorrisPratt Pelo Teorema 324 temos que q sTi após cada vez que executarmos a linha 4 de FiniteAutomatonMatcher Portanto basta mostrar que a mesma propriedade é válida em relação ao laço for em KMPMATCHER A prova é realizada por indução em relação ao número de iterações do laço Inicialmente ambos os procedimentos definem q como 0 quando entram em seus respectivos laços for pela primeira vez Considere a iteração i do laço for laço em Kmpmatcher e seja q o estado no início dessa iteração do laço Pela hipótese indutiva temos q sTi1 Precisamos mostrar que q sTi na linha 10 Novamente trataremos a linha 12 separadamente Quando consideramos o caractere Ti o prefixo mais longo de P que é um sufixo de Ti é Pq 1 se Pq 1 T i ou algum prefixo não necessariamente próprio e possivelmente vazio de Pq Consideramos separadamente os três casos nos quais sTi 0 sTi q 1 and 0 s Ti q Se s Ti 0 então P0 é o único prefixo de P que é um sufixo de Ti O laço while das linhas 67 itera pelos valores em pq mas embora Pq Ti1 para todo q pq o laço nunca encontra um q tal que Pq 1 3241 3242 3243 3244 3245 3246 Ti O laço termina quando q chega a 0 e é claro a linha 9 não é executada Portanto q 0 na linha 10 de modo que q sTi Se s Ti q 1 então Pq 1 Ti e o teste do laço while na linha 6 falha inteiramente na primeira vez A linha 9 é executada incrementando q de modo que depois temos q q 1 sTi Se 0 s Ti q então o laço while das linhas 67 itera no mínimo uma vez verificando em ordem decrescente cada valor q pq até parar em algum q q Assim Pq é o prefixo mais longo de Pq para o qual Pq 1 Ti de modo que quando o laço while termina q 1 sPqTi Visto que q sTi 1 o Lema 323 implica que sTi 1Ti sPq Ti Assim temos quando o laço while termina Após a linha 9 incrementar q temos q sTi A linha 12 é necessária em KMpMatcher porque caso contrário poderíamos referenciar Pm 1 na linha 6 após encontrar uma ocorrência de P O argumento de que q sTi 1 na próxima execução da linha 6 permanece válido pela sugestão dada pelo Exercício 3248 dm a drm a ou o que é equivalente sPa s Ppma para qualquer a O argumento restante para a correção do algoritmo de KnuthMorrisPratt decorre da correção deFiniteAutomatonMatcher já que mostramos que KMpMatcher simula o comportamento de Finite automaton Matcher Exercícios Calcule a função prefixo p para o padrão ababbabbabbababbabb Dê um limite superior para o tamanho de pq em função de q Dê um exemplo para mostrar que seu limite é justo Explique como determinar as ocorrências do padrão P no texto T examinando a função p em busca da cadeia PT a cadeia de comprimento m n que é a concatenação de P e T Use uma análise agregada para mostrar que o tempo de execução de Kmpmatcher é Qn Use uma função de potencial para mostrar que o tempo de execução de KMpMa tcher é Qn Mostre como melhorar KMpMatcher substituindo a ocorrência de p na linha 7 mas não na linha 12 por p onde p é definido recursivamente para q 1 2 m pela equação Explique por que o algoritmo modificado é correto e em que sentido essa modificação constitui uma otimização 3247 3248 321 a b c Dê um algoritmo de tempo linear para determinar se um texto T é uma rotação cíclica de outra cadeia T Por exemplo as cadeias arc e car são rotações cíclicas uma da outra Dê um algoritmo de tempo Om para calcular a função transição d para o autômato de correspondência de cadeias relativo a um padrão P dado Sugestão Prove que δq a δπq a se q m ou Pq 1 a Problemas Correspondência de cadeias baseada em fatores de repetição Seja yi a concatenação da cadeia y com ela própria i vezes Por exemplo ab3 ababab Dizemos que uma cadeia x S tem fator de repetição r se x yr para alguma cadeia y S e algum r 0 Seja x o maior r tal que x tenha fator de repetição r Dê um algoritmo eficiente que tome como entrada um padrão P1 m e calcule o valor Pi para i 1 2 m Qual é o tempo de execução de seu algoritmo Para qualquer padrão P1 m seja P definido como max1imPi Prove que se o padrão P for escolhido aleatoriamente do conjunto de todos as cadeias binárias de comprimento m então o valor esperado de P é O1 Demonstre que o algoritmo de correspondência de cadeias a seguir encontra corretamente todas as ocorrências do padrão P em um texto T1 n no tempo OPn m Esse algoritmo foi desenvolvido por Galil e Seiferas Estendendo bastante essas ideias eles obtêm um algoritmo de correspondência de cadeias de tempo linear que utiliza somente o espaço de armazenamento O1 além do que é necessário para P e T NOTAS DO CAPÍTULO A relação entre correspondência de cadeias e a teoria de autômatos finitos é discutida por Aho Hopcroft e Ullman 5 O algoritmo KnuthMorrisPratt 214 foi criado independentemente por Knuth e Pratt e por Morris eles publicaram seu trabalho em conjunto Reingold Urban e Gries 294 apresentam um tratamento alternativo para o algoritmo de KnuthMorrisPratt O algoritmo RabinKarp foi proposto por Karp e Rabin 201 Galil e Seiferas 126 apresentam um interessante algoritmo determinístico de tempo linear para correspondência de cadeias que utiliza somente o espaço O1 além do que é exigido para armazenar o padrão e o texto 1 Escrevemos Qn m 1 em vez de Qn m porque s adota n m 1 valores diferentes O 1 é significativo em um sentido assintótico porque quando m n calcular o valor isolado ts demora tempo Q1 e não tempo Q0 331 33 GEOMETRIA COMPUTACIONAL Geometria computacional é o ramo da ciência da computação que estuda algoritmos para resolver problemas geométricos Na engenharia e na matemática modernas a geometria computacional tem aplicações em áreas tão diversas quanto gráficos por computador robótica projeto com VLSI projeto com o auxílio do computador modelagem molecular metalurgia manufatura padrões têxteis silvicultura e estatística A entrada para um problema de geometria computacional normalmente é uma descrição de um conjunto de objetos geométricos como um conjunto de pontos um conjunto de segmentos de reta ou os vértices de um polígono em ordem antihorária A saída muitas vezes é uma resposta a uma consulta sobre os objetos como por exemplo se quaisquer das retas se intercepta ou talvez um novo objeto geométrico como a envoltória convexa o menor polígono convexo envolvente do conjunto de pontos Neste capítulo examinamos alguns algoritmos de geometria computacional em duas dimensões isto é no plano Representamos cada objeto de entrada por um conjunto de pontos p1 p2 p3 onde cada pi xi yi e xi yi Por exemplo representamos um polígono P de n vértices por uma sequência p0 p1 p2 pn 1 de seus vértices na ordem em que aparecem no contorno de P A geometria computacional também pode ser aplicada a três dimensões e até a espaços com um número mais alto de dimensões mas tais problemas e suas soluções podem ser muito difíceis de visualizar Entretanto ainda que em duas dimensões podemos ver uma boa amostra de técnicas de geometria computacional A Seção 331 mostra como responder eficientemente e com precisão a perguntas básicas sobre segmentos de reta se um segmento está em sentido horário ou em sentido antihorário em relação a um outro com o qual compartilha uma extremidade para que lado viramos quando percorremos dois segmentos de reta adjacentes e se dois segmentos de reta se interceptam A Seção 332 apresenta uma técnica denominada varredura que usamos para desenvolver um algoritmo de tempo On lg n para determinar se um conjunto de n segmentos de reta contém alguma interseção A Seção 333 apresenta dois algoritmos de varredura rotacional que calculam a envoltória convexa o menor polígono convexo envolvente de um conjunto de n pontos a varredura de Graham que é executada no tempo On lg n e a marcha de Jarvis que demora o tempo Onh onde h é o número de vértices da envoltória convexa Finalmente a Seção 334 dá um algoritmo de divisão e conquista de tempo On lg n para encontrar o par de pontos mais próximos em um conjunto de n pontos no plano PROPRIEDADES DE SEGMENTOS DE RETA Vários algoritmos da geometria computacional neste capítulo exigem respostas a perguntas sobre as propriedades dos segmentos de reta Uma combinação convexa de dois pontos distintos p1 x1 y1 e p2 x2 y2 é qualquer ponto p3 x3 y3 tal que para algum α na faixa 0 α 1 temos x3 αx1 1 αx2 e y3 αy1 1 αy2 Escrevemos também que p3 αp1 1 αp2 Intuitivamente p3 é qualquer ponto que está sobre a reta que passa por p1 e p2 e que está sobre ou entre p1 e p2 na reta Dados dois pontos distintos p1 e p2 o segmento de reta p1 p2 é o conjunto de combinações convexas de p1 e p2 Denominamos p1 e p2 extremidades do segmento p1 p2 Às vezes a 1 2 3 ordem de p1 e p2 é importante e falamos do segmento dirigido p1 p2 Se p1 é a origem 0 0 então podemos tratar o segmento dirigido p1 p2 como o vetor p2 Nesta seção exploraremos as seguintes questões Dados dois segmentos dirigidos p0 p1 e p0 p2 p0 p1 está em sentido horário em relação a p0 p2 considerando sua extremidade comum p0 Dados dois segmentos de reta p0 p1 e p1 p2 se percorrermos p0 p1 e depois p1 p2 fazemos uma curva para a esquerda no ponto p1 Os segmentos de reta p1 p2 e p3 p4 se interceptam Não há nenhuma restrição nos pontos dados Podemos responder a cada pergunta no tempo O1 o que não deve ser nenhuma surpresa já que o tamanho da entrada de cada pergunta é O1 Além disso nossos métodos usarão apenas adições subtrações multiplicações e comparações Não precisamos nem da divisão nem de funções trigonométricas já que ambas podem ser dispendiosas em termos computacionais e propensas a problemas com erros de arredondamento Por exemplo o método direto de determinar se dois segmentos se interceptam calcular a equação da reta da forma y mx b para cada segmento m é a inclinação e b é a interseção com o eixo y determinar o ponto de interseção das retas e verificar se esse ponto está em ambos os segmentos utiliza divisão para determinar o ponto de interseção Quando os segmentos são quase paralelos esse método é muito sensível à precisão da operação de divisão em computadores reais O método desta seção que evita divisão é muito mais preciso Produtos cruzados Calcular produtos cruzados está no núcleo de nossos métodos de segmentos de reta Considere os vetores p1 e p2 mostrados na Figura 331a Podemos interpretar o produto cruzado p1 p2 como a área assinalada do paralelogramo formado pelos pontos 0 0 p1 p2 e p1 p2 x1 x2 y1 y2 Uma definição equivalente porém mais útil dá o produto cruzado como o determinante de uma matriz1 Figura 331 a O produto cruzado de vetores p1 e p2 é a área assinalada do paralelogramo b A região sombreada em tom mais claro contém vetores que estão em sentido horário em relação a p A região sombreada em tom mais escuro contém vetores que estão em sentido antihorário em relação a p Se p1 p2 é positivo então p1 está em sentido horário em relação a p2 em relação à origem 0 0 se esse produto cruzado é negativo então p1 está em sentido antihorário em relação a p2 veja o Exercício 3311 A Figura 331b mostra as regiões horária e antihorária em relação a um vetor p Uma condição de contorno surge se o produto cruzado é zero nesse caso os vetores são colineares e apontam na mesma direção ou em direções opostas Para determinar se um segmento dirigido p0 p1 está mais próximo de um segmento dirigido p0 p2 em sentido horário ou em sentido antihorário em relação à sua extremidade comum p0 simplesmente fazemos a conversão para usar p0 como origem Isto é denotamos o vetor p1 x1 y1 por p1 p0 onde x1 x1 x0 e y1 y1 y0 e definimos p2 p0 de maneira semelhante Então calculamos o produto cruzado Se esse produto cruzado é positivo então p0 p1 está em sentido horário em relação a p0 p2 se é negativo ele está em sentido antihorário Determinando se segmentos consecutivos viram para a esquerda ou para a direita Nossa próxima pergunta é se dois segmentos de reta consecutivos p0 p1 e p1 p2 viram para a esquerda ou para a direita no ponto p1 Equivalentemente queremos um método para determinar para que lado se curva um ângulo p0 p1 p2 dado Produtos cruzados nos permitem responder a essa pergunta sem calcular o ângulo Como mostra a Figura 332 basta verificar se o segmento dirigido p0 p2 está em sentido horário ou em sentido antihorário em relação ao segmento dirigido p0 p1 Para tal calculamos o produto cruzado p2 p0 p1 p0 Se o sinal desse produto cruzado é negativo então p0 p2 está em sentido antihorário em relação a p0 p1 e portanto viramos para a esquerda em p1 Um produto cruzado positivo indica uma orientação horária e uma virada para a direita Um produto cruzado igual a 0 significa que os pontos p0 p1 e p2 são colineares Determinando se dois segmentos de reta se interceptam Para determinar se dois segmentos de reta se interceptam verificamos se cada segmento ultrapassa a reta que contém o outro Um segmento p0 p2 ultrapassa uma reta se o ponto p1 se encontra em um lado da reta e o ponto p2 se encontra no outro lado Um caso limite surge se p1 ou p2 se encontra sobre a reta Dois segmentos de reta se interceptam se e somente se uma das condições a seguir é válida ou ambas 1 2 Cada segmento ultrapassa a reta que contém o outro Uma extremidade de um segmento encontrase sobre o outro segmento Essa condição vem do caso limite Figura 332 Usando o produto cruzado para determinar como segmentos de reta consecutivos p0 p1 e p1 p2 viram no ponto p1 Verificamos se o segmento dirigido p0 p2 está em sentido horário ou em sentido antihorário em relação ao segmento dirigido p0 p1 a Se em sentido antihorário os pontos viram para a esquerda b Se em sentido horário os pontos viram para a direita Os procedimentos a seguir implementam essa ideia SEGMENTSINTERSECT RETORNA TRUE se os segmentos p1 p2 e p3 p4 se interceptam e FALSE se eles não se interceptam Eles chamam as subrotinas DIRECTION que calcula orientações relativas usando o método do produto cruzado já descrito e ONSEGMENT que determina se um ponto conhecido que sabemos ser colinear com um segmento encontrase sobre esse segmento SEGMENTSINTERSECT funciona da maneira ilustrada a seguir As linhas 14 calculam a direção relativa di de cada extremidade pi em relação ao outro segmento Se todas as direções relativas forem não nulas então é fácil determinar se os segmentos p1 p2 e p3 p4 se interceptam da maneira descrita a seguir O segmento p1 p2 ultrapassa a reta que contém o segmento p3 p4 se os segmentos dirigidos p3 p1 e p3 p2 têm orientações opostas em relação a p3 p4 Nesse caso os sinais de d1 e d2 são diferentes De modo semelhante o segmento p3 p4 ultrapassa a reta que contém p1 p2 se os sinais de d3 e d4 são diferentes Se o teste da linha 5 é verdadeiro então os segmentos ultrapassam um ao outro e SEGMENTSINTERSECT retorna TRUE A Figura 333a mostra esse caso Caso contrário os segmentos não ultrapassam as retas de um e de outro embora um caso limite possa ser aplicável Se todas as orientações relativas forem não nulas nenhum caso limite é aplicável Então todos os testes de comparação com 0 nas linhas 713 falham e SEGMENTS INTERSECT retorna FALSE na linha 15 A Figura 333b mostra esse caso Um caso limite ocorre se qualquer orientação relativa dk é 0 Aqui sabemos que pk é colinear com o outro segmento Ele está diretamente sobre o outro segmento se e somente se estiver entre as extremidades do outro segmento O procedimento ONSEGMENT retorna se pk está entre as extremidades do segmento p1 pj que será o outro segmento quando chamado nas linhas 713 o procedimento supõe que pk é colinear com o segmento p1 pj As Figuras 333c e d mostram casos com pontos colineares Na Figura 333c p3 está em p1 p2 e portanto SEGMENTSINTERSECT retorna TRUE na linha 12 Nenhuma extremidade está sobre outros segmentos na Figura 333d e portanto SEGMENTS INTERSECT retorna FALSE na linha 15 Figura 333 Casos no procedimento SEGMENTSINTERSECT a Os segmentos p1 p2 e p3 p4 ultrapassam as retas um do outro Como p3 p4 ultrapassa a reta que contém p1 p2 os sinais dos produtos cruzados p3 p1 p2 p1 e p4 p1 p2 p1 são diferentes Como p1 p2 ultrapassa a reta que contém p3 p4 os sinais dos produtos cruzados p1 p3 p4 p3 e p2 p3 p4 p3 são diferentes b O segmento p3 p4 ultrapassa a reta que contém p1 p2 mas p1 p2 não ultrapassa a reta que contém p3 p4 Os sinais dos produtos cruzados p1 p3 p4 p3 e p2 p3 p4 p3 são iguais c O ponto p3 é colinear com p1 p2 e está entre p1 e p2 d O ponto p3 é colinear com p1 p2 mas não está entre p1 e p2 Os segmentos não se interceptam Outras aplicações de produtos cruzados Seções posteriores deste capítulo apresentam utilizações adicionais para produtos cruzados Na Seção 333 precisaremos ordenar um conjunto de pontos de acordo com seus ângulos polares em relação a uma origem dada Como o Exercício 3313 pede que você mostre podemos usar produtos cruzados para executar as comparações no procedimento de ordenação Na Seção 332 usaremos árvores vermelhopreto para manter a ordenação vertical de um conjunto de segmentos de reta Em vez de manter valores de chaves explícitos que comparamos uns aos outros no código da árvore vermelhopreto calcularemos um produto cruzado para determinar qual dos dois segmentos que interceptam uma dada reta vertical está acima do outro 3311 3312 3313 3314 3315 3316 3317 Exercícios Prove que se p1 p2 é positivo então o vetor p1 está em sentido horário em relação ao vetor p2 em relação à origem 0 0 e que se seu produto cruzado é negativo então p1 está em sentido antihorário em relação a p2 O professor van Pelt sugere que somente a dimensão x precisa ser testada na linha 1 de ONSEGMENT Mostre por que o professor está errado O ângulo polar de um ponto p1 em relação a um ponto de origem p0 é o ângulo do vetor p1 p0 no sistema de coordenadas polares habitual Por exemplo o ângulo polar de 3 5 em relação a 2 4 é o ângulo do vetor 1 1 que é 45 graus ou p4 radianos O ângulo polar de 3 3 em relação a 2 4 é o ângulo do vetor 1 1 que é 315 graus ou 7p4 radianos Escreva pseudocódigo para ordenar uma sequência p1 p2 pn de n pontos de acordo com seus ângulos polares em relação a um determinado ponto de origem p0 Seu procedimento deve demorar o tempo On lg n e usar produtos cruzados para comparar ângulos Mostre como determinar no tempo On2 lg n se três pontos quaisquer em um conjunto de n pontos são colineares Um polígono é uma curva fechada formada por segmentos lineares no plano Ou seja é uma curva que termina em si mesma e é formada por uma sequência de segmentos de reta denominados lados do polígono Um ponto que une dois lados consecutivos é denominado vértice do polígono Se o polígono é simples o que geralmente consideraremos aqui seus lados não se cruzam O conjunto de pontos no plano delimitados por um polígono simples forma o interior do polígono o conjunto de pontos sobre o polígono propriamente dito forma seu contorno e o conjunto de pontos que cercam o polígono forma seu exterior Um polígono simples é convexo se dados quaisquer dois pontos em seu contorno ou em seu interior todos os pontos sobre o segmento de reta traçado entre eles estão contidos no contorno ou no interior do polígono Um vértice de um polígono convexo não pode ser expresso como uma combinação convexa de quaisquer dois pontos sobre o contorno ou no interior do polígono O professor Amundsen propõe o método a seguir para determinar se uma sequência p0 p1 pn 1 de n pontos forma os vértices consecutivos de um polígono convexo O resultado é sim se o conjunto pipi1pi2 i 0 1 n 1 onde a adição de índices é executada módulo n não contém ambas curvas para a esquerda e curvas para a direita caso contrário o resultado é não Mostre que embora esse método seja executado em tempo linear nem sempre produz a resposta correta Modifique o método do professor de modo que ele sempre produza a resposta correta em tempo linear Dado um ponto p0 x0 y0 o raio horizontal direito de p0 é o conjunto de pontos pi xi yi xi x0 e yi y0 isto é é o conjunto de pontos que devem estar à direita de p0 juntamente com o próprio p0 Mostre como determinar se um dado raio horizontal direito de p0 intercepta um segmento p1 p2 de reta no tempo O1 reduzindo o problema ao determinar se dois segmentos de reta se interceptam Um modo de determinar se um ponto p0 está no interior de um polígono P simples mas não necessariamente convexo é observar qualquer raio de p0 e verificar que o raio intercepta o contorno de P um número ímpar de vezes mas que o próprio p0 não está no contorno de P Mostre como calcular no tempo Qn se um ponto p0 está no interior de um polígono P de n vértices Sugestão Use o Exercício 3316 Certifiquese de que seu algoritmo está correto quando o raio intercepta o contorno do polígono em um vértice e quando o raio se sobrepõe a um lado do polígono 3318 332 Mostre como calcular a área de um polígono de n vértices simples mas não necessariamente convexo no tempo Qn Veja no Exercício 3315 definições pertinentes a polígonos DETERMINANDO SE DOIS SEGMENTOS QUAISQUER SE INTERCEPTAM Esta seção apresenta um algoritmo para determinar se dois segmentos de reta quaisquer em um conjunto de segmentos se interceptam O algoritmo utiliza uma técnica conhecida como varredura comum a muitos algoritmos de geometria computacional Além disso como mostram os exercícios no final desta seção esse algoritmo ou variações simples dele pode ajudar a resolver outros problemas de geometria computacional O algoritmo é executado no tempo On lg n onde n é o número de segmentos dados Determina somente se existe ou não alguma interseção não imprime todas as interseções Pelo Exercício 3321 ele demora o tempo n2 no pior caso para encontrar todas as interseções em um conjunto de n segmentos de reta Na varredura uma linha de varredura vertical imaginária passa pelo conjunto de objetos geométricos dado em geral da esquerda para a direita Tratamos a dimensão espacial pela qual a linha de varredura se move nesse caso a dimensão x como uma dimensão de tempo A varredura nos dá um método para ordenar objetos geométricos normalmente colocandoos em uma estrutura de dados dinâmica e para aproveitar as relações entre eles O algoritmo de interseção de segmentos de reta nesta seção considera todas as extremidades de segmentos de reta em ordem da esquerda para a direita e verifica se há uma interseção toda vez que encontra uma extremidade Para descrever e provar a correção de nosso algoritmo para determinar se dois segmentos de reta quaisquer entre n segmentos de reta se interceptam adotaremos duas hipóteses simplificadoras A primeira é que supomos que nenhum segmento de entrada é vertical A segunda é que supomos que nenhuma tripla desses segmentos se intercepta em um único ponto Os Exercícios 3328 e 3329 pedem para mostrar que o algoritmo é suficientemente robusto e por isso precisa somente de uma ligeira modificação para funcionar mesmo quando essas hipóteses não são válidas Na realidade eliminar tais hipóteses simplificadoras e lidar com condições de contorno muitas vezes configuram os desafios mais difíceis na programação de algoritmos de geometria computacional e na prova de sua correção Ordenar segmentos Visto que supomos que não há nenhum segmento vertical sabemos que qualquer segmento de entrada que intercepta uma linha de varredura vertical dada intercepta a linha de varredura em um único ponto Assim podemos ordenar os segmentos que interceptam uma linha de varredura vertical de acordo com as coordenadas y dos pontos de interseção Para sermos mais precisos considere dois segmentos s1 e s2 Dizemos que esses segmentos são comparáveis em x se a linha de varredura vertical cuja coordenada x é x interceptar ambos os segmentos Dizemos que s1 está acima de s2 em x indicado por s1 x s2 se s1 e s2 são comparáveis em x e a interseção de s1 com a linha de varredura em x é mais alta que a interseção de s2 com a mesma linha de varredura ou se s1 e s2 se interceptarem na linha de varredura Na Figura 334a por exemplo temos as relações a r c a t b bt c a t c e b u c O segmento d não é comparável com nenhum outro segmento Para qualquer x dado a relação x é uma préordenação total ver a Seção B2 para todos os segmentos que interceptam a linha de varredura em x Isto é a relação é transitiva e se cada um dos segmentos s1 e s2 interceptarem a linha de varredura em x então s1 x s2 ou s2 x s1 ou ambos se s1 e s2 se interceptam na linha de varredura A relação x é também reflexiva mas não é simétrica nem assimétrica Todavia a préordenação total pode ser diferente para valores diferentes de x à medida que segmentos entram e saem da ordenação Um segmento entra na ordenação quando sua extremidade esquerda é encontrada pela varredura e sai da ordenação quando sua extremidade direita é encontrada 1 2 Figura 334 Ordenação entre segmentos de reta em diversas linhas de varredura verticais a Temos a r c a t b bt c a t c e b u c O segmento d não é comparável a nenhum outro segmento mostrado b Quando os segmentos e e f se interceptam suas ordens são invertidas temos e v mas f w e Qualquer linha de varredura tal como z que passe pela região sombreada tem e e f consecutivos na ordenação dada pela relação z O que acontece quando a linha de varredura passa pela interseção de dois segmentos Como mostra a Figura 334b as posições dos segmentos são invertidas na préordenação total As linhas de varredura v e w estão à esquerda e à direita respectivamente do ponto de interseção dos segmentos e e f e temos e v f e f w e Observe que como supomos que não há três segmentos que se interceptam no mesmo ponto deve existir alguma linha de varredura vertical x para a qual os segmentos e e f que se interceptam são consecutivos na préordenação total x Qualquer linha de varredura que passe pela região sombreada da Figura 334b tal como z tem e e f consecutivos em sua pré ordenação total Movendo a linha de varredura Os algoritmos de varredura normalmente administram dois conjuntos de dados O status da linha de varredura dá as relações entre os objetos que a linha de varredura intercepta O escalonamento de pontos eventuais é uma sequência de pontos denominados pontos eventuais ordenamos da esquerda para a direita de acordo com suas coordenadas x À medida que a varredura progride da esquerda para a direita sempre que a linha de varredura alcança a coordenada x de um ponto eventual a varredura para e depois recomeça Mudanças no status da linha de varredura ocorrem somente em pontos eventuais Para alguns algoritmos por exemplo o algoritmo solicitado no Exercício 3327 o escalonamento de pontos eventuais desenvolvese dinamicamente à medida que o algoritmo progride Entretanto o algoritmo à mão determina todos os pontos eventuais antes da varredura exclusivamente com base em propriedades simples dos dados de entrada Se duas ou mais extremidades são coverticais isto é se tiverem a mesma coordenada x desempatamos colocando todas as extremidades coverticais esquerdas antes das extremidades coverticais direitas Dentro de um conjunto de extremidades esquerdas coverticais colocamos em primeiro lugar as que têm coordenadas y mais baixas e fazemos o mesmo com um conjunto de extremidades coverticais direitas Quando encontramos a extremidade esquerda de um segmento inserimos o segmento no status da linha de varredura e eliminamos o segmento do status da linha de varredura quando encontramos sua extremidade direita Sempre que dois segmentos se tornam consecutivos pela primeira vez na préordenação total verificamos se eles se interceptam O status da linha de varredura é uma préordenação total T para a qual exigimos as seguintes operações INSERTT s insere segmento s em T DELETET s elimina o segmento s de T ABOVET s retorna o segmento imediatamente acima do segmento s em T BELOWT s retorna o segmento imediatamente abaixo do segmento s em T É possível que os segmentos s1 e s2 estejam mutuamente um acima do outro na préordenação total T essa situação pode ocorrer se s1 e s2 se interceptam na linha de varredura cuja préordenação total é dada por T Nesse caso os dois segmentos podem aparecer em qualquer das ordens em T Se a entrada contiver n segmentos podemos efetuar cada uma das operações INSERT DELETE ABOVE e BELOW no tempo Olg n usando árvores vermelhopreto Lembrese de que as operações em árvores vermelhopreto vistas no Capítulo 13 envolvem a comparação de chaves Podemos substituir as comparações de chaves por comparações que usam produtos cruzados para determinar a ordenação relativa de dois segmentos veja o Exercício 3322 Pseudocódigo de interseção de segmentos O algoritmo a seguir toma como entrada um conjunto S de n segmentos de reta e devolve o valor booleano TRUE se qualquer par de segmentos em S se intercepta caso contrário devolve FALSE A árvore vermelhopreto mantém a pré ordenação total T A Figura 335 ilustra como o algoritmo funciona A linha 1 inicializa a préordenação total como vazia A linha 2 determina o escalonamento de pontos eventuais ordenando as 2n extremidades de segmentos da esquerda para a direita resolvendo empates da maneira já descrita Um modo de executar a linha 2 é ordenar lexicograficamente as extremidades em x e y onde x e y são as coordenadas habituais e 0 para uma extremidade esquerda e e 1 para uma extremidade direita Figura 335 Execução de ANYsEGMENTSiNTERSECT Cada linha tracejada é a linha de varredura em um ponto eventual Exceto na linha de varredura da extrema direita a ordenação de nomes de segmentos abaixo de cada linha de varredura corresponde à préordenação total T no final do processamento do laço for para o ponto eventual correspondente A linha de varredura da extrema direita ocorre durante o processamento da extremidade direita do segmento c como os segmentos d e b circundam c e se interceptam o procedimento devolve TRUE Cada iteração do laço for das linhas 311 processa um ponto eventual p Se p é a extremidade esquerda de um segmento s a linha 5 acrescenta s à préordenação total e as linhas 67 devolvem TRUE se s intercepta qualquer dos segmentos aos quais é consecutivo na préordenação total definida pela linha de varredura que passa por p Uma condição de contorno ocorre se p encontrase sobre um outro segmento s Nesse caso basta que s e s sejam inseridos consecutivamente em T Se p é a extremidade direita de um segmento s então precisamos eliminar s da pré ordenação total Mas primeiro as linhas 910 devolvem TRUE se existe uma interseção entre os segmentos que circundam s na préordenação total definida pela linha de varredura que passa por p Se esses segmentos não se interceptam a linha 11 elimina o segmento s da préordenação total Se os segmentos que circundam o segmento s se interceptam eles teriam se tornado consecutivos após a eliminação de s caso a declaração return na linha 10 não tivesse impedido a execução da linha 11 O argumento de correção que apresentamos em seguida esclarecerá por que é suficiente verificar os segmentos que circundam s Finalmente se nunca encontrarmos uma interseção após o processamento de todos os 2n pontos eventuais a linha 12 devolverá FALSE Correção Para mostrar que ANYSEGMENTSINTERSECT é correto provaremos que a chamada ANYSEGMENTSINTERSECTS devolve TRUE se e somente se existe uma interseção entre os segmentos em S É fácil ver que ANYSEGMENTSINTERSECT devolve TRUE nas linhas 7 e 10 somente se encontra uma interseção entre dois dos segmentos de entrada Consequentemente se ele retorna TRUE existe uma interseção Também precisamos mostrar o inverso se existe uma interseção então ANYSEGMENTSINTERSECT devolve TRUE Vamos supor que haja no mínimo uma interseção Seja p o ponto de interseção na mais à esquerda decidindo empates escolhendo o ponto que tem a menor coordenada y e sejam a e b os segmentos que se interceptam em p Visto que não ocorre nenhuma interseção à esquerda de p a ordem dada por T é correta em todos os pontos à esquerda de p Como não há três segmentos que se interceptam no mesmo ponto a e b se tornam consecutivos na préordenação total em alguma linha de varredura z2 Além disso z está à esquerda de p ou passa por p Alguma extremidade de segmento q na linha de varredura z é o ponto eventual no qual a e b se tornam consecutivos na préordenação total Se p está na 1 2 3321 3322 3323 linha de varredura z então q p Se p não está na linha de varredura z então q está à esquerda de p Em qualquer caso a ordem dada por T é correta imediatamente antes de encontrar q É aqui que usamos a ordem lexicográfica na qual o algoritmo processa pontos eventuais Como p é o mais baixo dos pontos de interseção da extrema esquerda mesmo que p esteja sobre a linha de varredura z e algum outro ponto de interseção p esteja sobre z o ponto eventual q p é processado antes de a outra interseção p poder interferir na préordenação total T Além disso ainda que p seja a extremidade esquerda de um segmento digamos a e a extremidade direita do outro segmento seja digamos b como os eventos da extremidade esquerda ocorrem antes dos eventos da extremidade direita o segmento b está em T quando encontra pela primeira vez o segmento a O ponto eventual q é processado por ANYSEGMENTSINTERSECT ou não é processado Se q é processado por ANYSEGMENTSINTERSECT só há duas ações possíveis que podem ocorrer Ou a ou b é inserido em T e o outro segmento está acima ou abaixo dele na préordenação total As linhas 47 detectam esse caso Os segmentos a e b já estão em T e um segmento entre eles na préordenação total é eliminado o que transforma a e b em consecutivos As linhas 811 detectam esse caso Em qualquer dos casos encontramos a interseção p e ANYSEGMENTSINTERSECT devolve TRUE Se o ponto eventual q não é processado por ANYSEGMENTSINTERSECT o procedimento deve ter retornado antes de processar todos os pontos eventuais Essa situação só poderia ter ocorrido se ANYSEGMENTSINTERSECT já tivesse encontrado uma interseção e devolvido TRUE Assim se existe uma interseção ANYSEGMENTSINTERSECT retorna TRUE Como já vimos se ANYSEGMENTSINTERSECT devolve TRUE existe uma interseção Portanto ANYSEGMENTSINTERSECT sempre devolve uma resposta correta Tempo de execução Se o conjunto S contém n segmentos então ANYSEGMENTSINTERSECT é executado no tempo On lg n A linha 1 demora o tempo O1 A linha 2 demora o tempo On lg n usando a ordenação por intercalação ou heapsort O laço for das linhas 311 itera no máximo uma vez por ponto eventual e portanto com 2n pontos eventuais o laço itera no máximo 2n vezes Cada iteração demora o tempo Olg n já que cada operação da árvore vermelhopreto demora o tempo Olg n e usando o método da Seção 331 cada teste de interseção demora o tempo O1 Assim o tempo total é On lg n Exercícios Mostre que um conjunto de n segmentos de reta pode conter Qn2 interseções Dados dois segmentos a e b que são comparáveis em x mostre como determinar no tempo O1 qual dentre a x b ou b x a é válida Suponha que nenhum dos segmentos é vertical Sugestão Se a e b não se interceptam você pode simplesmente usar produtos cruzados Se a e b se interceptam o que é claro se pode determinar usando apenas produtos cruzados você ainda pode usar somente adição subtração e multiplicação evitando a divisão É claro que na aplicação da relação x utilizada aqui se a e b se interceptam podemos apenas parar e declarar que encontramos uma interseção O professor Mason sugere que modifiquemos ANYSEGMENTSINTERSECT de modo que em vez de retornar ao encontrar uma interseção imprima os segmentos que se interceptam e passe para a próxima iteração do laço for O professor denomina o procedimento resultante PRINTINTERSECTINGSEGMENTS e afirma que ele imprime todas as interseções da esquerda para a direita à medida que elas ocorrem no conjunto de segmentos de reta O professor Dixon discorda e afirma que a ideia do professor Mason é incorreta Qual dos professores está certo O procedimento PRINTINTERSECTINGSEGMENTS sempre encontra primeiro a interseção da extrema esquerda Sempre encontrará todas as interseções 3324 3325 3326 3327 3328 3329 333 Dê um algoritmo de tempo On lg n para determinar se um polígono de n vértices é simples Dê um algoritmo de tempo On lg n para determinar se dois polígonos simples com um total de n vértices se interceptam Um disco consiste em uma circunferência mais seu interior e é representado por seu ponto central e raio Dois discos se interceptam se têm algum ponto em comum Dê um algoritmo de tempo On lg n para determinar se dois discos quaisquer em um conjunto de n discos se interceptam Dado um conjunto de n segmentos de reta contendo um total de k interseções mostre como apresentar todas as k interseções no tempo On klg n Mostre que ANYSEGMENTSINTERSECT funciona corretamente mesmo que três ou mais segmentos se interceptem no mesmo ponto Mostre que ANYSEGMENTSINTERSECT funciona corretamente na presença de segmentos verticais se tratarmos a extremidade inferior de um segmento vertical como se fosse uma extremidade esquerda e a extremidade superior como se fosse uma extremidade direita Como sua resposta ao Exercício 3322 muda se permitirmos segmentos verticais DETERMINANDO A ENVOLTÓRIA CONVEXA A envoltória convexa de um conjunto Q de pontos denotada por CHQ é o menor polígono convexo P para o qual cada ponto em Q está no contorno de P ou em seu interior veja no Exercício 3315 uma definição precisa de polígono convexo Supomos implicitamente que todos os pontos no conjunto Q são únicos e que Q contém no mínimo três pontos que não são colineares Intuitivamente podemos imaginar cada ponto em Q como um prego cuja cabeça fica um pouco acima de uma tábua Então a envoltória convexa é a forma produzida por uma tira elástica apertada que passa por todos os pregos A Figura 336 mostra um conjunto de pontos e sua envoltória convexa Nesta seção apresentaremos dois algoritmos que calculam a envoltória convexa de um conjunto de n pontos Ambos produzem os vértices da envoltória em ordem antihorária O primeiro conhecido como varredura de Graham é executado no tempo On lg n O segundo denominado marcha de Jarvis é executado no tempo Onh onde h é o número de vértices da envoltória convexa Como ilustra a Figura 336 todo vértice de CHQ é um ponto em Q Ambos os algoritmos exploram essa propriedade decidindo quais vértices em Q são mantidos como vértices da envoltória convexa e quais vértices em Q são descartados Podemos calcular envoltórias convexas no tempo On lg n por qualquer um de vários métodos A varredura de Graham e a marcha de Jarvis usam uma técnica denominada varredura rotacional e processam vértices na ordem dos ângulos polares que eles formam com um vértice de referência Entre outros métodos citamos os seguintes No método incremental em primeiro lugar ordenamos os pontos da esquerda para a direita produzindo uma sequência p1 p2 pn Na iésima etapa atualizamos a envoltória convexa dos i 1 pontos mais à esquerda CHp1 p2 pi 1 de acordo com o iésimo ponto contando da esquerda formando assim CHp1 p2 pi O Exercício 3336 pede que você mostre como implementar esse método de modo que seja executado no tempo total de On lg n Figura 336 Um conjunto de pontos Q p0 p1 p12 com sua envoltória convexa CHQ traçada em cinzento No método de divisão e conquista dividimos no tempo Qn o conjunto de n pontos em dois subconjuntos um contendo os n2 pontos mais à esquerda e um contendo os n2 pontos mais à direita calculamos recursivamente as envoltórias convexas dos subconjuntos e depois por meio de um método inteligente combinamos as envoltórias no tempo Qn O tempo de execução é descrito pela conhecida recorrência Tn 2T n2 On e portanto o método de divisão e conquista é executado no tempo On lg n O método de poda e busca é semelhante ao algoritmo da mediana de tempo linear do pior caso da Seção 93 Com esse método encontramos a porção superior ou cadeia superior da envoltória convexa descartando repetidamente uma fração constante dos pontos remanescentes até restar somente a cadeia superior da envoltória convexa Então fazemos o mesmo para a cadeia inferior Esse método é assintoticamente o mais rápido se a envoltória convexa contém h vértices ele é executado no tempo de somente On lg h Calcular a envoltória convexa de um conjunto de pontos é um problema interessante por si só Além disso algoritmos para alguns outros problemas de geometria computacional começam pelo cálculo de uma envoltória convexa Considere por exemploo problema do par mais afastado bidimensional temos um conjunto de n pontos no plano e desejamos encontrar os dois pontos cuja distância entre eles seja máxima Como o Exercício 3333 pede para provar esses dois pontos devem ser vértices da envoltória convexa Se bem que não provaremos isso aqui podemos encontrar o par de vértices mais afastado de um polígono convexo de n vértices no tempo On Assim calculando a envoltória convexa dos n pontos de entrada no tempo On lg n e depois encontrando o par mais afastado dos vértices do polígono convexo resultante podemos localizar o par de pontos mais afastados em qualquer conjunto de n pontos no tempo On lg n Varredura de Graham A varredura de Graham resolve o problema da envoltória convexa mantendo uma pilha S de pontos candidatos A varredura insere cada ponto do conjunto de entrada Q na pilha uma vez e a certa altura retira da pilha cada ponto que não é um vértice de CHQ Quando o algoritmo termina a pilha S contém exatamente os vértices de CHQ em ordem antihorária das posições que ocupam na envoltória O procedimento GRAHAMSCAN toma como entrada um conjunto Q de pontos onde Q 3 Chama a função TOPS que retorna o ponto que está no topo da pilha S sem mudar S e a função NEXTTOTOPS que retorna o ponto que está uma entrada abaixo do topo da pilha S sem mudar S Como demonstraremos em breve a pilha S retornada por GRAHAMSCAN contém de baixo para cima exatamente os vértices de CHQ em ordem antihorária A Figura 337 ilustra o progresso de GRAHAMSCAN A linha 1 escolhe o ponto p0 como o ponto que tem a coordenada y mais baixa e escolhe o ponto da extrema esquerda no caso de um empate Visto que não existe nenhum ponto em Q que esteja abaixo de p0 e todos os outros pontos com a mesma coordenada y estão à sua direita p0 deve ser um vértice de CHQ A linha 2 ordena os pontos restantes de Q por ângulo polar em relação a p0 usando o mesmo método comparação de produtos cruzados como no Exercício 3313 Se dois ou mais pontos têm o mesmo ângulo polar em relação a p0 todos exceto o mais afastado desses pontos são combinações convexas de p0 e do ponto mais afastado e portanto não nos preocupamos mais com eles Representamos por m o número de pontos que restam exceto p0 O ângulo polar medido em radianos de cada ponto de Q em relação a p0 está no intervalo meio aberto 0 p Visto que os pontos são ordenados de acordo com ângulos polares são ordenados em ordem antihorária em relação a p0 Designamos essa sequência ordenada de pontos por p1 p2 pm Observe que os pontos p1 e pm são vértices de CHQ veja o Exercício 3331 A Figura 337a mostra os pontos da Figura 336 numerados sequencialmente em ordem crescente de ângulo polar em relação a p0 O restante do procedimento utiliza a pilha S As linhas 35 inicializam a pilha para conter de baixo para cima os três primeiros pontos p0 p1 e p2 A Figura 337a mostra a pilha inicial S O laço for das linhas 710 itera uma vez para cada ponto na subsequência p3 p4 pm Veremos que após o processamento do ponto pi a pilha S contém de baixo para cima os vértices de CHp0 p1 pi em ordem antihorária O laço while das linhas 89 remove pontos da pilha se constatarmos que eles não são vértices da envoltória convexa Quando percorremos a envoltória convexa em ordem antihorária devemos virar para a esquerda em cada vértice Assim toda vez que o laço while encontra um vértice no qual fazemos uma curva que não é para a esquerda extraímos o vértice da pilha Como verifica virada que não é para a esquerda em vez de verificar apenas uma virada para a direita esse teste exclui a possibilidade de um ângulo raso 180º em um vértice da envoltória convexa resultante Não queremos nenhum ângulo raso já que nenhum vértice de um polígono convexo pode ser uma combinação convexa de outros vértices do polígono Depois de extrair todos os vértices que têm viradas que não são para a esquerda quando seguimos na direção do ponto pi inserimos pi na pilha As Figuras 337 bk mostram o estado da pilha S após cada iteração do laço for Finalmente GRAHAMSCAN devolve a pilha S na linha 11 A Figura 337l mostra a envoltória convexa correspondente O teorema a seguir prova formalmente a correção de GRAHAMSCAN Teorema 331 Correção da varredura de Graham Se GRAHAMSCAN é executado em um conjunto Q de pontos onde Q 3 então no término a pilha S consiste de baixo para cima exatamente nos vértices de CHQ em ordem antihorária Prova Depois da linha 2 temos a sequência de pontos p1 p2 pm Vamos definir para i 2 3 m o subconjunto de pontos Qi p0 p1 pi Os pontos em Q Qm são aqueles que foram removidos porque tinham o mesmo ângulo polar em relação a p0 que algum ponto em Qm esses pontos não estão em CHQ e portanto CHQm CHQ Assim basta mostrar que quando GRAHAMSCAN termina a pilha S consiste nos vértices de CHQm em ordem antihorária quando apresentados de baixo para cima Observe que exatamente como p0 p1 e pm são vértices de CHQ os pontos p0 p1 e pi são vértices de CHQi Figura 337 Execução de GRAHAMSCAN no conjunto Q da Figura 336 A envoltória convexa atual contida na pilha S é mostrada em cinzento a cada etapa a A sequência p1 p2 p12 de pontos numerados em ordem crescente de ângulo polar em relação a p0 e a pilha inicial S contendo p0 p1 e p2 bk A pilha S depois de cada iteração do laço for das linhas 710 Linhas tracejadas mostram viradas que não são para a esquerda o que provoca a extração de pontos da pilha Por exemplo na parte h a virada para a direita no ângulo p7 p8 p9 resulta na extração de p8 e então a virada para a direita no ângulo p6 p7 p9 resulta na extração de p7 Figura 337 continuação l Envoltória convexa devolvida pelo procedimento que corresponde à da Figura 336 A prova utiliza o seguinte invariante de laço No início de cada iteração do laço for das linhas 710 a pilha S consiste de baixo para cima exatamente nos vértices de CHQi 1 em ordem antihorária Inicialização O invariante é válido na primeira vez que executamos a linha 7 já que nesse momento a pilha S consiste exatamente nos vértices de Q2 Qi 1 e esse conjunto de três vértices forma sua própria envoltória convexa Além disso eles aparecem em ordem antihorária de baixo para cima Manutenção Ao entrar em uma iteração do laço for o ponto que está no alto da pilha S é pi 1 que foi inserido no final da iteração anterior ou antes da primeira iteração quando i 3 Seja pj o ponto que está no alto da pilha S após a execução do laço while nas linhas 89 mas antes de a linha 10 inserir pi e seja pk o ponto imediatamente abaixo de pj em S No momento em que pj é o ponto que está no alto da pilha S e ainda não empurramos pi a pilha S contém exatamente os mesmos pontos que continha depois da iteração j do laço for Então pelo invariante de laço S contém exatamente os vértices de CHQj naquele momento e eles aparecem em ordem antihorária de baixo para cima Vamos continuar a focalizar esse momento imediatamente antes de pi ser empurrado Sabemos que o ângulo polar de pi em relação a p0 é maior que o ângulo polar de pj e que o ângulo pk pj pi vira para a esquerda caso contrário teríamos extraído pj Portanto como S contém exatamente os vértices de CHQj vemos pela Figura 338a que uma vez empurrado pi a pilha S conterá exatamente os vértices de CHQj pi ainda em ordem antihorária de baixo para cima Agora mostramos que CHQj pi é o mesmo conjunto de pontos que CHQi Considere qualquer ponto pt que tenha sido extraído durante a iteração i do laço for e seja pr o ponto imediatamente abaixo de pt na pilha S no momento em que pt foi extraído pr poderia ser pj O ângulo pr pt pi faz uma curva não para a esquerda e o ângulo polar de pt em relação a p0 é maior que o ângulo polar de pr Como mostra a Figura 338b pt deve estar no interior do triângulo formado por p0 pr e pi ou sobre um lado desse triângulo mas ele não é um vértice do triângulo É claro que como pt está dentro de um triângulo formado por três outros pontos de Qi ele não pode ser um vértice de CHQi Visto que pt não é um vértice de CHQi temos que Seja Pi o conjunto de pontos que foram extraídos durante a iteração i do laço for Visto que a igualdade 331 se aplica a todos os pontos em Pi podemos aplicála repetidamente para mostrar que CHQi Pi CHQi Porém Qi Pi Qj pi e assim concluímos que CHQj pi CHQi Pi CHQi Mostramos que uma vez empurrado pi a pilha S contém exatamente os vértices de CHQi em ordem antihorária de baixo para cima Então incrementar i tornará o invariante de laço válido para a próxima iteração Figura 338 Prova da correção de GRAHAMsCAN a Como o ângulo polar de pi em relação a p0 é maior que o ângulo polar de pj e como o ângulo pk pj pi vira à esquerda somar pi a CHQj resulta exatamente nos vértices de CHQj pi b Se o ângulo pr pt pi não vira para a esquerda então pt está no interior do triângulo formado por p0 pr e pi ou sobre um lado do triângulo o que significa que não pode ser um vértice de CHQi Término Quando o laço termina temos i m 1 e portanto o invariante de laço implica que a pilha S consiste exatamente nos vértices de CHQm que é CHQ em ordem antihorária de baixo para cima Isso conclui a prova Agora mostraremos que o tempo de execução de GRAHAMSCAN é On lg n onde n Q A linha 1 demora o tempo Qn A linha 2 demora o tempo On lg n usando ordenação por intercalação ou heapsort para ordenar os ângulos polares e o método de produtos cruzados da Seção 331 para comparar ângulos Podemos eliminar todos os pontos exceto o mais afastado que tenham o mesmo ângulo polar no tempo total On para todos os n pontos As linhas 36 demoram o tempo O1 Como m n 1 o laço for das linhas 710 é executado no máximo n 3 vezes Visto que PUSH demora o tempo O1 cada iteração demora o tempo O1 excluído o tempo gasto no laço while das linhas 89 assim o tempo global para laço for é On excluído o laço while aninhado Usamos análise agregada para mostrar que o laço while demora o tempo global On Para i 0 1 m empurramos cada ponto pi para a pilha S exatamente uma vez Como na análise do procedimento MULTIPOP da Seção 171 observamos que podemos extrair no máximo o mesmo número de itens que inserimos No mínimo três pontos p0 p1 e pm nunca são extraídos da pilha de modo que na verdade no máximo m 2 operações POP são executadas no total Cada iteração do laço while executa uma operação POP e portanto há no máximo m 2 iterações do laço while no total Visto que o teste na linha 8 demora o tempo O1 cada chamada de POP demora o tempo O1 e m n 1 o tempo total para a execução do laço while é On Assim o tempo de execução de GRAHAMSCAN é On lg n Marcha de Jarvis A marcha de Jarvis calcula a envoltória convexa de um conjunto Q de pontos por uma técnica conhecida como embrulhar pacote ou embrulhar presente O algoritmo é executado no tempo Onh onde h é o número de vértices de CHQ Quando h é olg n a marcha de Jarvis é assintoticamente mais rápida que a varredura de Graham Intuitivamente a marcha de Jarvis simula a ação de embrulhar o conjunto Q com uma folha de papel bem esticada Começamos colocando a extremidade do papel no ponto mais baixo do conjunto isto é no mesmo ponto p0 com o qual iniciamos a varredura de Graham Sabemos que esse ponto deve ser um vértice da envoltória convexa Puxamos o papel para a direita para esticálo e depois para cima até tocar um ponto Esse ponto também deve ser um vértice da envoltória convexa Mantendo o papel esticado continuamos desse modo ao redor do conjunto de vértices até voltarmos ao nosso ponto original p0 Em termos mais formais a marcha de Jarvis constrói uma sequência H p1 p2 ph 1 dos vértices de CHQ Começamos com p0 Como mostra a Figura 339 o próximo vértice p1 da envoltória convexa tem o menor ângulo polar em relação a p0 No caso de empates escolhemos o ponto mais afastado de p0 De modo semelhante p2 tem o menor ângulo polar em relação a p1 e assim por diante Quando chegamos ao vértice mais alto digamos pk resolvendo empates escolhendo o vértice mais alto mais afastado construímos como mostra a Figura 339 a cadeia da direita de CHQ Para construir a cadeia da esquerda começamos em pk e escolhemos pk1 como o ponto que tem o menor ângulo polar em relação a pk mas a partir do eixo x negativo Continuamos assim formando a cadeia da esquerda tomando ângulos polares em relação ao eixo x negativo até voltarmos ao nosso vértice original p0 Poderíamos implementar a marcha de Jarvis em uma única varredura conceitual em torno da envoltória convexa isto é sem construir separadamente as cadeias da direita e da esquerda Em geral tais implementações controlam o ângulo do último lado da envoltória convexa escolhido e exigem que a sequência de ângulos de lados da envoltória seja estritamente crescente no intervalo de 0 a 2p radianos A vantagem de construir cadeias separadas é que não precisamos calcular ângulos explicitamente as técnicas da Seção 331 são suficientes para comparar ângulos Se implementada corretamente o tempo de execução da marcha de Jarvis é Onh Para cada um dos h vértices de CHQ determinamos o vértice que tem o menor ângulo polar Cada comparação entre ângulos polares demora o tempo O1 usando as técnicas da Seção 331 Como mostra a Seção 91 podemos calcular o mínimo de n valores no tempo On se cada comparação demorar o tempo O1 Assim a marcha de Jarvis demora o tempo Onh 3331 3332 3333 3334 3335 Exercícios Prove que no procedimento GRAHAMSCAN os pontos p1 e pm devem ser vértices de CHQ Considere um modelo de computação que suporte adição comparação e multiplicação e para o qual exista um limite inferior n lg n para ordenar n números Prove que Ωn lg n é um limite inferior para calcular em ordem os vértices da envoltória convexa de um conjunto de n pontos em tal modelo Dado um conjunto de pontos Q prove que o par de pontos mais afastados entre si deve ser de vértices de CHQ Para um dado polígono P e um ponto q em seu contorno a sombra de q é o conjunto de pontos r tal que o segmento qr está inteiramente sobre o contorno ou no interior de P Como ilustra a Figura 3310 um polígono P tem formato de estrela ou é estrelado se existe um ponto p no interior de P que esteja na sombra de todo ponto no contorno de P O conjunto de todos esses pontos p é denominado núcleo de P Dado um polígono estrelado P de n vértices especificado por seus vértices em ordem antihorária mostre como calcular CHP no tempo On Figura 339 A operação da marcha de Jarvis O primeiro vértice escolhido é o ponto mais baixo p0 O vértice seguinte p1 tem o menor ângulo polar de qualquer ponto em relação a p0 Então p2 tem o menor ângulo polar em relação a p1 A cadeia da direita vai até o ponto mais alto p3 Então construímos a cadeia da esquerda determinando os menores ângulos polares em relação ao eixo x negativo No problema da envoltória convexa online temos o conjunto Q de n pontos um ponto por vez Depois de receber cada ponto calculamos a envoltória convexa dos pontos vistos até o momento É óbvio que poderíamos executar a varredura de Graham uma vez para cada ponto com tempo total de execução On2 lg 3336 334 n Mostre como resolver o problema da envoltória convexa online no tempo total On2 Mostre como implementar o método incremental para calcular a envoltória convexa de n pontos de modo que ele seja executado no tempo On lg n LOCALIZANDO O PAR DE PONTOS MAIS PRÓXIMOS O algoritmo de divisão e conquista Cada chamada recursiva do algoritmo toma como entrada um subconjunto P Q e os arranjos X e Y cada um contendo todos os pontos do subconjunto de entrada P Os pontos no arranjo X são ordenados de modo que suas coordenadas x são monotonicamente crescentes De modo semelhante o arranjo Y é ordenado por coordenada y monotonicamente crescente Observe que para conseguir o limite de tempo On lg n não podemos nos dar ao luxo de efetuar ordenação em cada chamada recursiva se o fizéssemos a recorrência para o tempo de execução seria Tn 2Tn2 On lg n cuja solução é Tn On lg2 n Use a versão do método mestre dada no Exercício 462 Veremos um pouco mais adiante como usar préordenação para manter essa propriedade ordenada sem realmente efetuar ordenação em cada chamada recursiva Figura 3310 A definição de um polígono estrelado para uso no Exercício 3334 a Um polígono estrelado O segmento do ponto p até qualquer ponto q no contorno intercepta o contorno somente em q b Um polígono não estrelado A região sombreada à esquerda é a sombra de q e a região sombreada à direita é a sombra de q Como essas regiões são disjuntas o núcleo é vazio 1 2 Uma dada invocação recursiva com entradas P X e Y primeiro verifica se P 3 Se for a invocação simplesmente executa o método de força bruta já descrito tentar todos os pares de pontos e retornar o par mais próximo Se P 3 a invocação recursiva executa o paradigma de divisão e conquista descrito a seguir Divisão Determine uma reta vertical l que divide o conjunto de pontos P em dois conjuntos PL e PR tais que PL P2 PR P2 todos os pontos em PL estão sobre ou à esquerda da reta l e todos os pontos em PR estão sobre ou à esquerda de l Divida o arranjo X em arranjos XL e XR que contêm os pontos de PL e PR respectivamente ordenados por coordenada x monotonicamente crescente De modo semelhante divida o arranjo Y nos arranjos YL e YR que contêm os pontos de PL e PR respectivamente ordenados por coordenada y monotonicamente crescente Conquista Agora que temos P dividido em PL e PR faça duas chamadas recursivas uma para encontrar o par de pontos mais próximos em PL e a outra para encontrar o par de pontos mais próximos em PR As entradas para a primeira chamada são o subconjunto PL e arranjos XL e YL a segunda chamada recebe as entradas PR XR e YR Sejam dL e dR as distâncias de pares mais próximos retornadas para PL e PR respectivamente e seja d mindL dR Combinar O par de pontos mais próximos é o par com distância d encontrado por uma das chamadas recursivas ou é o par de pontos com um ponto em PL e o outro em PR O algoritmo determina se existe um par com um ponto em PL e o outro ponto em PR cuja distância é menor que d Observe que se existe um par de pontos com distância menor que d ambos os pontos do par devem estar a d unidades em relação à reta l Assim como mostra a Figura 3311a ambos devem estar na faixa vertical de largura 2d com centro na reta l Para encontrar tal par se existir algum o algoritmo faz o seguinte Cria um arranjo Y que é o arranjo Y do qual todos os pontos que não estão na faixa vertical de largura 2d foram eliminados O arranjo Y é ordenado por coordenada y exatamente como Y Figura 3311 Conceitos fundamentais na prova de que o algoritmo de pares de pontos mais próximos precisa verificar somente sete pontos que vêm depois de cada ponto no arranjo Y a Se pL PL e pR PR estão a menos de d unidades um do outro eles devem estar dentro de um retângulo d 2d com centro na reta l b Como quatro pontos que aos pares estão no mínimo a d unidades um do outro podem estar dentro de um quadrado d d À esquerda estão quatro pontos em PL e à direita estão quatro pontos em PR O retângulo d 2d pode conter oito pontos se os pontos mostrados sobre a reta l são na realidade pares de pontos coincidentes com um ponto em PL e um em PR Para cada ponto p no arranjo Y o algoritmo tenta encontrar pontos em Y que estejam a d unidades em relação a p Como veremos em breve apenas os sete pontos em Y que vêm depois de p precisam ser considerados O 3 algoritmo calcula a distância de p até cada um desses sete pontos e controla a distância d do par de pontos mais próximos encontrada para todos os pares de pontos em Y Se d d então a faixa vertical de fato contém um par mais próximo do que aquele encontrado pelas chamadas recursivas O algoritmo retorna esse par e sua distância d Caso contrário o algoritmo retorna o par de pontos mais próximos e sua distância d encontrados pelas chamadas recursivas Essa descrição omite alguns detalhes de implementação que são necessários para conseguir o tempo de execução On lg n Depois de provar a correção do algoritmo mostraremos como implementálo de modo a alcançar o limite de tempo desejado Correção A correção desse algoritmo de pares mais próximos é óbvia exceto por dois aspectos O primeiro é que interrompendo a recursão quando P 3 garantimos que nunca tentaremos resolver um subproblema que consista em apenas um ponto O segundo é que precisamos verificar somente os sete pontos que vêm depois de cada ponto p no arranjo Y Agora provaremos essa propriedade Suponha que em algum nível da recursão o par de pontos mais próximos seja pL PL e pR PR Assim a distância d entre pL e pR é estritamente menor que d O ponto pL deve estar sobre ou à esquerda da reta l e a menos de d unidades em relação a essa reta De modo semelhante pR está sobre ou à direita de l e a menos de d unidades em relação a essa reta Além disso pL e pR estão a d unidades um do outro na direção vertical Assim como mostra a Figura 3311a pL e pR estão dentro de um retângulo d 2d com centro na reta l Também é possível que existam outros pontos dentro desse retângulo Mostraremos em seguida que no máximo oito pontos de P podem residir dentro desse retângulo d 2d Considere o quadrado d d que forma a metade esquerda desse retângulo Visto que todos os pontos dentro de PL estão no mínimo a d unidades um do outro no máximo quatro pontos podem residir dentro desse quadrado a Figura 3311b mostra como De modo semelhante no máximo quatro pontos em PR podem residir dentro do quadrado d d que forma a metade direita do retângulo Assim no máximo oito pontos de P podem residir no interior do retângulo d 2d Observe que como os pontos sobre a reta l podem estar em PL ou em PR pode haver até quatro pontos sobre l Esse limite é alcançado se existem dois pares de pontos coincidentes tais que cada par consista em um ponto de PL e um ponto de PR um par esteja na interseção de l com a parte superior do retângulo e o outro par no local em que l intercepta a parte inferior do retângulo Agora que já mostramos que no máximo oito pontos de P podem residir no interior do retângulo é fácil ver que precisamos verificar somente os sete pontos que vêm depois de cada ponto no arranjo Y Ainda considerando que o par de pontos mais próximos seja pL e pR vamos supor sem perda da generalidade que pL preceda pR no arranjo Y Então mesmo que pL ocorra o mais cedo possível em Y e pR ocorra o mais tarde possível pR está em uma das sete posições que vêm depois de pL Portanto mostramos a correção do algoritmo de pares mais próximos Implementação e tempo de execução Como observamos nossa meta é conseguir que a recorrência para o tempo de execução seja Tn 2Tn2 On onde Tn é o tempo de execução para um conjunto de n pontos A principal dificuldade está em assegurar que os arranjos XL XR YL e YR que são repassados para as chamadas recursivas sejam ordenados pela coordenada adequada e também que o arranjo Y seja ordenado pela coordenada y Observe que se o arranjo X que é recebido por uma chamada recursiva já estiver ordenado é fácil dividir o conjunto P em PL e PR em tempo linear A observação fundamental é que em cada chamada desejamos formar um subconjunto ordenado de um arranjo ordenado Por exemplo uma invocação particular recebe o subconjunto P e o arranjo Y ordenado pela coordenada y Como foi particionado em PL e PR P precisa formar os arranjos YL e YR que são ordenados pela coordenada y em 3341 3342 3343 3344 3345 tempo linear Podemos ver o método como o oposto do procedimento MERGE da ordenação por intercalação na Seção 231 estamos dividindo um arranjo ordenado em dois arranjos ordenados O pseudocódigo a seguir dá a ideia Simplesmente examinamos os pontos no arranjo Y em ordem Se um ponto Yi está em PL anexamos o ponto ao final do arranjo YL caso contrário nós o anexamos ao final do arranjo YR Um pseudocódigo semelhante funciona para formar os arranjos XL XR e Y A única pergunta que resta é como obter os pontos ordenados antes de mais nada Nós os préordenamos isto é ordenamos os pontos de uma vez por todas antes da primeira chamada recursiva Passamos esses arranjos ordenados para a primeira chamada recursiva e daí em diante os reduzimos gradualmente por meio das chamadas recursivas necessárias A préordenação acrescenta um termo On lg n adicional ao tempo de execução mas agora cada etapa da recursão demora tempo linear excluídas as chamadas recursivas Assim se Tn é o tempo de execução de cada etapa recursiva e Tn é o tempo de execução do algoritmo inteiro obtemos Assim Tn On lg n e Tn On lg n Exercícios O professor Williams propõe um esquema que permite que o algoritmo de pares mais próximos verifique somente cinco pontos que vêm depois de cada ponto no arranjo Y A ideia é sempre colocar pontos sobre a reta l no conjunto PL Então não pode haver pares de pontos coincidentes sobre a reta l com um ponto em PL e um em PR Assim no máximo seis pontos podem residir no retângulo d 2d Qual é a falha no esquema do professor Mostre que na verdade basta verificar somente os pontos nas cinco posições do arranjo que vêm depois de cada ponto no arranjo Y Podemos definir a distância entre dois pontos de outras modos além do euclidiano No plano a distância Lm entre os pontos p1 e p2 é dada pela expressão x1 x2m y1 y2m 1m Portanto a distância euclidiana é distância L2 Modifique o algoritmo de pares mais próximos para usar a distância L1 que também é conhecida como distância Manhattan Dados dois pontos p1 e p2 no plano a distância L entre eles é dada por max x1 x2 y1 y2 Modifique o algoritmo do par mais próximo para utilizar a distância L Suponha que Ωn dos pontos dados ao algoritmo do par mais próximo são coverticais Mostre como determinar os conjuntos PL e PR e como determinar se cada ponto de Y está em PL ou PR de modo tal que o tempo de execução para o algoritmo do par mais próximo permaneça On lg n 3346 351 a b 352 a b c d Sugira uma mudança no algoritmo do par mais próximo que evite a préordenação do arranjo Y mas deixe o tempo de execução como On lg n Sugestão Intercale arranjos ordenados YL e YR para formar o arranjo ordenado Y Problemas Camadas convexas Dado um conjunto Q de pontos no plano definimos as camadas convexas de Q por indução A primeira camada convexa de Q consiste nos pontos em Q que são vértices de CHQ Para i 1 definimos Qi de modo que consista nos pontos em Q eliminados todos os pontos em camadas convexas 1 2 i 1 Então a iésima camada convexa de Q é CHQi se Qi 0 e é indefinida caso contrário Dê um algoritmo de tempo On2 para encontrar as camadas convexas de um conjunto de n pontos Prove que é necessário o tempo Ωn lg n para calcular as camadas convexas de um conjunto de n pontos com qualquer modelo de computação que exija o tempo n lg n para ordenar n números reais Camadas máximas Seja Q um conjunto de n pontos no plano Dizemos que o ponto x y domina o ponto x y se x x e y y Um ponto em Q que não é dominado por nenhum outro ponto em Q é denominado maximal Observe que Q pode conter muitos pontos máximos que podem ser organizados em camadas maximais da seguinte maneira A primeira camada maximal L1 é o conjunto de pontos máximais em Q Para i 1 a iésima camada maximal i é o conjunto de pontos maximais em Suponha que Q tenha k camadas máximas não vazias e seja yi a coordenada y do ponto mais à esquerda em Li para i 1 2 k Por enquanto supomos que não haja dois pontos em Q com a mesma coordenada x ou y Mostre que y1 y2 yk Considere um ponto x y que esteja à esquerda de qualquer ponto em Q e para o qual y seja distinto da coordenada y de qualquer ponto em Q Seja Q Q x y Seja j o índice mínimo tal que yj y a menos que y yk caso em que fazemos j k 1 Mostre que as camadas maximais de Q são as seguintes Se j k então as camadas maximais de Q são as mesmas que as camadas maximais de Q exceto que Lj também inclui x y como seu novo ponto mais à esquerda Se j k 1 então as primeiras k camadas máximas de Q são as mesmas que as de Q mas além disso Q tem uma k 1ésima camada máxima não vazia Lk 1 x y Descreva um algoritmo de tempo On lg n para calcular as camadas maximais de um conjunto Q de n pontos Sugestão Movimente uma linha de varredura da direita para a esquerda Surge alguma dificuldade se agora permitirmos que pontos de entrada tenham a mesma coordenada x ou y Sugira um modo de solucionar tais problemas 353 a b 354 a b 355 a Caçafantasmas e fantasmas Um grupo de n caçafantasmas está perseguindo n fantasmas Cada caçafantasmas está armado com um pacote de prótons que dispara um feixe em um fantasma erradicandoo Um feixe segue em linha reta e termina quando atinge o fantasma Os caçafantasmas decidem adotar a estratégia a seguir Eles formarão pares com os fantasmas constituindo n pares caçafantasma e então simultaneamente cada caçafantasmas dispara um feixe no fantasma que escolheu Como sabemos é muito perigoso permitir que os feixes se cruzem e assim os caçafantasmas devem escolher pares de modo que nenhum feixe cruze com outro Suponha que a posição de cada caçafantasmas e cada fantasma sejaum ponto fixo no plano e que não haja três posições que sejam colineares Demonstre que existe uma reta que passa por um caçafantasmas e um fantasma tal que o número de caçafantasmas em um lado da reta seja igual ao número de fantasmas no mesmo lado Descreva como determinar tal reta no tempo On lg n Dê um algoritmo de tempo On2 lg n para formar os pares caçafantasmasfantasmas de tal modo que nenhum feixe cruze outro Pegavaretas O professor Charon tem um conjunto de n varetas empilhadas umas sobre as outras em alguma configuração Cada vareta é especificada por suas extremidades e cada extremidade é uma tripla ordenada que dá suas coordenadas x y z Nenhuma vareta está na vertical Ele deseja retirar todas as varetas uma de cada vez sob a condição de que ele só pode retirar uma vareta se não houver outra vareta sobre ela Dê um procedimento que toma duas varetas a e b e informa se a está acima abaixo ou não está relacionada com b Descreva um algoritmo eficiente que determine se é possível retirar todas as varetas e se isso for possível dê uma ordem válida para a retirada das varetas Distribuições de envoltórias esparsas Considere o problema de calcular a envoltória convexa de um conjunto de pontos no plano que tenham sido extraídos de acordo com alguma distribuição aleatória conhecida Às vezes o número de pontos ou tamanho da envoltória convexa de n pontos extraídos de tal distribuição tem esperança On1 para alguma constante 0 Dizemos que tal distribuição é de envoltória esparsa As distribuições de envoltória esparsa incluem o seguinte Pontos extraídos uniformemente de um disco de raio unitário A envoltória convexa tem tamanho esperado Qn13 Pontos extraídos uniformemente do interior de um polígono convexo com k lados para qualquer constante k A envoltória convexa tem tamanho esperado Qlg n Pontos extraídos de acordo com uma distribuição normal bidimensional A envoltória convexa tem o tamanho esperado QIg n Dados dois polígonos convexos com n1 e n2 vértices respectivamente mostre como calcular a envoltória convexa de todos os n1 n2 pontos no tempo On1 n2 Os polígonos podem se sobrepor b Mostre como calcular a envoltória convexa de um conjunto de n pontos extraídos independentemente de acordo com uma distribuição de envoltórias esparsas no tempo do caso médio On Sugestão Determine recursivamente as envoltórias convexas dos primeiros n2 pontos e dos n2 pontos seguintes e depois combine os resultados NOTAS DO CAPÍTULO Este capítulo mal arranha a superfície dos algoritmos e técnicas de geometria computacional Livros sobre geometria computacional incluem os de Preparata e Shamos 282 Edelsbrunner 99 e ORourke 269 Embora a geometria tenha sido estudada desde a Antiguidade o desenvolvimento de algoritmos para problemas geométricos é relativamente novo Preparata e Shamos observam que a primeira noção da complexidade de um problema foi dada por E Lemoine em 1902 Ele estava estudando construções euclidianas aquelas que usam uma régua e um compasso e criou um conjunto de cinco primitivas colocar uma perna do compasso sobre um ponto dado colocar uma perna do compasso sobre uma reta dada desenhar um círculo passar a borda da régua por um ponto dado e desenhar uma reta Lemoine estava interessado no número de primitivas necessárias para executar uma determinada construção ele denominou essa quantidade simplicidade da construção O algoritmo da Seção 332 que determina se quaisquer segmentos se interceptam se deve a Shamos e Hoey 313 A versão original da varredura de Graham é dada por Graham 150 O algoritmo de embrulhar pacote se deve a Jarvis 189 Usando um modelo de computação de árvore de decisão Yao 359 provou o limite inferior de Ωn lg n para o tempo de execução de qualquer algoritmo de envoltórias convexas Quando o número de vértices h da envoltória convexa é levado em conta o algoritmo de poda e busca de Kirkpatrick e Seidel 206 que demora o tempo On lg h é assintoticamente ótimo O algoritmo de divisão e conquista de tempo On lg n para determinar o par de pontos mais próximo foi criado por Shamos e aparece em Preparata e Shamos 282 Preparata e Shamos também mostram que o algoritmo é assintoticamente ótimo em um modelo de árvore de decisão 1Na realidade o produto cruzado é um conceito tridimensional É um vetor perpendicular a p1 e p2 de acordo com a regra da mão direita e cuja magnitude é x1y2 x2 y1 Contudo neste capítulo achamos conveniente tratar o produto cruzado apenas como o valor x1y2 x2 y1 2 Se permitirmos que três segmentos se interceptem no mesmo ponto pode haver um segmento c interveniente que intercepta a e b no ponto p Isto é podemos ter a w c e c w b para todas as linhas de varredura w à esquerda de p para as quais a w b O Exercício 3328 pede que você mostre que AnySegmentsIntersect é correto ainda que três segmentos se interceptem no mesmo ponto 34 PROBLEMAS NPCOMPLETOS Quase todos os algoritmos que estudamos até aqui são algoritmos de tempo polinomial para entradas de tamanho n seu tempo de execução do pior caso é Onk para alguma constante k É natural imaginar que todos os problemas podem ser resolvidos em tempo polinomial A resposta é não Por exemplo existem problemas como o famoso problema da parada de Turing que não podem ser resolvidos por qualquer computador não importa por quanto tempo seja executado Também existem problemas que podem ser resolvidos mas não no tempo Onk para qualquer constante k Em geral pensamos que problemas que podem ser resolvidos por algoritmo de tempo polinomial são tratáveis ou fáceis e que problemas que exigem tempo superpolinomial são intratáveis ou difíceis Porém o assunto deste capítulo é uma classe interessante de problemas denominados problemas NP completos cujo status é desconhecido Ainda não foi descoberto nenhum algoritmo de tempo polinomial para um problema NPcompleto e ninguém ainda conseguiu provar que não pode existir nenhum algoritmo de tempo polinomial para nenhum deles Essa questão denominada P NP continua sendo um dos mais profundos e intrigantes problemas de pesquisa ainda em aberto na teoria da ciência da computação desde que foi proposto pela primeira vez em 1971 Vários problemas NPcompletos são particularmente torturantes porque à primeira vista parecem ser semelhantes a problemas que sabemos resolver em tempo polinomial Em cada um dos pares de problemas a seguir um deles pode ser resolvido em tempo polinomial e o outro é NPcompleto mas a diferença entre eles parece insignificante Caminhos simples mínimos e caminhos simples de comprimento máximo No Capítulo 24 vimos que até mesmo com pesos de arestas negativos podemos encontrar caminhos mínimos que partem de uma única origem em um grafo dirigido G V E no tempo OVE Contudo determinar o caminho simples de comprimento máximo entre dois vértices é difícil Simplesmente determinar se um grafo contém um caminho simples com pelo menos um determinado número de arestas é NPcompleto Passeio de Euler e ciclo hamiltoniano Um passeio de Euler de um grafo conexo dirigido G V E é um ciclo que percorre cada aresta de G exatamente uma vez embora possa visitar cada vértice mais de uma vez Pelo Problema 223 podemos determinar se um grafo tem um passeio de Euler no tempo de apenas OE e de fato podemos encontrar as arestas do passeio de Euler no tempo OE Um ciclo hamiltoniano de um grafo dirigido G V E é um ciclo simples que contém cada vértice em V Determinar se um grafo dirigido tem um ciclo hamiltoniano é NPcompleto Mais adiante neste capítulo provaremos que determinar se um grafo não dirigido tem um ciclo hamiltoniano é NPcompleto Satisfazibilidade 2CNF e satisfazibilidade 3CNF Uma fórmula booleana contém variáveis cujos valores são 0 ou 1 conectivos booleanos como AND OR e NOT e parênteses Uma fórmula booleana é satisfazível se existe alguma atribuição dos valores 0 e 1 às suas variáveis que faça com que ela seja avaliada como 1 Definiremos os termos em linguagem mais formal mais adiante neste capítulo porém informalmente uma fórmula booleana está em forma normal kconjuntiva ou kCNF se for o AND de cláusulas OR de exatamente k variáveis ou de suas negações Por exemplo a fórmula booleana x1 x2 x1 x3 x2 x3 está em 2CNF Ela tem a atribuição que satisfaz x1 1 x2 0 x3 1 Embora possamos determinar em tempo polinomial s uma fórmula 2CNF é satisfazível veremos mais adiante neste capítulo que determinar se uma fórmula 3CNF é satisfazível é NPcompleto NPcompletude e as classes P e NP Ao longo deste capítulo nos referiremos a três classes de problemas P NP e NPC sendo a última classe a dos problemas NPcompletos Aqui as descrevemos de um modo informal mais adiante as definiremos em linguagem mais formal A classe P consiste nos problemas que podem ser resolvidos em tempo polinomial Mais especificamente são problemas que podem ser resolvidos no tempo Onk para alguma constante k onde n é o tamanho da entrada para o problema A maioria dos problemas examinados em capítulos anteriores pertence à classe P A classe NP consiste nos problemas que são verificáveis em tempo polinomial O que significa um problema ser verificável Se tivéssemos algum tipo de certificado de uma solução poderíamos verificar se o certificado é correto em tempo polinomial para o tamanho da entrada para o problema Por exemplo no problema do ciclo hamiltoniano dado um grafo dirigido G V E um certificado seria uma sequência v1 v2 v3 vV de V vértices É fácil verificar em tempo polinomial que vi vi1 E para i 1 2 3 V 1 e também que vV v1 E Como outro exemplo para satisfazibilidade 3CNF um certificado seria uma atribuição de valores a variáveis Poderíamos verificar em tempo polinomial que essa atribuição satisfaz a fórmula booleana Qualquer problema em P também está em NP visto que se um problema está em P podemos resolvêlo em tempo polinomial sem nem mesmo ter um certificado Formalizaremos essa noção mais adiante neste capítulo mas por enquanto podemos acreditar que P NP A questão em aberto é se P é ou não um subconjunto próprio de NP Informalmente um problema está na classe NPC e nos referiremos a ele como um problema NPcompleto se ele está em NP e é tão difícil quanto qualquer problema em NP Definiremos formalmente o que significa ser tão difícil quanto qualquer problema em NP mais adiante neste capítulo Enquanto isso afirmaremos sem provar que se qualquer problema NPcompleto pode ser resolvido em tempo polinomial então todo problema em NP tem um algoritmo de tempo polinomial A maioria dos teóricos da ciência da computação acredita que os problemas NP completos sejam intratáveis já que dada a ampla faixa de problemas NPcompletos que foram estudados até hoje sem que ninguém tenha descoberto uma solução de tempo polinomial para nenhum deles seria verdadeiramente espantoso se todos eles pudessem ser resolvidos em tempo polinomial Ainda assim dado o esforço dedicado até agora para provar que os problemas NPcompletos são intratáveis sem um resultado conclusivo não podemos descartar a possibilidade de que os problemas NPcompletos são de fato resolvíveis em tempo polinomial Para se tornar um bom projetista de algoritmos você deve entender os rudimentos da teoria da NPcompletude Se puder determinar que um problema é NPcompleto estará dando uma boa evidência de sua intratabilidade Então como engenheiro seria melhor empregar seu tempo no desenvolvimento de um algoritmo de aproximação veja o Capítulo 35 ou resolvendo um caso especial tratável em vez de procurar um algoritmo rápido que resolva o problema exatamente Além disso muitos problemas naturais e interessantes que à primeira vista não parecem mais difíceis que ordenação busca de grafos ou fluxo em rede são de fato NPcompletos Portanto é importante se familiarizar com essa classe notável de problemas Como mostrar que um problema é NPcompleto uma visão geral As técnicas que empregamos para mostrar que um determinado problema é NPcompleto são fundamentalmente diferentes das técnicas usadas em quase todo este livro para projetar e analisar algoritmos Quando dizemos que um problema é NPcompleto fica subentendido que tratase de um problema difícil de resolver ou ao menos que achamos que é difícil e não de um problema fácil de resolver Não estamos tentando provar a existência de um algoritmo eficiente mas que provavelmente não existe nenhum algoritmo eficiente Por essa perspectiva as provas da NP completude são um pouco parecidas com a prova na Seção 81 de um limite inferior de tempo n lg n para qualquer algoritmo de ordenação por comparação contudo as técnicas específicas usadas para mostrar a NPcompletude são diferentes do método da árvore de decisão usado na Seção 81 Contamos com três conceitos fundamentais para mostrar que um problema é NPcompleto Problemas de decisão versus problemas de otimização Muitos problemas de interesse são problemas de otimização para os quais cada solução possível isto é válida tem um valor associado e para os quais desejamos encontrar uma solução viável com o melhor valor Por exemplo em um problema que denominamos SHORTESTPATH temos um grafo não dirigido G e vértices u e v e desejamos encontrar o caminho de u a v que utiliza o menor número de arestas Em outras palavras SHORTEST PATH é o problema do caminho mínimo para um par em um grafo não ponderado e não dirigido Porém a NP completude não se aplica diretamente a problemas de otimização mas a problemas de decisão para os quais a resposta é simplesmente sim ou não ou em linguagem mais formal 1 ou 0 Embora problemas NPcompletos estejam confinados ao reino dos problemas de decisão podemos tirar proveito de uma relação conveniente entre problemas de otimização e problemas de decisão Normalmente podemos expressar um determinado problema de otimização como um problema de decisão relacionado impondo um limite para o valor a ser otimizado Por exemplo um problema de decisão relacionado com SHORTESTPATH é PATH dado um grafo dirigido G vértices u e v e um inteiro k existe um caminho de u a v que consiste em no máximo k arestas A relação entre um problema de otimização e seu problema de decisão relacionado age a nosso favor quando tentamos mostrar que o problema de otimização é difícil Isso porque o problema de decisão é de certo modo mais fácil ou ao menos não é mais difícil Como um exemplo específico podemos resolver PATH resolvendo SHORTESTPATH e depois comparando o número de arestas no caminho mínimo encontrado com o valor do parâmetro k do problema de decisão Em outras palavras se um problema de otimização é fácil seu problema de decisão relacionado também é fácil Em termos mais relevantes para a NPcompletude se pudermos apresentar evidências de que um problema de decisão é difícil também apresentamos evidências de que seu problema de otimização relacionado é difícil Assim embora restrinja a atenção a problemas de decisão muitas vezes a teoria da NPcompletude também tem implicações para problemas de otimização Reduções Essa ideia de mostrar que um problema não é mais difícil ou não é mais fácil que outro se aplica até mesmo quando ambos são problemas de decisão Tiramos proveito dessa ideia em quase todas as provas da NPcompletude como veremos em seguida Vamos considerar um problema de decisão A que gostaríamos de resolver em tempo polinomial Denominamos a entrada para um determinado problema por instância desse problema por exemplo em PATH uma instância seria um grafo G dado vértices específicos u e v de G e um determinado inteiro k Agora suponha que já sabemos como resolver um problema de decisão diferente B em tempo polinomial Finalmente suponha que temos um procedimento que transforma qualquer instância a de A em alguma instância b de B com as seguintes características Figura 341 Como usar um algoritmo de redução de tempo polinomial para resolver um problema de decisão A em tempo polinomial dado um algoritmo de decisão de tempo polinomial para um outro problema B Em tempo polinomial transformamos uma instância a de A em uma instância b de B resolvemos B em tempo polinomial e usamos a resposta para b como a resposta para α 1 2 3 A transformação demora tempo polinomial As respostas são as mesmas Isto é a resposta para a é sim se e somente se a resposta para β também é sim Denominamos tal procedimento algoritmo de redução de tempo polinomial e como mostra a Figura 341 ele proporciona um meio para resolver o problema A em tempo polinomial Dada uma instância a do problema A use um algoritmo de redução de tempo polinomial para transformála em uma instância b do problema B Execute o algoritmo de decisão de tempo polinomial para B para a instância b Use a resposta de b como a resposta para a Desde que cada uma dessas etapas demore tempo polinomial as três juntas também demoram um tempo polinomial e assim temos um modo de decidir para α em tempo polinomial Em outras palavras reduzindo a solução do problema A à solução do problema B usamos a facilidade de B para provar a facilidade de A Lembrando que a NPcompletude consiste em mostrar o quanto um problema é difícil em vez de mostrar o quanto ele é fácil usamos reduções de tempo polinomial ao contrário para mostrar que um problema é NPcompleto Vamos avançar com essa ideia e mostrar como poderíamos usar reduções de tempo polinomial para demonstrar que não pode existir nenhum algoritmo de tempo polinomial para um determinado problema B Suponha que tenhamos um problema de decisão A para o qual já sabemos que não pode existir nenhum algoritmo de tempo polinomial Não vamos nos preocupar por enquanto com a maneira de encontrar tal problema A Suponha ainda que tenhamos uma redução de tempo polinomial que transforma instâncias de A em instâncias de B Agora podemos usar uma prova simples por contradição para mostrar que não pode existir nenhum algoritmo de tempo polinomial para B Suponha o contrário isto é suponha que B tenha um algoritmo de tempo polinomial Então usando o método mostrado na Figura 341 teríamos um modo de resolver o problema A em tempo polinomial o que contradiz nossa hipótese da inexistência de algoritmo de tempo polinomial para A Para a NPcompletude não podemos supor que não exista absolutamente nenhum algoritmo de tempo polinomial para o problema A Contudo a metodologia da prova é semelhante no sentido de que provamos que o problema B é NPcompleto considerando que o problema A também é NPcompleto Um primeiro problema NPcompleto Como a técnica de redução se baseia em ter um problema que já sabemos ser NPcompleto para provar que um problema diferente é NPcompleto precisamos de um primeiro problema NPcompleto O problema que usaremos é o da satisfazibilidade de circuitos no qual temos um circuito combinacional booleano composto por portas AND OR e NOT e desejamos saber se existe algum conjunto de entradas booleanas para esse circuito que faça sua saída ser 1 Provaremos que esse primeiro problema é NPcompleto na Seção 343 Resumo do capítulo Este capítulo estuda os aspectos da NPcompletude que estão mais diretamente relacionados com a análise de algoritmos Na Seção 341 formalizamos nossa noção de problema e definimos a classe de complexidade P de problemas de decisão que podem ser resolvidos em tempo polinomial Também veremos como essas noções se encaixam na estrutura da teoria de linguagens formais A Seção 342 define a classe NP de problemas de decisão cujas soluções podem ser verificadas em tempo polinomial Também propõe formalmente a questão P NP A Seção 343 mostra que podemos relacionar problemas por meio de reduções de tempo polinomial define NP completude e esboça uma prova de que um problema denominado satisfazibilidade de circuitos é NPcompleto Depois de encontrado um problema NPcompleto mostramos na Seção 344 como provar que outros problemas são NPcompletos de um modo muito mais simples pela metodologia de reduções Ilustramos essa metodologia mostrando que dois problemas de satisfazibilidade de fórmulas são NPcompletos Com reduções adicionais mostramos na Seção 345 que vários outros problemas são NPcompletos 341 TEMPO POLINOMIAL Começamos nosso estudo de NPcompletude formalizando nossa noção de problemas resolvíveis em tempo polinomial Em geral consideramos que esses problemas são tratáveis mas por razões filosóficas e não matemáticas Podemos oferecer três argumentos de sustentação O primeiro é que embora seja razoável considerar como intratável um problema que exige o tempo Qn100 um número bem pequeno de problemas práticos exige tempo da ordem de um polinômio de grau tão alto Os problemas calculáveis em tempo polinomial encontrados na prática normalmente exigem um tempo muito menor A experiência mostrou que tão logo seja descoberto o primeiro algoritmo de tempo polinomial para um problema em geral algoritmos mais eficientes vêm logo atrás Ainda que o melhor algoritmo atual para um problema tenha um tempo de execução de Qn100 é provável que um algoritmo com um tempo de execução muito melhor logo seja descoberto O segundo é que para muitos modelos razoáveis de computação um problema que pode ser resolvido em tempo polinomial em um modelo pode ser resolvido em tempo polinomial em outro modelo Por exemplo a classe de problemas resolvíveis em tempo polinomial pela máquina de acesso aleatório serial usada na maior parte deste livro é igual à classe de problemas resolvíveis em tempo polinomial em máquinas abstratas de Turing1 Também é igual à classe de problemas resolvíveis em tempo polinomial em um computador paralelo quando o número de processadores cresce polinomialmente com o tamanho da entrada O terceiro é que a classe de problemas resolvíveis em tempo polinomial tem propriedades de fechamento interessantes já que os polinômios são fechados por adição multiplicação e composição Por exemplo se a saída de um algoritmo de tempo polinomial é alimentada na entrada de outro o algoritmo composto é polinomial O Exercício 3415 pede para mostrar que se um algoritmo faz um número constante de chamadas a subrotinas de tempo polinomial e realiza uma quantidade adicional de trabalho que também leva tempo polinomial então o tempo de execução do algoritmo composto é polinomial Problemas abstratos Para entender a classe de problemas de tempo polinomial resolvíveis primeiro devemos ter uma noção formal do que seja um problema Definimos um problema abstrato Q como uma relação binária entre um conjunto I de instâncias de problemas e um conjunto S de soluções de problemas Por exemplo uma instância de SHORTEST PATH é uma tripla que consiste em um grafo e dois vértices Uma solução é uma sequência de vértices no grafo talvez com a sequência vazia denotando que não existe nenhum caminho O problema SHORTESTPATH em si é a relação que associa cada instância de um grafo e dois vértices a um caminho mínimo no grafo que liga os dois vértices Visto que caminhos mínimos não são necessariamente únicos uma dada instância de problema pode ter mais de uma solução Essa formulação de um problema abstrato é mais geral que o necessário para nossos propósitos Como vimos antes a teoria de NPcompletude restringe a atenção a problemas de decisão aqueles que têm uma solução simnão Nesse caso podemos ver um problema de decisão abstrato como uma função que mapeia o conjunto de instâncias I para o conjunto de soluções 0 1 Por exemplo um problema de decisão relacionado com SHORTESTPATH é o problema PATH que vimos antes Se i G u v k é uma instância do problema de decisão PATH então PATHi 1 sim se um caminho mínimo de u até v tem no máximo k arestas e PATHi 0 não em caso contrário Muitos problemas abstratos não são problemas de decisão mas sim problemas de otimização que exigem que algum valor seja minimizado ou maximizado Porém como vimos anteriormente em geral podemos reformular um problema de otimização como um problema de decisão que não é mais difícil que o primeiro Codificações Para um programa de computador resolver um problema abstrato temos de representar as instâncias do problema de um modo que o programa entenda Uma codificação de um conjunto S de objetos abstratos é um mapeamento e de S para o conjunto de cadeias binárias2 Por exemplo todos conhecemos a codificação dos números naturais 0 1 2 3 4 como as cadeias 0 1 10 11 100 Usando essa codificação e17 10001 Se você já viu representações de computador para caracteres do teclado provavelmente já viu o código ASCII pelo qual a codificação de A é 1000001 Podemos codificar um objeto composto como uma cadeia binária combinando as representações de suas partes constituintes Polígonos grafos funções pares ordenados programas todos podem ser codificados como cadeias binárias Assim um algoritmo de computador que resolve algum problema de decisão abstrato na realidade toma uma codificação de uma instância de problema como entrada Denominamos por problema concreto um problema cujo conjunto de instâncias é o conjunto de cadeias binárias Dizemos que um algoritmo resolve um problema concreto no tempo OTn se dada uma instância i do problema de comprimento n i o algoritmo pode produzir a solução no tempo máximo OTn3 Portanto um problema concreto é resolvível em tempo polinomial se existe um algoritmo para resolvêlo no tempo Onk para alguma constante k Agora podemos definir formalmente a classe de complexidade P como o conjunto de problemas de decisão concretos resolvíveis em tempo polinomial Podemos usar codificações para mapear problemas abstratos para problemas concretos Dado um problema de decisão abstrato Q que mapeia um conjunto de instâncias I para 0 1 uma codificação e I 0 1 pode induzir um problema de decisão concreto relacionado que denotamos por eQ4 Se a solução para uma instância de problema abstrato i I é Qi 0 1 então a solução para a instância de problema concreto e i 0 1 também é Qi Como detalhe técnico algumas cadeias binárias poderiam representar uma instância de problema abstrato que não é significativa Por conveniência convencionamos que qualquer cadeia desse tipo mapeia arbitrariamente para 0 Assim o problema concreto produz as mesmas soluções que o problema abstrato para instâncias de cadeias binárias que representam as codificações de instâncias do problema abstrato Gostaríamos de estender a definição de resolvibilidade em tempo polinomial de problemas concretos para problemas abstratos usando codificações como ponte mas gostaríamos também que a definição fosse independente de qualquer codificação específica Isto é a eficiência da solução de um problema não deve depender do modo como o problema é codificado Infelizmente ela depende bastante da codificação Por exemplo suponha que um inteiro k deva ser dado como a única entrada para um algoritmo e suponha que o tempo de execução do algoritmo seja Qk Se o inteiro k é dado em unário uma cadeia de k 1s então o tempo de execução do algoritmo é On para entradas de comprimento n que é tempo polinomial Todavia se usarmos a representação binária mais natural do inteiro k o comprimento da entrada é n lg k 1 Nesse caso o tempo de execução do algoritmo é Qk Q2n que é exponencial em relação ao tamanho da entrada Assim dependendo da codificação o algoritmo é executado em tempo polinomial ou em tempo superpolinomial A codificação de um problema abstrato é muito importante para nossa compreensão do tempo polinomial Na realidade não podemos nem falar em resolver um problema abstrato sem primeiro especificar uma codificação Apesar disso na prática se eliminarmos codificações dispendiosas como as unárias a codificação propriamente dita de um problema fará pouca diferença para o problema ser resolvido ou não em tempo polinomial Por exemplo representar inteiros em base 3 em vez de em base 2 binária não tem nenhum efeito sobre a solução desse problema em tempo polinomial ou não já que um inteiro representado em base 3 pode ser convertido em um inteiro representado em base 2 em tempo polinomial Dizemos que uma função f 0 1 0 1 é calculável em tempo polinomial se existe um algoritmo de tempo polinomial A que dada qualquer entrada x 0 1 produz como saída fx Para algum conjunto I de instâncias de problemas dizemos que duas codificações e1 e e2 são polinomialmente relacionadas se existem duas funções calculáveis em tempo polinomial f12 e f21 tais que para qualquer i l temos f12e1i e2i e f21e2i e1i5 Isto é um algoritmo de tempo polinomial pode calcular a codificação e2i pela codificação e1i e viceversa Se duas codificações e1 e e2 de um problema abstrato são polinomialmente relacionadas resolver esse problema em tempo polinomial ou não independe da codificação que usamos como mostra o lema a seguir Lema 341 Seja Q um problema de decisão abstrato para um conjunto de instâncias I e sejam e1 e e2 codificações polinomialmente relacionadas em I Então e1Q P se e somente se e2Q P Prova Basta provar o enunciado na forma em que está já que a forma inversa é simétrica Portanto suponha que e1 Q possa ser resolvida no tempo Onk para alguma constante k Além disso suponha que para qualquer instância de problema i a codificação e1i possa ser calculada pela codificação e2i no tempo Onc para alguma constante c onde n e2i Para resolver o problema e2Q para a entrada e2i primeiro calculamos e1i e depois executamos o algoritmo para e1 Q em e1i Quanto tempo isso demora Converter codificações demora o tempo Onc e portanto e2i Onc já que a saída de um computador serial não pode ser mais longa que seu tempo de execução Resolver o problema para e1i demora o tempo Oe2i k Onck que é polinomial já que tanto c quanto k são constantes Assim codificar as instâncias de um problema em binário ou em base 3 não afeta sua complexidade isto é se ele pode ser resolvido em tempo polinomial ou não porém se as instâncias forem codificadas em unário sua complexidade pode mudar Para que possamos conversar independentemente da codificação vamos supor em geral que instâncias de problemas estão codificadas em qualquer forma razoável e concisa a menos que digamos especificamente que não Para sermos exatos vamos supor que a codificação de um inteiro está polinomialmente relacionada com sua representação binária e que a codificação de um conjunto finito está polinomialmente relacionada com a sua codificação por meio de uma lista de seus elementos entre chaves e separados por vírgulas ASCII é um desses esquemas de codificação Com tal codificação padrão em mãos podemos derivar codificações razoáveis de outros objetos matemáticos como tuplas grafos e fórmulas Para denotar a codificaçãopadrão de um objeto colocaremos o objeto entre colchetes angulares Assim G denota a codificação padrão de um grafo G Desde que utilizemos implicitamente uma codificação que está polinomialmente relacionada com essa codificação padrão podemos conversar diretamente sobre problemas abstratos sem fazer referência a qualquer codificação particular sabendo que a resolução de um problema abstrato em tempo polinomial não é afetada pela escolha da codificação Daqui por diante vamos supor em geral que todas as instâncias de problemas são cadeias binárias codificadas segundo a codificaçãopadrão a menos que digamos explicitamente que não Além disso normalmente negligenciaremos a distinção entre problemas abstratos e concretos Contudo o leitor deve ficar atento aos problemas que surgem na prática nos quais uma codificaçãopadrão não é óbvia e a codificação faz diferença Um arcabouço de linguagens formais Focalizar problemas de decisão nos permite tirar proveito do mecanismo da teoria das linguagens formais portanto faremos aqui uma revisão de algumas definições dessa teoria Um alfabeto S é um conjunto finito de símbolos Uma linguagem L sobre S é qualquer conjunto de cadeias formadas por símbolos extraídos de S Por exemplo se S 0 1 o conjunto L 10 11 101 111 1011 1101 10001 é a linguagem de representações binárias de números primos Denotamos a cadeia vazia por a linguagem vazia por 0 e a linguagem de todas as cadeias sobre S por S Por exemplo se S 0 1 então S 0 1 00 01 10 11 000 é o conjunto de todas as cadeias binárias Toda linguagem L sobre S é um subconjunto de S Podemos efetuar uma variedade de operações em linguagens Operações da teoria dos conjuntos como união e interseção decorrem diretamente das definições da teoria dos conjuntos Definimos o complemento de L por L S L A concatenação L1L2 de duas linguagens L1 e L2 é a linguagem O fechamento ou estrela de Kleene de uma linguagem L é a linguagem onde Lk é a linguagem obtida pela concatenação de L com ela mesma k vezes Do ponto de vista da teoria das linguagens o conjunto de instâncias para qualquer problema de decisão Q é simplesmente o conjunto S onde S 0 1 Visto que Q é completamente caracterizado pelas instâncias de problema que produzem uma resposta 1 sim podemos ver Q como uma linguagem L em S 0 1 onde Por exemplo o problema de decisão PATH tem a linguagem correspondente Onde for conveniente às vezes usaremos o mesmo nome PATH nesse caso para nos referir a um problema de decisão e à sua linguagem correspondente O arcabouço das linguagens formais nos permite expressar concisamente a relação entre problemas de decisão e algoritmos que os resolvem Dizemos que um algoritmo A aceita uma cadeia x 0 1 se dada a entrada x a saída do algoritmo Ax é 1 A linguagem aceita por um algoritmo A é o conjunto de cadeias L x 0 1 Ax 1 isto é o conjunto de cadeias que o algoritmo aceita Um algoritmo A rejeita uma cadeia x se Ax 0 Ainda que a linguagem L seja aceita por um algoritmo A o algoritmo não rejeitará necessariamente uma cadeia x L dada como entrada para ele Por exemplo o algoritmo pode entrar em laço para sempre Uma linguagem L é decidida por um algoritmo A se toda cadeia binária em L é aceita por A e toda cadeia binária não pertencente a L é rejeitada por A Uma linguagem L é aceita em tempo polinomial por um algoritmo A se ela é aceita por A e se além disso existe uma constante k tal que para qualquer cadeia x L de comprimento n o algoritmo A aceita x no tempo Onk Uma linguagem L é decidida em tempo polinomial por um algoritmo A se existe uma constante k tal que para qualquer cadeia x 0 1 de comprimento n o algoritmo decide corretamente se x L no tempo Onk Assim para aceitar uma linguagem basta que um algoritmo produza uma resposta quando lhe é dada uma cadeia em L mas para decidir uma linguagem ele deve aceitar ou rejeitar corretamente toda cadeia em 0 1 Como exemplo a linguagem PATH pode ser aceita em tempo polinomial Um algoritmo de aceitação de tempo polinomial verifica se G codifica um grafo não dirigido verifica se u e v são vértices em G usa busca em largura para calcular um caminho mínimo de u a v em G e depois compara o número de arestas no caminho mínimo obtido com k Se G codifica um grafo não dirigido e o caminho de u a v tem no máximo k arestas o algoritmo produz 1 e para Caso contrário o algoritmo roda para sempre Todavia esse algoritmo não decide PATH já que não produz explicitamente 0 para instâncias nas quais um caminho mínimo tem mais de k arestas Um algoritmo de decisão para PATH deve rejeitar explicitamente cadeias binárias que não pertencem a PATH Para um problema de decisão como PATH tal algoritmo de decisão é fácil de projetar em vez de ser executado para sempre quando não há um caminho de u a v com no máximo k arestas ele produz 0 e para No caso de outros problemas como o problema da parada de Turing existe um algoritmo de aceitação mas nenhum algoritmo de decisão Podemos definir informalmente uma classe de complexidade como um conjunto de linguagens cuja pertinência é determinada por uma medida de complexidade como o tempo de execução de um algoritmo que determina se dada cadeia x pertence à linguagem L A definição real de uma classe de complexidade é um pouco mais técnica6 Usando esse arcabouço da teoria das linguagens podemos dar uma definição alternativa da classe de complexidade P 3411 3412 3413 3414 3415 De fato P também é a classe de linguagens que podem ser aceitas em tempo polinomial Teorema 342 P L L é aceita por um algoritmo de tempo polinomial Prova Como a classe de linguagens decidida por algoritmos de tempo polinomial é um subconjunto da classe de linguagens aceita por algoritmos de tempo polinomial basta mostrar que se L é aceita por um algoritmo de tempo polinomial ela é decidida por um algoritmo de tempo polinomial Seja L a linguagem aceita por algum algoritmo de tempo polinomial A Usaremos um argumento de simulação clássico para construir um outro algoritmo de tempo polinomial A que decida L Como A aceita L no tempo Onk para alguma constante k também existe uma constante c tal que A aceita L em no máximo cnk etapas Para qualquer cadeia de entrada x o algoritmo A simula cnk etapas de A Após simular cnk etapas o algoritmo A inspeciona o comportamento de A Se A aceitou x então A aceita x produzindo um 1 Se A não aceitou x então A rejeita x produzindo um 0 A sobrecarga da simulação de A por A não aumenta o tempo de execução de mais de um fator polinomial e assim A é um algoritmo de tempo polinomial que decide L Observe que a prova do Teorema 342 é não construtiva Para dada linguagem L P na verdade podemos não conhecer um limite para o tempo de execução para o algoritmo A que aceita L Apesar disso sabemos que tal limite existe e portanto que existe um algoritmo A que pode verificar o limite embora talvez não seja fácil encontrar o algoritmo A Exercícios Defina o problema de otimização LONGESTPATHLENGTH como a relação que associa cada instância de um grafo não dirigido e dois vértices ao número de arestas em um caminho simples de comprimento máximo entre os dois vértices Defina o problema de decisão LONGESTPATH G u v k G V E é um grafo não dirigido u v V k 0 é um inteiro e existe um caminho simples de u a v em G que consiste em pelo menos k arestas Mostre que o problema de otimização LONGESTPATHLENGTH pode ser resolvido em tempo polinomial se e somente se LONGESTPATH P Dê uma definição formal para o problema de determinar o ciclo simples de comprimento máximo em um grafo não dirigido Dê um problema de decisão relacionado Dê a linguagem correspondente ao problema de decisão Dê uma codificação formal de grafos dirigidos como cadeias binárias usando uma representação por matriz de adjacências Faça o mesmo usando uma representação por lista de adjacências Demonstre que as duas representações são polinomialmente relacionadas O algoritmo de programação dinâmica para o problema da mochila 01 que é apresentado no Exercício 162 2 é um algoritmo de tempo polinomial Explique sua resposta Mostre que se um algoritmo faz no máximo um número constante de chamadas a subrotinas de tempo polinomial e realiza uma quantidade adicional de trabalho que também demora tempo polinomial ele é executado em tempo polinomial Mostre também que um número polinomial de chamadas a subrotinas de tempo polinomial pode resultar em um algoritmo de tempo exponencial 3416 342 Mostre que a classe P vista como um conjunto de linguagens é fechada sob união interseção concatenação complemento e asterisco de Kleene Isto é se L1 L2 P então L1 L2 P L1 L2 P L1L2 P L1 P e L1 P VERIFICAÇÃO EM TEMPO POLINOMIAL Agora examinaremos algoritmos que verificam pertinência a linguagens Por exemplo suponha que para uma dada instância G u v k do problema de decisão PATH também temos um caminho p de u a v É fácil verificar se p é um caminho em G e se o comprimento de p é no máximo k e se for podemos visualizar p como um certificado de que a instância de fato pertence a PATH Para o problema de decisão PATH esse certificado não parece nos dar muito Afinal PATH pertence a P de fato podemos resolver PATH em tempo linear e portanto verificar a pertinência de um determinado certificado demora tanto tempo quanto resolver o problema partindo do zero Examinaremos agora um problema para o qual ainda não conhecemos nenhum algoritmo de decisão de tempo polinomia porém dado um certificado a verificação é fácil Figura 342 a Um grafo que representa os vértices arestas e faces de um dodecaedro com um ciclo hamiltoniano mostrado por arestas sombreadas b Um grafo bipartido com um número ímpar de vértices Qualquer grafo desse tipo é não hamiltoniano Ciclos hamiltonianos O problema de determinar um ciclo hamiltoniano em um grafo não dirigido é estudado há mais de cem anos Formalmente um ciclo hamiltoniano de um grafo não dirigido G V E é um ciclo simples que contém cada vértice em V Um grafo que contém um ciclo hamiltoniano é denominado hamiltoniano caso contrário ele é não hamiltoniano O nome é uma homenagem a W R Hamilton que descreveu um jogo matemático no dodecaedro Figura 342a no qual um jogador fixa cinco alfinetes em quaisquer cinco vértices consecutivos e o outro jogador deve completar o caminho para formar um ciclo que contenha o todos os vértices7 O dodecaedro é hamiltoniano e a Figura 342a mostra um ciclo hamiltoniano Contudo nem todos os grafos são hamiltonianos Por exemplo a Figura 342b mostra um grafo bipartido com um número ímpar de vértices O Exercício 3422 pede que você mostre que todos esses grafos são não hamiltonianos Podemos definir o problema do ciclo hamiltoniano Um grafo G tem um ciclo hamiltoniano como uma linguagem formal HAMCYCLE G G é um grafo hamiltoniano Como poderia um algoritmo decidir a linguagem HAMCYCLE Dada uma instância de problema G um algoritmo de decisão possível organiza uma lista de todas as permutações dos vértices de G e depois verifica cada permutação para ver se ela é um caminho hamiltoniano Qual é o tempo de execução desse algoritmo Se usarmos a codificação razoável de um grafo como sua matriz de adjacências o número m de vértices no grafo será n onde n G é o comprimento da codificação de G Existem m permutações possíveis dos vértices e portanto o tempo de execução é m n 2 n que não é Onk para nenhuma constante k Assim esse algoritmo ingênuo não é executado em tempo polinomial Na verdade o problema do ciclo hamiltoniano é NPcompleto como provaremos na Seção 345 Algoritmos de verificação Considere um problema ligeiramente mais fácil Suponha que um amigo lhe diga que um dado grafo G é hamiltoniano e depois se ofereça para provar isso dando a você os vértices em ordem ao longo do ciclo hamiltoniano Certamente seria bem fácil verificar a prova basta confirmar que o ciclo dado é hamiltoniano conferindo se ele é uma permutação dos vértices de V e se cada uma das arestas consecutivas ao longo do ciclo existe realmente no grafo Você certamente poderia implementar esse algoritmo de verificação para ser executado no tempo On2 onde n é o comprimento da codificação de G Assim uma prova de que um ciclo hamiltoniano existe em um grafo pode ser verificada em tempo polinomial Definimos algoritmo de verificação como um algoritmo de dois argumentos A onde um argumento é uma cadeia de entrada comum x e o outro é uma cadeia binária y denominada certificado Um algoritmo A de dois argumentos verifica uma cadeia de entrada x se existe um certificado y tal que Ax y 1 A linguagem verificada por um algoritmo de verificação A é Intuitivamente um algoritmo A verifica uma linguagem L se para qualquer cadeia x L existe um certificado y que A pode utilizar para provar que x L Além disso para qualquer cadeia x L não deve existir nenhum certificado que prove que x L Por exemplo no problema do ciclo hamiltoniano o certificado é a lista de vértices em algum ciclo hamiltoniano Se um grafo é hamiltoniano o próprio ciclo hamiltoniano oferece informações suficientes para verificar esse fato Ao contrário se um grafo não é hamiltoniano não pode existir nenhuma lista de vértices que engane o algoritmo de verificação fazendoo acreditar que o grafo é hamiltoniano já que o algoritmo de verificação examina cuidadosamente o ciclo proposto para ter certeza A classe de complexidade NP A classe de complexidade NP é a classe de linguagens que podem ser verificadas por um algoritmo de tempo polinomial8 Mais precisamente uma linguagem L pertence a NP se e somente se existe um algoritmo de tempo polinomial de duas entradas A e uma constante c tal que Dizemos que o algoritmo A verifica a linguagem L em tempo polinomial Pela nossa discussão anterior sobre o problema do ciclo hamiltoniano agora vemos que HAMCYCLE NP É sempre agradável saber que um conjunto importante é não vazio Além disso se L P então L NP já que se existe um algoritmo de tempo polinomial para decidir L o algoritmo pode ser facilmente convertido em um algoritmo de verificação de dois argumentos que simplesmente ignora qualquer certificado e aceita exatamente as cadeias de entrada que ele determina que estão em L Assim P NP Não se sabe se P NP mas a maioria dos pesquisadores acredita que P e NP não são a mesma classe Intuitivamente a classe P consiste em problemas que podem ser resolvidos rapidamente A classe NP consiste em problemas para os quais uma solução pode ser verificada rapidamente Você deve ter aprendido por experiência que muitas vezes é mais difícil resolver um problema partindo do zero do que verificar uma solução apresentada com clareza em especial quando se trabalha sob restrições de tempo Os teóricos da ciência da computação em geral acreditam que essa analogia se estende às classes P e NP e por isso que NP inclui linguagens que não estão em P Existe uma evidência mais instigante porém não conclusiva de que P NP a existência de linguagens NP completas Estudaremos essa classe na Seção 343 Figura 343 Quatro possibilidades de relações entre classes de complexidade Em cada diagrama uma região que envolve uma outra indica uma relação de subconjunto próprio a P NP coNP A maioria dos pesquisadores considera essa possibilidade a mais improvável b Se NP é fechada sob complemento então NP coNP mas não é preciso que seja o caso de P NP c P NP coNP mas NP não é fechada sob complemento d NP coNP e P NP coNP A maioria dos pesquisadores considera essa possibilidade a mais provável Muitas outras questões fundamentais além da questão P NP permanecem não resolvidas A Figura 343 mostra alguns cenários possíveis Apesar do grande trabalho de muitos pesquisadores ninguém sabe sequer se a classe NP é fechada sob complemento Isto é L NP implica L NP Podemos definir a classe de complexidade coNP como o conjunto de linguagens L tal que L NP Podemos redefinir a questão de NP ser ou não fechada sob complemento como NP ser ou não igual a coNP Visto que P é fechada sob complemento Exercício 3416 decorre do Exercício 3429 que P NP coNP Entretanto mais uma vez ninguém sabe se P NP coNP ou se existe alguma linguagem em NP coNP P Assim nossa compreensão da exata relação entre P e NP é terrivelmente incompleta Apesar disso e ainda que não consigamos provar que um determinado problema é intratável se pudermos provar que ele é NPcompleto então já obtivemos valiosa informação sobre ele Exercícios 3421 3422 3423 3424 3425 3426 3427 3428 3429 34210 34211 343 Considere a linguagem GRAPHISOMORPHISM G1 G2 G1 e G2 são grafos isomorfos Prove que GRAPHISOMORPHISM NP descrevendo um algoritmo de tempo polinomial para verificar a linguagem Prove que se G é um grafo bipartido não dirigido com um número ímpar de vértices então G é não hamiltoniano Mostre que se HAMCYCLE P então o problema de organizar uma lista dos vértices de um ciclo hamiltoniano em ordem pode ser resolvido em tempo polinomial Prove que a classe NP de linguagens é fechada sob união interseção concatenação e estrela de Kleene Discuta o fechamento de NP sob complemento Mostre que qualquer linguagem em NP pode ser decidida por um algoritmo executado no tempo 2Onk para alguma constante k Um caminho hamiltoniano em um grafo é um caminho simples que visita todo vértice exatamente uma vez Mostre que a linguagem HAMPATH G u v existe um caminho hamiltoniano de u até v no grafo G pertence a NP Mostre que o problema do caminho hamiltoniano do Exercício 3426 pode ser resolvido em tempo polinomial para grafos acíclicos dirigidos Dê um algoritmo eficiente para o problema Seja f uma fórmula booleana construída pelas variáveis de entrada booleanas x1 x2 xk negações AND OR e parênteses A fórmula f é uma tautologia se tem valor 1 para toda atribuição de 1 e 0 às variáveis de entrada Defina TAUTOLOGY como a linguagem de fórmulas booleanas que são tautologias Mostre que TAUTOLO GY coNP Prove que P coNP Prove que se NP coNP então P NP Seja G um grafo conexo não dirigido com pelo menos três vértices e seja G3 o grafo obtido ligandose todos os pares de vértices que estão conectados por um caminho em G de comprimento máximo 3 Prove que G3 é hamiltoniano Sugestão Construa uma árvore geradora para G e use um argumento indutivo NPCOMPLETUDE E REDUTIBILIDADE Talvez a razão mais forte pela qual os teórico da ciência da computação acreditem que P NP seja a existência da classe de problemas NPcompletos Essa classe tem a intrigante propriedade de que se algum problema NP completo pode ser resolvido em tempo polinomial então todo problema em NP tem uma solução em tempo polinomial isto é P NP Entretanto apesar de anos de estudo nenhum algoritmo de tempo polinomial jamais foi descoberto para qualquer problema NPcompleto A linguagem HAMCYCLE é um problema NPcompleto Se pudéssemos decidir HAMCYCLE em tempo polinomial poderíamos resolver todo problema em NP em tempo polinomial De fato se NP P viesse a ser não vazia poderíamos dizer com certeza que HAMCYCLE NP P As linguagens NPcompletas são em certo sentido as linguagens mais difíceis em NP Nesta seção mostraremos como comparar a dificuldade relativa de linguagens usando uma noção precisa denominada redutibilidade em tempo polinomial Depois definimos formalmente as linguagens NPcompletas e terminamos esboçando uma prova de que uma dessas linguagens denominada CIRCUITSAT é NPcompleta Nas Seções 344 e 345 usaremos a noção de redutibilidade para mostrar que muitos outros problemas são NPcompletos Redutibilidade Intuitivamente um problema Q pode ser reduzido a outro problema Q se qualquer instância de Q pode ser facilmente reformulada como uma instância de Q cuja solução dá uma solução para a instância de Q Por exemplo o problema de resolver equações lineares em um x indeterminado se reduz ao problema de resolver equações quadráticas Dada uma instância ax b 0 transformamos essa instância em 0x2 ax b 0 cuja solução dá uma solução para ax b 0 Assim se um problema Q se reduz a um outro problema Q então Q não é em certo sentido mais difícil de resolver que Q Retornando à nossa estrutura de linguagens formais para problemas de decisão dizemos que uma linguagem L1 é redutível em tempo polinomial a uma linguagem L2 escrita L1 P L2 se existe uma função calculável de tempo polinomial f 0 1 0 1 tal que para todo x 0 1 Denominamos a função f função redução e um algoritmo de tempo polinomial F que calcula f é denominado algoritmo de redução Figura 344 Ilustração de uma redução de tempo polinomial de uma linguagem L1 a uma linguagem L2 por meio de uma função de redução f Para qualquer entrada x 0 1 a questão de saber se x L1 tem a mesma resposta que a questão de saber se fx L2 A Figura 344 ilustra a ideia de uma redução de tempo polinomial de uma linguagem L1 a uma outra linguagem L2 Cada linguagem é um subconjunto de 0 1 A função redução f dá um mapeamento em tempo polinomial tal que se x L1 então fx L2 Além disso se x L1 então fx L2 Assim a função redução mapeia qualquer instância x do problema de decisão representado pela linguagem L1 para uma instância fx do problema representado por L2 Dar uma resposta à questão fx L2 ou não dá diretamente a resposta à questão x L1 ou não Reduções de tempo polinomial nos dão uma poderosa ferramenta para provar que diversas linguagens pertencem a P Lema 343 Se L1 L2 0 1 são linguagens tais que L1 P L2 então L2 P implica L1 P Prova Seja A2 um algoritmo de tempo polinomial que decide L2 e seja F um algoritmo de redução de tempo polinomial que calcula a função redução f Construiremos um algoritmo de tempo polinomial A1 que decide L1 A Figura 345 ilustra a construção de A1 Para uma dada entrada x 0 1 o algoritmo A1 usa F para transformar x em fx e depois usa A2 para testar se fx L2 O algoritmo A1 toma a saída do algoritmo A2 e produz aquela resposta como a sua própria resposta A correção de A1 decorre da condição 341 O algoritmo é executado em tempo polinomial já que tanto F quanto A2 são executados em tempo polinomial ver o Exercício 3415 NPcompletude Reduções de tempo polinomial proporcionam um meio formal de mostrar que um problema é no mínimo tão difícil quanto um outro a menos de um fator de tempo polinomial Isto é se L1 P L2 então L1 não é mais do que um fator polinomial mais difícil que L2 e esse é o motivo por que a notação menor que ou igual a para redução é mnemônica Agora podemos definir o conjunto de linguagens NPcompletas que são os problemas mais difíceis em NP Figura 345 A prova do Lema 343 O algoritmo F é um algoritmo de redução que calcula a função redução f de L1 a L2 em tempo polinomial e A2 é um algoritmo de tempo polinomial que decide L2 O algoritmo A1 decide se x L1 usando F para transformar qualquer entrada x em fx e depois usando A2 para decidir se fx L2 1 2 Figura 346 Como a maioria dos teóricos da ciência da computação vê as relações entre P NP e NPC Tanto P quanto NPC estão inteiramente contidas em NP e P NPC 0 Uma linguagem L 0 1 é NPcompleta se L NP e L P L para todo L NP Se uma linguagem L satisfaz a propriedade 2 mas não necessariamente a propriedade 1 dizemos que L é NP difícil Também definimos NPC como a classe de linguagens NPcompletas Como mostra o teorema a seguir NPcompletude é o ponto crucial para decidir se P é de fato igual a NP Teorema 344 Se algum problema NPcompleto é resolvível em tempo polinomial então P NP Equivalentemente se algum problema em NP não é resolvível em tempo polinomial nenhum problema NPcompleto é resolvível em tempo polinomial Prova Suponha que L P e também que L NPC Para qualquer L NP temos L P L pela propriedade 2 da definição de NPcompletude Assim pelo Lema 343 também temos que L P o que prova o primeiro enunciado do teorema Para provar o segundo enunciado observe que ele é o contrapositivo do primeiro enunciado É por essa razão que a pesquisa da questão P NP se concentra em torno dos problemas NPcompletos A maioria dos teóricos da ciência da computação acredita que P NP o que leva às relações entre P NP e NPC mostradas na Figura 346 Porém que saibamos bem que alguém ainda pode apresentar um algoritmo de tempo polinomial para um problema NPcompleto e assim provar que P NP Não obstante como ainda não foi descoberto nenhum algoritmo de tempo polinomial para qualquer problema NPcompleto uma prova de que um problema é NP completo dá uma excelente evidência de que ele é intratável Satisfazibilidade de circuitos Definimos a noção de um problema NPcompleto mas até este ponto não provamos realmente que nenhum problema é NPcompleto Uma vez provado que pelo menos um problema é NPcompleto poderemos usar redutibilidade de tempo polinomial como uma ferramenta para provar que outros problemas são NPcompletos Assim agora focalizamos a demonstração da existência de um problema NPcompleto o problema da satisfazibilidade de circuitos Infelizmente a prova formal de que o problema da satisfazibilidade de circuitos é NPcompleto requer detalhes técnicos que estão fora do escopo deste texto Em vez disso descreveremos informalmente uma prova que depende de um entendimento básico de circuitos combinacionais booleanos Circuitos combinacionais booleanos são construídos com elementos combinacionais booleanos interconectados por fios Um elemento combinacional booleano é qualquer elemento de circuito que tem um número constante de entradas e saídas booleanas e que executa uma função bem definida Valores booleanos são extraídos do conjunto 0 1 onde 0 representa FALSE e 1 representa TRUE Os elementos combinacionais booleanos que utilizamos no problema da satisfazibilidade de circuitos calculam uma função booleana simples e são conhecidos como portas lógicas A Figura 347 mostra as três portas lógicas básicas que usamos no problema da satisfazibilidade de circuitos a porta NOT ou inversora a porta AND e a porta OR A porta NOT toma uma única entrada binária x cujo valor é 0 ou 1 e produz uma saída binária z cujo valor é o oposto do valor da entrada Cada uma das outras duas portas toma duas entradas binárias x e y e produz uma única saída binária z Podemos descrever o funcionamento de cada porta e de qualquer elemento combinacional booleano por uma tabela verdade mostrada sob cada porta na Figura 347 Uma tabela verdade dá as saídas do elemento combinacional para cada configuração possível das entradas Por exemplo a tabela verdade para a porta OR informa que quando as entradas são x 0 e y 1 o valor da saída é z 1 Usamos os símbolos para denotar a função NOT para denotar a função AND e para denotar a função OR Assim por exemplo 0 1 1 Podemos generalizar as portas AND e OR para que tomem mais de duas entradas A saída de uma porta AND é 1 se todas as suas entradas são 1 caso contrário sua saída é 0 A saída de uma porta OR é 1 se qualquer de suas entradas é 1 caso contrário sua saída é 0 Um circuito combinacional booleano consiste em um ou mais elementos combinacionais booleanos interligados por fios Um fio pode ligar a saída de um elemento à entrada de outro fornecendo assim o valor de saída do primeiro elemento como um valor de entrada do segundo A Figura 348 mostra dois circuitos combinacionais booleanos semelhantes diferentes somente por uma porta A parte a da figura também mostra os valores nos fios individuais dada a entrada x1 1 x2 1 x3 0 Embora um único fio não possa ter mais de uma saída de elemento combinacional ligada a ele esse fio pode alimentar várias entradas de elementos O número de entradas alimentadas por um fio é denominado leque de saída do fio Se nenhuma saída de elemento está ligada a um certo fio esse fio é uma entrada de circuito que aceita valores de entrada de uma fonte externa Se nenhuma entrada de elemento está ligada a um fio esse fio é uma saída de circuito que fornece os resultados da computação do circuito para o mundo exterior Um fio interno também pode ter uma saída em leque para uma saída de circuito Para definir o problema da satisfazibilidade de circuitos limitamos o número de saídas de circuitos a 1 embora no projeto de hardware propriamente dito um circuito combinacional booleano possa ter várias saídas Circuitos combinacionais booleanos não contêm nenhum ciclo Em outras palavras suponha que criamos um grafo dirigido G V E com um vértice para cada elemento combinacional e com k arestas dirigidas para cada fio cuja saída em leque é k o grafo contém uma aresta dirigida u v se um fio liga a saída do elemento u a uma entrada de elemento v Então G deve ser acíclico Figura 347 Três portas lógicas básicas com entradas e saídas binárias Sob cada porta está a tabela verdade que descreve a operação da porta a A porta NOT b A porta AND c A porta OR Uma atribuição verdade para um circuito combinacional booleano é um conjunto de valores de entrada booleanos Dizemos que um circuito combinacional booleano de uma saída é satisfazível se tem uma atribuição que satisfaz uma atribuição verdade que faz com que a saída do circuito seja 1 Por exemplo o circuito na Figura 348a tem a atribuição que satisfaz x1 1 x2 1 x3 0 e assim é satisfazível Como o Exercício 3431 pede para mostrar nenhuma atribuição de valores para x1 x2 e x3 faz com que o circuito da Figura 348b produza uma saída 1 ele sempre produz 0 e assim é insatisfazível O problema da satisfazibilidade de circuitos é Dado um circuito combinacional booleano composto de portas AND OR e NOT ele é satisfazível Contudo para propor formalmente essa pergunta temos de concordar com uma codificaçãopadrão para circuitos O tamanho de um circuito combinacional booleano é o número de elementos combinacionais somado ao número de fios no circuito Poderíamos criar uma codificação semelhante a um grafo que mapeie qualquer circuito C dado para uma cadeia binária C cujo comprimento é polinomial em relação ao tamanho do próprio circuito Então como uma linguagem formal podemos definir CIRCUITSAT C C é um circuito combinacional booleano satisfazível O problema da satisfazibilidade de circuitos surge na área da otimização de hardware auxiliada por computador Se um subcircuito sempre produz 0 esse subcircuito é desnecessário o projetista pode substituílo por um subcircuito mais simples que omite todas as portas lógicas e produz o valor constante 0 como sua saída Você pode ver por que gostaríamos de ter um algoritmo de tempo polinomial para esse problema Dado um circuito C poderíamos tentar determinar se ele é satisfazível apenas verificando todas as atribuições possíveis para as entradas Infelizmente se o circuito tem k entradas há 2k atribuições possíveis Quando o tamanho de C é polinomial em k verificar cada uma demora o tempo 2k que é superpolinomial em relação ao tamanho do circuito9 De fato como já afirmamos há fortes evidências de que não existe nenhum algoritmo de tempo polinomial que resolva o problema da satisfazibilidade de circuitos porque a satisfazibilidade de circuitos é um problema NPcompleto Dividimos a prova desse fato em duas partes com base nas duas partes da definição de NPcompletude Lema 345 O problema da satisfazibilidade de circuitos pertence à classe NP Figura 348 Duas instâncias do problema da satisfazibilidade de circuitos a A atribuição x1 1 x2 1 x3 0 para as entradas desse circuito faz com que a saída do circuito seja 1 O circuito é então satisfazível b Nenhuma atribuição para as entradas desse circuito pode fazer com que a saída do circuito seja 1 Então o circuito é insatisfazível Prova Daremos um algoritmo A de tempo polinomial com duas entradas que pode verificar CIRCUITSAT Uma das entradas para A é uma codificaçãopadrão de um circuito combinacional booleano C A outra entrada é um certificado que corresponde a uma atribuição de valores booleanos aos fios em C veja no Exercício 3434 um certificado menor Construímos o algoritmo A da maneira mostrada a seguir Para cada porta lógica no circuito ele verifica se o valor fornecido pelo certificado no fio de saída é calculado corretamente em função dos valores nos fios de entrada Então se a saída do circuito inteiro é 1 o algoritmo produz 1 já que os valores atribuídos às entradas de C fornecem uma atribuição que satisfaz Caso contrário A produz 0 Sempre que um circuito satisfazível C é dado como entrada para o algoritmo A existe um certificado cujo comprimento é polinomial em relação ao tamanho de C e que faz com que A produza um 1 Sempre que um circuito insatisfazível é dado como entrada nenhum certificado pode enganar A e fazêlo acreditar que o circuito é satisfazível O algoritmo A é executado em tempo polinomial com uma boa implementação o tempo linear é suficiente Assim podemos verificar CIRCUITSAT em tempo polinomial e CIRCUITSAT NP A segunda parte da prova de que CIRCUITSAT é NPcompleto é mostrar que a linguagem é NPdifícil Isto é devemos mostrar que toda linguagem em NP é redutível em tempo polinomial a CIRCUITSAT A prova propriamente dita desse fato é repleta de complexidades técnicas portanto nos contentaremos com um esboço da prova baseado em alguma compreensão do funcionamento interno do hardware de computadores Um programa de computador é armazenado na memória do computador como uma sequência de instruções Uma instrução típica codifica uma operação a ser executada endereços de operandos na memória e um endereço onde o resultado deve ser armazenado Uma posição especial de memória denominada contador de programa controla qual instrução deve ser executada em seguida O contador de programa é incrementado automaticamente sempre que uma instrução é recuperada o que faz o computador executar instruções sequencialmente Contudo a execução de uma instrução pode fazer com que um valor seja escrito no contador de programa o que altera a execução sequencial normal e permite que o computador execute laços e desvios condicionais Em qualquer ponto durante a execução de um programa a memória do computador guarda todo o estado da computação Entendemos que a memória inclui o programa em si o contador de programa a área de armazenamento e quaisquer dos vários bits de estado que um computador mantém para contabilidade Denominamos por configuração qualquer estado particular da memória do computador Podemos ver que a execução de uma instrução pode ser vista como o mapeamento de uma configuração para outra O hardware do computador que executa esse mapeamento pode ser implementado como um circuito combinacional booleano que denotamos por M na prova do lema a seguir Lema 346 O problema da satisfazibilidade de circuitos é NPdifícil Prova Seja L qualquer linguagem em NP Descreveremos um algoritmo de tempo polinomial F que calcula uma função redução f que mapeia toda cadeia binária x para um circuito C fx tal que x L se e somente se C CIRCUIT SAT Visto que L NP deve existir um algoritmo A que verifica L em tempo polinomial O algoritmo F que construiremos usará o algoritmo A de duas entradas para calcular a função redução f Seja Tn o tempo de execução do pior caso do algoritmo A para cadeias de entrada de comprimento n e seja k 1 uma constante tal que Tn Onk e o comprimento do certificado é Onk O tempo de execução de A é na realidade um polinômio no tamanho total da entrada o que inclui uma cadeia de entrada bem como um certificado porém como o comprimento do certificado é polinomial no comprimento n da cadeia de entrada o tempo de execução é polinomial em n A ideia básica da prova é representar a computação de A como uma sequência de configurações Como mostra a Figura 349 podemos dividir cada configuração em partes que consistem no programa para A contador de programa e estado da máquina auxiliar entrada x certificado y e área de armazenamento O circuito combinacional M que implementa o hardware do computador mapeia cada configuração ci para a próxima configuração ci 1 começando da configuração inicial co O algoritmo A grava sua saída 0 ou 1 em alguma localização designada quando termina de executar e se considerarmos que dali em diante A para o valor nunca muda Assim se o algoritmo é executado durante no máximo Tn etapas a saída aparece como um dos bits em cTn O algoritmo de redução F constrói um único circuito combinacional que calcula todas as configurações produzidas por uma dada configuração inicial A ideia é colar Tn cópias do circuito M A saída do iésimo circuito que produz a configuração ci alimenta diretamente a entrada doi 1ésimo circuito Assim as configurações em vez de serem armazenadas na memória do computador simplesmente permanecem como valores nos fios que ligam cópias de M Lembrese do que o algoritmo de redução de tempo polinomial F deve fazer Dada uma entrada x ele tem de calcular um circuito C fx que é satisfazível se e somente se existe um certificado y tal que Ax y 1 Quando F obtém uma entrada x primeiro ele calcula n x e constrói um circuito combinacional C que consiste em Tn cópias de M A entrada para C é uma configuração inicial correspondente a uma computação em Ax y e a saída é a configuração cTn Figura 349 A sequência de configurações produzidas por um algoritmo A que executa uma entrada x e um certificado y Cada configuração representa o estado do computador para uma etapa da computação e além de A x e y inclui o contador de programa PC o estado da máquina auxiliar e a área de armazenamento Exceto pelo certificado y a configuração inicial c0 é constante Um circuito combinacional booleano M mapeia cada configuração para a configuração seguinte A saída é um bit distinto na área de armazenamento O algoritmo F modifica ligeiramente o circuito C para construir o circuito C fx Primeiro ele liga as entradas para C correspondentes ao programa para A o contador de programa inicial a entrada x e o estado inicial da memória diretamente a esses valores conhecidos Assim as únicas entradas restantes para o circuito correspondem ao certificado y Depois ignora todas as saídas do circuito exceto o de cTn que corresponde à saída de A Esse circuito C assim construído calcula Cy Ax y para qualquer entrada y de comprimento Onk O algoritmo de redução F quando recebe uma cadeia de entrada x calcula esse circuito C e o produz como saída Precisamos provar duas propriedades Em primeiro lugar devemos mostrar que F calcula corretamente uma função redução f Isto é temos de mostrar que C é satisfazível se e somente se existe um certificado y tal que Ax y 1 Em segundo lugar devemos mostrar que F é executado em tempo polinomial Para mostrar que F calcula corretamente uma função redução vamos supor que exista um certificado y de comprimento Onk tal que Ax y 1 Então se aplicarmos os bits de y às entradas de C a saída de C é Cy Ax 3431 3432 3433 3434 3435 3436 3437 y 1 Assim se existe um certificado C é satisfazível Ao contrário suponha que C seja satisfazível Consequentemente existe uma entrada y para C tal que Cy 1 do que concluímos que Ax y 1 Assim F calcula corretamente uma função redução Para completar a prova basta mostrar que F é executado em tempo polinomial em n x A primeira observação que fazemos é que o número de bits necessários para representar uma configuração é polinomial em n O programa para A em si tem tamanho constante independentemente do comprimento de sua entrada x O comprimento da entrada x é n e o comprimento do certificado y é Onk Visto que o algoritmo é executado para no máximo Onk etapas a quantidade de área de armazenamento exigida por A também é polinomial em n Supomos que essa memória seja contígua o Exercício 3435 pede para estender o argumento à situação na qual as posições acessadas por A estão espalhadas por uma região de memória muito maior e que o padrão de espalhamento específico pode ser diferente para cada entrada x O circuito combinacional M que implementa o hardware do computador tem tamanho polinomial no comprimento de uma configuração que é Onk por consequência o tamanho de M é polinomial em n A maior parte desses circuitos implementa a lógica do sistema de memória O circuito C consiste em no máximo t Onk cópias de M e consequentemente tem tamanho polinomial em n O algoritmo de redução F pode construir C a partir de x em tempo polinomial já que cada etapa da construção demora tempo polinomial Portanto a linguagem CIRCUITSAT é no mínimo tão difícil quanto qualquer linguagem em NP e visto que pertence a NP ela é NPcompleta Teorema 347 O problema da satisfazibilidade de circuitos é NPcompleto Prova Imediata pelos Lemas 345 e 346 e pela definição de NPcompletude Exercícios Confirme que o circuito da Figura 348b é insatisfazível Mostre que a relação P é uma relação transitiva em linguagens Isto é mostre que se L1 P L2 e L2 P L3 então L1 P L3 Prove que L P L se e somente se L P L Mostre que poderíamos ter usado uma atribuição satisfatória como um certificado em uma prova alternativa do Lema 345 Qual certificado facilita a prova A prova do Lema 346 supõe que a área de armazenamento para o algoritmo A ocupa uma região contígua de tamanho polinomial Em que parte exploramos essa hipótese Demonstre que essa hipótese não envolve qualquer perda de generalidade Uma linguagem L é completa para uma classe de linguagem C com relação a reduções de tempo polinomial se L C e L P L para todo L C Mostre que 0 e 0 1 são as únicas linguagens em P que não são completas para P com relação a reduções de tempo polinomial Mostre que no que diz respeito a reduções de tempo polinomial veja o Exercício 343 6 L é completa para NP se e somente se L é completa para coNP 3438 344 1 2 3 4 5 1 O algoritmo de redução F na prova do Lema 346 constrói o circuito C fx com base no conhecimento de x A e k O professor Sartre observa que a cadeia x é uma entrada para F mas somente a existência de A k e do fator constante implícito no tempo de execução Onk é conhecida para F já que a linguagem L pertence a NP e não seus valores reais Assim o professor conclui que F não pode construir o circuito C e que a linguagem CIRCUITSAT não é necessariamente NPdifícil Explique a falha no raciocínio do professor PROVAS DA NPCOMPLETUDE Provamos que o problema da satisfazibilidade de circuitos é NPcompleto por uma prova direta de que L P CIRCUITSAT para toda linguagem L NP Nesta seção mostraremos como provar que as linguagens são NP completas sem reduzir diretamente toda linguagem em NP à linguagem dada Ilustraremos essa metodologia provando que vários problemas de satisfazibilidade de fórmulas são NPcompletos A Seção 345 dá muitos outros exemplos da metodologia O lema a seguir é a base de nosso método para mostrar que uma linguagem é NPcompleta Lema 348 Se L é uma linguagem tal que L P L para alguma L NPC então L é NPdifícil Se além disso L NP então L NPC Prova Visto que L é NPcompleta para todo L NP temos L P L Por hipótese L P L e assim por transitividade Exercício 3432 temos L P L o que mostra que L é NPdifícil Se L NP também temos L NPC Em outras palavras reduzindo a L uma linguagem NPcompleta L conhecida reduzimos implicitamente toda linguagem em NP a L Assim o Lema 348 apresenta um método para provar que uma linguagem L é NPcompleta Prove que L NP Selecione uma linguagem NPcompleta conhecida L Descreva um algoritmo que calcule uma função f mapeando toda instância x 0 1 de L para uma instância fx de L Prove que a função f satisfaz a x L se e somente se fx L para todo x 0 1 Prove que o algoritmo que calcula f é executado em tempo polinomial As etapas 2 a 5 mostram que L é NPdifícil Essa metodologia de redução a partir de uma única linguagem NP completa conhecida é muitíssimo mais simples que o processo mais complicado de mostrar diretamente como reduzir partindo de toda linguagem em NP Provar que CIRCUITSAT NPC já entreabriu a porta Como sabemos que a satisfazibilidade de circuitos é um problema NPcompleto agora podemos provar com muito mais facilidade que outros problemas são NPcompletos Além disso à medida que desenvolvermos um catálogo de problemas NPcompletos conhecidos teremos cada vez mais opções de linguagens a partir das quais reduzir Satisfazibilidade de fórmulas Ilustramos a metodologia de redução dando uma prova de NPcompletude para o problema de determinar se uma fórmula booleana não um circuito é satisfazível Esse problema tem a honra histórica de ter sido o primeiro problema a ser apresentado como NPcompleto Formulamos o problema da satisfazibilidade de fórmulas em termos da linguagem SAT da maneira ilustrada a seguir Uma instância de SAT é uma fórmula booleana f composta de n variáveis booleanas x1 x2 xn 2 3 m conectivos booleanos qualquer função booleana com uma ou duas entradas e uma saída como AND OR NOT implicação se e somente se e parênteses Sem prejuízo da generalidade supomos que não existem parênteses redundantes isto é a fórmula contém no máximo um par de parênteses por conetivo booleano É fácil codificar uma fórmula booleana f em um comprimento que é polinomial em n m Como em circuitos combinacionais booleanos uma atribuição verdade para uma fórmula booleana f é um conjunto de valores para as variáveis de f e uma atribuição satisfatória é uma atribuição verdade que faz com que ela seja avaliada como 1 Uma fórmula com uma atribuição que satisfaz é uma fórmula satisfazível O problema da satisfazibilidade pergunta se uma dada fórmula booleana é satisfazível em termos das linguagens formais Como exemplo a fórmula tem a atribuição x1 0 x2 0 x3 1 x4 1 que a satisfaz já que e assim essa fórmula f pertence a SAT O algoritmo ingênuo para determinar se uma fórmula booleana arbitrária é satisfazível não é executado em tempo polinomial A fórmula com n tem 2n atribuições possíveis Se o comprimento de f é polinomial em n verificar cada atribuição requer o tempo 2n que é superpolinomial no comprimento de f Como mostra o teorema a seguir é improvável que exista um algoritmo de tempo polinomial Teorema 349 A satisfazibilidade de fórmulas booleanas é NPcompleta Prova Começamos demonstrando que SAT NP Então provaremos que SAT é NPdifícil mostrando que CIRCUITSAT SAT pelo Lema 348 isso provará o teorema Figura 3410 Redução da satisfazibilidade de circuito à satisfazibilidade de fórmula A fórmula produzida pelo algoritmo de redução tem uma variável para cada fio no circuito Para mostrar que SAT pertence a NP mostramos que um certificado que consiste em uma atribuição satisfatória para uma fórmula de entrada f pode ser verificado em tempo polinomial O algoritmo de verificação simplesmente substitui cada variável na fórmula por seu valor correspondente e depois avalia a expressão de um modo muito semelhante ao que fizemos na equação 342 Essa tarefa é fácil de realizar em tempo polinomial Se a expressão tem o valor 1 o algoritmo verificou que a fórmula é satisfazível Assim a primeira condição do Lema 348 para a NP completude é válida Para provar que SAT é NPdifícil mostramos que CIRCUITSAT P SAT Em outras palavras precisamos mostrar como reduzir qualquer instância de satisfazibilidade de circuito a uma instância de satisfazibilidade de fórmula em tempo polinomial Podemos usar indução para expressar qualquer circuito combinacional booleano como uma fórmula booleana Simplesmente observamos a porta que produz a saída do circuito e expressamos indutivamente cada uma das entradas da porta como fórmulas Então obtemos a fórmula para o circuito escrevendo uma expressão que aplica a função da porta às fórmulas de suas entradas Infelizmente esse método direto não equivale a uma redução de tempo polinomial Como o Exercício 3441 lhe pede para mostrar subfórmulas compartilhadas que surgem de portas cujos fios de saída têm leque de saída 2 ou maior podem fazer o tamanho da fórmula gerada crescer exponencialmente Assim o algoritmo de redução deve ser um pouco mais inteligente A Figura 3410 ilustra como superamos esse problema usando como exemplo o circuito da Figura 348a Para cada fio xi no circuito C a fórmula f tem uma variável xi Agora podemos expressar como uma porta funciona sob a forma de uma pequena fórmula que envolve as variáveis de seus fios incidentes Por exemplo o funcionamento da porta de saída AND é x10 x7 x8 x9 Denominamos cada uma dessas pequenas fórmulas por cláusula A fórmula f produzida pelo algoritmo de redução é o AND da variável do circuito de saída com a conjunção de cláusulas que descrevem a operação de cada porta Para o circuito da figura a fórmula é Dado um circuito C produzir tal fórmula f em tempo polinomial é direto Por que o circuito C é satisfazível exatamente quando a fórmula f é satisfazível Se C tem atribuição que satisfaz cada fio do circuito tem um valor bem definido e a saída do circuito é 1 Portanto quando atribuímos valores de fios a variáveis em f cada cláusula de f tem valor 1 e assim a conjunção de todos elas tem valor 1 Ao contrário se alguma atribuição faz f apresentar o valor 1 o circuito C é satisfazível por um argumento análogo Assim mostramos que CIRCUITSAT P SAT o que conclui a prova Satisfazibilidade 3CNF Podemos provar que muitos problemas são NPcompletos reduzindo a partir da satisfazibilidade de fórmulas Entretanto o algoritmo de redução deve tratar qualquer fórmula de entrada e isso pode levar a um número enorme de casos que temos de considerar Muitas vezes preferimos reduzir partindo de uma linguagem restrita de fórmulas booleanas de modo que precisamos considerar um número menor de casos É claro que não devemos restringir tanto a linguagem a ponto de ela se tornar resolvível em tempo polinomial Uma linguagem conveniente é a satisfazibilidade 3 CNF ou 3CNFSAT Definimos satisfazibilidade 3CNF usando os termos a seguir Um literal em uma fórmula booleana é uma ocorrência de uma variável ou sua negação Uma fórmula booleana está em forma normal conjuntiva ou CNF conjunctive normal form se é expressa como um AND de cláusulas cada uma das quais é o OR de um ou mais literais Uma fórmula booleana está em forma normal 3conjuntiva ou 3CNF se cada cláusula tem exatamente três literais distintos Por exemplo a fórmula booleana está em 3CNF A primeira de suas três cláusulas é x1 x1 x2 que contém os três literais x1 x1 e x2 3CNFSAT pergunta se determinada fórmula booleana f em 3CNF é satisfazível O teorema a seguir mostra que é improvável que exista um algoritmo de tempo polinomial que pode determinar a satisfazibilidade de fórmulas booleanas mesmo quando elas são expressas nessa forma normal simples Teorema 3410 A satisfazibilidade de fórmulas booleanas em forma normal conjuntiva 3 é NPcompleta Prova O argumento que usamos na prova do Teorema 349 para mostrar que SAT NP se aplica igualmente bem aqui para mostrar que 3CNFSAT NP Portanto pelo Lema 348 basta mostrar que SAT P 3CNFSAT Dividimos o algoritmo de redução em três etapas básicas Cada etapa transforma progressivamente a fórmula de entrada f deixandoa mais próxima da forma normal 3conjuntiva desejada A primeira etapa é semelhante à que usamos para provar CIRCUITSAT P SAT no Teorema 349 Primeiro construímos uma árvore binária de análise para a fórmula de entrada f com literais como folhas e conectivos como nós internos A Figura 3411 mostra tal árvore de análise para a fórmula Caso a fórmula de entrada contenha uma cláusula a OR de diversos literais usamos associatividade para parentizar totalmente a expressão de modo que cada nó interno na árvore resultante tenha um ou dois filhos Agora podemos imaginar a árvore de análise como um circuito para calcular a função Imitando a redução na prova do Teorema 349 introduzimos uma variável yi para a saída de cada nó interno Em seguida reescrevemos a fórmula original f como a AND da variável da raiz e uma conjunção de cláusulas que descreve o funcionamento de cada nó Para a fórmula 343 a expressão resultante é Figura 3411 Árvore correspondente à fórmula f x1 x2 x1 x3 x4 x2 Observe que a fórmula f assim obtida é uma conjunção de cláusulas fi cada qual com no máximo três literais O único requisito que poderíamos deixar de cumprir é que cada cláusula seja uma OR de três literais A segunda etapa da redução converte cada cláusula fi para a forma normal conjuntiva Construímos uma tabela verdade para fi avaliando todas as possíveis atribuições para suas variáveis Cada linha da tabela verdade consiste em uma atribuição possível das variáveis da cláusula juntamente com o valor da cláusula sob essa atribuição Usando as entradas da tabela verdade cujo valor é 0 construímos uma fórmula em forma normal disjuntiva ou DNF disjunctive normal form uma OR de ANDs que é equivalente a fi Então negativamos essa fórmula e a convertemos em uma fórmula CNF fi usando as leis de DeMorgan para lógica proposicional para complementar todos os literais trocar ORs por ANDs e ANDs por OR Em nosso exemplo convertemos a cláusula f1 y1 y2 x2 em CNF da maneira descrita a seguir A tabela verdade para f1 é dada na Figura 3412 A fórmula DNF equivalente a f1 é Negativando e aplicando as leis de DeMorgan obtemos a fórmula CNF que é equivalente à cláusula original f1 Figura 3412 A tabela verdade para a cláusula y1 y2 x2 Nesse ponto já convertemos cada cláusula fi da fórmula f em uma fórmula CNF fi e assim f é equivalente à fórmula f que consiste na conjunção de fi Além disso cada cláusula de f tem no máximo três literais A terceira e última etapa da redução prossegue na transformação da fórmula de modo que cada cláusula tenha exatamente três literais distintos Construímos a fórmula 3CNF final f pelas cláusulas da fórmula CNF f A fórmula f 3441 3442 3443 3444 3445 3446 3447 também usa duas variáveis auxiliares que denominaremos p e q Para cada cláusula Ci de f incluímos as seguintes cláusulas em f Se Ci tem três literais distintos simplesmente inclua Ci como uma cláusula de f Se Ci tem dois literais distintos isto é se Ci l1 l2 onde l1 e l2 são literais inclua l1 l2 p l1 l2 p como cláusulas de f Os literais p e p cumprem apenas o requisito sintático que exige que cada cláusula de f tenha exatamente três literais distintos Se p 0 ou p 1 uma das cláusulas é equivalente a l1 l2 e o valor da outra é 1 o que é a identidade para AND Se Ci tem apenas um literal distinto l inclua l p q l p q l p q l p q como cláusulas de f Independentemente dos valores de p e q uma das quatro cláusulas é equivalente a l e o valor das outras três é 1 Podemos ver que a fórmula 3CNF f é satisfazível se e somente se f é satisfazível inspecionando cada uma das três etapas Como ocorreu na redução de CIRCUITSAT a SAT a construção de f por f na primeira etapa preserva a satisfazibilidade A segunda etapa produz uma fórmula CNF f que é algebricamente equivalente a f A terceira etapa produz uma fórmula 3CNF f que é efetivamente equivalente a f já que qualquer atribuição às variáveis p e q produz uma fórmula que é algebricamente equivalente a f Devemos mostrar também que a redução pode ser calculada em tempo polinomial Construir f a partir de f introduz no máximo uma variável e uma cláusula por conectivo em f Construir f a partir de f pode introduzir no máximo oito cláusulas em f para cada cláusula de f já que cada cláusula de f tem no máximo três variáveis e a tabela verdade para cada cláusula tem no máximo 23 8 linhas A construção de f a partir de f introduz no máximo quatro cláusulas em f para cada cláusula de f Portanto o tamanho da fórmula resultante f é polinomial no comprimento da fórmula original Cada uma das construções pode ser facilmente realizada em tempo polinomial Exercícios Considere a redução direta de tempo não polinomial na prova do Teorema 349 Descreva um circuito de tamanho n que quando convertido para uma fórmula por esse método produz uma fórmula cujo tamanho é exponencial em n Mostre a fórmula 3CNF que resulta quando usamos o método do Teorema 3410 para a fórmula 343 O professor Jagger propõe mostrar que SAT P 3CNFSAT usando somente a técnica da tabela verdade na prova do Teorema 3410 e não as outras etapas Isto é o professor propõe tomar a fórmula booleana f formar uma tabela verdade para suas variáveis deduzir da tabela verdade uma fórmula em 3DNF que seja equivalente a f e depois negativar e aplicar as leis de DeMorgan para produzir uma fórmula 3CNF equivalente a f Mostre que essa estratégia não produz uma redução de tempo polinomial Mostre que o problema de determinar se uma fórmula booleana é uma tautologia é completo para coNP Sugestão Consulte o Exercício 3437 Mostre que o problema de determinar a satisfazibilidade de fórmulas booleanas em forma normal disjuntiva é resolvível em tempo polinomial Suponha que alguém lhe dê um algoritmo de tempo polinomial para decidir a satisfazibilidade de fórmulas Descreva como usar esse algoritmo para encontrar atribuições que a satisfazem em tempo polinomial Seja 2CNFSAT o conjunto de fórmulas booleanas satisfazíveis em CNF com exatamente dois literais por cláusula Mostre que 2CNFSAT P O seu algoritmo deve ser o mais eficiente possível Sugestão Observe que x y é equivalente a x y Reduza 2CNFSAT a um problema eficientemente resolvível em um grafo dirigido 345 3451 PROBLEMAS NPCOMPLETOS Os problemas NPcompletos surgem em diversos domínios lógica booleana grafos aritmética projeto de rede conjuntos e partições armazenamento e recuperação sequenciamento e escalonamento programação matemática álgebra e teoria dos números jogos e quebracabeças autômatos e teoria das linguagens otimização de programas biologia química física e outros Nesta seção usaremos a metodologia de redução para dar provas de NPcompletude para uma variedade de problemas extraídos da teoria dos grafos e do particionamento de conjuntos A Figura 3413 representa a estrutura das provas de NPcompletude nesta seção e na Seção 344 Provamos que cada linguagem na figura é NPcompleta por redução da linguagem que aponta para ela Na raiz está CIRCUITSAT que provamos ser NPcompleto no Teorema 347 O PROBLEMA DO CLIQUE Um clique em um grafo não dirigido G V E é um subconjunto V V de vértices no qual cada par está ligado por uma aresta em E Em outras palavras um clique é um subgrafo completo de G O tamanho de um clique é o número de vértices que contém O problema do clique é o problema de otimização de encontrar um clique de tamanho máximo em um grafo Por ser um problema de decisão simplesmente perguntamos se um clique de um dado tamanho k existe no grafo A definição formal é CLIQUE G K G é um grafo com um clique de tamanho k Um algoritmo ingênuo para determinar se um grafo G V E com V vértices tem um clique de tamanho k é fazer uma lista de todos os subconjuntos k de V e conferir cada um para ver se ele forma um clique O tempo de execução desse algoritmo é k2kV que é polinomial se k é uma constante Porém em geral k poderia estar próximo de V2 e nesse caso o algoritmo é executado em tempo superpolinomial Na verdade é improvável que exista um algoritmo eficiente para o problema do clique Figura 3413 Estrutura de provas de NPcompletude nas Seções 344 e 345 Todas as provas decorrem em última análise por redução da NPcompletude de CIRCUITSAT Teorema 3411 O problema do clique é NPcompleto Prova Para mostrar que CLIQUE NP para um dado grafo G V E usamos o conjunto V V de vértices no clique como um certificado para G Podemos verificar se V é um clique em tempo polinomial verificando se para cada par u v V a aresta u v pertence a E Em seguida provamos que 3CNFSAT P CLIQUE o que mostra que o problema do clique é NPdifícil É surpreendente que possamos provar tal resultado já que à primeira vista fórmulas lógicas parecem ter pouco a ver com grafos O algoritmo de redução começa com uma instância de 3CNFSAT Seja f C1 C2 Ck uma fórmula booleana em 3CNF com k cláusulas Para r 1 2 k cada cláusula Cr tem exatamente três literais distintos lr1 lr2 e lr3 Construiremos um grafo G tal que f seja satisfazível se e somente se G tem um clique de tamanho k Construiremos o grafo G V E da seguinte maneira Para cada cláusula Cr lr1 lr2 lr3 em f inserimos uma tripla de vértices vr1 vr2 e vr3 em V Inserimos uma aresta entre dois vértices v i e vsj se ambas as afirmativas seguintes valem vri e vsj estão em triplas diferentes isto é r s e seus literais correspondentes são coerentes isto é lri não é a negação de lsj É fácil construir esse grafo a partir de f em tempo polinomial Como exemplo dessa construção se temos então G é o grafo mostrado na Figura 3414 Devemos mostrar que essa transformação de f em G é uma redução Primeiro suponha que f tenha uma atribuição que satisfaz Então cada cláusula Cr contém no mínimo um literal lri ao qual é atribuído 1 e tal literal corresponde a um vértice vri Escolher um desses literais verdadeiros de cada cláusula produz um conjunto de V de k vértices Afirmamos que V é um clique Para quaisquer dois vértices vri vsj V onde r s ambos os literais correspondentes lri e lsj mapeiam para 1 pela atribuição dada e portanto os literais não podem ser complementos Assim pela construção de G a aresta vri vsj pertence a E Figura 3414 O grafo G derivado da fórmula 3CNF f C1 C2 C3 onde C1 x1 x2 x3 C2 x1 x2 x3 e C3 x1 x2 x3 na redução de 3CNFSAT a CLIQUE Uma atribuição que satisfaz a fórmula tem x2 0 x3 1 e x1 pode ser 0 ou 1 Essa atribuição satisfaz C1 com x2 e C2 e C3 com x3 correspondente ao clique com vértices sombreados em tom mais claro Inversamente suponha que G tenha uma clique V de tamanho k Nenhuma aresta em G liga vértices na mesma tripla e portanto V contém exatamente um vértice por tripla Podemos atribuir 1 a cada literal lri tal que vri V sem receio de atribuir 1 a um literal e a seu complemento já que G não contém arestas entre literais incoerentes Cada cláusula é satisfeita e portanto f é satisfeita Quaisquer variáveis que não correspondam a nenhum vértice no clique podem ser definidas arbitrariamente No exemplo da Figura 3414 uma atribuição que satisfaz de f tem x2 0 e x3 1 Um clique correspondente de tamanho k 3 consiste nos vértices que correspondem a x2 da primeira cláusula x3 da segunda cláusula e x3 da terceira cláusula Como o clique não contém nenhum vértice correspondente a x1 nem a x1 podemos definir x1 como 0 ou 1 nessa atribuição satisfatória Observe que na prova do Teorema 3411 reduzimos uma instância arbitrária de 3CNFSAT a uma instância de CLIQUE com uma estrutura específica Pode parecer que mostramos apenas que CLIQUE é NPdifícil em grafos nos quais os vértices estão restritos a ocorrer em triplas e nos quais não há arestas entre vértices na mesma tripla Realmente já mostramos que CLIQUE é NPdifícil apenas nesse caso restrito mas essa prova basta para mostrar que 3452 CLIQUE é NPdifícil em grafos gerais Por quê Se tivéssemos um algoritmo de tempo polinomial que resolvesse CLIQUE em grafos gerais ele também resolveria CLIQUE em grafos restritos Todavia a abordagem inversa reduzir instâncias de 3CNFSAT com uma estrutura especial a instâncias gerais de CLIQUE também não teria sido suficiente Por quê Talvez as instâncias de 3CNFSAT que escolhemos para iniciar a redução fossem fáceis e portanto não teríamos reduzido um problema NPdifícil a CLIQUE Observe também que a redução usou a instância de 3CNFSAT mas não a solução Teríamos errado se a redução de tempo polinomial tivesse sido baseada em saber se a fórmula f é satisfazível já que não sabemos como decidir se f é satisfazível em tempo polinomial O PROBLEMA DE COBERTURA DE VÉRTICES Uma cobertura de vértices de um grafo não dirigido G V E é um subconjunto V V tal que u v E então u V ou v V ou ambos Isto é cada vértice cobre suas arestas incidentes e uma cobertura de vértices para G é um conjunto de vértices que cobre todas as arestas em E O tamanho de uma cobertura de vértices é o número de vértices que contém Por exemplo o grafo na Figura 3415b tem uma cobertura de vértices w z de tamanho 2 O problema de cobertura de vértices é o de encontrar uma cobertura de vértices de tamanho mínimo em dado grafo Enunciando novamente esse problema de otimização como um problema de decisão desejamos determinar se um grafo tem uma cobertura de vértices de tamanho k dado Como linguagem definimos Figura 3415 Redução CLIQUE a VERTEXCOVER a Um grafo não dirigido G V E com clique V u v x y b O grafo G produzido pelo algoritmo de redução que tem cobertura de vértices V V w z VERTEXCOVER G k grafo G tem uma cobertura de vértices de tamanho k O teorema a seguir mostra que esse problema é NPcompleto Teorema 3412 O problema de cobertura de vértices é NPcompleto Prova Primeiro mostramos que VERTEXCOVER NP Vamos supor que tenhamos um grafo G V E e um inteiro k O certificado que escolhemos é a própria cobertura de vértices V V O algoritmo de verificação afirma que V k e então verifica para cada aresta u v E que u V ou v V É fácil verificar o certificado em tempo polinomial 3453 Provamos que o problema de cobertura de vértices é NPdifícil mostrando que CLIQUE P VERTEXCOVER Essa redução se baseia na noção de complemento de um grafo Dado um grafo não dirigido G V E definimos o complemento de G como G V E onde E u v u v V u v e u v E Em outras palavras G é o grafo que contém exatamente as arestas que não estão em G A Figura 3415 mostra um grafo e seu complemento e ilustra a redução de CLIQUE a VERTEXCOVER O algoritmo de redução toma como entrada uma instância G k do problema do clique Calcula o complemento G o que é fácil de fazer em tempo polinomial A saída do algoritmo de redução é a instância G V k do problema de cobertura de vértices Para concluir a prova mostramos que essa transformação é de fato uma redução o grafo G tem um clique de tamanho k se e somente se o grafo tem uma cobertura de vértices de tamanho V k Suponha que G tenha um clique V V com V k Afirmamos que V V é uma cobertura de vértices em G Seja u v qualquer aresta em E Então u v E o que implica que pelo menos um de u e v não pertence a V já que todo par de vértices em V está ligado por uma aresta de E De modo equivalente pelo menos um de u e v está em V V o que significa que a aresta u v é coberta por V V Visto que u v foi escolhida arbitrariamente em E toda aresta de E é coberta por um vértice em V V Consequentemente o conjunto V V que tem tamanho V k forma uma cobertura de vértices para G Ao contrário suponha que G tenha uma cobertura de vértices V V onde V V k Então para todo u v V se u v E então u V ou v V ou ambos A contrapositiva dessa implicação é que para todo u v V se u V e v V então u v E Em outras palavras V V é um clique e tem tamanho V V k Visto que VERTEXCOVER é NPcompleto não esperamos encontrar um algoritmo de tempo polinomial para determinar uma cobertura de vértices de tamanho mínimo Contudo a Seção 351 apresenta um algoritmo de aproximação de tempo polinomial que produz soluções aproximadas para o problema de cobertura de vértices O tamanho de uma cobertura de vértices produzida pelo algoritmo é no máximo duas vezes o tamanho mínimo de uma cobertura de vértices Assim não devemos deixar de ter esperança só porque um problema é NPcompleto Talvez possamos projetar um algoritmo de aproximação de tempo polinomial que obtenha soluções aproximadas embora descobrir uma solução ótima seja NPcompleto O Capítulo 35 dá vários algoritmos de aproximação para NP completo O PROBLEMA DO CICLO HAMILTONIANO Voltamos agora ao problema do ciclo hamiltoniano definido na Seção 342 Teorema 3413 O problema do ciclo hamiltoniano é NPcompleto Prova Primeiro mostramos que HAMCYCLE pertence a NP Dado um grafo G V E nosso certificado é a sequência de vértices V que forma o ciclo hamiltoniano O algoritmo de verificação confere se essa sequência contém cada vértice em V exatamente uma vez e se com o primeiro vértice repetido no final ela forma um ciclo em G Isto é verifica se existe uma aresta entre cada par de vértices consecutivos e entre o primeiro e o último vértices Podemos verificar o certificado em tempo polinomial Agora provamos que VERTEXCOVER P HAMCYCLE o que mostra que HAMCYCLE é NPcompleto Dado um grafo não dirigido G V E e um inteiro k construímos um grafo não dirigido G V E que tem um ciclo hamiltoniano se e somente se G tem uma cobertura de vértices de tamanho k Nossa construção é baseada em um widget que é um fragmento de um grafo que impõe certas propriedades A Figura 3416a mostra o widget que usamos Para cada aresta u v E o grafo G que construímos conterá uma cópia desse widget que denotamos por Wuv Denotamos cada vértice em Wuv por u v i ou v u i onde 1 i 6 de modo que cada widget Wuv contém 12 vértices O widget Wuv também contém as 14 arestas mostradas na Figura 3416a Junto com a estrutura interna do widget impomos as propriedades que queremos limitando as conexões entre o widget e o restante do grafo G que construímos Em particular somente os vértices u v 1 u v 6 v u 1 e v u 6 terão arestas incidentes que vêm de fora de Wuv Qualquer ciclo hamiltoniano de G terá de percorrer as arestas de Wuv em um dos três modos mostrados nas Figuras 3416bd Se o ciclo entrar pelo vértice u v 1 deve sair pelo vértice u v 6 e visitar todos os 12 vértices do widget Figura 3416b ou os seis vértices de u v 1 a u v 6 Figura 3416c Nesse último caso o ciclo terá de entrar novamente no widget para visitar os vértices v u 1 a v u 6 De modo semelhante se o ciclo entrar pelo vértice v u 1 deverá sair pelo vértice v u 6 e visitar todos os 12 vértices do widget Figura 3416d ou os seis vértices de v u 1 a v u 6 Figura 3416c Não é possível nenhum outro caminho que passe pelo widget e visite todos os 12 vértices Em particular é impossível construir dois caminhos disjuntos nos vértices um dos quais ligue u v 1 a v u 6 e o outro ligue v u 1 a u v 6 tais que a união dos dois caminhos contenha todos os vértices do widget Os únicos vértices em V além dos vértices dos widgets são vértices seletores s1 s2 sk Usamos arestas incidentes em vértices seletores de G para selecionar os k vértices da cobertura em G Além das arestas em widgets E contém dois outros tipos de arestas que a Figura 3417 mostra Primeiro para cada vértice u V adicionamos arestas para unir pares de widgets de modo a formar um caminho que contém todos os widgets correspondentes a arestas incidentes em u em G Ordenamos arbitrariamente os vértices adjacentes a cada vértice u V como u1 u2 ugrauu onde grauu é o número de vértices adjacentes a u Criamos um caminho em G que passa por todos os widgets que correspondem a arestas incidentes em u adicionando a E as arestas u ui 6 u ui1 1 1 i grauu 1 Por exemplo na Figura 3417 ordenamos os vértices adjacentes a w como x y z e assim o grafo G da parte b da figura inclui as arestas w x 6 w y 1 e w y 6 w z 1 Para cada vértice u V essas arestas em G completam um caminho que contém todos os widgets que correspondem a arestas incidentes para u em G Figura 3416 O widget usado para reduzir o problema de cobertura de vértices ao problema de ciclo hamiltoniano Uma aresta u v do grafo G corresponde ao widget Wuv no grafo G criado na redução a O widget com vértices individuais identificados bd Os caminhos sombreados são os únicos possíveis que passam pelo widget e incluem todos os vértices considerando que as únicas ligações do widget com o restante de G são realizadas pelos vértices u v 1 u v 6 v u 1 e v u 6 Figura 3417 Redução de uma instância do problema da cobertura de vértices a uma instância do problema do ciclo hamiltoniano a Um grafo não dirigido G com uma cobertura de vértices de tamanho 2 que consiste nos vértices sombreados em tom mais claro w e y b O grafo não dirigido G produzido pela redução com o caminho hamiltoniano correspondendo à cobertura de vértices sombreado A cobertura de vértices w y corresponde às arestas s1 w x 1 e s2 y x 1 que aparecem no ciclo hamiltoniano A intuição por trás dessas arestas é que se escolhermos um vértice u V na cobertura de vértices de G podemos construir um caminho de u u1 1 até u ugrauu 6 em G que cobre todos os widgets que correspondem a arestas incidentes em u Isto é para cada um desses widgets digamos Wuui o caminho inclui todos os 12 vértices se u está na cobertura de vértices mas ui não está ou apenas os seis vértices u ui 1 u ui 2 u ui 6 se u e ui estão ambos na cobertura de vértices O último tipo de aresta em E une o primeiro vértice u u1 1 e o último vértice u ugrauu 6 de cada um desses caminhos a cada um dos vértices seletores Isto é incluímos as arestas Em seguida mostramos que o tamanho de G é polinomial no tamanho de G e consequentemente podemos construir G em tempo polinomial no tamanho de G Os vértices de G são os dos widgets mais os vértices seletores Com 12 vértices por widget mais k V vértices seletores temos um total de vértices As arestas de G são as dos widgets as que ficam entre widgets e as que ligam vértices seletores a widgets Cada widget contém 14 arestas o que dá um total de 14 E em todos os widgets Para cada vértice u V o grafo G tem arestas de grau u 1 entre widgets Portanto a soma das arestas em todos os vértices em V é arestas entre widgets Finalmente G tem duas arestas para cada par que consiste em um vértice seletor e um vértice de V totalizando 2k V dessas arestas O número total de arestas de G é então Agora mostramos que a transformação do grafo G em G é uma redução Isto é devemos mostrar que G tem uma cobertura de vértices de tamanho k se e somente se G tem um ciclo hamiltoniano Suponha que G V E tenha uma cobertura de vértices V V de tamanho k Seja V u1 u2 uk Como mostra a Figura 3417 formamos um ciclo hamiltoniano em G incluindo as seguintes arestas10 para cada vértice uj V Incluímos as arestas uj ui 6 uj uji1 1 1 i grauuj 1 que ligam todos os widgets que correspondem a arestas incidentes em uj Também incluímos as arestas contidas nesses widgets como mostram as Figuras 3416bd dependendo de a aresta ser coberta por um ou dois vértices em V O ciclo hamiltoniano também inclui as arestas Examinando a Figura 3417 podese verificar que essas arestas formam um ciclo O ciclo começa em s1 visita todos os widgets que correspondem a arestas incidentes em u1 depois visita s2 visita todos os widgets que correspondem a arestas incidentes em u2 e assim por diante até retornar a s1 O ciclo visita cada widget uma ou duas vezes dependendo de um ou dois vértices de V cobrirem sua aresta correspondente Como V é uma cobertura de vértices para G cada aresta em E é incidente em algum vértice de V e portanto o ciclo visita cada vértice em cada widget de G Visto que o ciclo também visita todo vértice seletor ele é hamiltoniano Inversamente suponha que G V E tenha um ciclo hamiltoniano C E Afirmamos que o conjunto é uma cobertura de vértices para G Para ver por que particione C em caminhos maximais que começam em algum vértice seletor si percorrem uma aresta si u u1 1 para algum u V e terminam em um vértice seletor sj sem passar por nenhum outro vértice seletor Vamos denominar cada caminho caminho de cobertura Dependendo de como G é construído cada caminho de cobertura deve começar em algum si tomar a aresta si u u1 1 correspondente a algum vértice u V passar por todos os widgets que correspondem a arestas de E incidentes em u e depois terminar em algum vértice seletor sj Referimonos a esse caminho de cobertura como pu e pela equação 344 inserimos u em V Cada widget visitado por pu deve ser Wuv ou Wvu para algum v V Para cada widget visitado por pu seus vértices são visitados por um ou por dois caminhos de cobertura Se forem visitados por um caminho de cobertura a aresta u v E é coberta em G pelo vértice u Se dois caminhos de cobertura visitam o widget o outro caminho de cobertura deve ser pv o que implica que v V e a aresta u v E é coberta por u e por v Como cada vértice em cada widget é visitado por algum caminho de cobertura vemos que cada aresta em E é coberta por algum vértice em V 3454 O PROBLEMA DO CAIXEIROVIAJANTE No problema do caixeiroviajante que está intimamente relacionado ao problema do ciclo hamiltoniano um vendedor deve visitar n cidades Modelando o problema como um grafo completo com n vértices podemos dizer que o vendedor deseja fazer um percurso ou um ciclo hamiltoniano visitando cada cidade exatamente uma vez e terminando na cidade de onde partiu O vendedor incorre em um custo inteiro não negativo ci j para viajar da cidade i para a cidade j e deseja fazer o percurso cujo custo total seja mínimo em que o custo total é a soma dos custos individuais ao longo das arestas do percurso Por exemplo na Figura 3418 um percurso de custo mínimo é u w v x u com custo 7 A linguagem formal para o problema de decisão correspondente é Figura 3418 Uma instância do problema do caixeiroviajante As arestas sombreadas representam um percurso de custo mínimo com custo 7 3455 O teorema a seguir mostra que é improvável que exista um algoritmo rápido para o problema do caixeiroviajante Teorema 3414 O problema do caixeiroviajante é NPcompleto Prova Primeiro mostramos que TSP pertence a NP Dada uma instância do problema usamos como certificado a sequência de n vértices no percurso O algoritmo de verificação confirma que essa sequência contém cada vértice exatamente uma vez soma os custos de arestas e verifica se a soma é no máximo k Esse processo pode certamente ser feito em tempo polinomial Para provar que TSP é NPdifícil mostramos que HAMCYCLE P TSP Seja G V E uma instância de HAMCYCLE Construímos uma instância de TSP da maneira seguinte Formamos o grafo completo G V E onde E i j i j V e i j e definimos a função custo c como Observe que como G é não dirigido não tem nenhum laço assim cv v 1 para todos os vértices v V A instância de TSP é então G c 0 que podemos facilmente criar em tempo polinomial Agora mostraremos que o grafo G tem um ciclo hamiltoniano se e somente se o grafo G tem um percurso cujo custo é menor ou igual a 0 Suponha que o grafo G tenha um ciclo hamiltoniano h Cada aresta em h pertence a E e portanto tem custo 0 em G Assim h é um percurso em G com custo 0 Ao contrário suponha que o grafo G tenha um percurso h de custo menor ou igual a 0 Visto que os custos das arestas em E são 0 e 1 o custo da percurso h é exatamente 0 e cada aresta no percurso deve ter custo 0 Portanto h contém apenas arestas em E Concluímos que h é um ciclo hamiltoniano no grafo G O PROBLEMA DA SOMA DE SUBCONJUNTOS O próximo problema NPcompleto que consideraremos é aritmético No problema da soma de subconjuntos temos um conjunto finito S de inteiros positivos e um inteiro alvo t 0 Perguntamos se existe um subconjunto S S cuja soma de seus elementos é t Por exemplo se S 1 2 7 14 49 98 343 686 2409 2793 16808 17206 117705 117993 e t 138457 então o subconjunto S 1 2 7 98 343 686 2409 17206 117705 é uma solução Como sempre definimos o problema como uma linguagem Como ocorre com qualquer problema de aritmética é importante lembrar que nossa codificação padrão pressupõe que os inteiros da entrada estão codificados em binário Com isso em mente podemos mostrar que é improvável que o problema da soma de subconjuntos tenha um algoritmo rápido Teorema 3415 O problema da soma de subconjuntos é NPcompleto Prova Para mostrar que SUBSETSUM está em NP para uma instância S t do problema é o subconjunto S é o certificado Um algoritmo de verificação pode verificar se t s S s em tempo polinomial Agora mostraremos que 3CNFSAT P SUBSETSUM Dada uma fórmula 3CNF f para as variáveis x1 x2 xn com cláusulas C1 C2 Ck cada uma contendo exatamente três literais distintos o algoritmo de redução constrói uma instância S t do problema da soma de subconjuntos tal que f é satisfazível se e somente se existe um subconjunto de S cuja soma seja exatamente t Sem prejuízo da generalidade fazemos duas suposições simplificadoras para a fórmula f A primeira é que nenhuma cláusula contém ambas uma variável e sua negação visto que tal cláusula é automaticamente satisfeita por qualquer atribuição de valores para as variáveis A segunda é que cada variável aparece em no mínimo uma cláusula porque não importa qual valor é atribuído a uma variável que não aparece A redução cria dois números no conjunto S para cada variável xi e dois números em S para cada cláusula Cj Criaremos números em base 10 onde cada número contém n k dígitos e cada dígito corresponde a uma variável ou a uma cláusula A base 10 e outras bases como veremos tem a propriedade de que precisamos de impedir transportes de dígitos mais baixos para dígitos mais altos Como mostra a Figura 3419 construímos o conjunto S e o alvo t da seguinte maneira Rotulamos cada posição de dígito por uma variável ou por uma cláusula Os k dígitos menos significativos são rotulados pelas cláusulas e os n dígitos mais significativos são rotulados por variáveis O alvo t tem um 1 em cada dígito rotulado por uma variável e um 4 em cada dígito rotulado por uma cláusula Para cada variável xi o conjunto S contém dois inteiros vi e vi Cada vi e vi tem um 1 no dígito rotulado por xi e 0s nos outros dígitos de variáveis Se o literal xi aparece na cláusula Cj então o dígito rotulado por Cj em vi contém um 1 Se o literal xi aparece na cláusula Cj o dígito rotulado por Cj em vi contém um 1 Todos os outros dígitos rotulados por cláusulas em vi e vi são 0 Todos os valores vi e vi no conjunto S são únicos Por quê Para l i nenhum vl ou vl pode ser igual a vi e vi nos n dígitos mais significativos Além disso pelas simplificações que adotamos no início nenhum vi e vi pode ser igual em todos os k dígitos menos significativos Se vi e vi fossem iguais então xi e xi teriam de aparecer exatamente no mesmo conjunto de cláusulas Contudo combinamos que nenhuma cláusula contém xi e xi ao mesmo tempo e que xi ou xi aparece em alguma cláusula e portanto deve haver alguma cláusula Cj para a qual vi e vi são diferentes Para cada cláusula Cj o conjunto S contém dois inteiros sj e sj Cada sj e sj tem 0s em todos os dígitos exceto o dígito identificado por Cj Para sj existe um 1 no dígito Cj e sj tem um 2 nesse dígito Esses inteiros são variáveis de folgas que usamos para conseguir que cada posição de dígito identificada por cláusula alcance o valor alvo de 4 A simples inspeção da Figura 3419 demonstra que todos os valores sj e sj em S são únicos no conjunto S Observe que a maior soma de dígitos em qualquer posição de dígito é 6 que ocorre nos dígitos identificados por cláusulas três 1s dos valores vi e vi mais 1 e 2 dos valores sj e sj Portanto interpretando esses números em base 10 não pode ocorrer nenhum transporte de dígitos mais baixos para dígitos mais altos11 Podemos executar a redução em tempo polinomial O conjunto S contém 2n 2k valores cada um deles com n k dígitos e o tempo para produzir cada dígito é polinomial em n k O alvo t tem n k dígitos e a redução produz cada um deles em tempo constante Agora mostramos que a fórmula 3CNF f é satisfazível se e somente se existe um subconjunto S S cuja soma é t Primeiro suponha que f tenha uma atribuição que satisfaz Para i 1 2 n se xi 1 nessa atribuição então incluímos vi em S Caso contrário incluímos vi Em outras palavras incluímos em S exatamente os valores vi e vi que correspondem a literais com o valor 1 na atribuição Incluído vi ou vi mas não ambos para todo i e como foi inserido 0 nos dígitos rotulados por variáveis em todo sj e sj vemos que para cada dígito rotulado por variável a soma dos valores de S deve ser 1 o que corresponde aos dígitos do alvo t Como cada cláusula é satisfeita a cláusula contém algum literal com o valor 1 Portanto cada dígito rotulado por uma cláusula tem no mínimo um 1 em sua soma fornecido por um valor vi ou vi em S De fato 1 2 ou 3 literais podem ter 1 em cada cláusula e assim cada dígito rotulado por cláusula tem soma de 1 2 ou 3 dos valores vi e vi em S Por exemplo na Figura 3419 os literais x1 x2 e x3 têm o valor 1 em uma atribuição que satisfaz Cada uma das cláusulas C1 e C4 contém exatamente um desses literais e assim juntos v1 v2 e v3 contribuem com 1 para a soma nos dígitos para C1 e C4 A cláusula C2 contém dois desses literais e v1 v2 e v3 contribuem com 2 para a soma no dígito correspondente a C2 A cláusula C3 contém todos esses três literais v1 v2 e v3 contribuem com 3 para a soma no dígito correspondente a C3 Chegamos ao alvo de 4 em cada dígito identificado pela cláusula Cj incluindo em S o subconjunto não vazio adequado de variáveis de folga sj sj Na Figura 3419 S inclui s1 s1 s2 s3 s4 e s4 Visto que equiparamos o alvo em todos os dígitos da soma e não pode ocorrer nenhum transporte a soma dos valores de S é t Figura 3419 A redução de 3CNFSAT a SUBSETSUM A fórmula em 3CNF é f C1 C2 C3 C4 onde C1 x1 x2 x3 C2 x1 x2 x3 e C3 x1 x2 x3 e C4 x1 x2 x3 Uma atribuição que satisfaz de f é x1 0 x2 0 x3 1 O conjunto S produzido pela redução consiste nos números em base 10 mostrados de cima para baixo S 1001001 1000110 100001 101110 10011 11100 1000 2000 100 200 10 20 1 2 O alvo t é 1114444 O subconjunto S S está sombreado em tom mais claro e contém v1 v2 e v3 que correspondem à atribuição satisfatória Também contém variáveis de folgas s1 s1 s2 s3 s4 e s4 para alcançar o valor de alvo 4 nos dígitos identificados por C1 a C4 3451 3452 3453 3454 3455 3456 3457 3458 341 Agora suponha que exista um subconjunto S S cuja soma seja t O subconjunto S deve incluir exatamente um de vi e vi para cada i 1 2 n já que do contrário os dígitos identificados por variáveis não somariam 1 Se vi S definimos xi 1 Caso contrário vi S e definimos xi 0 Afirmamos que toda cláusula Cj para j 1 2 k é satisfeita por essa atribuição Para provar essa afirmação observe que para alcançar a soma 4 no dígito identificado por Cj o subconjunto S deve incluir no mínimo um valor vi ou vi que tenha 1 no dígito identificado por Cj já que as contribuições das variáveis de folgas sj e sj juntas somam no máximo 3 Se S incluir um vi que tenha um 1 na posição de Cj então o literal xi aparece na cláusula Cj Como definimos xi 1 quando vi S a cláusula Cj é satisfeita Se S incluir um vi que tenha um 1 nessa posição então o literal xi aparecerá em Cj Visto que definimos xi 0 quando vi S a cláusula Cj é novamente satisfeita Assim todas as cláusulas de f são satisfeitas o que conclui a prova Exercícios O problema de isomorfismo de subgrafos toma dois grafos não dirigidos G1 e G2 e pergunta se G1 é isomorfo a um subgrafo de G2 Mostre que o problema de isomorfismo de subgrafos é NPcompleto Dada uma matriz A m n de inteiros e um mvetor inteira b o problema de programação inteira 01 pergunta se existe um nvetor de inteiros x com elementos no conjunto 0 1 tal que Ax b Prove que a programação inteira 01 é NPcompleta Sugestão Reduza partindo de 3CNFSAT O problema de programação linear inteira é semelhante ao problema de programação inteira 01 dado no Exercício 3452 exceto que os valores do vetor x podem ser quaisquer inteiros em vez de somente 0 ou 1 Considerando que o problema de programação inteira 01 é NPdifícil mostre que o problema de programação linear inteira é NPcompleto Mostre como resolver o problema da soma de subconjuntos em tempo polinomial se o valor alvo t é expresso em unário O problema de partição de conjuntos toma como entrada um conjunto S de números A questão é se os números podem ser particionados em dois conjuntos A e A S A tais que x A x x A x Mostre que o problema de partição de conjuntos é NPcompleto Mostre que o problema do caminho hamiltoniano é NPcompleto O problema do ciclo simples de comprimento máximo é o problema de determinar um ciclo simples sem vértices repetidos de comprimento máximo em um grafo Formule um problema de decisão relacionado e mostre que esse problema é NPcompleto No problema de satisfazibilidade da meia forma normal 3conjuntiva meia 3CNF temos uma fórmula normal 3conjuntiva f com n variáveis e m cláusulas onde m é par Desejamos determinar se existe uma atribuição verdade para as variáveis de f tal que exatamente metade das cláusulas tenha valor 0 e exatamente metade das cláusulas tenha valor 1 Prove que o problema de satisfazibilidade da meia 3CNF é NPcompleto Problemas Conjunto independente a b c d 342 a b c d 343 Um conjunto independente de um grafo G V E é um subconjunto V V de vértices tal que cada aresta em E é incidente em no máximo um vértice em V O problema do conjunto independente é encontrar um conjunto independente de tamanho máximo em G Formule um problema de decisão relacionado para o problema do conjunto independente e prove que ele é NPcompleto Sugestão Reduza partindo do problema da clique Suponha que você recebeu uma subrotina em caixapreta para resolver o problema de decisão que definiu na parte a Dê um algoritmo para encontrar um conjunto independente de tamanho máximo O tempo de execução de seu algoritmo deve ser polinomial em V e E contando consultas à caixapreta como uma única etapa Embora o problema de decisão do conjunto independente seja NPcompleto certos casos especiais são resolvíveis em tempo polinomial Dê um algoritmo eficiente para resolver o problema do conjunto independente quando cada vértice em G tem grau 2 Analise o tempo de execução e prove que seu algoritmo funciona corretamente Dê um algoritmo eficiente para resolver o problema do conjunto independente quando G é bipartido Analise o tempo de execução e prove que seu algoritmo funciona corretamente Sugestão Use os resultados da Seção 263 Bonnie e Clyde Bonnie e Clyde acabaram de assaltar um banco Eles têm uma sacola de dinheiro e querem repartilo Para cada um dos cenários a seguir dê um algoritmo de tempo polinomial ou prove que o problema é NP completo A entrada em cada caso é uma lista dos n itens na sacola junto com o valor de cada um A sacola contém n moedas mas somente duas denominações diferentes algumas moedas valem x dólares e algumas valem y dólares Bonnie e Clyde desejam dividir o dinheiro em partes exatamente iguais A sacola contém n moedas com um número arbitrário de denominações diferentes mas cada denominação é uma potência inteira não negativa de 2 isto é os valores possíveis das denominações são 1 dólar 2 dólares 4 dólares etc Bonnie e Clyde desejam dividir o dinheiro em partes exatamente iguais A sacola contém n cheques que por uma coincidência incrível são nominais a Bonnie ou Clyde Eles desejam dividir os cheques de modo que cada um receba exatamente a mesma quantia A sacola contém n cheques como na parte c mas dessa vez Bonnie e Clyde estão dispostos a aceitar uma divisão em que a diferença não seja maior que 100 dólares Coloração de grafos Fabricantes de mapas tentam usar o mínimo de cores possível para colorir países em um mapa desde que dois países que compartilhem uma fronteira não tenham a mesma cor Podemos modelar esse problema com um grafo não dirigido G V E no qual cada vértice representa um país e os vértices cujos respectivos países compartilham uma fronteira são adjacentes Então colorir um grafo com k cores é uma função c V 1 2 k tal que cu cv para toda aresta u v E Em outras palavras os números 1 2 k representam as k cores e vértices adjacentes devem ter cores diferentes O problema da coloração de grafos é determinar o número mínimo de cores necessárias para colorir um dado grafo a b c d e f 344 a b c d Dê um algoritmo eficiente para colorir um grafo com duas cores se ele existir Expresse o problema de colorir grafos como um problema de decisão Mostre que seu problema de decisão é resolvível em tempo polinomial se e somente se o problema da coloração de grafos é resolvível em tempo polinomial Seja 3COLOR a linguagem que é o conjunto de grafos que podem ser coloridos em três cores Mostre que se 3COLOR é NPcompleto seu problema de decisão da parte b é NPcompleto Para provar que 3COLOR é NPcompleto usamos uma redução de 3CNFSAT Dada uma fórmula f de m cláusulas para n variáveis x1 x2 xn construímos um grafo G V E da seguinte maneira O conjunto V consiste em um vértice para cada variável um vértice para a negação de cada variável cinco vértices para cada cláusula e três vértices especiais TRUE FALSE e RED As arestas do grafo são de dois tipos arestas literais que são independentes das cláusulas e arestas cláusulas que dependem das cláusulas As arestas literais formam um triângulo nos vértices especiais e também formam um triângulo em xi xi e RED para i 1 2 n Demonstre que em qualquer problema c de colorir em três cores um grafo que contém arestas literais exatamente uma de uma variável e sua negação é colorida cTRUE e a outra é colorida cFALSE Demonstre que para qualquer atribuição verdade de f existe uma coloração em três cores do grafo que contém apenas as arestas literais O widget mostrado na Figura 3420 ajuda a impor a condição correspondente a uma cláusula x y z Cada cláusula requer uma cópia única dos cinco vértices que estão sombreados em tom mais escuro na figura eles se ligam aos literais da cláusula e ao vértice especial TRUE da maneira mostrada Demonstre que se cada x y e z é colorido cTRUE ou cFALSE o widget pode pode ser colorido em três cores se e somente se no mínimo um de x y ou z é colorido cTRUE Conclua a prova de que 3COLOR é NPcompleto Escalonamento com lucros e prazos finais Suponha que tenhamos uma máquina e um conjunto de n tarefas a1 a2 an e cada uma requeira tempo na máquina Cada tarefa aj requer tj unidades de tempo na máquina seu tempo de processamento rende um lucro pj e tem um prazo final dj A máquina pode processar somente uma tarefa por vez e a tarefa aj deve ser executada ininterruptamente por tj unidades de tempo consecutivas Se concluirmos a tarefa aj em seu prazo final dj receberemos um lucro pj mas se a concluirmos após seu prazo final não obteremos nenhum lucro Por ser um problema de otimização temos os tempos de processamento lucros e prazos finais para um conjunto de n tarefas e desejamos determinar um escalonamento que conclua todas as tarefas e retorne o maior lucro possível Os tempos de processamento lucros e prazos finais são números negativos Enuncie este problema como um problema de decisão Mostre que o problema de decisão é NPcompleto Dê um algoritmo de tempo polinomial para o problema de decisão supondo que todos os tempos de processamento são inteiros de 1 a n Sugestão Use programação dinâmica Dê um algoritmo de tempo polinomial para o problema de otimização supondo que todos os tempos de processamento são inteiros de 1 a n Figura 3420 O widget correspondente a uma cláusula x y z usado no Problema 343 NOTAS DO CAPÍTULO O livro de Garey e Johnson 129 é um maravilhoso guia para a NPcompletude por discutir a teoria a fundo e fornecer um catálogo de muitos problemas que eram conhecidos como NPcompletos em 1979 A prova do Teorema 3413 foi adaptada desse livro e a lista de domínios de problemas NPcompletos no início da Seção 345 foi extraída de seu sumário Johnson escreveu uma série de 23 colunas no Journal of Algorithms entre 1981 e 1992 relatando novos desenvolvimentos no estudo da NPcompletude Hopcroft Motwani e Ullman 177 Lewis e Papadimitriou 236 Papadimitriou 270 e Sipser 317 trazem bons tratamentos da NPcompletude no contexto da teoria da complexidade A NPcompletude e várias reduções também aparecem em livros por Aho Hopcroft e Ullman 5 Dasgupta Papadimitriou e Varizani 82 Johnsonbaugh e Schaefer 193 e Kleinberg e Tardos 208 A classe P foi introduzida em 1964 por Cobham 72 e independentemente em 1965 por Edmonds 100 que também apresentou a classe NP e conjeturou que P NP A noção da NPcompletude foi proposta em 1971 por Cook 75 que deu as primeiras provas da NPcompletude para satisfazibilidade de fórmulas e satisfazibilidade 3 CNF Levin 234 descobriu independentemente a noção dando uma prova da NPcompletude para um problema de ladrilhamento Karp 199 introduziu a metodologia de reduções em 1972 e demonstrou a rica variedade de problemas NPcompletos O artigo de Karp incluía as provas originais da NPcompletude dos problemas da clique da cobertura de vértices e do ciclo hamiltoniano Desde então muitos pesquisadores provaram que milhares de problemas eram NP completos Em uma conversa durante uma reunião para comemorar os 60 anos de Karp em 1995 Papadimitriou observou que aproximadamente 6000 artigos por ano são publicados com a expressão NPcompleto em seu título sumário ou lista de palavraschave Isso é mais do que cada um dos termos compilador banco de dados especialista rede neural ou sistema operacional O trabalho recente em teoria da complexidade lançou alguma luz sobre a complexidade do cálculo de soluções aproximadas Ele apresentou uma nova definição de NP usando provas probabilisticamente verificáveis Essa nova definição implica que para problemas como o do clique da cobertura de vértices do caixeiro viajante com a desigualdade triangular e muitos outros o cálculo de boas soluções aproximadas é NPdifícil e consequentemente não é mais fácil que o cálculo de soluções ótimas Uma introdução a esse assunto pode ser encontrada na tese de Arora 20 em um capítulo de Arora e Lund em Hochbaum 172 um levantamento por Arora 21 um livro editado por Mayr Prömel e Steger 246 e em um artigo de pesquisa de Johnson 191 1 Consulte em Hopcrotf e Ullman 180 ou Lewis e Papadimitriou 236 um tratamento completo do modelo da máquina de Turing 2 O contradomínio de e não precisa ser cadeias binárias qualquer conjunto de cadeias sobre um alfabeto finito que tenha pelo menos dois símbolos servirá 3 Supomos que a saída do algoritmo está separada de sua entrada Como demora no mínimo uma etapa de tempo para produzir cada bit da saída e o algoritmo leva OTn etapas de tempo o tamanho da saída é OTn 4 Denotamos por 0 1 o conjunto de todas as cadeias compostas de símbolos do conjunto 0 1 5 Tecnicamente também exigimos que as funções f12 e f21 mapeiem não instâncias para não instâncias Uma não instância de uma codificação e é uma cadeia x 0 1 tal que não existe nenhuma instância i para a qual ei x É preciso que f12x y para toda não instância x da codificação e1 onde y é alguma não instância de e2 e que f21x y para toda não instância x de e2 onde y é alguma não instância de e1 6Para saber mais sobre classes de complexidade consulte o artigo seminal de Hartmanis e Stearns 162 7 Em uma carta a seu amigo John T Graves datada de 17 de outubro de 1856 Hamilton 157 p 624 escreveu Descobri que alguns jovens se divertem muito com um novo jogo matemático que o Icosion fornece no qual uma pessoa fixa cinco alfinetes em quaisquer cinco pontos consecutivos e o outro jogador tenta inserir o que pela teoria descrita nesta carta sempre pode ser feito quinze alfinetes em sucessão cíclica de modo a passar por todos os pontos e terminar na proximidade imediata do alfinete com o qual o antagonista começou 8 O nome NP significa em inglês tempo polinomial não determinístico nondeterministic polynomial time A classe NP foi estudada originalmente no contexto do não determinismo mas este livro usa a noção um pouco mais simples ainda que equivalente de verificação Hopcroft e Ullman 180 dão uma boa apresentação da NPcompletude em termos de modelos não determinísticos de computação 9Por outro lado se o tamanho do circuito C é Q2k então um algoritmo cujo tempo de execução é O2k tem um tempo de execução que é polinomial em relação ao tamanho do circuito Mesmo que P NP essa situação não contradiria a NPcompletude do problema a existência de um algoritmo de tempo polinomial para um caso especial não implica que existe um algoritmo de tempo polinomial para todos os casos 10 Tecnicamente definimos um ciclo em termos de vértices em vez de arestas veja a Seção B4 Por questão de clareza abusamos da notação aqui e definimos o ciclo hamiltoniano em termos de arestas 11 De fato qualquer base b onde b 7 serviria A instância no início desta subseção é o conjunto S e alvo t na Figura 3419 interpretados em base 7 sendo S listado em sequência ordenada 35 ALGORITMOS DE APROXIMAÇÃO Muitos problemas de significado prático são NPcompletos mas apesar disso são demasiadamente importantes para que os abandonemos simplesmente porque não sabemos como determinar uma solução ótima em tempo polinomial Mesmo quando um problema é NPcompleto ainda pode haver esperança Temos no mínimo três modos de contornar a NPcompletude O primeiro é que se as entradas reais são pequenas um algoritmo com tempo de execução exponencial pode ser perfeitamente satisfatório O segundo é que podemos conseguir isolar casos especiais importantes que podemos resolver em tempo polinomial O terceiro é que poderíamos encontrar abordagens para determinar soluções quase ótimas em tempo polinomial seja no pior caso ou no caso esperado Na prática quase ótimo muitas vezes é suficientemente bom Denominamos um algoritmo que retorna soluções quase ótimas algoritmo de aproximação Este capítulo apresenta algoritmos de aproximação de tempo polinomial para vários problemas NP completos Razões de desempenho para algoritmos de aproximação Suponha que estejamos trabalhando em um problema de otimização em que cada solução potencial tenha um custo positivo e que desejamos encontrar uma solução quase ótima Dependendo do problema podemos definir uma solução ótima como uma solução com o máximo custo possível ou uma solução com o mínimo custo possível isto é o problema pode ser um problema de maximização ou um problema de minimização Dizemos que um algoritmo para um problema tem uma razão de aproximação rn se para qualquer entrada de tamanho n o custo C da solução produzida pelo algoritmo está a menos de um fator rn do custo C de uma solução ótima Se um algoritmo consegue uma razão de aproximação de rn nós o denominamos algoritmo de rn aproximação As definições de razão de aproximação e algoritmo de aproximação rn se aplicam a problemas de minimização bem como de maximização Para um problema de maximização 0 C C e a razão CC dá o fator que indica quanto o custo de uma solução ótima é maior que o custo da solução aproximada De modo semelhante para um problema de minimização 0 C C e a razão CC dá o fator que indica quanto o custo da solução aproximada é maior que o custo de uma solução ótima Como supomos que todas as soluções têm custo positivo essas razões são sempre bem definidas A razão de aproximação de um algoritmo de aproximação nunca é menor que 1 já que CC 1 implica CC 1 Então um algoritmo de aproximação1 1 produz uma solução ótima e um algoritmo de aproximação com uma razão de aproximação grande pode retornar uma solução muito pior que a solução ótima Para muitos problemas temos algoritmos de aproximação de tempo polinomial com razões de aproximação pequenas e constantes embora para outros problemas os algoritmos de aproximação de tempo polinomial mais conhecidos tenham razões de aproximação que crescem em função do tamanho da entrada n Um exemplo de tal problema é o problema da cobertura de conjuntos apresentado na Seção 353 351 Alguns problemas NPcompletos permitem algoritmos de aproximação de tempo polinomial que podem conseguir razões de aproximação cada vez melhores usando cada vez mais tempo de computação Isto é podemos permutar tempo de computação e qualidade da aproximação Um exemplo é o problema da soma de subconjuntos estudado na Seção 355 Essa situação é bastante importante para merecer um nome exclusivo Um esquema de aproximação para um problema de otimização é um algoritmo de aproximação que adota como entrada não somente uma instância do problema mas também um valor e 0 tal que para qualquer e fixo o esquema é um algoritmo de 1 eaproximação Dizemos que um esquema de aproximação é um esquema de aproximação de tempo polinomial se para qualquer e 0 fixo o esquema é executado em tempo polinomial no tamanho n de sua instância de entrada O tempo de execução de um esquema de aproximação de tempo polinomial pode aumentar muito rapidamente à medida que e diminui Por exemplo o tempo de execução de um esquema de aproximação de tempo polinomial poderia ser On2e No caso ideal se e diminui por um fator constante o tempo de execução para obter a aproximação desejada não deve aumentar mais do que um fator constante embora não necessariamente o mesmo fator constante pelo qual e diminuiu Dizemos que um esquema de aproximação é um esquema de aproximação de tempo completamente polinomial se é um esquema de aproximação e seu tempo de execução é polinomial em 1e bem como no tamanho n da instância de entrada Por exemplo o esquema poderia ter um tempo de execução O1e2n3 Com tal esquema qualquer redução de fator constante em e pode vir acompanhada por um aumento correspondente de fator constante no tempo de execução Resumo do capítulo As quatro primeiras seções deste capítulo apresentam alguns exemplos de algoritmos de aproximação de tempo polinomial para problemas NPcompletos e a quinta seção apresenta um esquema de aproximação de tempo completamente polinomial A Seção 351 começa com um estudo do problema de cobertura de vértices um problema de minimização NPcompleto que tem um algoritmo de aproximação com uma razão de aproximação igual a 2 A Seção 352 apresenta um algoritmo de aproximação com razão 2 para o caso do problema do caixeiroviajante no qual a função custo satisfaz a desigualdade triangular Mostra também que sem a desigualdade triangular para qualquer constante r 1 um algoritmo de raproximação não pode existir a menos que P NP Na Seção 353 mostramos como usar um método guloso como um algoritmo de aproximação efetivo para o problema da cobertura de conjuntos obtendo uma cobertura cujo custo é na pior das hipóteses um fator logarítmico maior que o custo ótimo A Seção 354 apresenta mais dois algoritmos de aproximação Primeiro estudamos a versão de otimização da satisfazibilidade 3 CNF e damos um algoritmo aleatorizado simples que produz uma solução com uma razão de aproximação esperada de 87 Depois examinamos uma variante ponderada do problema de cobertura de vértices e mostramos como usar programação linear para desenvolver um algoritmo de aproximação 2 Finalmente a Seção 355 apresenta um esquema de aproximação de tempo completamente polinomial para o problema da soma de subconjuntos O PROBLEMA DE COBERTURA DE VÉRTICES A Seção 3452 definiu o problema de cobertura de vértices e provou que ele é NPcompleto Lembrese de que uma cobertura de vértices de um grafo não dirigido G V E é um subconjunto V V tal que se u v é uma aresta de G então u V ou v V ou ambos O tamanho de uma cobertura de vértices é o número de vértices que ela contém O problema de cobertura de vértices é encontrar uma cobertura de vértices de tamanho mínimo em um grafo não dirigido dado Denominamos tal cobertura de vértices cobertura de vér tices ótima Esse problema é a versão de otimização de um problema de decisão NPcompleto Embora não saibamos como determinar uma cobertura de vértices ótima em um grafo G em tempo polinomial podemos encontrar eficientemente uma cobertura de vértices que é quase ótima O algoritmo de aproximação a seguir adota como entrada um grafo não dirigido G e retorna uma cobertura de vértices para a qual é garantido que seu tamanho não é mais de duas vezes maior do que a cobertura de vértices ótima Figura 351 A operação de APPROXVERTEXCOVER a O grafo de entrada G que tem sete vértices e oito arestas b A aresta b c mostrada em sombreado de tom mais escuro é a primeira aresta escolhida por APPROXVERTEXCOVER Os vértices b e c mostrados em sombreado de tom mais claro são adicionados ao conjunto C que contém a cobertura de vértices que está sendo criada As arestas a b c e e c d mostradas em linhas tracejadas são eliminadas visto que agora estão cobertas por algum vértice em C c A aresta e f é escolhida os vértices e e f são adicionados a C d A aresta d g é escolhida os vértices d e g são adicionados a C e O conjunto C que é a cobertura de vértices produzida por APPROXVERTEXCOVER contém os seis vértices b c d e f g f A cobertura de vértices ótima para esse problema contém apenas três vértices b d e e A Figura 351 ilustra a operação de ApproxVertexCover em um grafo de exemplo A variável C contém a cobertura de vértices que está sendo construída A linha 1 inicializa C como o conjunto vazio A linha 2 define E como uma cópia do conjunto de arestas EG do grafo O laço nas linhas 36 escolhe repetidamente uma aresta u v de E adiciona suas extremidades u e v a C e elimina todas as arestas em E que são cobertas por u ou v O tempo de execução desse algoritmo é OV E usando listas de adjacências para representar E Teorema 351 ApproxVertexCover é um algoritmo polinomial de 2aproximação Prova Já mostramos que ApproxVertexCover é executado em tempo polinomial O conjunto C de vértices que é retornado por ApproxVertexCover é uma cobertura de vértices visto que o algoritmo roda até que toda aresta em EG tenha sido coberta por algum vértice em C 3511 3512 3514 3513 Para ver que ApproxVertexCover devolve uma cobertura de vértices que é no máximo duas vezes o tamanho de uma cobertura ótima seja A o conjunto de arestas que foram escolhidas na linha 4 de ApproxVertexCover Para cobrir as arestas em A qualquer cobertura de vértices em particular uma cobertura ótima C deve incluir no mínimo uma extremidade de cada aresta em A Duas arestas em A não compartilham uma extremidade já que uma vez escolhida uma aresta na linha 4 todas as outras arestas que são incidentes em suas extremidades são eliminadas de E na linha 6 Assim não há duas arestas em A cobertas pelo mesmo vértice de C e temos o limite inferior para o tamanho de uma cobertura de vértices ótima Cada execução da linha 4 escolhe uma aresta para a qual nenhuma de suas extremidades já está em C o que produz um limite superior na verdade um limite superior exato para o tamanho da cobertura de vértices devolvida Combinando as equações 352 e 353 obtemos provando assim o teorema Vamos refletir sobre essa prova A princípio poderíamos imaginar como é possível provar que o tamanho da cobertura de vértices devolvida por ApproxVertexCover é no máximo duas vezes o tamanho de uma cobertura de vértices ótima já que nem mesmo sabemos qual é o tamanho da cobertura de vértices ótima Em vez de querermos saber qual é o tamanho exato de uma cobertura de vértices ótima recorremos a um limite inferior para o tamanho Como o Exercício 3512 lhe pede para mostrar o conjunto A de arestas que a linha 4 de ApproxVertexCover seleciona é realmente um emparelhamento maximal no grafo G Um emparelhamento maximal é um emparelhamento que não é um subconjunto próprio de qualquer outro emparelhamento O tamanho de um emparelhamento maximal é como demonstramos na prova do Teorema 351 um limite inferior para o tamanho de uma cobertura de vértices ótima O algoritmo retorna uma cobertura de vértices cujo tamanho é no máximo duas vezes o tamanho do emparelhamento maximal A Determinando a razão entre o tamanho da solução retornada e o limite inferior obtemos nossa razão de aproximação Utilizaremos essa metodologia também em seções posteriores Exercícios Dê um exemplo de grafo para o qual ApproxVertexCover sempre produz um solução subótima Prove que o conjunto de arestas escolhido na linha 4 de ApproxVertexCover forma um emparelhamento maximal no grafo G O professor Bündchen propõe a seguinte heurística para resolver o problema de cobertura de vértices Selecione repetidamente um vértice de grau mais alto e elimine todas as suas arestas incidentes Dê um exemplo para mostrar que a heurística do professor não tem uma razão de aproximação de 2 Sugestão Experimente um grafo bipartido com vértices de grau uniforme à esquerda e vértices de grau variado à direita Dê um algoritmo guloso eficiente para determinar uma cobertura de vértices ótima para uma árvore em tempo linear 3515 352 3521 Pela prova do Teorema 3412 sabemos que o problema de cobertura de vértices e o problema NPcompleto do clique são complementares no sentido de que uma cobertura de vértices ótima é o complemento de um clique de tamanho máximo no grafo complemento Essa relação implica que existe um algoritmo de aproximação de tempo polinomial com razão de aproximação constante para o problema do clique Justifique sua resposta O PROBLEMA DO CAIXEIROVIAJANTE No problema do caixeiroviajante apresentado na Seção 3454 temos um grafo não dirigido completo G V E que tem um custo inteiro não negativo cu v associado a cada aresta u v E e devemos encontrar um ciclo hamiltoniano de G com custo mínimo Como uma extensão de nossa notação seja cA o custo total das arestas no subconjunto A E Em muitas situações práticas o modo menos caro de ir de um lugar u a um lugar w é ir diretamente sem nenhuma etapa intermediária Em outros termos eliminar uma parada intermediária nunca aumenta o custo Formalizamos essa noção dizendo que a função custo c satisfaz a desigualdade triangular se para todos os vértices u v w V A desigualdade triangular parece naturalmente válida e ela é automaticamente satisfeita em muitas aplicações Por exemplo se os vértices do grafo são pontos no plano e o custo de viajar entre dois vértices é a distância euclidiana comum entre eles a desigualdade triangular é satisfeita Além disso muitas funções custo além da distância euclidiana satisfazem a desigualdade triangular Como mostra o Exercício 3522 o problema do caixeiroviajante é NPcompleto mesmo se exigirmos que a função custo satisfaça a desigualdade triangular Assim não devemos esperar encontrar um algoritmo de tempo polinomial para resolver esse problema com exatidão Em vez disso procuramos bons algoritmos de aproximação Na Seção 3521 examinamos um algoritmo de aproximação 2 para o problema do caixeiroviajante com a desigualdade triangular Na Seção 3522 mostraremos que sem a desigualdade triangular não existe um algoritmo de aproximação de tempo polinomial com uma razão de aproximação constante a menos que P NP O PROBLEMA DO CAIXEIROVIAJANTE COM A DESIGUALDADE TRIANGULAR Aplicando a metodologia da seção anterior calcularemos primeiro uma estrutura uma árvore geradora mínima cujo peso dá um limite inferior para o comprimento de um passeio ótimo do caixeiroviajante Depois usaremos a árvore geradora mínima para criar um passeio cujo custo não é mais que duas vezes o peso da árvore geradora mínima desde que a função custo satisfaça a desigualdade triangular O algoritmo a seguir implementa essa abordagem chamando o algoritmo de árvore geradora mínima MSTPrim da Seção 232 como uma subrotina Lembrese de que na Seção 121 dissemos que um passeio de árvore em préordem visita recursivamente todos os vértices da árvore e insere um vértice na lista de vértices quando o encontra pela primeira vez antes de visitar qualquer de seus filhos Figura 352 A operação de APPROXtSptOUR a Um grafo não direcionado completo Os vértices estão em interseções de linhas de grade inteiras Por exemplo f está uma unidade à direita e duas unidades acima de h A função custo entre dois pontos é a distância euclidiana normal b Uma árvore geradora mínima T do grafo completo como calculada por MStpRIM O vértice a é o vértice raiz São mostradas apenas arestas que estão na árvore geradora mínima Acontece que os vértices são rotulados de tal modo que são adicionados à árvore principal por MStpRIM em ordem alfabética c Um passeio de T começando em a Um passeio completo da árvore visita os vértices na ordem a b c b h b a d e f e g e d a Um passeio em préordem de T acrescenta um vértice à lista de vértices apenas quando ele é encontrado pela primeira vez conforme indicado pelo ponto ao lado de cada vértice produzindo a ordenação a b c h d e f g d Um passeio obtido pela visita aos vértices na ordem dada pelo passeio em préordem que é o passeio H retornado por APPROXtSptOUR Seu custo total é aproximadamente 19074 e Um passeio ótimo H para o grafo completo dado Seu custo total é aproximadamente 14715 A Figura 352 ilustra a operação de ApproxTSPTour A parte a da figura mostra um grafo não dirigido completo e a parte b mostra a árvore geradora mínima T que MSTPrim fez crescer partindo do vértice de raiz a A parte c mostra como um passeio em préordem de T visita os vértices e a parte d apresenta o passeio correspondente que é o passeio devolvido por ApproxTSPTour A parte e exibe um passeio ótimo que é aproximadamente 23 mais curto Pelo Exercício 2322 até mesmo com uma implementação simples de MSTPrim o tempo de execução de ApproxTSPTour é QV 2 Agora mostramos que se a função custo para uma instância do problema do caixeiro viajante satisfaz a desigualdade triangular então ApproxTSPTour retorna um passeio cujo custo não é mais do que duas vezes o custo de um passeio ótimo Teorema 352 ApproxTSPTour é um algoritmo polinomial de 2aproximação para o problema do caixeiroviajante com a desigualdade de triângulos 3522 Prova Já vimos que ApproxTSPTour é executado em tempo polinomial Seja H um passeio ótimo para o conjunto de vértices dado Obtemos uma árvore geradora eliminando qualquer aresta de um passeio e o custo de cada aresta é não negativo Portanto o peso da árvore geradora mínima T calculado na linha 2 de AppoxTSPTour dá um limite inferior para o custo de um passeio ótimo ou seja Um passeio completo de T insere vértices na lista de vértices quando eles são visitados pela primeira vez e também sempre que voltamos a eles após uma visita a uma subárvore Vamos denominar esse passeio completo W O passeio completo de nosso exemplo dá a ordem Visto que o passeio completo percorre todas as arestas de T exatamente duas vezes temos estendendo nossa definição do custo c da maneira natural para tratar conjuntos múltiplos de arestas As equações 354 e 355 implicam que e portanto o custo de W está a menos de um fator 2 do custo de um passeio ótimo Infelizmente o passeio completo W em geral não é um ciclo simples já que visita alguns vértices mais de uma vez Contudo pela desigualdade triangular podemos eliminar uma visita a qualquer vértice partindo de W e o custo não aumenta Se eliminarmos um vértice v de W entre visitas a u e w a ordenação resultante especifica ir diretamente de u para w Aplicando essa operação repetidas vezes podemos eliminar tudo de W exceto a primeira visita a cada vértice Em nosso exemplo isso deixa a ordenação Essa ordenação é a mesma que foi obtida por um passeio em préordem da árvore T Seja H o ciclo correspondente a esse passeio em préordem Ele é um ciclo hamiltoniano visto que todo vértice é visitado exatamente uma vez e é de fato o ciclo calculado por ApproxTSPTour Visto que H é obtido pela eliminação de vértices do passeio completo W temos Combinando as desigualdades 356 e 357 resultam cH 2cH o que conclui a prova Apesar da bela razão de aproximação dada pelo Teorema 352 normalmente ApproxTSPTour não é a melhor escolha prática para esse problema Existem outros algoritmos de aproximação que em geral funcionam muito melhor na prática consulte as referências no final deste capítulo O PROBLEMA GERAL DO CAIXEIROVIAJANTE Se eliminarmos a hipótese de que a função custo c satisfaz a desigualdade triangular então não podemos encontrar bons passeios aproximados em tempo polinomial a menos que P NP Teorema 353 3521 Se P NP então para toda constante r 1 não existe nenhum algoritmo de aproximação de tempo polinomial com razão de aproximação r para o problema geral do caixeiroviajante Prova A prova é por contradição Suponha ao contrário que para algum número r 1 exista um algoritmo de aproximação de tempo polinomial A com razão de aproximação r Sem perda da generalidade supomos que r é um inteiro arredondandoo se necessário Então mostraremos como usar A para resolver instâncias do problema do ciclo hamiltoniano definido na Seção 342 em tempo polinomial Visto que o Teorema 3413 nos diz que o problema do ciclo hamiltoniano é NPcompleto o Teorema 344 implica que se pudermos resolvêlo em tempo polinomial P NP Seja G V E uma instância do problema do ciclo hamiltoniano Desejamos determinar eficientemente se G contém um ciclo hamiltoniano fazendo uso do algoritmo de aproximação hipotético A Transformamos G em uma instância do problema do caixeiroviajante da maneira ilustrada a seguir Seja G V E o grafo completo em V isto é Atribuímos um custo inteiro a cada aresta em E da seguinte maneira Podemos criar representações de G e c a partir da representação de G em tempo polinomial em V e E Agora considere o problema do caixeiroviajante G c Se o grafo original G tem um ciclo hamiltoniano H então a função custo c atribui a cada aresta de H um custo 1 e assim G c contém um passeio de custo V Por outro lado se G não contém um ciclo hamiltoniano qualquer passeio de G deve usar alguma aresta que não está em E Porém qualquer passeio que utilize uma aresta que não está em E tem um custo de no mínimo Como as arestas que não estão em G são tão dispendiosas existe uma lacuna de no mínimo rV entre o custo de um passeio que é um ciclo hamiltoniano em G custo V e o custo de qualquer outro passeio custo no mínimo igual a rV V Portanto o custo de um passeio que não é um ciclo hamiltoniano em G é no mínimo um fator r 1 maior do que o custo de um passeio que é um ciclo hamiltoniano em G Agora suponha que apliquemos o algoritmo de aproximação A ao problema do caixeiroviajante G c Como é garantido que A retorna um passeio de custo não mais do que r vezes o custo de um passeio ótimo se G contém um ciclo hamiltoniano então A deve devolvêlo Se G não tem nenhum ciclo hamiltoniano então A retorna um ciclo de custo maior que rV Assim podemos usar A para resolver o problema do ciclo hamiltoniano em tempo polinomial A prova do Teorema 353 serve como exemplo de uma técnica geral para provar que não podemos aproximar um problema muito bem Suponha que dado um problema NPdifícil X podemos produzir em tempo polinomial um problema de minimização Y tal que instâncias sim de X correspondem a instâncias de Y com valor no máximo k para algum k mas que instâncias não de X correspondam a instâncias de Y com valor maior que rk Então mostramos que a menos que P NP não existe nenhum algoritmo de aproximação r para problema Y Exercícios Suponha que um grafo não dirigido completo G V E com no mínimo três vértices tenha uma função custo c que satisfaz a desigualdade triangular Prove que cu v 0 para todo u v V 3522 3523 3524 3525 353 Mostre como podemos transformar em tempo polinomial uma instância do problema do caixeiroviajante em outra instância cuja função custo satisfaça a desigualdade triangular As duas instâncias devem ter o mesmo conjunto de passeios ótimos Explique por que tal transformação em tempo polinomial não contradiz o Teorema 353 considerando P NP Considere a seguinte heurística do ponto mais próximo para construir um passeio de caixeiroviajante aproximado Comece com um ciclo trivial consistindo em um único vértice escolhido arbitrariamente Em cada etapa identifique o vértice u que não está no ciclo mas cuja distância até qualquer vértice no ciclo é mínima Suponha que nesse ciclo o vértice que está mais próximo de u seja o vértice v Estenda o ciclo para incluir u inserindo u logo depois de v Repita até que todos os vértices estejam no ciclo Prove que essa heurística retorna um passeio cujo custo total não é mais do que duas vezes o custo de um passeio ótimo No problema do caixeiroviajante com gargalo desejamos determinar o ciclo hamiltoniano que minimiza o custo da aresta de maior custo no ciclo Considerando que a função custo satisfaz a desigualdade triangular mostre que existe um algoritmo de aproximação de tempo polinomial com razão de aproximação 3 para esse problema Sugestão Mostre recursivamente que podemos visitar todos os nós em uma árvore geradora de gargalo como vimos no Problema 233 exatamente uma vez fazendo um passeio completo da árvore e saltando nós mas sem saltar mais de dois nós intermediários consecutivos Mostre que a aresta de maior custo em uma árvore geradora de gargalo tem um custo que é no máximo o custo da aresta de maior custo em um ciclo hamiltoniano de gargalo Suponha que os vértices para uma instância do problema do caixeiroviajante sejam pontos no plano e que o custo cu v seja a distância euclidiana entre os pontos u e v Mostre que um passeio ótimo nunca cruza com ele mesmo O PROBLEMA DE COBERTURA DE CONJUNTOS O problema de cobertura de conjuntos é um problema de otimização que modela muitos problemas de alocação de recursos Seu problema de decisão correspondente generaliza o problema NPcompleto de cobertura de vértices e portanto também é NPdifícil Porém o algoritmo de aproximação desenvolvido para tratar o problema de cobertura de vértices não se aplica aqui então precisamos tentar outras abordagens Examinaremos uma heurística gulosa simples com uma razão de aproximação logarítmica Isto é à medida que o tamanho da instância aumenta o tamanho da solução aproximada pode crescer em relação ao tamanho de uma solução ótima Contudo como a função logaritmo cresce muito lentamente esse algoritmo de aproximação pode mesmo assim dar resultados úteis Uma instância X F do problema de coberta de conjuntos consiste em um conjunto finito X e uma família F de subconjuntos de X tal que todo elemento de X pertence a no mínimo um subconjunto em F Dizemos que um subconjunto S F cobre seus elementos O problema é encontrar um subconjunto de tamanho mínimo F cujos membros cubram todo o X Dizemos que qualquer que satisfaça a equação 358 cobre X A Figura 353 ilustra o problema de cobertura de conjuntos O tamanho de C é o número de conjuntos que ele contém em vez do número de elementos individuais nesses conjuntos visto que cada subconjunto de C que cobre X deve conter todos os X elementos individuais Na Figura 353 a cobertura do conjunto mínimo tem tamanho 3 O problema de cobertura de conjuntos abstrai muitos problemas combinatórios que surgem comumente Como um exemplo simples suponha que X represente um conjunto de habilidades necessárias para resolver um problema e que temos um dado conjunto de pessoas disponíveis para trabalhar no problema Desejamos formar um comitê que contenha o menor número de pessoas possível tal que para toda habilidade requerida em X exista no mínimo um membro do comitê que tenha essa habilidade Na versão de decisão do problema de cobertura de conjuntos perguntamos se existe ou não uma cobertura de tamanho no máximo k onde k é um parâmetro adicional especificado na instância do problema A versão de decisão do problema é NPcompleta como o Exercício 3532 pede para mostrar Um algoritmo de aproximação guloso O método guloso funciona escolhendo em cada fase o conjunto S que cobre o maior número de elementos restantes que não estão cobertos Figura 353 Uma instância X F do problema de cobertura de conjuntos onde X consiste nos 12 pontos pretos e F S 1 S2 S3 S4 S5 S6 Uma cobertura de conjuntos de tamanho mínimo é S3 S4 S5 O algoritmo guloso produz uma cobertura de tamanho 4 selecionando os conjuntos S1 S4 S5 e S3 ou os conjuntos S1 S4 S5 e S6 em ordem No exemplo da Figura 353 GreedySetCover adiciona a em ordem os conjuntos S1 S4 e S5 seguidos por S3 ou por S6 O algoritmo funciona da maneira descrita a seguir O conjunto U contém em cada estágio o conjunto de elementos não cobertos restantes O conjunto contém a cobertura que está sendo construída A linha 4 é a etapa de tomada de decisão gulosa que escolhe um subconjunto S que cobre o maior número possível de elementos não cobertos decidindo empates arbitrariamente Depois de S ser selecionado a linha 5 remove seus elementos U e a linha 6 coloca S em Quando o algoritmo termina o conjunto contém uma subfamília de F que cobre X É fácil implementar o algoritmo GreedySetCover para execução em tempo polinomial em X e F Visto que o número de iterações do laço nas linhas 36 é limitado por cima por minX F e que podemos implementar o corpo do laço para ser executado no tempo OSF uma implementação simples é executada no tempo OSF minXF O Exercício 3533 pede um algoritmo de tempo linear Análise Agora mostramos que o algoritmo guloso devolve uma cobertura de conjuntos que não é muito maior que uma cobertura de conjuntos ótima Por conveniência neste capítulo denotaremos por Hd o désimo número harmônico consulte a Seção A1 Como condição de contorno definimos H0 0 Teorema 354 GreedySetCover é um algoritmo polinomial de rnaproximação onde Prova Já mostramos que GreedySetCover é executado em tempo polinomial Para mostrar que GreedySetCover é um algoritmo de rnaproximação atribuímos um custo 1 a cada conjunto selecionado pelo algoritmo distribuímos esse custo pelos elementos cobertos pela primeira vez e depois usamos esses custos para deduzir a relação desejada entre o tamanho de uma cobertura de conjunto ótima e o tamanho da cobertura de conjunto C devolvida pelo algoritmo Seja Si o iésimo subconjunto selecionado por GreedySetCover o algoritmo incorre em um custo de 1 quando acrescenta Si a Desdobramos esse custo da seleção de Si uniformemente entre os elementos cobertos pela primeira vez por Si Seja cx o custo alocado ao elemento x para cada x X O custo assim desdobrado é atribuído a cada elemento somente uma vez quando ele é coberto pela primeira vez Se x é coberto pela primeira vez por Si então Cada etapa do algoritmo atribui uma unidade de custo e portanto Cada elemento x X está em no mínimo um conjunto da cobertura ótima C portanto temos Combinando a equação 359 e a desigualdade 3510 temos que O restante da prova se baseia na seguinte desigualdade fundamental que provaremos em breve Para qualquer S que pertença à família F Das desigualdades 3511 e 3512 decorre que o que prova o teorema Resta apenas provar a desigualdade 3512 Considere qualquer conjunto S F e qualquer i 1 2 e seja o número de elementos em S que permanecem não cobertos depois de o algoritmo ter selecionado os conjuntos S1 S2 Si Definimos u0 S como o número de elementos de S que estão inicialmente não cobertos Seja k o índice mínimo tal que uk 0 de modo que cada elemento em S é coberto por no mínimo um dos conjuntos S1 S2 Sk e algum elemento em S não é coberto por S1 S2 Sk 1 Então ui 1 ui e ui 1 ui elementos de S são cobertos pela primeira vez por Si para i 1 2 k Assim Observe que porque a escolha gulosa de Si garante que S não pode cobrir mais elementos novos que Si caso contrário o algoritmo teria escolhido S em vez de Si Consequentemente obtemos Agora limitamos essa quantidade da seguinte maneira 3531 3532 3533 3534 3535 o que conclui a prova da desigualdade 3512 Corolário 355 GreedySetCover é um algoritmo polinomial de ln X1aproximação Prova Use a desigualdade A14 e o Teorema 354 Em algumas aplicações maxS S F é uma constante pequena e assim a solução devolvida por GreedySet Cover é no máximo um multiplo constante pequeno maior que a ótima Uma aplicação desse tipo ocorre quando essa heurística encontra uma cobertura de vértices aproximada para um grafo cujos vértices têm no máximo grau 3 Nesse caso a solução encontrada por GreedySetCover não é mais do que H3 116 vezes maior do que uma solução ótima o que garante um desempenho um pouco melhor do que o de ApproxVertexCover Exercícios Considere cada uma das seguintes palavras um conjunto de letras arid dash drain heard lost nose shun slate snare thread Mostre qual cobertura de conjuntos GreedySetCover produz quando os empates são quebrados em favor da palavra que aparece em primeiro lugar no dicionário Mostre que a versão de decisão do problema de cobertura de conjuntos é NPcompleta reduzindo o problema de cobertura de vértices Mostre como implementar GreedySetCover de tal maneira que ele seja executado no tempo O sFS Mostre que a forma mais fraca do Teorema 354 a seguir é trivialmente verdadeira GreedySetCover pode devolver várias soluções diferentes dependendo de como decidimos os empates na linha 4 Dê um procedimento BadSetCoverInstancen que devolva uma instância de n elementos do problema de cobertura de conjuntos para a qual dependendo de como decidimos os empates na linha 4 354 GreedySetCover pode devolver uma quantidade de soluções diferentes que é exponencial em n ALEATORIZAÇÃO E PROGRAMAÇÃO LINEAR Nesta seção estudaremos duas técnicas úteis para o projeto de algoritmos de aproximação aleatorização e programação linear Apresentaremos um algoritmo aleatorizado simples para uma versão de otimização de satisfazibilidade 3CNF e depois usaremos programação linear para ajudar a projetar um algoritmo de aproximação para uma versão ponderada do problema de cobertura de vértices Esta seção apenas toca na superfície dessas duas técnicas eficientes As notas do capítulo apresentam referências para estudo adicional dessas áreas Um algoritmo de aproximação aleatorizado para satisfazibilidade MAX3CNF Exatamente como os algoritmos aleatorizados calculam soluções exatas alguns algoritmos aleatorizados calculam soluções aproximadas Dizemos que um algoritmo aleatorizado para um problema tem uma razão de aproximação rn se para qualquer entrada de tamanho n o custo esperado C da solução produzida pelo algoritmo aleatorizado está a menos de um fator rn do custo C de uma solução ótima Denominamos um algoritmo aleatorizado que consegue uma razão de aproximação rn algoritmo aleatorizado de rnaproximação rn Em outras palavras um algoritmo de aproximação aleatorizado é semelhante a um algoritmo de aproximação determinístico exceto que a razão de aproximação é para o custo esperado Uma instância específica de satisfazibilidade 3CNF definida na Seção 344 pode ou não ser satisfazível Para ser satisfazível é preciso que exista uma atribuição das variáveis de modo que toda cláusula tenha valor 1 Se uma instância não é satisfazível seria interessante calcular quão próxima de satisfazível ela está isto é determinar uma atribuição das variáveis que satisfaça o maior número possível de cláusulas Denominamos o problema de maximização resultante satisfazibilidade MAX3CNF A entrada para a satisfazibilidade MAX3CNF é a mesma da satisfazibilidade 3 CNF e o objetivo é retornar uma atribuição das variáveis que maximize o número de cláusulas de valor 1 Agora mostramos que atribuir aleatoriamente cada variável com 1 com probabilidade 12 e com 0 com probabilidade 12 resulta em algoritmo aleatorizado de aproximação 87 De acordo com a definição de satisfazibilidade 3CNF da Seção 344 cada cláusula deve consistir em exatamente três literais distintos Além disso supomos que nenhuma cláusula contém ao mesmo tempo uma variável e sua negação o Exercício 3541 pede para eliminar esta última hipótese Teorema 356 Dada uma instância de satisfazibilidade MAX3CNF com n variáveis x1 x2 xn e m cláusulas o algoritmo aleatorizado que atribui independentemente cada variável com 1 com probabilidade 12 e com 0 com probabilidade 12 é um algoritmo aleatorizado de razão de aproximação 87 Prova Suponha que atribuímos independentemente cada variável com 1 com probabilidade 12 e com 0 com probabilidade 12 Para i 1 2 m definimos a variável aleatória indicadora Yi Ia cláusula i é satisfeita de modo que Yi 1 desde que tenhamos atribuído no mínimo um dos literais na iésima cláusula com 1 Visto que nenhum literal aparece mais de uma vez na mesma cláusula e como supomos que nenhuma variável e sua negação aparecem ao mesmo tempo na mesma cláusula as configurações dos três literais em cada cláusula são independentes Uma cláusula não é satisfeita somente se todos os seus três literais são atribuídos com 0 e assim Prcláusula i não é satisfeita 123 18 Assim Prcláusula i é satisfeita 1 18 78 Então pelo Lema 51 temos EYi 78 Seja Y o número global de cláusulas satisfeitas de modo que Y Y1 Y2 Ym Então temos É claro que m é um limite superior para o número de cláusulas satisfeitas e consequentemente a razão de aproximação é no máximo m7m8 87 Aproximação de cobertura de vértices ponderada utilizando programação linear No problema de cobertura de vértices de peso mínimo temos um grafo não dirigido G V E no qual cada vértice v V tem um peso positivo associado wv Para qualquer cobertura de vértices V V definimos o peso da cobertura de vértices wV vV wv A meta é encontrar uma cobertura de vértices de peso mínimo Não podemos aplicar o algoritmo usado para cobertura de vértices não ponderada nem podemos usar uma solução aleatória ambos os métodos podem retornar soluções que estão longe de ótimas Porém calcularemos um limite inferior para o peso da cobertura de vértices de peso mínimo usando um programa linear Então arredondaremos essa solução e a usaremos para obter uma cobertura de vértices Suponha que associamos uma variável v a cada vértice v V e que definimos xv igual a 0 ou a 1 para cada v V Inserimos v na cobertura de vértices se e somente se xv 1 Então podemos escrever a seguinte restrição para qualquer aresta u v no mínimo um dentre u e v deve estar na cobertura de vértices como xu xv 1 Essa visão dá origem ao seguinte pro grama inteiro 01 para encontrar uma cobertura de vértices de peso mínimo No caso especial em que todo os pesos wv são iguais a 1 essa formulação é a versão de otimização do problema de cobertura de vértices NP difícil Contudo suponha que eliminamos a restrição xv 0 1 e a substituímos por 0 xv 1 Então obtemos o seguinte programa linear conhecido como relaxação linear Qualquer solução viável para o programa inteiro 01 nas linhas 35143516 também é uma solução viável para o programa linear nas linhas 35173520 Portanto o valor de uma solução ótima para o programa linear dá um limite inferior para o valor de uma solução ótima para o programa inteiro 01 e por consequência um limite inferior para o peso ótimo no problema de cobertura de vértices de peso mínimo O procedimento a seguir usa a solução para a relaxação linear para construir uma solução aproximada para o problema de cobertura de vértices de peso mínimo O procedimento ApproxMinWeightVC funciona da seguinte maneira a linha 1 inicializa a cobertura de vértices como vazia A linha 2 formula o programa linear nas linhas 3517 3520 e depois resolve esse programa linear Uma solução ótima dá a cada vértice v um valor associado x v onde 0 x v 1 Usamos esse valor para orientar a escolha dos vértices a adicionar à cobertura de vértices C nas linhas 35 Se x v 12 adicionamos v a C caso contrário não adicionamos Na realidade estamos arredondando cada variável fracionária na solução do programa linear para 0 ou 1 de modo a obter uma solução para o programa inteiro 01 nas linhas 35143516 Finalmente a linha 6 devolve a cobertura de vértices C Teorema 357 O algoritmo ApproxMinWeightVC é um algoritmo polinomial de 2aproximação para o problema de cobertura de vértices de peso mínimo Prova Como existe um algoritmo de tempo polinomial para resolver o programa linear na linha 2 e como o laço for das linhas 35 é executado em tempo polinomial ApproxMinWeightVC é um algoritmo de tempo polinomial Agora mostramos que ApproxMinWeightVC é um algoritmo de 2aproximação Seja C uma solução ótima para o problema de cobertura de vértices de peso mínimo e seja z o valor de uma solução ótima para o programa linear nas linhas 35173520 Visto que uma cobertura de vértices ótima é uma solução viável para o programa linear z deve ser um limite inferior para wC isto é Em seguida afirmamos que arredondando os valores fracionários das variáveis xv produzimos um conjunto C que é uma cobertura de vértices e satisfaz wC 2z Para ver que C é uma cobertura de vértices considere qualquer aresta u v E Pela restrição 3518 sabemos que xu xv 1 o que implica que pelo menos um dentre xu e xv é no mínimo 12 Portanto no mínimo um dentre u e v é incluído na cobertura de vértices e então toda a aresta estará coberta Agora consideramos o peso da cobertura Temos 3541 3542 3543 3544 355 Combinando as desigualdades 3521 e 3522 obtemos e consequentemente ApproxMinWeightVC é um algoritmo de 2aproximação Exercícios Mostre que mesmo se permitirmos que uma cláusula contenha ao mesmo tempo uma variável e sua negação definir uma variável aleatoriamente como 1 com probabilidade 12 e como 0 com probabilidade 12 ainda resulta em um algoritmo aleatorizado de 87aproximação O problema de satisfazibilidade MAXCNF é semelhante ao problema de satisfazibilidade MAX3CNF exceto por não restringir que cada cláusula tenha exatamente três literais Dê um algoritmo aleatorizado de 2 aproximação para o problema de satisfazibilidade MAXCNF No problema MAXCUT temos um grafo não dirigido não ponderado G V E Definimos um corte S V S como no Capítulo 23 e o peso de um corte como o número de arestas que cruzam o corte A meta é encontrar um corte de peso máximo Suponha que para cada vértice v inserimos aleatória e independentemente v em S com probabilidade 12 e em V S com probabilidade 12 Mostre que esse algoritmo é um algoritmo aleatorizado de 2aproximação Mostre que as restrições na linha 3519 são redundantes no sentido de que se as eliminarmos do programa linear das linhas 35173520 qualquer solução ótima para o programa linear resultante deve satisfazer xv 1 para cada v V O PROBLEMA DA SOMA DE SUBCONJUNTOS Lembrese de que dissemos na Seção 3455 que uma instância do problema de soma de subconjuntos é um par S t onde S é um conjunto x1 x2 xn de inteiros positivos e t é um inteiro positivo Esse problema de decisão pergunta se existe um subconjunto de S cuja soma seja exatamente o valor alvo t Como vimos na Seção 3455 esse problema é NPcompleto O problema de otimização associado a esse problema de decisão surge em aplicações práticas No problema de otimização desejamos encontrar um subconjunto de x1 x2 xn cuja soma seja a maior possível mas não maior que t Por exemplo podemos ter um caminhão que não pode transportar mais de t quilogramas e n caixas diferentes para despachar das quais a iésima caixa pesa xi quilogramas Desejamos encher o caminhão com a carga mais pesada possível sem exceder o limite de peso dado Nesta seção apresentamos um algoritmo de tempo exponencial que calcula o valor ótimo para esse problema de otimização e depois mostramos como modificar o algoritmo de modo que ele se torne um esquema de aproximação de tempo completamente polinomial Lembrese de que um esquema de aproximação de tempo completamente polinomial tem um tempo de execução que é polinomial em 1e bem como no tamanho da entrada Um algoritmo de tempo exponencial exato Suponha que calculamos para cada subconjunto S de S a soma dos elementos em S e então selecionamos entre os subconjuntos cuja soma não excede t aquele cuja soma seja a mais próxima de t É claro que esse algoritmo devolveria a solução ótima mas ele poderia demorar tempo exponencial Para implementar esse algoritmo poderíamos utilizar um procedimento iterativo que na iteração i calcula as somas de todos os subconjuntos de x1 x2 xi usando como ponto de partida as somas de todos os subconjuntos de x1 x2 xi1 Ao fazer isso perceberíamos que tão logo um determinado subconjunto S tivesse uma soma maior do que t não haveria nenhuma razão para mantê lo já que nenhum superconjunto de S poderia ser a solução ótima Agora damos uma implementação dessa estratégia O procedimento ExactSubsetSum toma um conjunto de entrada S x1 x2 xn e um valor alvo t Veremos seu pseudocódigo em breve Esse procedimento calcula iterativamente Li a lista de somas de todos os subconjuntos de x1 xi que não excedem t e depois devolve o valor máximo em Ln Se L é uma lista de inteiros positivos e x é um outro inteiro positivo seja L x a lista de inteiros derivados de L somando x a cada elemento de L Por exemplo se L 1 2 3 5 9 então L 2 3 4 5 7 11 Também usamos essa notação para conjuntos de modo que S x s x s S Usamos também um procedimento auxiliar MergeListsL L que retorna a lista ordenada que é o resultado da intercalação de suas duas listas ordenadas de entrada L e L após a remoção de valores duplicados Como o procedimento Merge que usamos na ordenação por intercalação Seção 231 MergeLists é executado no tempo OL L Omitimos o pseudocódigo para Para ver como ExactSubsetSum funciona seja Pi o conjunto de todos os valores que podem ser obtidos pela seleção de um subconjunto possivelmente vazio de x1 x2 xi e adição de seus elementos Por exemplo se S 1 4 5 então Dada a identidade podemos provar por indução em i veja o Exercício 3551 que a lista Li é uma lista ordenada que contém cada elemento de Pi cujo valor não é maior que t Visto que o comprimento de Li pode ser até 2i ExactSubsetSum é um algoritmo de tempo exponencial em geral embora seja um algoritmo de tempo polinomial nos casos especiais em que t é polinomial em S ou todos os números em S são limitados por um polinômio em S Um esquema de aproximação de tempo completamente polinomial Podemos derivar um esquema de aproximação de tempo completamente polinomial para o problema da soma de subconjuntos desbastando cada lista Li depois de criada A ideia que fundamenta o desbaste é que se dois valores em L estão próximos um do outro então visto que o que queremos é uma solução aproximada não precisamos manter ambos explicitamente Mais exatamente usamos um parâmetro de desbaste d tal que 0 d 1 Quando desbastamos uma lista L usando o parâmetro de desbaste d eliminamos o maior número possível de elementos de L de modo tal que se L é o resultado do desbaste de L então para cada elemento y que foi eliminado de L ainda existe um elemento z em L que se aproxima de y isto é Podemos pensar em z como um representante de y na nova lista L Cada elemento y eliminado é representado por um elemento z restante que satisfaz a desigualdade 3524 Por exemplo se d 01 e então podemos desbastar L para obter onde o valor eliminado 11 é representado por 10 os valores eliminados 21 e 22 são representados por 20 e o valor eliminado 24 é representado por 23 Como todo elemento da versão desbastada da lista também é um elemento da versão original da lista o desbaste pode reduzir drasticamente o número de elementos mantidos na lista ao mesmo tempo que mantém um valor representativo próximo e ligeiramente menor na lista para cada elemento eliminado O procedimento a seguir desbasta a lista L y1 y2 ym no tempo Qm dados L e d e supondo que L está ordenada em sequência monotonicamente crescente A saída do procedimento é uma lista desbastada e ordenada O procedimento examina os elementos de L em ordem monotonicamente crescente Um número é anexado à lista retornada L somente se ele é o primeiro elemento de L ou se não pode ser representado pelo número mais recente inserido em L Dado o procedimento Trim podemos construir nosso esquema de aproximação da maneira descrita a seguir Esse procedimento toma como entrada um conjunto S x1 x2 xn de n inteiros em ordem arbitrária um inteiro alvo t e um parâmetro de aproximação e onde Devolve um valor z cujo valor encontrase a menos de um fator 1 e da solução ótima A linha 2 inicializa a lista L0 como a lista que contém apenas o elemento 0 O laço for das linhas 36 calcula Li como uma lista ordenada que contém uma versão adequadamente desbastada do conjunto Pi eliminados todos os elementos maiores que t Como Li é criada a partir de Li1 temos de assegurar que o desbaste repetido não introduza imprecisão composta excessiva Mais adiante veremos que ApproxSubsetSum devolve uma aproximação correta se existir Como exemplo suponha que tenhamos a instância com t 308 e e 040 O parâmetro de desbaste d é e8 005 ApproxSubsetSum calcula os valores a seguir nas linhas indicadas O algoritmo devolve z 302 como sua resposta que se encontra a bem menos de e 40 da resposta ótima 307 104 102 101 de fato ela está a menos de 2 Teorema 358 ApproxSubsetSum é um esquema de aproximação de tempo completamente polinomial para o problema da soma de subconjuntos Prova As operações de desbaste Li na linha 5 e de eliminação em Li de todo elemento maior que t mantêm a seguinte propriedade todo elemento de Li também é um elemento de Pi Portanto o valor z devolvido na linha 8 é de fato a soma de algum subconjunto de S Seja y Pn uma solução ótima para o problema da soma de subconjuntos Então pela linha 6 sabemos que z y Pela desigualdade 351 precisamos mostrar que yz 1 e Devemos também mostrar que o algoritmo é executado em tempo polinomial tanto em 1e quanto no tamanho da entrada O Exercício 3552 pede que você mostre que para todo elemento y em Pi que é no máximo t existe um elemento z Li tal que A desigualdade 3526 deve ser válida para y Pn e portanto há em elemento z Ln tal que e assim Visto que existe um z Ln que satisfaz a desigualdade 3527 a desigualdade deve ser válida para z que é o maior valor em Ln isto é Agora mostramos que y z 1 mostrando que 1 2nn 1 Pela equação 314 temos lim n1 2nn e2 O Exercício 3553 lhe pede para mostrar que Portanto a função 1 e2nn cresce com n à medida que tende a seu limite de ee2 e temos A combinação das desigualdades 3528 e 3530 conclui a análise da razão de aproximação 3551 3552 3553 3554 3555 351 a b Para mostrar que ApproxSubsetSum é um esquema de aproximação de tempo completamente polinomial deduzimos um limite para o comprimento de Li Após o desbaste a relação entre os elementos consecutivos z e z de Li deve ser zz 1 e2n Isto é a diferença entre eles deve ser de no mínimo um fator 1 e2n Portanto cada lista contém o valor 0 possivelmente o valor 1 e até log 1 e2n t valores adicionais O número de elementos em cada lista Li é no máximo Esse limite é polinomial no tamanho da entrada que é o número de bits lg t necessários para representar t mais o número de bits necessários para representar o conjunto S que é por sua vez polinomial em n e em 1e Visto que o tempo de execução de ApproxSubsetSum é polinomial no comprimento das Li concluímos que ApproxSubsetSum é um esquema de aproximação de tempo completamente polinomial Exercícios Prove a equação 3523 depois mostre que após a execução da linha 5 de ExactSubsetSum Li é uma lista ordenada que contém todo elemento de Pi cujo valor não é maior que t Usando indução em i prove a desigualdade 3526 Prove a desigualdade 3529 Como você modificaria o esquema de aproximação apresentado nesta seção para determinar uma boa aproximação para o menor valor não menor que t que é uma soma de algum subconjunto da lista de entrada dada Modifique o procedimento ApproxSubsetSum para também devolver o subconjunto de S cuja soma é o valor Problemas Empacotamento em caixas Suponha que tenhamos um conjunto de n objetos onde o tamanho si do iésimo objeto satisfaz 0 si 1 Desejamos empacotar todos os objetos no número mínimo de caixas de tamanho unitário Cada caixa pode conter qualquer subconjunto dos objetos cujo tamanho total não excede 1 Prove que o problema de determinar o número mínimo de caixas exigidas é NPdifícil Sugestão Reduza a partir do problema da soma de subconjuntos A heurística do primeiro que couber fisrtfit toma cada objeto por sua vez e o coloca na primeira caixa que possa acomodálo Seja S Demonstre que o número ótimo de caixas necessárias é no mínimo S c d e f 352 a b 353 354 a b Demonstre que a heurística do primeiro que couber deixa no máximo uma caixa cheia até menos da metade Prove que o número de caixas usadas pela heurística do primeiro que couber nunca é maior que 2S Prove uma razão de aproximação 2 para a heurística do primeiro que couber Dê uma implementação eficiente da heurística do primeiro que couber e analise seu tempo de execução Aproximação do tamanho de um clique máximo Seja G V E um grafo não dirigido Para qualquer k 1 defina Gk como o grafo não dirigido Vk Ek onde Vk é o conjunto de todas as ktuplas ordenadas de vértices de V e Ek é definido de modo que v1 v2vk seja adjacente a w1 w2wk se e somente se para algum i o vértice vi é adjacente a wi em G ou então vi wi Prove que o tamanho do clique máximo em Gk é igual à késima potência do tamanho do clique máximo em G Demonstre que se existe um algoritmo de aproximação que tenha uma razão de aproximação constante para determinar um clique de tamanho máximo então existe um esquema de aproximação de tempo completamente polinomial para o problema Problema de cobertura de conjuntos ponderada Suponha que generalizemos o problema de cobertura de conjuntos de modo que cada conjunto Si na família F tenha um peso associado wi e o peso de uma cobertura seja Si iw Desejamos determinar uma cobertura de peso mínimo A Seção 353 trata o caso em que wi 1 para todo i Mostre como generalizar a heurística gulosa de cobertura de conjuntos de maneira natural para dar uma solução aproximada para qualquer instância do problema de cobertura de conjuntos ponderada Mostre que sua heurística tem uma razão de aproximação Hd onde d é o tamanho máximo de qualquer conjunto Si Emparelhamento maximal Lembrese de que para um grafo não dirigido G um emparelhamento é um conjunto de arestas tal que não haja duas arestas no conjunto incidentes no mesmo vértice Na Seção 263 vimos como determinar um emparelhamento máximo em um grafo bipartido Neste problema examinaremos emparelhamentos em grafos não dirigidos em geral isto é não se exige que os grafos sejam bipartidos Um emparelhamento maximal é um emparelhamento que não é um subconjunto próprio de qualquer outro emparelhamento Mostre que um emparelhamento maximal não precisa ser um emparelhamento máximo exibindo um grafo não dirigido G e um emparelhamento maximal M em G que não seja um emparelhamento máximo Sugestão Você pode encontrar um tal grafo com apenas quatro vértices Considere um grafo não dirigido G V E Dê um algoritmo guloso de tempo OE para encontrar um emparelhamento maximal em G Neste problema concentraremos nossa atenção em um algoritmo de aproximação de tempo polinomial para emparelhamento máximo Enquanto o algoritmo mais rápido conhecido para emparelhamento máximo demora tempo superlinear mas polinomial o algoritmo de aproximação aqui apresentado será executado em tempo c d e f 355 a b linear Você mostrará que o algoritmo guloso de tempo linear para emparelhamento máximo na parte b é um algoritmo de aproximação 2 para emparelhamento de máximo Mostre que o tamanho de um emparelhamento máximo em G é um limite inferior para o tamanho de qualquer cobertura de vértice para G Considere um emparelhamento maximal M em G V E Seja T v V alguma aresta em M é incidente em v O que você pode dizer sobre o subgrafo de G induzido pelos vértices de G que não estão em T Conclua pela parte d que 2M é o tamanho de uma cobertura de vértices para G Usando as partes c e e prove que o algoritmo guloso da parte b é um algoritmo de aproximação 2 para emparelhamento máximo Escalonamento de máquinas paralelas No problema de escalonamento de máquinas paralelas temos n tarefas J1 J2 Jn onde cada tarefa Jk tem um tempo de processamento não negativo associado pk Também temos m máquinas idênticas M1 M2Mm Qualquer tarefa pode ser executada em qualquer máquina Um escalonamento especifica para cada tarefa Jk a máquina na qual ela é executada e o período de tempo durante o qual ela é executada Cada tarefa Jk deve ser executada em alguma máquina Mi durante pk unidades de tempo consecutivas e durante esse período de tempo nenhuma outra tarefa pode ser executada em Mi Seja Ck o tempo de conclusão da tarefa Jk isto é o tempo em que a tarefa Jk conclui o processamento Dado um escalonamento definimos Cmax max1 j n Cj como a duração da escalonamento A meta é determinar um escalonamento cuja duração seja mínima Por exemplo suponha que tenhamos duas máquinas M1 e M2 e quatro tarefas J1 J2 J3 J4 com p1 2 p2 12 p3 4 e p4 5 Então uma escalonamento possível executa na máquina M1 a tarefa J1 seguida pela tarefa J2 e na máquina M2 ela executa a tarefa J4 seguido pela tarefa J3 Para esse escalonamento C1 2 C2 14 C3 9 C4 5 e Cmax 14 Um escalonamento ótimo executa J2 na máquina M1 e as tarefas J1 J3 e J4 na máquina M2 Para esse escalonamento C1 2 C2 12 C3 6 C4 11 e Cmax 12 Dado um problema de escalonamento de máquinas paralelas seja C max a duração de um escalonamento ótimo Mostre que a duração ótima é no mínimo tão grande quanto o maior tempo de processamento isto é Mostre que a duração ótima é no mínimo tão grande quanto a carga média da máquina isto é Suponha que usamos o seguinte algoritmo guloso para escalonamento de máquinas paralelas sempre que uma máquina estiver ociosa programar qualquer tarefa que ainda não tenha sido escalonada c d 356 a b c d e 357 a Escreva pseudocódigo para implementar esse algoritmo guloso Qual é o tempo de execução de seu algoritmo Para a programação retornada pelo algoritmo guloso mostre que Conclua que esse algoritmo é um algoritmo polinomial de 2aproximação Aproximação para uma árvore geradora máxima Seja G V E um grafo não dirigido com pesos de arestas distintos wu v em cada aresta u v E Para cada vértice v V seja maxv maxu v E wu v a aresta de peso máximo incidente nesse vértice Seja SG maxv v V o conjunto de arestas de pesos máximos incidentes em cada vértice e seja TG a árvore geradora de peso máximo de G isto é a árvore geradora de peso total máximo Para qualquer subconjunto de arestas E E defina wE u v E wu v Dê um exemplo de grafo com no mínimo quatro vértices para o qual SG TG Dê um exemplo de grafo com no mínimo quatro vértices para o qual SG TG Prove que SG TG para qualquer grafo G Prove que wTG wSG2 para qualquer grafo G Dê um algoritmo de tempo OV E para calcular uma 2aproximação para a árvore geradora máxima Um algoritmo de aproximação para o problema da mochila 01 Lembrese do problema da mochila na Seção 162 Há n itens onde o iésimo item vale vi dólares e pesa wi libras Temos também uma mochila que pode acondicionar no máximo W libras Aqui adicionamos as premissas de que cada peso wi é no máximo W e que os itens estão indexados em ordem monotonicamente decrescente de seus valores v1 v2 vn No problema da mochila 01 desejamos determinar um subconjunto de itens cujo peso total seja no máximo W e cujo valor total seja máximo O problema da mochila fracionário é como o problema da mochila 01 exceto que é permitido tomar uma fração de cada item em vez de estarmos restritos a tomar um item inteiro ou nenhuma fração desse item Se tomarmos uma fração xi do item i onde 0 xi 1 contribuímos com xiwi para o peso da mochila e recebemos o valor xivi Nossa meta é desenvolver um algoritmo de aproximação 2 de tempo polinomial para o problema da mochila 01 Para projetar um algoritmo de tempo polinomial consideramos instâncias restringidas do problema da mochila 01 Dada uma instância I do problema da mochila formamos instâncias restringidas Ij para j 1 2 n eliminando itens 1 2 j 1 e exigindo que a solução inclua o item j o item j inteiro tanto no problema da mochila fracionário quanto no problema da mochila 01 Nenhum item é eliminado na instância I1 Para a instância Ij seja Pj uma solução ótima para o problema 01 e Qj uma solução ótima para o problema fracionário Demonstre que uma solução ótima para a instância I do problema da mochila 01 seja pertença a P1 P2 Pn b c d e Prove que podemos determinar uma solução ótima Qj para o problema fracionário para a instância Ij incluindo o item j e depois usando o algoritmo guloso no qual a cada etapa tomamos o máximo possível do item k não escolhido no conjunto j 1 j 2 n com o valor máximo por libra vi wi Prove que sempre podemos construir uma solução ótima Qj para o problema fracionário para a instância Ij que inclua no máximo um item fracionário Isto é para todos os itens exceto possivelmente um incluímos na mochila o item inteiro ou nenhuma fração dele Dada uma solução ótima Qj para o problema fracionário para a instância Ij forme a solução Rj de Qj eliminando quaisquer itens fracionários de Qj Seja vS o valor total de itens tomados em uma solução S Prove que vRj vQj2 vPj2 Dê um algoritmo de tempo polinomial que retorne uma solução de valor máximo do conjunto R1 R2 Rn e prove que o seu algoritmo é um algoritmo polinomial de 2aproximação para o problema da mochila 01 NOTAS DO CAPÍTULO Embora métodos que não calculam necessariamente soluções exatas sejam conhecidos há milhares de anos por exemplo métodos para aproximar o valor de a noção de um algoritmo de aproximação é muito mais recente Hochbaum 172 credita a Garey Graham e Ullman 128 e a Johnson 190 a formalização do conceito de um algoritmo de aproximação de tempo polinomial O primeiro algoritmo desse tipo é frequentemente creditado a Graham 149 Desde essas primeiras obras milhares de algoritmos de aproximação têm sido projetados para ampla faixa de problemas e há profusão de literatura nessa área Textos recentes de Ausiello et al 26 Hochbaum 172 e Vazirani 345 tratam exclusivamente de algoritmos de aproximação assim como os levantamentos de Shmoys 315 e de Klein e Young 207 Vários outros textos como os de Garey e Johnson 129 e de Papadimitriou e Steiglitz 271 também apresentam uma cobertura significativa de algoritmos de aproximação Lawler Lenstra Rinnooy Kan e Shmoys 225 dão um tratamento extensivo de algoritmos de aproximação para o problema do caixeiroviajante Papadimitriou e Steiglitz atribuem o algoritmo ApproxVertexCover a F Gavril e M Yannakakis O problema de cobertura de vértices foi estudado extensivamente Hochbaum 172 apresenta uma lista com 16 algoritmos de aproximação diferentes para esse problema mas todas as razões de aproximação são no mínimo 2 o1 O algoritmo ApproxTSPTour aparece em um artigo por Rosenkrantz Stearns e Lewis 298 Christofides melhorou esse algoritmo e apresentou um algoritmo de aproximação 32 para o problema do caixeiroviajante com a desigualdade triangular Arora 22 e Mitchell 257 mostraram que se os pontos estão sobre um plano euclidiano existe um esquema de aproximação de tempo polinomial O Teorema 353 se deve a Sahni e Gonzalez 301 A análise da heurística gulosa para o problema de cobertura de conjuntos é modelada com base na prova publicada por Chvátal 68 de um resultado mais geral o resultado básico como apresentado aqui se deve a Johnson 190 e Lovász 238 O algoritmo ApproxSubsetSum e sua análise são modelados livremente conforme os algoritmos de aproximação relacionados para os problemas da mochila e de soma de subconjuntos por Ibarra e Kim 187 O Problema 357 é uma versão combinatória de um resultado mais geral para aproximação de programas do tipo do programa da mochila com inteiros por Bienstock e McClosky 45 O algoritmo aleatorizado para satisfazibilidade MAX3CNF está implícito no trabalho de Johnson 190 O algoritmo de cobertura de vértices ponderada é de Hochbaum 171 A Seção 354 apenas toca no poder da aleatorização e da programação linear para o projeto de algoritmos de aproximação Uma combinação dessas duas ideias gera uma técnica denominada arredondamento aleatorizado que formula um problema como um programa linear inteiro resolve o relaxamento linear e interpreta as variáveis na solução como probabilidades Então essas probabilidades são usadas para ajudar a orientar a solução do problema original Essa técnica foi usada inicialmente por Raghavan e Thompson 290 e teve muitos usos subsequentes Consulte o levantamento apresentado por Motwani Naor e Raghavan 261 Entre várias outras ideias notáveis recentes na área de algoritmos de aproximação citamos o método dual primitivo consulte o levantamento apresentado por Goemans e Williamson 135 a determinação de cortes esparsos para uso em algoritmos de divisão e conquista 229 e o uso de programação semidefinida 134 Como mencionamos nas notas do Capítulo 34 resultados recentes em provas que podem ser verificadas probabilisticamente resultaram em limites mais baixos para a capacidade de aproximação de muitos problemas incluídos vários que aparecem neste capítulo Além das referências dadas ali o capítulo por Arora e Lund 23 contém uma boa descrição da relação entre provas que podem ser verificadas probabilisticamente e a dificuldade de aproximar diversos problemas 1 Quando a razão de aproximação é independente de n usamos os termos razão de aproximação de r e algoritmo de aproximação r que indica a não dependência de n Parte VIII APÊNDICE FUNDAMENTOS DE MATEMÁTICA INTRODUÇÃO Quando analisamos algoritmos muitas vezes precisamos recorrer a um conjunto de ferramentas matemáticas Algumas dessas ferramentas são tão simples quanto a álgebra que aprendemos no segundo grau mas outras podem ser novas para você Na Parte I vimos como tratar notações assintóticas e resolver recorrências Este apêndice compreende um compêndio de vários outros conceitos e métodos que empregamos para analisar algoritmos Como observamos na introdução à Parte I é possível que você já tenha visto grande parte do material neste apêndice antes de ler este livro embora ocasionalmente as convenções específicas de notação que utilizamos possam ser diferentes das que viu em outros lugares Consequentemente você deve tratar este apêndice como material de referência No entanto como no restante deste livro incluímos exercícios e problemas para que você possa melhorar seus conhecimentos nessas áreas O Apêndice A oferece métodos para avaliar e limitar somatórias que ocorrem frequentemente na análise de algoritmos Muitas das fórmulas apresentadas aqui aparecem em qualquer livro didático de cálculo mas você verá que é conveniente ter uma compilação desses métodos em um único lugar O Apêndice B contém definições e notações básicas para conjuntos relações funções grafos e árvores e também apresenta algumas propriedades básicas desses objetos matemáticos O Apêndice C começa com princípios elementares de contagem permutações combinações e semelhantes O restante contém definições e propriedades de probabilidade básica Grande parte dos algoritmos deste livro não exige nenhum conhecimento de probabilidade para sua análise e assim você poderá omitir facilmente as últimas seções do capítulo em uma primeira leitura até mesmo sem folheálas Mais tarde quando encontrar uma análise probabilística que queira entender melhor verá que o Apêndice C é bem organizado como material de referência O apêndice D define matrizes operações com matrizes e algumas de suas propriedades básicas É provável que você já tenha estudado a maioria desse material se já fez algum curso de álgebra linear mas verá que é útil ter um lugar separado para procurar nossas notações e definições A1 A SOMATÓRIOS Quando um algoritmo contém um constructo de controle iterativo como um laço while ou for podemos expressar seu tempo de execução como a soma dos tempos gastos em cada execução do corpo do laço Por exemplo vimos na Seção 22 que a jésima iteração da ordenação por inserção demorou um tempo proporcional a j no pior caso Somando o tempo gasto em cada iteração obtivemos o somatório ou a série Quando avaliamos esse somatório obtivemos um limite de Qn2 para o tempo de execução do pior caso do algoritmo Esse exemplo ilustra por que você deve saber como lidar com somatórias e limitálas A Seção A1 apresenta uma lista de várias fórmulas básicas que envolvem somatórios A Seção A2 oferece técnicas úteis para limitar somatórias Apresentamos as fórmulas da Seção A1 sem provas embora provas para algumas delas apareçam na Seção A2 para ilustrar os métodos dessa seção Você pode encontrar a maioria das outras provas em qualquer livro didático de cálculo FÓRMULAS E PROPRIEDADES DE SOMATÓRIOS Dada uma sequência de números a1 a2 an podemos escrever a soma finita a1 a2 an onde n é um inteiro não negativo como Se n 0 o valor do somatório é definido como 0 O valor de uma série finita é sempre bem definido e seus termos podem ser somados em qualquer ordem Dada uma sequência infinita de números a1 a2 podemos escrever a soma infinita a1 a2 como cujo significado interpretamos como Se o limite não existe a série diverge caso contrário ela converge Os termos de uma série convergente nem sempre podem ser somados em qualquer ordem Contudo podemos reorganizar os termos de uma série absolutamente convergente isto é uma série para a qual a série também converge Linearidade Para qualquer número real c e quaisquer sequências finitas a1 a2an e b1 b2bn A propriedade de linearidade também se aplica a séries convergentes infinitas Podemos explorar a propriedade de linearidade para lidar com somatórias que incorporam notação assintótica Por exemplo Nessa equação a notação Q no lado esquerdo se aplica à variável k mas no lado direito ela se aplica a n Também podemos aplicar tais manipulações a séries convergentes infinitas Série aritmética O somatório é uma série aritmética e tem o valor Somas de quadrados e cubos Temos os seguintes somatórios de quadrados e cubos Série geométrica Para números reais x 1 o somatório é uma série geométrica ou exponencial e tem o valor Quando o somatório é infinito e x 1 temos a série geométrica decrescente infinita Como adotamos 00 1 essas fórmulas valem também quando x 0 Série harmônica Para inteiros positivos n o nésimo número harmônico é Provaremos um limite relacionado na Seção A2 Integração e diferenciação de séries Integrando e diferenciando as fórmulas citadas surgem fórmulas adicionais Por exemplo diferenciando ambos os lados da série geométrica infinita A6 e multiplicando por x obtemos para x 1 Séries telescópicas Para qualquer sequência a1 a2 an já que cada um dos termos a1 a2 an 1 é somado exatamente uma vez e subtraído exatamente uma vez Dizemos que a soma é telescópica De modo semelhante Como exemplo de uma soma telescópica considere a série Visto que podemos reescrever cada termo como obtemos Produtos Podemos escrever o produto finito a1a2 an como Se n 0 o valor do produto é definido como 1 Podemos converter uma fórmula com um produto em uma fórmula com um somatório utilizando a identidade Exercícios A2 LIMITANDO SOMATÓRIOS Temos muitas técnicas disponíveis para limitar os somatórios que descrevem os tempos de execução de algoritmos Aqui apresentamos alguns dos métodos mais frequentemente empregados Indução O modo mais comum para avaliar uma série é usar indução Como exemplo vamos provar que a série aritmética k tem o valor 1 n n 1 É fácil verificar essa afirmativa para n 1 Admitimos indutivamente que ela seja válida para n e provamos que ela vale para n 1 Temos Nem sempre é necessário adivinhar o valor exato de um somatório para usar indução Em vez disso podemos usar indução para provar um limite para um somatório Como exemplo vamos provar que a série geométrica 3k é O3n Mais especificamente vamos provar que 3k c3n para alguma constante c Para a condição inicial n 0 temos 3k 1 c desde que c 1 Supondo que o limite vale para n vamos provar que ele é válido para n 1 Temos desde que 13 1c 1 ou o que é equivalente c 32 Assim 3k O3n como queríamos demonstrar Temos de tomar cuidado quando usarmos notação assintótica para provar limites por indução Considere a seguinte prova falaciosa que k On Certamente k O1 Supondo que o limite é válido para n agora o provamos para n 1 O erro no argumento é que a constante oculta pelo O grande cresce com n e portanto não é constante Não mostramos que a mesma constante funciona para todo n Limitando termos Às vezes podemos obter um bom limite superior para uma série limitando cada termo da série e muitas vezes basta utilizar o maior termo para limitar os outros Por exemplo um limite superior rápido para a série aritmética A1 é Em geral para uma série ak se fizermos amax max1knak então A técnica de limitar cada termo em uma série pelo maior termo é um método fraco quando a série pode ser de fato limitada por uma série geométrica Dada a série ak suponha que ak1 ak r para todo k 0 onde 0 r 1 é uma constante Podemos limitar a soma por uma série geométrica decrescente infinita já que ak a0rk e assim Podemos aplicar esse método para limitar o somatório k3k Para iniciar o somatório em k 0 nós o reescrevemos como k 13k 1 O primeiro termo a0 é 13 e a razão r entre os termos sucessivos é para todo k 0 Assim temos Um erro comum na aplicação desse método é mostrar que a razão entre termos sucessivos é menor que 1 e depois decidir que o somatório é limitado por uma série geométrica Um exemplo é a série harmônica infinita que diverge já que A razão entre o k 1ésimo termo e o késimo termo nessa série é kk 1 1 mas a série não é limitada por uma série geométrica decrescente Para limitar uma série por uma série geométrica devemos mostrar que existe um r 1 que é uma constante tal que a razão entre todos os pares de termos sucessivos nunca exceda r Na série harmônica não existe tal r porque a razão se torna arbitrariamente próxima de 1 Quebra de somatórios Um dos modos de obter limites para um somatório difícil é expressar a série como a soma de duas ou mais séries particionando a faixa do índice e depois limitando cada uma das séries resultantes Por exemplo suponha que tentamos determinar um limite inferior para a série aritmética k que como já vimos tem um limite superior de n2 Poderíamos tentar limitar cada termo no somatório pelo menor termo mas como esse termo é 1 obtemos um limite inferior de n para o somatório bem longe do nosso limite superior de n2 Podemos obter um limite inferior melhor quebrando primeiro o somatório Por conveniência suponha que n seja par Temos que é um limite assintoticamente justo visto que k On2 Quando se trata de um somatório que surge da análise de um algoritmo muitas vezes podemos quebrar o somatório e ignorar um número constante de termos iniciais Em geral essa técnica se aplica quando cada termo ak em um somatório ak é independente de n Então para qualquer constante k0 0 podemos escrever já que os termos iniciais do somatório são constantes e há um número constante deles Então podemos usar outros métodos para limitar 3k ak Por exemplo para determinar um limite superior assintótico para observamos que a razão entre termos consecutivos é se k 3 Assim o somatório também pode ser quebrado em já que o primeiro somatório tem um número constante de termos e o segundo somatório é uma série geométrica decrescente A técnica de quebrar somatórios pode nos ajudar a determinar limites assintóticos em situações muito mais difíceis Por exemplo podemos obter um limite de Olg n para a série harmônica A7 Fazemos isso dividindo a faixa 1 a n em lg n 1 pedaços e limitando por 1 a contribuição de cada pedaço Para i 0 1 lg n o iésimo pedaço consiste nos termos que começam em 12i e vão até 12i1 mas não o incluem O último pedaço pode conter termos que não estão na série original e assim temos Aproximação por integrais Quando um somatório tem a forma onde fk é uma função monotonicamente crescente podemos aproximálo por integrais A Figura A1 justifica essa aproximação O somatório é representado como a área dos retângulos na figura e a integral é a região sombreada sob a curva Quando fk é uma função monotonicamente decrescente podemos usar um método semelhante para determinar os limites Figura A1 Aproximação de por integrais A área de cada retângulo é mostrada dentro do retângulo e a área total dos retângulos representa o valor do somatório A integral é representada pela área sombreada sob a curva Comparando as áreas em a obtemos e depois deslocando os retângulos uma unidade para a direita obtemos em b A aproximação por integral A12 nos dá uma estimativa restrita para o nésimo número harmônico Para um limite inferior obtemos Para o limite superior derivamos a desigualdade A1 que produz o limite Exercícios Problemas Limitando somatórios Dê limites assintoticamente justos para os somatórios a seguir Suponha que r 0 e s 0 são constantes NOTAS DO APÊNDICE Knuth 209 é uma excelente referência para o material apresentado aqui O leitor pode encontrar propriedades básicas de séries em qualquer bom livro de cálculo como Apostol 18 ou Thomas et al 334 B1 B CONJUNTOS ETC Muitos capítulos deste livro mencionam elementos da matemática discreta Este apêndice reexamina de forma mais completa as notações definições e propriedades elementares de conjuntos relações funções grafos e árvores Para os leitores que já estão bem versados nesses assuntos basta dar uma olhada rápida neste capítulo CONJUNTOS Um conjunto é uma coleção de objetos distintos denominados elementos ou membros do conjunto Se um objeto x é um elemento de um conjunto S escrevemos x S lêse x é um membro de S x é um elemento de S x pertence a S ou de modo mais abreviado x está em S Se x não é um elemento de S escrevemos que x S Podemos descrever um conjunto relacionando explicitamente seus elementos como uma lista entre chaves Por exemplo podemos definir um conjunto S contendo exatamente os números 1 2 e 3 escrevendo S 1 2 3 Como 2 é um elemento do conjunto S podemos escrever 2 S como 4 não é um elemento do conjunto temos 4 S Um conjunto não pode conter o mesmo objeto mais de uma vez1 e seus elementos não são ordenados Dois conjuntos A e B são iguais expresso por A B se eles contêm os mesmos elementos Por exemplo 1 2 3 1 1 2 3 3 2 1 Adotamos notações especiais para conjuntos encontrados com frequência 0 denota o conjunto vazio isto é o conjunto que não contém nenhum elemento denota o conjunto de números inteiros isto é o conjunto 2 1 0 1 2 denota o conjunto de números reais denota o conjunto de números naturais isto é o conjunto 0 1 2 2 Se todos os elementos de um conjunto A estão contidos em um conjunto B isto é se x A implica x B escrevemos A B e dizemos que A é um subconjunto de B Um conjunto A é um subconjunto próprio de B representado por A B se A B mas A B Alguns autores usam o símbolo para denotar a relação de subconjunto em vez da relação de subconjunto próprio Para qualquer conjunto A temos A A No caso de dois conjuntos A e B temos A B se e somente se A B e B A Para três conjuntos A B e C quaisquer se A B e B C então A C Para qualquer conjunto A temos 0 A Algumas vezes definimos conjuntos em termos de outros conjuntos Dado um conjunto A podemos definir um conjunto B A enunciando uma propriedade que distingue os elementos de B Por exemplo podemos definir o conjunto dos números inteiros pares por x x e x2 é um inteiro Nessa notação o sinal de doispontos significa tal que Alguns autores usam uma barra vertical em vez do sinal de doispontos Dados dois conjuntos A e B também podemos definir novos conjuntos aplicando operações de conjuntos A interseção de conjuntos A e B é o conjunto A união de conjuntos A e B é o conjunto A diferença entre dois conjuntos A e B é o conjunto As operações de conjuntos obedecem às seguintes leis Leis do conjunto vazio Leis de idempotência Leis comutativas Leis associativas Leis distributivas Leis da absorção Leis de DeMorgan Figura B1 Um diagrama de Venn que ilustra a primeira das leis de DeMorgan B2 Cada um dos conjuntos A B e C é representado como um círculo A Figura B1 ilustra a primeira das leis de DeMorgan por meio de um diagrama de Venn uma imagem gráfica na qual os conjuntos são representados como regiões do plano Muitas vezes todos os conjuntos em consideração são subconjuntos de algum conjunto maior U denominado universo Por exemplo se estivermos considerando vários conjuntos formados somente por inteiros o conjunto de inteiros é um universo adequado Dado um universo U definimos o complemento de um conjunto A como A U A x x U e x A Para qualquer conjunto A U temos as seguintes leis Podemos reescrever as leis de DeMorgan B2 com complementos de conjuntos Para dois conjuntos quaisquer B C U temos Dois conjuntos A e B são disjuntos se não têm nenhum elemento em comum isto é se A B 0 Uma coleção S Si de conjuntos não vazios forma uma partição de um conjunto S se os conjuntos são disjuntos aos pares isto é Si Sj S e i j implicam Si Sj 0 e sua união é S isto é Em outras palavras S forma uma partição de S se cada elemento de S aparece em exatamente um Si S O número de elementos em um conjunto é a cardinalidade ou tamanho do conjunto denotada por S Dois conjuntos têm a mesma cardinalidade se seus elementos podem ser colocados em uma correspondência de um para um A cardinalidade do conjunto vazio é 0 0 Se a cardinalidade de um conjunto é um número natural dizemos que o conjunto é finito caso contrário ele é infinito Um conjunto infinito que pode ser colocado em uma correspondência de um para um com os números naturais é infinito contável caso contrário ele é não contável Os inteiros são contáveis mas os reais são não contáveis Para quaisquer dois conjuntos finitos A e B temos a identidade da qual podemos concluir que B11 B12 B13 Se A e B são disjuntos então A B 0 e portanto A B A B Se A B então A B Um conjunto finito de n elementos às vezes é denominado nconjunto Um conjunto de um elemento é denominado conjunto unitário Um subconjunto de k elementos de um conjunto às vezes é denominado k subconjunto Denotamos o conjunto de todos os subconjuntos de um conjunto S incluindo o conjunto vazio e o próprio conjunto S por 2S denominamos 2S o conjunto potência de S Por exemplo 2ab 0 a b a b O conjunto potência de um conjunto finito S tem cardinalidade 2S veja o Exercício B15 Às vezes utilizamos estruturas semelhantes a conjuntos nas quais os elementos estão ordenados Um par ordenado de dois elementos a e b é denotado por a b e definido formalmente como o conjunto a b a a b Assim o par ordenado a b não é o mesmo que o par ordenado b a O produto cartesiano de dois conjuntos A e B denotado por A B é o conjunto de todos os pares ordenados tais que o primeiro elemento do par é um elemento de A e o segundo é um elemento de B Em termos mais formais Por exemplo a b a b c a a a b a c b a b b b c Quando A e B são conjuntos finitos a cardinalidade de seu produto cartesiano é O produto cartesiano de n conjuntos A1 A2 An é o conjunto de ntuplas cuja cardinalidade é se todos os conjuntos são finitos Denotamos um produto cartesiano de n termos em um único conjunto A pelo conjunto cuja cardinalidade é An An se A é finito Também podemos ver uma ntupla como uma sequência finita de comprimento n veja a seção B3 Exercícios Esboçe diagramas de Venn que ilustrem a primeira das leis distributivas B1 Prove a generalização das leis de DeMorgan para qualquer coleção finita de conjuntos Prove a generalização da equação B3 que é denominada princípio de inclusão e exclusão B14 B15 B16 B2 Mostre que o conjunto de números naturais ímpares é contável Mostre que para qualquer conjunto finito S o conjunto potência 2S tem 2S isto é existem 2S subconjuntos distintos de S Dê uma definição indutiva para uma ntupla estendendo a definição dada para um par ordenado RELAÇÕES Uma relação binária R para dois conjuntos A e B é um subconjunto do produto cartesiano A B Se a b R às vezes escrevemos a R b Quando dizemos que R é uma relação binária em um conjunto A queremos dizer que R é um subconjunto de A A Por exemplo a relação menor que para os números naturais é o conjunto a b a b e a b Uma relação nária para os conjuntos A1 A2 An é um subconjunto de A1 A2 An Uma relação binária R A A é reflexiva se a R a para todo a A Por exemplo e são relações reflexivas em mas não é A relação R é simétrica se a R b implica b R a para todo a b A Por exemplo é simétrica mas e não são A relação R é transitiva se a R b e b R c implicam a R c para todo a b c A Por exemplo as relações e são transitivas mas a relação R a b a b e a b 1 não é visto que 3 R 4 e 4 R 5 não implicam 3 R 5 Uma relação que é reflexiva simétrica e transitiva é uma relação de equivalência Por exemplo é uma relação de equivalência para os números naturais mas não é Se R é uma relação de equivalência para um conjunto A então para a A a classe de equivalência de a é o conjunto a b A a R b isto é o conjunto de todos os elementos equivalentes a a Por exemplo se definimos R a b a b e a b é um número par então R é uma relação de equivalência visto que a a é par reflexiva a b é par implica b a é par simétrica e a b é par e b c é par implicam a c é par transitiva A classe de equivalência de 4 é 4 0 2 4 6 e a classe de equivalência de 3 é 3 1 3 5 7 Apresentamos a seguir um teorema básico de classes de equivalências Teorema B1 Uma relação de equivalência é o mesmo que uma partição As classes de equivalência de qualquer relação de equivalência R para um conjunto A formam uma partição de A e qualquer partição de A determina uma relação de equivalência para A para a qual os conjuntos na partição são as classes de equivalência Prova Para a primeira parte da prova devemos mostrar que as classes de equivalência de R são conjuntos não vazios disjuntos aos pares cuja união é A Como R é reflexiva a a e portanto as classes de equivalência são não vazias B21 B22 B23 a b c além disso visto que todo elemento a A pertence à classe de equivalência a a união das classes de equivalência é A Resta mostrar que as classes de equivalência são conjuntos disjuntos aos pares isto é se duas classes de equivalência a e b têm um elemento c em comum então elas são de fato o mesmo conjunto Suponha que a R c e b R c Por simetria c R b e por transitividade a R b Assim para qualquer elemento arbitrário x a temos x R a e por transitividade x R b e assim a b De modo semelhante b a e assim a b Para a segunda parte da prova seja A Ai uma partição de A e defina R a b existe i tal que a Ai e b Ai Afirmamos que R é uma relação de equivalência em A A refletividade vale visto que a Ai implica a R a A simetria vale porque se a R b então a e b estão no mesmo conjunto Ai e por consequência b R a Se a R b e b R c então os três elementos estão no mesmo conjunto Ai e assim a R c e a transitividade vale Para verificar que os conjuntos na partição são as classes de equivalência de R observe que se a Ai então x a implica x Ai e x Ai implica x a Uma relação binária R para um conjunto A é antissimétrica se a R b e b R a implicam a b Por exemplo a relação para os números naturais é antissimétrica visto que a b e b a implicam a b Uma relação que é reflexiva antissimétrica e transitiva é uma ordem parcial e denominamos um conjunto no qual uma ordem parcial é definida conjunto parcialmente ordenado Por exemplo a relação é um descendente de é uma ordem parcial no conjunto de todas as pessoas se considerarmos os indivíduos como sendo seus próprios descendentes Em um conjunto parcialmente ordenado A pode ser que não haja nenhum elemento máximo a tal que b R a para todo b A Em vez disso o conjunto pode conter vários elementos maximais a tais que para nenhum b A onde b a ocorre que a R b Por exemplo uma coleção de caixas de tamanhos diferentes pode conter várias caixas maximais que não cabem dentro de qualquer outra caixa e apesar disso não ter nenhuma caixa máxima única dentro da qual caberá qualquer outra caixa3 Uma relação R em um conjunto A é uma relação total se para todo a b A temos a R b ou b R a ou ambas isto é se cada formação de pares de elementos de A está relacionada por R Uma ordem parcial que é também uma relação total é uma ordem total ou ordem linear Por exemplo a relação é uma ordem total para os números naturais mas a relação é um descendente de não é uma ordem total para o conjunto de todas as pessoas visto que existem grupos de indivíduos nos quais nenhum indivíduo descende de outro Uma relação total que é transitiva mas não necessariamente antissimétrica é uma préordem total Exercícios Prove que a relação de subconjunto em todos os subconjuntos de é uma ordem parcial mas não uma ordem total Mostre que para qualquer inteiro positivo n a relação equivalente módulo n é uma relação de equivalência para os inteiros Dizemos que a b mod n se existe um inteiro q tal que a b qn Em que classes de equivalência essa relação particiona os inteiros Dê exemplos de relações que sejam reflexivas e simétricas mas não transitivas reflexivas e transitivas mas não simétricas simétricas e transitivas mas não reflexivas B24 B25 B3 Seja S um conjunto finito e seja R uma relação de equivalência para S S Mostre que se uma adição R é antissimétrica então as classes de equivalência de S com relação a R são unitárias O professor Narciso afirma que se uma relação R é simétrica e transitiva então ela também é reflexiva Ele oferece a seguinte prova Por simetria a R b implica b R a Portanto a transitividade implica a R a O professor está certo FUNÇÕES Dados dois conjuntos A e B uma função f é uma relação binária entre A e B tal que para todo a A existe exatamente um b B tal que a b f O conjunto A é denominado domínio de f e o conjunto B é denominado contradomínio de f Às vezes escrevemos f A B e se a b f escrevemos b fa visto que b é determinado unicamente pela escolha de a Intuitivamente a função f atribui um elemento de B a cada elemento de A A nenhum elemento de A são atribuídos dois elementos diferentes de B mas o mesmo elemento de B pode ser atribuído a dois elementos diferentes de A Por exemplo a relação binária é uma função f 0 1 visto que para cada número natural a existe exatamente um valor b em 0 1 tal que b a mod 2 Para esse exemplo 0 f0 1 f1 0 f2 etc Em contraste a relação binária não é uma função visto que 1 3 e 1 5 estão em g e assim para a opção a 1 não existe exatamente um b tal que a b g Dada uma função f A B se b fa dizemos que a é o argumento de f e que b é o valor de f em a Podemos definir uma função declarando seu valor para cada elemento de seu domínio Por exemplo poderíamos definir fn 2n para n o que significa f n 2n n Duas funções f e g são iguais se elas têm o mesmo domínio e contradomínio e se para todo a no domínio fa ga Uma sequência finita de comprimento n é uma função f cujo domínio é o conjunto de n inteiros 0 1 n 1 Muitas vezes denotamos uma sequência finita por uma lista de seus valores f0 f1 fn 1 Uma sequência infinita é uma função cujo domínio é o conjunto dos números naturais Por exemplo a sequência de Fibonacci definida pela recorrência 322 é a sequência infinita 0 1 1 2 3 5 8 13 21 Quando o domínio de uma função f é um produto cartesiano frequentemente omitimos os parênteses extras que envolvem o argumento de f Por exemplo se tivéssemos uma função f A1 A2 An B escreveríamos b fa1 a2an em vez de b fa1 a2an Também denominamos cada ai um argumento para a função f embora tecnicamente o único argumento para f seja a ntupla a1 a2an Se f A B é uma função e b fa às vezes dizemos que b é a imagem de a sob f A imagem de um conjunto A A sob f é definida por A imagem de f é a imagem do seu domínio isto é fA Por exemplo a imagem da função f definida por fn 2n é f m m 2n para algum n em outras palavras o conjunto de inteiros pares não negativos Uma função é uma sobrejeção se sua imagem é seu contradomínio Por exemplo a função fn n2 é uma função sobrejetora de para visto que todo elemento em aparece como o valor de f para algum argumento Ao contrário a função fn 2n não é uma função sobrejetora de para porque nenhum argumento de f pode produzir 3 como valor B31 a b B32 Todavia a função fn 2n é uma função sobrejetora dos números naturais para os números pares Uma sobrejeção f A B às vezes é descrita como mapeando A sobre B Quando dizemos que f é sobre queremos dizer que ela é sobrejetora Uma função f A B é uma injeção se argumentos distintos de f produzem valores distintos isto é se a a implica fa fa Por exemplo a função fn 2n é um função injetora de para visto que cada número par b é a imagem sob f de no máximo um elemento do domínio isto é b2 A função fn n2 não é injetora visto que o valor 1 é produzido por dois argumentos 2 e 3 Às vezes uma injeção é denominada função um para um Uma função f A B é um bijeção se é injetora e sobrejetora Por exemplo a função fn 1n n2 é uma bijeção de para A função é injetora já que nenhum elemento de é a imagem de mais do que um elemento de Ela é sobrejetora visto que todo elemento de aparece como imagem de algum elemento de Por consequência a função é bijetora Às vezes uma bijeção é denominada correspondência de um para um porque forma pares com elementos do domínio e do contradomínio Uma bijeção de um conjunto A para ele mesmo às vezes é denominada permutação Quando uma função f é bijetora definimos sua inversa f1 como Por exemplo a inversa da função fn 1n n2 é Exercícios Sejam A e B conjuntos finitos e seja f A B uma função Mostre que se f é injetora então A B se f é sobrejetora então A B A função fx x 1 é bijetora quando o domínio e o contradomínio são Ela é bijetora quando o domínio e o contradomínio são B33 B4 B34 Dê uma definição natural para a inversa de uma relação binária tal que se uma relação é de fato uma função bijetora sua inversa relacional é sua inversa funcional Dê uma bijeção de para GRAFOS Esta seção apresenta dois tipos de grafos dirigido e não dirigido Certas definições encontradas na literatura são diferentes das dadas aqui mas na maioria das vezes as diferenças são insignificantes A Seção 221 mostra como representar grafos na memória do computador Um grafo dirigido G é um par V E onde V é um conjunto finito e E é uma relação binária em V O conjunto V é denominado conjunto de vértices de G e seus elementos são denominados vértices O conjunto E é denominado conjunto de arestas de G e seus elementos são denominados arestas A Figura B2a é uma representação pictórica de um grafo dirigido para o conjunto de vértices 1 2 3 4 5 6 Os vértices são representados por círculos na figura e as arestas são representadas por setas Observe que são possíveis laços arestas de um vértice para ele próprio Em um grafo não dirigido G V E o conjunto de arestas E consiste em pares de vértices não ordenados em vez de pares ordenados Isto é uma aresta é um conjunto u v onde u v V e u v Por convenção usamos a notação u v para uma aresta em vez da notação de conjuntos u v e u v e v u são consideradas a mesma aresta Em um grafo não dirigido laços são proibidos e portanto toda aresta consiste em dois vértices distintos A Figura B2b é uma representação pictórica de um grafo não dirigido para o conjunto de vértices 1 2 3 4 5 6 Muitas definições para grafos dirigidos e não dirigidos são idênticas embora certos termos tenham significados ligeiramente diferentes nos dois contextos Se u v é uma aresta em um grafo dirigido G V E dizemos que u v é incidente do vértice u ou sai do vértice u e é incidente no vértice v ou entra no vértice v Por exemplo as arestas que saem do vértice 2 na Figura B2a são 2 2 2 4 e 2 5 As arestas que entram no vértice 2 são 1 2 e 2 2 Se u v é uma aresta em um grafo não dirigido G V E dizemos que u v é incidente nos vértices u e v Na Figura B2b as arestas incidentes no vértice 2 são 1 2 e 2 5 Figura B2 Grafos dirigidos e não dirigidos a Um grafo dirigido G V E onde V 1 2 3 4 5 6 e E 1 2 2 2 2 4 2 5 4 1 4 5 5 4 6 3 A aresta 2 2 é um laço b Um grafo não dirigido G V E onde V 1 2 3 4 5 6 e E 1 2 1 5 2 5 3 6 O vértice 4 é isolado c O subgrafo do grafo da parte a induzido pelo conjunto de vértices 1 2 3 6 Se u v é uma aresta em um grafo G V E dizemos que o vértice v é adjacente ao vértice u Quando o grafo é não dirigido a relação de adjacência é simétrica Quando o grafo é dirigido a relação de adjacência não é necessariamente simétrica Se v é adjacente a u em um grafo dirigido às vezes escrevemos u v Nas partes a e b da Figura B2 o vértice 2 é adjacente ao vértice 1 visto que a aresta 1 2 pertence a ambos os grafos O vértice 1 não é adjacente ao vértice 2 na Figura B2a visto que a aresta 2 1 não pertence ao grafo O grau de um vértice em um grafo não dirigido é o número de arestas que nele incidem Por exemplo o vértice 2 na Figura B2b tem grau 2 Um vértice cujo grau é 0 como o vértice 4 na Figura B2b é isolado Em um grafo dirigido o grau de saída de um vértice é o número de arestas que saem dele e o grau de entrada de um vértice é o número de arestas que entram nele O grau de um vértice em um grafo dirigido é seu grau de entrada mais seu grau de saída O vértice 2 na Figura B2a tem grau de entrada 2 grau de saída 3 e grau 5 Um caminho de comprimento k de um vértice u a um vértice u em um grafo G V E é uma sequência v0 v1 v2 vkn de vértices tais que u v0 u vk e vi1 vi para i 1 2 k O comprimento do caminho é o número de arestas no caminho O caminho contém os vértices v0 v1 vk e as arestas v0 v1 v1 v2 vk1 vk Sempre existe um caminho de comprimento 0 de u até u Se existe um caminho p de u até u dizemos que u é acessível a partir de u via p o que às vezes escrevemos como u pu se G é dirigido Um caminho é simples4 se todos os vértices no caminho são distintos Na Figura B2a o caminho 1 2 5 4 é um caminho simples de comprimento 3 O caminho 2 5 4 5 não é simples Um subcaminho do caminho p v0 v1 vk é uma subsequência contígua de seus vértices Isto é para qualquer 0 i j k a subsequência de vértices vi vi 1 vj é um subcaminho de p Em um grafo dirigido um caminho v0 v1 vk forma um ciclo se v0 vk e o caminho contém no mínimo uma aresta O ciclo é simples se além disso v1 v2 vk são distintos Um laço é um ciclo de comprimento 1 Dois caminhos v0 v1 v2 vk1 v0 e v0 v1 v2 vk1 v0 formam o mesmo ciclo se existe um inteiro j tal que vi vij mod k para i 0 1 k 1 Na Figura B2a o caminho 1 2 4 1 forma o mesmo ciclo que os caminhos 2 4 1 2 e 4 1 2 4 Esse ciclo é simples mas o ciclo 1 2 4 5 4 1 não é O ciclo 2 2 formado pela aresta 2 2 é um laço Um grafo dirigido sem nenhum laço é simples Em um grafo não dirigido um caminho v0 v1 vk forma um ciclo se v0 vk e todas suas arestas são distintas o ciclo é simples se v1 v2 vk são distintos Por exemplo na Figura B2b o caminho 1 2 5 1 é um ciclo Um grafo que não tenha nenhum ciclo simples é acíclico Um grafo não dirigido é conexo se todo vértice pode ser alcançado de todos os outros vértices As componentes conexas de um grafo não dirigido são as classes de equivalência de vértices sob a relação pode ser alcançado de O grafo da Figura B2b tem três componentes conexas 1 2 5 3 6 e 4 Todo vértice em 1 2 5 pode ser alcançado de cada um dos outros vértices em 1 2 5 Um grafo não dirigido é conexo se tem exatamente uma componente conexa As arestas de uma componente conexa são as que incidem somente nos vértices da componente em outras palavras a aresta u v é uma aresta de uma componente conexa se e somente se u e v são vértices da componente Um grafo dirigido é fortemente conexo se cada vértice pode ser alcançado de qualquer outro vértice As componentes fortemente conexas de um grafo dirigido são as classes de equivalência de vértices sob a relação são mutuamente acessíveis Um grafo dirigido é fortemente conexo se tem somente uma componente fortemente conexa O grafo da Figura B2a tem três componentes fortemente conexas 1 2 4 5 3 e 6 Todos os pares de vértices em 1 2 4 5 são mutuamente acessíveis Os vértices 3 6 não formam uma componente fortemente conexa visto que o vértice 6 não pode ser alcançado do vértice 3 Dois grafos G V E e G V E são isomorfos se existe uma bijeção f V V tal que u v E se e somente se fu fv E Em outras palavras podemos renomear os vértices de G como vértices de G mantendo as arestas correspondentes em G e G A Figura B3a mostra um par de grafos isomorfos G e G com conjuntos de vértices respectivos V 1 2 3 4 5 6 e V u v w x y z O mapeamento de V para V dado por f1 u f2 v f3 w f4 x f5 y f6 z dá a função bijetora requerida Os grafos na Figura B3b não são isomorfos Embora ambos tenham cinco vértices e sete arestas o grafo na parte superior da figura tem um vértice de grau 4 e o grafo na parte inferior não Dizemos que um grafo G V E é um subgrafo de G V E se V V e E E Dado um conjunto V V o subgrafo de G induzido por V é o grafo G V E onde O subgrafo induzido pelo conjunto de vértices 1 2 3 6 na Figura B2a aparece na Figura B2c e tem o conjunto de arestas 1 2 2 2 6 3 Dado um grafo não dirigido G V E a versão dirigida de G é o grafo dirigido G V E onde u v E se e somente se u v E Isto é substituímos cada aresta não dirigida u v em G pelas duas arestas dirigidas u v e v u na versão dirigida Dado um grafo dirigido G V E a versão não dirigida de G é o grafo não dirigido G V E onde u v E se e somente se u v e E contem pelo menos uma das arestas u v e v u Isto é a versão não dirigida contém as arestas de G com suas direções eliminadas e com laços também eliminados Como u v e v u são a mesma aresta em um grafo não dirigido a versão não dirigida de um grafo dirigido a contém somente uma vez mesmo que o grafo dirigido contenha as arestas u v e v u Em um grafo dirigido G V E um vizinho de um vértice u é qualquer vértice adjacente a u na versão não dirigida de G Isto é v é um vizinho de u se u v e ou u v E ou v u E Em um grafo não dirigido u e v são vizinhos se são adjacentes Figura B3 a Um par de grafos isomorfos Os vértices do grafo na parte superior da figura são mapeados para os vértices do grafo na parte inferior da figura por f1 u f2 v f3 w f4 x f5 y f6 z b Dois grafos que não são isomorfos visto que o grafo na parte superior da figura tem um vértice de grau 4 e o grafo na parte inferior da figura não tem Vários tipos de grafos têm nomes especiais Um grafo completo é um grafo não dirigido no qual todo par de vértices é adjacente Um grafo bipartido é um grafo não dirigido G V E no qual V pode ser particionado em dois conjuntos V1 e V2 tais que u v E implica ou u V1 e v V2 ou u V2 e v V1 Isto é todas as arestas ficam entre os dois conjuntos V1 e V2 Um grafo acíclico não dirigido é uma floresta e um grafo conexo acíclico não dirigido é uma árvore livre veja a Seção B5 Muitas vezes tomamos as primeiras letras de grafo acíclico dirigido e denominamos tal grafo gad Há duas variantes de grafos que você poderá encontrar ocasionalmente Um multigrafo é semelhante a um grafo não dirigido mas pode ter várias arestas entre os mesmos vértices e laços Um hipergrafo é semelhante a um grafo não dirigido mas cada hiperaresta em vez de conectar dois vértices conecta um subconjunto arbitrário de vértices Muitos algoritmos escritos para grafos dirigidos e não dirigidos comuns podem ser adaptados para funcionar nessas estruturas semelhantes a grafos A contração de um grafo não dirigido G V E por uma aresta e u v é um grafo G V E onde V V u v x e x é um novo vértice O conjunto de arestas E é formado por E sem a aresta u v e para cada vértice w adjacente a u ou v é eliminada a aresta u w ou a aresta v w dependendo de qual está em E e em seu lugar é adicionado a nova aresta x w Na prática u e n são contraídosa um vértice só B41 B42 B43 B44 B45 B5 B51 B46 Exercícios Os participantes de uma festa de professores de uma faculdade cumprimentamse com um aperto de mão e cada professor memoriza quantas pessoas cumprimentou No final da festa o chefe do departamento soma o número de vezes que cada professor cumprimentou os outros Mostre que o resultado é par provando o lema do cumprimento se G V E é um grafo não dirigido então Mostre que se um grafo dirigido ou não dirigido contém um caminho entre dois vértices u e v contém um caminho simples entre u e v Mostre que se um grafo dirigido contém um ciclo então contém um ciclo simples Mostre que qualquer grafo conexo não dirigido G V E satisfaz E V 1 Verifique que em um grafo não dirigido a relação pode ser alcançado de é uma relação de equivalência para os vértices do grafo Qual das três propriedades de uma relação de equivalência é válida em geral para a relação pode ser alcançado de para os vértices de um grafo dirigido Qual é a versão não dirigida do grafo dirigido na Figura B2a Qual é a versão dirigida do grafo não dirigido na Figura B2b Mostre que podemos representar um hipergrafo por um grafo bipartido sempre que a incidência no hipergrafo corresponda à adjacência no grafo bipartido Sugestão Faça com que um conjunto de vértices no grafo bipartido corresponda a vértices do hipergrafo e com que o outro conjunto de vértices do grafo bipartido corresponda a hiperarestas ÁRVORES Do mesmo modo que para os grafos há muitas noções de árvores relacionadas embora ligeiramente diferentes Esta seção apresenta definições e propriedades matemáticas de vários tipos de árvores As Seções 104 e 221 descrevem como representamos árvores na memória de computadores ÁRVORES LIVRES Como definimos na Seção B4 uma árvore livre é um grafo acíclico conexo não dirigido Muitas vezes omitimos o adjetivo livre quando dizemos que um grafo é uma árvore Se um grafo não dirigido é acíclico mas possivelmente desconexo é uma floresta Muitos algoritmos que funcionam para árvores também funcionam para florestas A Figura B4a mostra uma árvore livre e a Figura B4b mostra uma floresta A floresta na Figura B4b não é uma árvore porque não é conexa O grafo na Figura B4c não é nem uma árvore nem uma floresta porque contém um ciclo O teorema a seguir abrange muitos fatos importantes sobre árvores livres Teorema B2 Propriedades de árvores livres Seja G V E um grafo não dirigido As afirmativas a seguir são equivalentes 1 2 3 4 5 6 G é uma árvore livre Quaisquer dois vértices em G estão ligados por um caminho simples único G é conexo mas se qualquer aresta for eliminada de E o grafo resultante é desconexo G é conexo e E V 1 G é acíclico e E V 1 G é acíclico mas se qualquer aresta for adicionada a E o grafo resultante contém um ciclo Prova 1 2 Dado que uma árvore é conexa quaisquer dois vértices em G estão ligados por no mínimo um caminho simples Suponha por contradição que os vértices u e v estão ligados por dois caminhos simples distintos p1 e p2 como mostra a Figura B5 Seja w o vértice no qual os caminhos divergem pela primeira vez isto é w é o primeiro vértice em p1 e também em p2 cujo sucessor em p1 é x e cujo sucessor em p2 é y onde x y Seja z o primeiro vértice no qual os caminhos reconvergem isto é z é o primeiro vértice que vem depois de w em p1 que também está em p2 Seja p o subcaminho de p1 que parte de w e passa por x e chega até z e seja p o subcaminho de p2 que parte de w e passa por y e chega até z Os caminhos p e p não compartilham nenhum vértice exceto suas extremidades Assim o caminho obtido pela concatenação de p com o inverso de p é um ciclo o que contradiz nossa hipótese de que G é uma árvore Assim se G é uma árvore pode haver no máximo um caminho simples entre dois vértices 2 3 Se quaisquer dois vértices em G estão ligados por um caminho simples único então G é conexo Seja u v qualquer aresta em E Essa aresta é um caminho de u a v e portanto deve ser o caminho único de u até v Se eliminarmos u v de G não há nenhum caminho de u a v e consequentemente sua eliminação torna G desconexo Figura B4 a Uma árvore livre b Uma floresta c Um grafo que contém um ciclo e que portanto não é nem uma árvore nem uma floresta Figura B5 Uma etapa na prova do Teorema B2 se 1 G é uma árvore livre então 2 quaisquer dois vértices em G estão ligados por um caminho simples único Considere por contradição que os vértices u e v são ligados por dois caminhos simples distintos p1 e p2 Esses B52 caminhos divergem primeiro no vértice w e depois reconvergem primeiro no vértice z O caminho p concatenado com o inverso do caminho p forma um ciclo o que produz a contradição 3 4 Por hipótese o grafo G é conexo e pelo Exercício B43 temos E V 1 Provaremos E V 1 por indução Um grafo conexo com n 1 ou n 2 vértices tem n 1 arestas Suponha que G tenha n 3 vértices e que todos os grafos que satisfazem 3 com menos de n vértices também satisfazem E V 1 Eliminar uma aresta arbitrária de G separa o grafo em k 2 componentes conexas na realidade k 2 Cada componente satisfaz 3 ou do contrário G não satisfaria 3 Se virmos cada componente conexa Vi com conjunto de arestas Ei como sua própria árvore livre então visto que cada componente tem menos do que V vértices pela hipótese de indução temos Ei Vi 1 Assim o número de arestas em todas as componentes combinadas é no máximo V k V 2 Adicionar a aresta eliminada produz E V 1 4 5 Suponha que G seja conexo e que E V 1 Devemos mostrar que G é acíclico Suponha que G tenha um ciclo que contém k vértices v1 v2 vk e sem perda da generalidade suponha que esse ciclo seja simples Seja Gk Vk Ek o subgrafo de G que consiste no ciclo Observe que Vk Ek k Se k V deve existir um vértice vk1 V Vk que é adjacente a algum vértice vi Vk visto que G é conexo Defina Gk1 Vk1 Ek1 como o subgrafo de G com Vk1 Vk vk1 e Ek1 Ek U vi vk1 Observe que Vk1 Ek1 k 1 Se k 1 V podemos continuar definindo Gk2 da mesma maneira e assim por diante até obtermos Gn Vn En onde n V Vn V e En Vn V Como Gn é um subgrafo de G temos En E e portanto E V o que contradiz a hipótese de que E V 1 Assim G é acíclico 5 6 Suponha que G seja acíclico e que E V 1 Seja k o número de componentes conexas de G Cada componente conexa é uma árvore livre por definição e visto que 1 implica 5 a soma de todas as arestas em todas as componentes conexas de G é V k Consequentemente devemos ter k 1 e G é de fato uma árvore Visto que 1 implica 2 quaisquer dois vértices em G estão ligados por um caminho simples único Portanto adicionar qualquer aresta a G cria um ciclo 6 1 Suponha que G seja acíclico mas que adicionar qualquer aresta a E cria um ciclo Devemos mostrar que G é conexo Sejam u e v vértices arbitrários em G Se u e v ainda não forem adjacentes adicionar a aresta u v cria um ciclo no qual todas as arestas com exceção de u v pertencem a G Assim o ciclo menos a aresta u v deve conter um caminho de u a v e visto que u e v foram escolhidos arbitrariamente G é conexo ÁRVORES ENRAIZADAS E ÁRVORES ORDENADAS Uma árvore enraizada é uma árvore livre na qual um dos vértices é destacado Denominamos raiz da árvore esse vértice distinto Muitas vezes nos referimos a um vértice de uma árvore enraizada como um nó5 da árvore A Figura B6a mostra uma árvore enraizada em um conjunto de 12 nós com raiz 7 Considere um nó x em uma árvore enraizada T com raiz r Denominamos qualquer nó y no caminho simples único de r a x por ancestral de x Se y é um ancestral de x então x é um descendente de y Todo nó é ao mesmo tempo um ancestral e um descendente de si mesmo Se y é um ancestral de x e x y então y é um ancestral próprio de x e x é um descendente próprio de y A subárvore enraizada em x é a árvore induzida por descendentes de x com raiz em x Por exemplo a subárvore enraizada no nó 8 na Figura B6a contém os nós 8 6 5 e 9 Se a última aresta no caminho simples da raiz r de uma árvore T a um nó x é y x então y é o pai de x e x é um filho de y A raiz é o único nó em T que não tem nenhum pai Se dois nós têm o mesmo pai eles são irmãos Um nó sem nenhum filho é uma folha ou um nó externo Um nó que não é uma folha é um nó interno O número de filhos de um nó x em uma árvore enraizada T é denominado grau de x6 O comprimento do caminho simples da raiz r a um nó x é a profundidade de x em T Um nível de uma árvore consiste em todos os nós que estão na mesma profundidade A altura de um nó em uma árvore é o número de arestas no caminho simples descendente mais longo do nó a uma folha e a altura de uma árvore é a altura de sua raiz A altura de uma árvore também é igual à maior profundidade de qualquer nó na árvore B53 Uma árvore ordenada é uma árvore enraizada na qual os filhos de cada nó estão ordenados Isto é se um nó tem k filhos então existe um primeiro filho um segundo filho e um késimo filho As duas árvores na Figura B6 são diferentes quando consideradas como árvores ordenadas mas são idênticas quando consideradas apenas como árvores enraizadas Figura B6 Árvores enraizadas e árvores ordenadas a Uma árvore enraizada com altura 4 A árvore é desenhada de um modo padrão a raiz nó 7 está na parte superior seus filhos os nós com profundidade 1 estão abaixo dela os filhos de seus filhos nós com profundidade 2 estão abaixo destes e assim por diante Se a árvore é ordenada a ordem relativa da esquerda para a direita dos filhos de um nó é importante caso contrário não é importante b Outra árvore enraizada Como uma árvore enraizada ela é idêntica à árvore em a mas como uma árvore ordenada ela é diferente visto que os filhos do nó 3 aparecem em uma ordem diferente ÁRVORES BINÁRIAS E ÁRVORES POSICIONAIS Definimos árvores binárias recursivamente Uma árvore binária T é uma estrutura definida para um conjunto finito de nós que não contém nenhum nó ou é composta por três conjuntos disjuntos de nós um nó raiz uma árvore binária denominada sua subárvore da esquerda e uma árvore binária denominada sua subárvore da direita A árvore binária que não contém nenhum nó é denominada árvore vazia ou árvore nula às vezes denotada por NIL Se a subárvore da esquerda é não vazia sua raiz é denominada filho da esquerda da raiz da árvore inteira Da mesma forma a raiz de uma subárvore da direita não nula é o filho da direita da raiz da árvore inteira Se uma subárvore é a árvore nula NIL dizemos que o filho está ausente ou está faltando A Figura B7a mostra uma árvore binária Uma árvore binária não é simplesmente uma árvore ordenada na qual cada nó tem no máximo grau 2 Por exemplo em uma árvore binária se um nó tem apenas um filho a posição do filho seja ele o filho da esquerda ou o filho da direita é importante Em uma árvore ordenada não há como distinguir se um filho isolado é um filho da esquerda ou da direita A Figura B7b mostra uma árvore binária que é diferente da árvore na Figura B7a por causa da posição de um único nó Contudo se consideradas como árvores ordenadas as duas árvores são idênticas Podemos representar as informações de posicionamento em uma árvore binária pelos nós internos de uma árvore ordenada como mostra a Figura B7c A ideia é substituir cada filho que falta na árvore binária por um nó que não tem nenhum filho Esses nós de folha estão desenhados como quadrados na figura A árvore resultante é uma árvore binária cheia cada nó ou é uma folha ou tem grau exatamente 2 Não há nós de grau 1 Consequentemente a ordem dos filhos de um nó preserva as informações de posição Podemos estender as informações de posicionamento que distinguem árvores binárias de árvores ordenadas a árvores com mais de dois filhos por nó Em uma árvore posicional os filhos de um nó são identificados por números inteiros positivos distintos O iésimo filho de um nó é ausente se nenhum filho é identificado com o inteiro i Uma árvore kária é uma árvore posicional na qual para todo nó todos os filhos com rótulos maiores que k estão faltando Assim uma árvore binária é uma árvore kária com k 2 Uma árvore kária completa é uma árvore kária na qual todas as folhas têm a mesma profundidade e todos os nós internos têm grau k A Figura B8 mostra uma árvore binária completa de altura 3 Quantas folhas tem uma árvore kária completa de altura h A raiz tem k filhos na profundidade 1 cada um deles tem k filhos na profundidade 2 e assim por diante Então o número de folhas na profundidade h é kh Consequentemente a altura de uma árvore kária completa com n folhas é logk n O número de nós internos de uma árvore kária completa de altura h é pela equação A5 Assim uma árvore binária completa tem 2h 1 nós internos Figura B7 Árvores binárias a Uma árvore binária desenhada de um modo padrão O filho da esquerda de um nó é desenhado abaixo e à esquerda do nó O filho da direita é desenhado abaixo e à direita do nó b Uma árvore binária diferente da que está em a Em a o filho da esquerda do nó 7 é 5 e o filho da direita está ausente Em b o filho da esquerda do nó 7 está ausente e o filho da direita é 5 Como árvores ordenadas essas árvores são idênticas mas como árvores binárias elas são distintas c A árvore binária em a representada pelos nós internos de uma árvore binária cheia uma árvore ordenada na qual cada nó interno tem grau 2 As folhas na árvore são mostradas como quadrados Figura B8 Uma árvore binária completa de altura 3 com oito folhas e sete nós internos Exercícios B51 B52 B53 B54 B1 a b 1 2 3 c d B55 B56 B57 Desenhe todas as árvores livres compostas pelos três vértices x y e z Desenhe todas as árvores enraizadas com nós x y e z que têm x como raiz Desenhe todas as árvores ordenadas com nós x y e z que têm x como raiz Desenhe todas as árvores binárias com nós x y e z que têm x como raiz Seja G V E um grafo acíclico dirigido no qual existe um vértice v0 V tal que existe um caminho único de v0 até todo vértice v V Prove que a versão não dirigida de G forma uma árvore Mostre por indução que o número de nós de grau 2 em qualquer árvore binária não vazia é uma unidade menor que o número de folhas Conclua que o número de nós internos em uma árvore binária cheia é uma unidade menor que o número de folhas Use indução para mostrar que uma árvore binária não vazia com n nós tem altura de no mínimo lg n O comprimento de caminho interno de uma árvore binária cheia é a soma aplicada a todos os nós internos da árvore das profundidades de cada nó De modo semelhante o compri mento de caminho externo é a soma aplicada a todas as folhas da árvore das profundidades de cada folha Considere uma árvore binária cheia com n nós internos comprimento de caminho interno i e comprimento de caminho externo e Prove que e i 2n Vamos associar um peso wx 2d a cada folha x de profundidade d em uma árvore binária T e seja L o conjunto de folhas de T Prove que ΣxL wx 1 Isso é conhecido como desigualdade de Kraft Mostre que se L 2 então toda árvore binária com L folhas contém uma subárvore que tem entre L3 e 2L3 folhas inclusive Problemas Coloração de grafos Dado um grafo não dirigido G V E uma kcoloração é uma função c V 0 1 k 1 tal que cu cv para toda aresta u v E Em outras palavras os números 0 1 k 1 representam as k cores e vértices adjacentes devem ter cores diferentes Mostre que qualquer árvore pode ser 2colorida Mostre que os itens seguintes são equivalentes G é bipartido G pode ser 2colorido G não tem nenhum ciclo de comprimento ímpar Seja d o grau máximo de qualquer vértice em um grafo G Prove que podemos colorir G com d 1 cores Mostre que se G tem OV arestas então G pode ser colorido com O V cores B2 a b c d B3 a b c Grafos de amigos Reescreva cada uma das declarações a seguir como um teorema para grafos não dirigidos e depois prove o teorema Considere que amizade é simétrica mas não reflexiva Qualquer grupo de no mínimo duas pessoas contém no mínimo duas pessoas com o mesmo número de amigos no grupo Todo grupo de seis pessoas contém no mínimo três amigos mútuos ou no mínimo três estranhos mútuos Qualquer grupo de pessoas pode ser repartido em dois subgrupos tais que no mínimo metade dos amigos de cada pessoa pertence ao subgrupo do qual essa pessoa não é um membro Se toda pessoa em um grupo é amiga de no mínimo metade das pessoas no grupo então o grupo pode se sentar em torno de uma mesa de tal modo que toda pessoa fique sentada entre dois amigos Bisseção de árvores Muitos algoritmos de divisão e conquista aplicáveis a grafos exigem que o grafo seja dividido em dois subgrafos de tamanhos aproximadamente iguais que são induzidos por uma partição dos vértices Este problema investiga a bisseção de árvores formadas pela eliminação de um pequeno número de arestas Exige se sempre que dois vértices acabam na mesma subárvore após a eliminação de arestas que estejam na mesma partição Mostre que podemos particionar os vértices de qualquer árvore binária de n vértices em dois conjuntos A e B tais que A 3n4 e B 3n4 eliminando uma única aresta Mostre que a constante 34 na parte a é ótima no pior caso dando um exemplo de árvore binária simples cuja partição de equilíbrio mais uniforme obtida com a eliminação de uma única aresta tenha A 3n4 Mostre que removendo no máximo Olg n arestas podemos particionar os vértices de qualquer árvore binária de n vértices em dois conjuntos A e B tais que A n2 e B n2 NOTAS DO CAPÍTULO G Boole foi o pioneiro no desenvolvimento da lógica simbólica e introduziu muitas das notações básicas de conjuntos em um livro publicado em 1854 A moderna teoria dos conjuntos foi criada por G Cantor durante o período de 1874 a 1895 Cantor focalizou principalmente os conjuntos de cardinalidade infinita O termo função é atribuído a G W Leibniz que o usou para se referir a várias espécies de fórmulas matemáticas Sua definição limitada foi generalizada várias vezes A teoria dos grafos teve origem em 1736 quando L Euler provou que era impossível cruzar cada uma das sete pontes da cidade de Königsberg exatamente uma vez e retornar ao ponto de partida O livro de Harary 160 é um compêndio útil de muitas definições e resultados da teoria dos grafos 1Uma variação de um conjunto que pode conter o mesmo objeto mais de uma vez é denominada multiconjunto 2Alguns autores começam os números naturais com 1 em vez de 0 A tendência moderna parece ser começar com 0 3 Para sermos exatos para que a relação caber dentro de seja uma ordem parcial precisamos adotar que uma caixa cabe dentro dela mesma 4Alguns autores referemse ao que denominamos caminho como um passeio e ao que denominamos caminho simples como caminho apenas Usamos os termos caminho e caminho simples em todo este livro de modo compatível com suas definições 5 O termo nó é muito usado na literatura da teoria dos grafos como sinônimo de vértice Reservaremos o termo nó para indicar um vértice de uma árvore enraizada 6 Observe que o grau de um nó depende de considerarmos T como uma árvore enraizada ou como uma árvore livre O grau de um vértice em uma árvore livre é como em qualquer grafo não dirigido o número de vértices adjacentes Porém em uma árvore enraizada o grau é o número de filhos o pai de um nó não conta para definir seu grau C1 C CONTAGEM E PROBABILIDADE Este capítulo faz uma revisão da análise combinatória elementar e da teoria da probabilidade Se o leitor tiver um bom conhecimento nessas áreas basta ler rapidamente o início do capítulo e se concentrar nas últimas seções A maior parte dos capítulos deste livro não requer que o leitor conheça probabilidade mas para alguns capítulos tal conhecimento é essencial A Seção C1 faz uma revisão dos resultados elementares de teoria da contagem incluindo fórmulas padrões para contagem de permutações e combinações Os axiomas da probabilidade e os fatos básicos relativos a distribuições de probabilidade são apresentados na Seção C2 Variáveis aleatórias são introduzidas na Seção C3 juntamente com as propriedades de esperança e variância A Seção C4 examina as distribuições geométricas e binomiais que surgem do estudo de tentativas de Bernoulli O estudo da distribuição binomial continua na Seção C5 uma discussão avançada das caudas da distribuição CONTAGEM A teoria da contagem tenta responder à pergunta quantosas sem realmente enumerar todas as escolhas Por exemplo poderíamos perguntar Quantos números diferentes de n bits existem ou Quantas ordenações de n elementos distintos existem Nesta seção faremos uma revisão dos elementos da teoria da contagem Visto que parte do material pressupõe uma compreensão básica de conjuntos aconselhamos o leitor a começar pela revisão do material na Seção B1 Regras da soma e do produto Ás vezes podemos expressar um conjunto de itens que desejamos contar como uma união de conjuntos disjuntos ou como um produto cartesiano de conjuntos A regra da soma afirma que o número de modos de escolher um elemento de um entre dois conjuntos disjuntos é a soma das cardinalidades dos conjuntos Ou seja se A e B são dois conjuntos finitos sem nenhum membro em comum então A B A B que decorre da equação B3 Por exemplo cada posição na placa de um automóvel é uma letra ou um dígito Portanto o número de possibilidades para cada posição é 26 10 36 já que existem 26 escolhas se for uma letra e 10 escolhas se for um dígito A regra do produto afirma que o número de modos de escolher um par ordenado é o número de modos de escolher o primeiro elemento vezes o número de modos de escolher o segundo elemento Isto é se A e B são dois conjuntos finitos então A B AB que é simplesmente a equação B4 Por exemplo se uma sorveteria oferece 28 sabores de sorvete e quatro coberturas o número de sundaes possíveis com uma bola de sorvete e uma cobertura é 28 4 112 Cadeias Uma cadeia em um conjunto finito S é uma sequência de elementos de S Por exemplo há oito cadeias binárias de comprimento 3 000 001 010 011 100 101 110 111 Às vezes denominamos uma cadeia de comprimento k kcadeia Uma subcadeia s de um cadeia s é uma sequência ordenada de elementos consecutivos de s Uma ksubcadeia de uma cadeia é uma subcadeia de comprimento k Por exemplo 010 é uma 3subcadeia de 01101001 a 3subcadeia que começa na posição 4 mas 111 não é uma subcadeia de 01101001 Podemos ver uma kcadeia em um conjunto S como um elemento do produto cartesiano Sk de tuplas de k elementos assim existem Sk cadeias de comprimento k Por exemplo o número de cadeias binárias de k elementos é 2k Intuitivamente para construir uma cadeia de k elementos em um conjunto de n elementos temos n modos de escolher o primeiro elemento para cada uma dessas opções temos n modos de escolher o segundo elemento e assim por diante k vezes Essa construção conduz ao produto de k termos n n n nk como o número de cadeias de k elementos Permutações Uma permutação de um conjunto finito S é uma sequência ordenada de todos os elementos de S sendo que cada elemento aparece exatamente uma vez Por exemplo se S a b c então S tem seis permutações abc acb bac bca cab cba Há n permutações de um conjunto de n elementos visto que o primeiro elemento da sequência pode ser escolhido de n modos o segundo de n 1 modos o terceiro de n 2 modos e assim por diante Uma kpermutação de S é uma sequência ordenada de k elementos de S na qual nenhum elemento aparece mais de uma vez assim uma permutação comum é apenas uma permutação de n elementos de um conjunto de n elementos As doze 2permutações do conjunto a b c d são ab ac ad ba bc bd ca cb cd da db dc O número de kpermutações de um conjunto de n elementos é visto que há n modos de escolher o primeiro elemento n 1 modos de escolher o segundo elemento e assim por diante até selecionarmos k elementos sendo o último elemento uma seleção dos n k 1 elementos restantes Combinações Uma kcombinação de um conjunto S de n elementos é simplesmente um ksubconjunto de S Por exemplo o conjunto de quatro elementos a b c d tem seis 2combinações ab ac ad bc bd cd Aqui usamos a forma reduzida de denotar o conjunto de dois elementos a b por ab e assim por diante Podemos construir uma kcombinação de um conjunto de n elementos escolhendo k elementos distintos diferentes do conjunto de n elementos Podemos expressar o número de combinações de k elementos de um conjunto de n elementos em termos do número de permutações de k elementos de um conjunto de n elementos Toda kcombinação tem exatamente k permutações de seus elementos cada uma das quais é uma kpermutação distinta do nconjunto Assim o número de kcombinações de um nconjunto é o número de kpermutações dividido por k pela equação C1 essa quantidade é Para k 0 essa fórmula nos informa que o número de modos de escolher 0 elementos de um nconjunto é 1 e não 0 já que 0 1 Coeficientes binomiais A notação nk lêse n escolhe k denota o número de kcombinações em um nconjunto Pela equação C2 temos Essa fórmula é simétrica em k e em n k Esses números também são conhecidos como coeficientes binomiais porque aparecem na expansão binomial Um caso especial da expansão binomial ocorre quando x y 1 Essa fórmula corresponde a contar as 2n cadeias binárias de n elementos pelo número de 1s que elas contêm n cadeias binárias nk contêm exatamente k 1s já que há nk modos de escolher k dentre as n posições nas quais colocar os 1s Muitas identidades envolvem coeficientes binomiais Os exercícios no final desta seção lhe dão a oportunidade de provar algumas delas Limites para binomiais Às vezes precisamos limitar o tamanho de um coeficiente binomial Para 1 k n temos o limite inferior C11 C12 Tirando proveito da desigualdade k kek deduzida da aproximação de Stirling 318 obtemos os limites superiores Para todos os inteiros k tais que 0 k n podemos usar a indução veja o Exercício C112 para provar o limite onde por conveniência adotamos 00 1 Para k ln onde 0 l 1 podemos reescrever esse limite como onde é a função entropia binária e onde por conveniência adotamos 0 lg 0 0 de modo que H0 H1 0 Exercícios Quantas subcadeias de k elementos tem uma cadeia de n elementos Considere subcadeias idênticas de k elementos em posições diferentes como subcadeias diferentes Quantas subcadeias uma cadeia de n elementos tem no total Uma função booleana de n entradas e m saídas é função de TRUE FALSEn para TRUE FALSEm Quantas funções booleanas de n entradas e 1 saída existem Quantas funções booleanas de n entradas e m saídas C13 C14 C15 C16 C17 C18 C19 C110 C111 existem De quantos modos n professores podem se sentar em torno de uma mesa de reuniões redonda Considere duas arrumações iguais se uma pode ser rodada para formar a outra De quantos modos podemos escolher três números distintos no conjunto 1 2 99 de modo que sua soma seja par Prove a identidade para 0 k n Prove a identidade para 0 k n Para escolher k objetos de n você pode destacar um dos objetos e considerar se tal objeto diferenciado é escolhido Use essa abordagem para provar que Usando o resultado do Exercício C17 organize uma tabela para n 0 1 6 e 0 k n dos coeficientes binomiais nk que tenham 00 na parte superior e 10 na linha seguinte e assim por diante Essa tabela de coeficientes binomiais é denominada tri ângulo de Pascal Prove que Mostre que para quaisquer inteiros n 0 e 0 k n a expressão n alcança seu valor máximo quando k n2 ou k n2 Demonstre que para quaisquer inteiros n 0 j 0 k 0 e j k n C112 C113 C114 C115 C2 1 Dê uma prova algébrica e também uma demonstração baseadas em um método para escolher j k itens de n itens Dê um exemplo no qual a igualdade não seja válida Use indução para todos os inteiros k tais que 0 k n2 para provar a desigualdade C6 e use a equação C3 para estendêla a todos os inteiros k tais que 0 k n Use a aproximação de Stirling para provar que Diferenciando a função entropia Hl mostre que ela alcança seu valor máximo em l 12 O que é H12 Mostre que para qualquer inteiro n 0 PROBABILIDADE Probabilidade é uma ferramenta essencial para o projeto e a análise de algoritmos probabilísticos e aleatorizados Esta seção faz uma revisão da teoria básica da probabilidade Definimos probabilidade em termos de um espaço amostral S que é um conjunto cujos elementos são denominados eventos elementares Cada evento elementar pode ser visto como um resultado possível de um experimento No caso do experimento de lançar duas moedas distinguíveis no qual cada lançamento individual resulta em uma cara H ou uma coroa T podemos considerar como espaço amostral o conjunto de todas as cadeias possíveis de dois elementos em H T S HH HT TH TT Um evento é um subconjunto1 do espaço amostral S Por exemplo no experimento de lançar duas moedas o evento de obter uma cara e uma coroa é HT TH O evento S é denominado evento certo e o evento f é denominado evento nulo Dizemos que dois eventos A e B são mu tuamente exclusivos se A B 0 Algumas vezes tratamos um evento elementar s S como o evento s Por definição todos os eventos elementares são mutuamente exclusivos Axiomas de probabilidade Uma distribuição de probabilidades Pr em um espaço amostral S é um mapeamento de eventos de S para números reais que satisfaça os seguintes axiomas de probabilidade PrA 0 para qualquer evento A 2 PrS 1 3 PrA B PrA PrB para quaisquer dois eventos mutuamente exclusivos A e B De modo mais geral para qualquer sequência de eventos finita ou infinita contável A1 A2 que sejam mutuamente exclusivos aos pares Denominamos PrA a probabilidade do evento A Aqui observamos que o axioma 2 é um requisito de normalização na realidade não há nada de fundamental em escolher 1 como a probabilidade do evento certo exceto o fato de ser natural e conveniente Diversos resultados decorrem imediatamente desses axiomas e da teoria básica dos conjuntos veja a Seção B1 O evento nulo tem probabilidade Pr0 0 Se A B então PrA PrB Usando A para denotar o evento S A o complemento de A temos Pr A 1 PrA Para dois eventos quaisquer A e B Em nosso exemplo do lançamento de moedas suponha que cada um dos quatro eventos elementares tenha probabilidade 14 Então a probabilidade de obter no mínimo uma cara é Alternativamente visto que a probabilidade de obter estritamente menos de uma cara é PrTT 14 a probabilidade de obter no mínimo uma cara é 1 14 34 Distribuições de probabilidades discretas Uma distribuição de probabilidades é discreta se é definida em um espaço amostral finito ou infinito contável Seja S o espaço amostral Então para qualquer evento A já que eventos elementares especificamente aqueles em A são mutuamente exclusivos Se S é finito e todo evento elementar s S tem probabilidade Prs 1S então temos a distribuição de probabilidades uniforme em S Em tal caso o experimento é frequentemente descrito como escolher um elemento de S aleatoriamente Como exemplo considere o processo de lançar uma moeda não viciada uma moeda para a qual a probabilidade de obter uma cara é igual à probabilidade de obter uma coroa ou seja 12 Se lançarmos a moeda n vezes temos a distribuição de probabilidades uniforme definida no espaço amostral S H Tn um conjunto de tamanho 2n Podemos representar cada evento elementar em S como uma cadeia de comprimento n em H T sendo que cada cadeia ocorre com a probabilidade 12n O evento A ocorrem exatamente k caras e exatamente n k coroas é um subconjunto de S de tamanho A nk já que nk cadeias de comprimento n em H T contêm exatamente k Hs Portanto a probabilidade do evento A é PrA nk2n Distribuição de probabilidade uniforme contínua A distribuição de probabilidade uniforme contínua é um exemplo de distribuição de probabilidade na qual nem todos os subconjuntos do espaço amostral são considerados eventos A distribuição de probabilidade uniforme contínua é definida em um intervalo fechado a b dos números reais onde a b Nossa intuição é que cada ponto no intervalo a b deve ser igualmente provável Porém há um número incontável de pontos portanto se dermos a todos os pontos a mesma probabilidade finita positiva não poderemos satisfazer simultaneamente os axiomas 2 e 3 Por essa razão gostaríamos de associar uma probabilidade a somente alguns dos subconjuntos de S de modo tal que os axiomas sejam satisfeitos para esses eventos Para qualquer intervalo fechado c d onde a c d b a distribuição de probabilidade uniforme contínua define a probabilidade do evento c d como Observe que para qualquer ponto x x x a probabilidade de x é 0 Se eliminarmos as extremidades de um intervalo c d obteremos o intervalo aberto c d Visto que c d c c c d d d o axioma 3 nos dá Prc d Prc d Em geral o conjunto de eventos para a distribuição de probabilidade uniforme contínua contém qualquer subconjunto do espaço amostral a b que possa ser obtido por uma união finita ou contável de intervalos abertos e fechados bem como certos conjuntos mais complicados Probabilidade condicional e independência Às vezes temos algum conhecimento parcial antecipado sobre o resultado de um experimento Por exemplo suponha que um amigo tenha lançado duas moedas não viciadas e lhe tenha dito que no mínimo uma das moedas deu cara Qual é a probabilidade de ambas as moedas darem caras A informação dada elimina a possibilidade de duas coroas Os três eventos elementares restantes são igualmente prováveis portanto inferimos que cada um ocorre com probabilidade 13 Visto que apenas um desses eventos elementares dá duas caras a resposta à nossa pergunta é 13 A probabilidade condicional formaliza a noção de existir um conhecimento parcial antecipado do resultado de um experimento A probabilidade condicional de um evento A dada a ocorrência de um outro evento B é definida como sempre que PrB 0 Lêse PrA B como a probabilidade de A dado B Intuitivamente já que sabemos que o evento B ocorre a probabilidade de o evento A também ocorrer é A B Isto é A B é o conjunto de resultados em que ocorrem ambos A e B Visto que o resultado é um dos eventos elementares em B normalizamos as probabilidades de todos os eventos elementares em B dividindoas por PrB de tal forma que sua soma seja 1 Portanto a probabilidade condicional de A dado B é a razão entre a probabilidade do evento A B e a probabilidade do evento B Em nosso exemplo A é o evento em que ambas as moedas dão caras e B é o evento em que no mínimo uma moeda dá cara Assim PrAB 1434 13 Dois eventos são independentes se que é equivalente se PrB 0 à condição Por exemplo suponha que lancemos duas moedas não viciadas e que os resultados sejam independentes Então a probabilidade de duas caras é 1212 14 Agora suponha que um evento seja a primeira moeda dar cara e o outro evento seja as moedas darem resultados diferentes Cada um desses eventos ocorre com probabilidade 12 e a probabilidade de que ambos os eventos ocorram é 14 assim de acordo com a definição de independência os eventos são independentes ainda que possamos imaginar que ambos os eventos dependem da primeira moeda Finalmente suponha que as moedas estejam soldadas de tal forma que ambas dão cara ou ambas dão coroa e que as duas possibilidades sejam igualmente prováveis Então a probabilidade de cada moeda dar cara é 12 mas a probabilidade de ambas darem cara é 12 1212 Por consequência o evento em que uma das moedas dá cara e o evento em que a outra dá cara não são independentes Dizemos que uma coleção A1 A2 An de eventos é independente aos pares se para todo 1 i j n Dizemos que os eventos da coleção são mutuamente independentes se todo subconjunto de k elementos da coleção Ai1 Ai 2 Aik em que 2 k n e 1 i1 i2 ik n satisfaz Por exemplo suponha que lancemos duas moedas não viciadas Seja A1 o evento em que a primeira moeda dá cara seja A2 o evento em que a segunda moeda dá cara e seja A3 o evento em que as duas moedas dão resultados diferentes Temos Visto que para 1 i j 3 temos PrAi Aj PrAiPrAj 14 os eventos A1 A2 e A3 são independentes aos pares Contudo os eventos não são mutuamente independentes porque PrA1 A2 A3 0 e PrA1PrA2PrA3 18 0 Teorema de Bayes Pela definição de probabilidade condicional C14 e da lei comutativa A B B A decorre que para dois eventos A e B cada um com probabilidade não nula Resolvendo para PrAB obtemos C21 C22 C23 C24 C25 C26 que é conhecido teorema de Bayes O denominador PrB é uma constante de normalização que podemos expressar novamente da seguinte maneira Considerando que B B A B A e que B A e B A são eventos mutuamente exclusivos Substituindo na equação C17 obtemos uma forma equivalente do teorema de Bayes O teorema de Bayes pode simplificar o cálculo de probabilidades condicionais Por exemplo suponha que tenhamos uma moeda não viciada e uma moeda viciada que sempre dá cara Executamos um experimento que consiste em três eventos independentes escolhemos uma das duas moedas aleatoriamente lançamos essa moeda uma vez e depois a lançamos mais uma vez Suponha que a moeda escolhida dê cara ambas as vezes Qual é a probabilidade de ela ser viciada Resolvemos esse problema usando o teorema de Bayes Seja A o evento em que escolhemos a moeda viciada e seja B o evento em que a moeda dá cara ambas as vezes Desejamos determinar PrAB Temos PrA 12 PrBA 1 PrA 12 e PrBA 14 consequentemente Exercícios O professor Rosencrantz lança uma moeda não viciada uma vez O professor Guildenstern lança uma moeda não viciada duas vezes Qual é a probabilidade de o professor Rosencrantz obter mais caras que o professor Guildenstern Prove a desigualdade de Boole para qualquer sequência finita ou infinita contável de eventos A1 A2 Suponha que embaralhemos muito bem um baralho de 10 cartas e que cada uma das cartas represente um número distinto de 1 até 10 Então retiramos três cartas do baralho uma de cada vez Qual é a probabilidade de selecionarmos as três cartas em sequência ordenada crescente Prove que Prove que para qualquer coleção de eventos A1 A2An Descreva um procedimento que toma como entrada dois inteiros a e b tais que 0 a b e usando lançamentos de uma moeda não viciada produz como resultado caras com probabilidade ab e coroas com probabilidade b ab Dê um limite para o número esperado de lançamentos da moeda que deve ser O1 C27 C28 C29 C210 C3 Sugestão Represente ab em binário Mostre como construir um conjunto de n eventos independentes aos pares mas tais que nenhum subconjunto de k 2 elementos desse conjunto seja mutuamente independente Dois eventos A e B são condicionalmente independentes dado C se Dê um exemplo simples mas não trivial de dois eventos que não sejam independentes mas condicionalmente independentes dado um terceiro evento Você participa de um programa no qual um prêmio está escondido atrás de uma de três cortinas Você ganhará o prêmio se selecionar a cortina correta Depois de escolher uma cortina mas antes de a cortina ser erguida o apresentador ergue uma das outras cortinas sabendo de antemão que isso revelará um cenário vazio e pergunta se você gostaria de trocar sua seleção atual pela cortina restante De que modo suas chances mudarão se você trocar a seleção Essa pergunta é o famoso problema de Monty Hall que deve seu nome ao apresentador do programa de prêmios que frequentemente propunha aos participantes exatamente esse dilema O diretor de um presídio escolheu aleatoriamente um de três prisioneiros para ser libertado Os outros dois serão executados O carcereiro sabe qual deles será libertado mas é proibido de dar a qualquer prisioneiro informações relativas a seu status Vamos denominar os prisioneiros X Y e Z O prisioneiro X pergunta reservadamente ao carcereiro qual dos outros prisioneiros Y ou Z será executado argumentando que visto que ele já sabe que no mínimo um deles deve morrer o carcereiro não estará revelando quaisquer informações sobre o seu próprio status O carcereiro diz a X que Y deverá ser executado O prisioneiro X se sente mais feliz agora já que chegou à conclusão de que ele ou o prisioneiro Z será libertado o que significa que agora sua probabilidade de ganhar a liberdade é 12 Ele está certo ou sua chance de viver ainda é de 13 Explique VARIÁVEIS ALEATÓRIAS DISCRETAS Uma variável aleatória discreta X é uma função de um espaço amostral finito ou infinito contável S para os números reais Ela associa um número real a cada resultado possível de um experimento o que nos permite trabalhar com a distribuição de probabilidades induzida no conjunto de números resultante Variáveis aleatórias também podem ser definidas para espaços amostrais infinitos incontáveis mas isso dá origem a questões técnicas que não há necessidade de abordar dadas as nossas finalidades Daqui em diante suporemos que variáveis aleatórias são discretas Para uma variável aleatória X e um número real x definimos o evento X x como s S Xs x portanto A função é a função densidade de probabilidade da variável aleatória X Pelos axiomas de probabilidade PrX x 0 e x PrX x 1 Como exemplo considere o experimento de lançar um par de dados comuns de seis faces Há 36 eventos elementares possíveis no espaço amostral Supomos que a distribuição de probabilidades é uniforme de modo que cada evento elementar s S é igualmente provável Prs 136 Defina a variável aleatória X como o máximo dos dois valores resultantes do lançamento dos dados Temos PrX 3 536 já que X atribui um valor de 3 a 5 dos 36 eventos elementares possíveis isto é 1 3 2 3 3 3 3 2 e 3 1 Muitas vezes definimos várias variáveis aleatórias no mesmo espaço amostral Se X e Y são variáveis aleatórias a função é a função densidade de probabilidade conjunta de X e Y Para um valor fixo y e de modo semelhante para um valor fixo x Usando a definição C14 de probabilidade condicional temos Dizemos que duas variáveis aleatórias X e Y são independentes se para todo x e y os eventos X x e Y y são independentes ou de modo equivalente se para todo x e y temos PrX x e Y y PrX xPrY y Dado um conjunto de variáveis aleatórias definidas em um mesmo espaço amostral podemos definir novas variáveis aleatórias como somas produtos ou outras funções das variáveis originais Valor esperado de uma variável aleatória O resumo mais simples e mais útil da distribuição de uma variável aleatória é a média dos valores que ela adota O valor esperado ou os sinônimos esperança ou média de uma variável aleatória discreta X é que é bem definido se a soma é finita ou absolutamente convergente Às vezes a esperança de X é denotada por mx ou quando a variável aleatória é aparente pelo contexto simplesmente por m Considere um jogo em que você lança duas moedas não viciadas Você ganha R300 para cada cara mas perde R200 para cada coroa O valor esperado da variável aleatória X que representa seus ganhos é A esperança da soma de duas variáveis aleatórias é a soma de suas esperanças isto é sempre que EX e EY são definidos Denominamos essa propriedade linearidade da esperança e ela é válida até mesmo se X e Y não são independentes Ela também se estende a somatórios de esperanças tanto finitos quanto absolutamente convergentes A linearidade de esperança é a propriedade fundamental que nos permite executar análises probabilísticas utilizando variáveis aleatórias indicadoras consulte a Seção 52 Se X é qualquer variável aleatória qualquer função gx define uma nova variável aleatória gX Se a esperança de gX é definida então Fazendo gx ax temos para qualquer constante a Consequentemente esperanças são lineares para quaisquer duas variáveis aleatórias X e Y e uma constante qualquer a Quando duas variáveis aleatórias X e Y são independentes e cada uma tem uma esperança definida Em geral quando n variáveis aleatórias X1 X2Xn são mutuamente independentes Quando uma variável aleatória X assume valores pertencentes ao conjunto dos números naturais 0 1 2 existe uma fórmula elegante para representar sua esperança visto que cada termo PrX i é somado i vezes e subtraído em i 1 vezes exceto PrX 0 que é somado 0 vezes e não é subtraído Quando aplicamos uma função convexa fx a uma variável aleatória X a desigualdade de Jensen nos dá desde que as esperanças existam e sejam finitas Uma função fx é convexa se para todo x e y e para todo 0 l 1 temos flx 1 ly l fx 1 lfy Variância e desviopadrão O valor esperado de uma variável aleatória não nos informa como os valores da variável estão espalhados Por exemplo se temos variáveis aleatórias X e Y para as quais PrX 14 PrX 34 12 e PrY 0 PrY 1 12 então tanto EX quanto EY são 12 ainda que os valores reais adotados por Y estejam mais distantes da média que os valores reais adotados por X A noção de variância expressa matematicamente quão afastados da média os valores de uma variável aleatória provavelmente estão A variância de uma variável aleatória X com média EX é C31 C32 C33 C34 C35 Para justificar a igualdade EE2X E2X observe que como EX é um número real e não uma variável aleatória EE2X também é um número real A igualdade EXEX E2X decorre da equação C22 com a EX Reescrevendo a equação C27 obtemos uma expressão para a esperança do quadrado de uma variável aleatória A variância de uma variável aleatória X e a variância de aX estão relacionadas veja o Exercício C310 Quando X e Y são variáveis aleatórias independentes Em geral se n variáveis aleatórias X1 X2 Xn são independentes aos pares então O desviopadrão de uma variável aleatória X é a raiz quadrada positiva da variância de X O desviopadrão de uma variável aleatória X às vezes é denotado por x ou simplesmente quando a variável aleatória X é entendida pelo contexto Com essa notação a variância de X é denotada por 2 Exercícios Suponha que lancemos dois dados comuns de seis faces Qual é a esperança da soma dos dois valores exibidos resultantes Qual é a esperança do máximo dos dois valores resultantes Um arranjo A1n contém n números distintos que estão ordenados aleatoriamente sendo que cada permutação dos n números é igualmente provável Qual é a esperança do índice do elemento máximo no arranjo Qual é a esperança do índice do elemento mínimo no arranjo Um certo jogo de parque de diversões consiste em três dados dentro de uma gaiola giratória Um jogador pode apostar R100 em qualquer dos números de 1 a 6 A gaiola é girada e o resultado é o seguinte se o número escolhido pelo jogador não aparecer em nenhum dos dados ele perde seu dinheiro Caso contrário se seu número aparecer em exatamente k dos três dados para k 1 2 3 o jogador mantém seu dinheiro e ganha k vezes o valor apostado Qual é o ganho esperado quando se aposta nesse jogo uma vez Demonstre que se X e Y são variáveis aleatórias não negativas então Sejam X e Y variáveis aleatórias independentes Prove que fX e gY são independentes para qualquer escolha de funções f e g C36 C37 C38 C39 C310 C4 Seja X uma variável aleatória não negativa e suponha que EX esteja bem definida Prove a desigualdade de Markov para todo t 0 Seja S um espaço amostral e sejam X e X variáveis aleatórias tais que Xs Xs para todo s S Prove que para qualquer constante real t O que é maior a expectativa do quadrado de uma variável aleatória ou o quadrado de sua esperança Mostre que para qualquer variável aleatória X que adote somente os valores 0 e 1 temos VarX EXE1 X Prove que VaraX a2VarX pela definição C27 de variância DISTRIBUIÇÕES GEOMÉTRICA E BINOMIAL Podemos pensar em um lançamento de moeda como uma instância de uma tentativa de Bernoulli que é um experimento que tem somente dois resultados possíveis sucesso que ocorre com probabilidade p e insucesso que ocorre com probabilidade q 1 p Quando falamos coletivamente de tentativas de Bernoulli queremos dizer que as tentativas são mutuamente independentes e a menos que digamos especificamente o contrário cada uma delas tem a mesma probabilidade p de sucesso Duas distribuições importantes surgem das tentativas de Bernoulli a distribuição geométrica e a distribuição binomial A distribuição geométrica Suponha que tenhamos uma sequência de tentativas de Bernoulli cada uma com uma probabilidade de sucesso p e uma probabilidade q 1 p de insucesso Quantas tentativas ocorrem antes de obtermos um sucesso Vamos definir a variável aleatória X como o número de tentativas necessárias para obter um sucesso Então X tem valores no intervalo 1 2 e para k 1 já que temos k 1 insucessos antes de um sucesso Dizemos que uma distribuição de probabilidades que satisfaz a equação C31 é uma distribuição geométrica A Figura C1 ilustra tal distribuição Considerando que p 1 podemos calcular a esperança de uma distribuição geométrica utilizando a identidade A8 Figura C1 Uma distribuição geométrica com probabilidade de sucesso p 13 e uma probabilidade de insucesso q 1 p A esperança da distribuição é 1p 3 Assim em média ocorrem 1p tentativas antes de obtermos um sucesso um resultado intuitivo A variância que pode ser calculada de modo semelhante mas usando o Exercício A13 é Como exemplo suponha que lancemos dois dados repetidas vezes até obtermos um sete ou um onze Dos 36 resultados possíveis seis produzem um sete e dois produzem um onze Assim a probabilidade de sucesso é p 836 29 e temos de lançar os dados 1p 92 45 vezes em média para obter um valor sete ou onze A distribuição binomial Quantos sucessos ocorrem durante n tentativas de Bernoulli onde um sucesso ocorre com probabilidade p e um insucesso com probabilidade q 1 p Defina a variável aleatória X como o número de sucessos em n tentativas Então X tem valores na faixa 0 1 n e para k 0 1 n visto que há n modos de escolher quais k das n tentativas são sucessos e a probabilidade de ocorrer cada uma é pkqnk Uma distribuição de probabilidades que satisfaz a equação C33 é denominada distribuição binomial Por conveniência definimos a família de distribuições binomiais usando a notação A Figura C2 ilustra uma distribuição binomial O nome binomial devese ao fato de que o lado direito da equação C34 é o késimo termo da expansão de p qn Consequentemente visto que p q 1 como é exigido pelo axioma 2 dos axiomas de probabilidade Figura C2 A distribuição binomial de bk 15 13 resultante de n 15 tentativas de Bernoulli cada uma com probabilidade de sucesso p 13 A expectativa da distribuição é np 5 Podemos calcular a esperança de uma variável aleatória cuja distribuição é binomial pelas equações C8 e C36 Seja X uma variável aleatória que segue a distribuição binomial bk n p e seja q 1 p Pela definição de esperança temos Usando a linearidade de esperança podemos obter o mesmo resultado com uma quantidade substancialmente menor de cálculos algébricos Seja Xi a variável aleatória que descreve o número de sucessos na iésima tentativa Então EXi p 1 q 0 p e por linearidade de esperança equação C21 o número esperado de sucessos para n tentativas é Para calcular a variância de X aproveitamos a independência das n tentativas assim pela equação C29 C41 C42 C43 Como mostra a Figura C2 a distribuição binomial bk n p aumenta com k até alcançar a média np e depois diminui Podemos provar que a distribuição sempre se comporta dessa maneira examinando a razão entre termos consecutivos Essa razão é maior que 1 exatamente quando n 1p k é positiva Consequentemente bk n p bk 1 n p para k n 1p a distribuição aumenta e bk n p bk 1 n p para k n 1p a distribuição diminui Se k n 1p é um inteiro então bk n p bk 1 n p e portanto a distribuição tem dois máximos em k n 1p e em k 1 n 1p 1 np q Caso contrário ela atinge um máximo no único inteiro k que se encontra na faixa np q k n 1p O lema a seguir dá um limite superior para a distribuição binomial Lema C1 Seja n 0 seja 0 p 1 seja q 1 p e seja 0 k n Então Prova Usando a equação C6 temos Exercícios Verifique o axioma 2 dos axiomas da probabilidade para a distribuição geométrica Quantas vezes em média devemos lançar seis moedas não viciadas antes de obtermos três caras e três coroas Mostre que bk n p bn k n q onde q 1 p C44 C45 C46 C47 C48 C49 C5 Mostre que o valor do máximo da distribuição binomial bk n p é aproximadamente 12npq onde q 1 p Mostre que a probabilidade de nenhum sucesso em n tentativas de Bernoulli cada uma com probabilidade p 1n é aproximadamente 1e Mostre que a probabilidade de exatamente um sucesso é também aproximadamente 1e O professor Rosencrantz lança uma moeda não viciada n vezes e o professor Guildenstern faz o mesmo Mostre que a probabilidade de eles obterem o mesmo número de caras é 4n Sugestão Para o professor Rosencrantz considere uma cara um sucesso para o professor Guildenstern considere uma coroa um sucesso Use sua demonstração para verificar a identidade Mostre que para 0 k n onde Hx é a função entropia C7 Considere n tentativas de Bernoulli onde para i 1 2 n a iésima tentativa tem uma probabilidade pi de sucesso e seja X a variável aleatória que denota o número total de sucessos Seja p pi para todo i 1 2 n Prove que para 1 k n Seja X a variável aleatória para o número total de sucessos em um conjunto A de n tentativas de Bernoulli onde a iésima tentativa tem uma probabilidade pi de sucesso e seja X a variável aleatória para o número total de sucessos em um segundo conjunto A de n tentativas de Bernoulli onde a iésima tentativa tem uma probabilidade de sucesso pi pi Prove que para 0 k n PrX k PrX k Sugestão Mostre como obter as tentativas de Bernoulli em A por meio de um experimento envolvendo as tentativas de A e use o resultado do Exercício C37 AS CAUDAS DA DISTRIBUIÇÃO BINOMIAL A probabilidade de haver no mínimo ou no máximo k sucessos em n tentativas de Bernoulli cada um com probabilidade de sucesso p é frequentemente de maior interesse do que a probabilidade de haver exatamente k sucessos Nesta seção investigamos as caudas da distribuição binomial as duas regiões da distribuição bk n p que estão longe do np médio Demonstraremos vários limites importantes para a soma de todos os termos de uma cauda Primeiro damos um limite para a cauda direita da distribuição bk n p Podemos determinar limites para a cauda esquerda invertendo os papéis de sucessos e insucessos Teorema C2 Considere uma sequência de n tentativas de Bernoulli onde o sucesso ocorre com probabilidade p Seja X a variável aleatória que denota o número total de sucessos Então para 0 k n a probabilidade de no mínimo k sucessos é Prova Para S 1 2 n seja AS o evento em que a iésima tentativa é um sucesso para todo i S É claro que PrAS pk se S k Temos O corolário a seguir enuncia novamente o teorema para a cauda esquerda da distribuição binomial Em geral deixaremos a cargo do leitor adaptar as prova de uma cauda à outra Corolário C3 Considere uma sequência de n tentativas de Bernoulli nas quais o sucesso ocorre com probabilidade p Se X é a variável aleatória que denota o número total de sucessos então para 0 k n a probabilidade de no máximo k sucessos é Nosso próximo limite referese à cauda esquerda da distribuição binomial Seu corolário mostra que longe da média a cauda esquerda diminui exponencialmente Teorema C4 Considere uma sequência de n tentativas de Bernoulli na qual o sucesso ocorre com probabilidade p e o insucesso com probabilidade q 1 p Seja X a variável aleatória que denota o número total de sucessos Então para 0 k np a probabilidade de ocorrer um número menor do que k sucessos é Se fizermos decorre que para 0 i k Aplicando iterativamente essa igualdade k i vezes obtemos para 0 i k e consequentemente Corolário C5 Considere uma sequência de n tentativas de Bernoulli na qual o sucesso ocorra com probabilidade p e o insucesso com probabilidade q 1 p Então para 0 k np2 a probabilidade de um número de sucessos menor do que k é menor que metade da probabilidade de um número de sucessos menor do que k 1 Prova Como k np2 temos já que q 1 Sendo X a variável aleatória que denota o número de sucessos o Teorema C4 e a desigualdade C42 implicam que a probabilidade de um número de sucessos menor do que k é Assim temos Os limites para a cauda direita decorrem de modo semelhante Você deve dar a prova no Exercício C52 Corolário C6 Considere uma sequência de n tentativas de Bernoulli na qual o sucesso ocorre com probabilidade p Seja X a variável aleatória que denota o número total de sucessos Então para np k n a probabilidade de um número de sucessos maior do que k é Corolário C7 Considere uma sequência de n tentativas de Bernoulli na qual o sucesso ocorra com probabilidade p e o insucesso com probabilidade q 1 p Então para np n2 k n a probabilidade de um número de sucessos maior do que k é menor que metade da probabilidade de um número de sucessos maior do que k 1 O próximo teorema considera n tentativas de Bernoulli cada uma com probabilidade pi de sucesso para i 1 2 n Como mostra o corolário subsequente podemos usar o teorema para dar um limite para a cauda direita da distribuição binomial definindo pi p para cada tentativa Teorema C8 Considere uma sequência de n tentativas de Bernoulli na qual a iésima tentativa para i 1 2 n ocorra sucesso com probabilidade pi e o insucesso com probabilidade qi 1 pi Seja X a variável aleatória que descreve o número total de sucessos e seja m EX Então para r m Prova Visto que para qualquer α 0 a função eax é estritamente crescente em x onde a será determinado mais adiante Usando a desigualdade de Markov C30 obtemos O grosso da prova consiste em limitar EeaX m e substituir a por um valor adequado na desigualdade C44 Primeiro avaliamos EeaX m Usando a técnica das variáveis aleatórias indicadoras veja a Seção 52 seja Xi Ia iésima tentativa de Bernoulli é um sucesso para i 1 2 n isto é Xi é a variável aleatória que é 1 se a iésima tentativa de Bernoulli é um sucesso e 0 se ela é um insucesso Assim e por linearidade de esperança o que implica Para avaliar EeaXu substituímos X m obtendo que decorre de C24 já que a independência mútua das variáveis aleatórias Xi implica a independência mútua das variáveis aleatórias eaXi pi veja o Exercício C35 Pela definição de expectativa onde expx denota a função exponencial expx ex A desigualdade C45 decorre das desigualdades α 0 qi 1 eaqi ea e a última linha decorre da desigualdade 312 Consequentemente visto que µ Portanto pela equação C43 e desigualdades C44 e C46 decorre que Escolhendo a lnrm veja o Exercício C57 obtemos C51 C52 C53 C54 Quando aplicado a tentativas de Bernoulli nas quais cada tentativa tem a mesma probabilidade de sucesso o Teorema C8 produz o corolário a seguir que limita a cauda direita de uma distribuição binomial Corolário C9 Considere uma sequência de n tentativas de Bernoulli na qual em cada tentativa ocorra sucesso com probabilidade p e insucesso com probabilidade q 1 p Então para r np Prova Pela equação C37 temos m EX np Exercícios O que é menos provável não obter nenhuma cara quando lançamos uma moeda não viciada n vezes ou obter menos de n caras quando lançamos uma moeda 4n vezes Prove os Corolários C6 e C7 Mostre que para todo a 0 e todo k tal que 0 k naa 1 Prove que se 0 k np onde 0 p 1 e q 1 p então C55 C56 C57 C1 a b c d e Mostre que as condições do Teorema C8 implicam que De modo semelhante mostre que as condições do Corolário C9 implicam que Considere uma sequência de n tentativas de Bernoulli na qual na iésima tentativa para i 1 2 n ocorra sucesso com probabilidade pi e insucesso com probabilidade qi 1 pi Seja X a variável aleatória que descreve o número total de sucessos e seja m EX Mostre que para r 0 Mostre que escolher a lnrm minimiza o lado direito da desigualdade C47 Problemas Bolas e caixas Neste problema investigamos o efeito de várias hipóteses sobre o número de modos de colocar n bolas em b caixas distintas Suponha que as n bolas sejam distintas e que sua ordem dentro de uma caixa não tenha importância Demonstre que o número de modos de colocar as bolas nas caixas é bn Suponha que as bolas sejam distintas e que as bolas em cada caixa estejam ordenadas Demonstre que há exatamente b n 1b 1 modos de colocar as bolas nas caixas Sugestão Considere o número de modos de arranjar em linha n bolas distintas e b 1 bastões indistintos Suponha que as bolas sejam idênticas e consequentemente que sua ordem dentro de uma caixa não tenha importância Mostre que o número de modos de colocar as bolas nas caixas é Sugestão Dos arranjos dados na parte b quantos se repetem se as bolas forem idênticas Suponha que as bolas sejam idênticas e que nenhuma caixa possa conter mais de uma bola de modo que n b Demonstre que o número de modos de colocar as bolas é Suponha que as bolas sejam idênticas e que nenhuma caixa possa ficar vazia Considerando que n b mostre que o número de modos de colocar as bolas é NOTAS DO APÊNDICE Os primeiros métodos gerais para resolver problemas de probabilidade foram discutidos em uma famosa correspondência entre B Pascal e P de Fermat que começou em 1654 e em um livro de C Huygens em 1657 A teoria da probabilidade rigorosa começou com o trabalho de J Bernoulli em 1713 e de A De Moivre em 1730 Desenvolvimentos adicionais da teoria foram propostos por PS Laplace SD Poisson e C F Gauss Somas de variáveis aleatórias foram estudadas originalmente por P L Chebyshev e A A Markov Os axiomas da teoria da probabilidade foram desenvolvidos por A N Kolmogorov em 1933 Chernoff 66 e Hoeffding 173 determinaram os limites para caudas de distribuições Um trabalho seminal sobre estruturas combinatórias aleatórias foi realizado por P Erdös Knuth 209 e Liu 237 são boas referências para análise combinatória elementar e contagem Livros didáticos padrões como os de Billingsley 46 Chung 67 Drake 95 Feller 104 e Rozanov 300 oferecem introduções abrangentes à probabilidade 1 Quando se trata de uma distribuição de probabilidade geral podem existir alguns subconjuntos do espaço amostral S que não são considerados eventos Essa situação normalmente surge quando o espaço amostral é infinito não contável O principal requisito para que subconjuntos sejam eventos é que o conjunto de eventos de um espaço amostral seja fechado às operações de tomar o complemento de um evento formar a união de um número de eventos finito ou contável e tomar a interseção de um número de eventos finito ou contável A maioria das distribuições de probabilidades que veremos referese a espaços amostrais finitos ou contáveis e de modo geral consideraremos todos os subconjuntos de um espaço amostral eventos Uma exceção notável é a distribuição de probabilidade uniforme contínua que veremos em breve D1 D MATRIZES Matrizes aparecem em numerosas aplicações incluindo a ciência da computação mas não se limitando de modo algum a ela Se você já estudou matrizes estará familiarizado com grande parte do material apresentado neste apêndice mas outras partes podem ser novas A Seção D1 abrange definições e operações básicas com matrizes e a Seção D2 apresenta algumas propriedades básicas de matrizes MATRIZES E OPERAÇÕES COM MATRIZES Nesta seção revisamos alguns conceitos básicos da teoria de matrizes e algumas propriedades fundamentais de matrizes Matrizes e vetores Uma matriz é um arranjo retangular de números Por exemplo é uma matriz 2 3 A aij onde para i 1 2 e j 1 2 3 denotamos o elemento da matriz na linha i e coluna j por aij Usamos letras maiúsculas para denotar matrizes e índices em letras minúsculas correspondentes às linhas e colunas para denotar seus elementos Denotamos o conjunto de todas as matrizes m n com entradas de valores reais por mn e em geral o conjunto de matrizes m n com entradas retiradas de um conjunto S por Smn A transposta de uma matriz A é a matriz AT obtida pela troca das linhas e colunas de A Para a matriz A da equação D1 Um vetor é um arranjo unidimensional de números Por exemplo 1 2 é um vetor de tamanho 3 Às vezes denominamos um vetor de comprimento nvetor Usamos letras minúsculas para denotar vetores e denotamos o iésimo elemento de um vetor x de tamanho n por xi para i 1 2 n Tomamos a formapadrão de um vetor como um vetor coluna equivalente a uma matriz n 1 o vetor linha correspondente é obtido tomando a transposta O vetor unitário ei é o vetor cujo iésimo elemento é 1 e todos os outros elementos são iguais a zero Em geral o tamanho de um vetor unitário fica claro no contexto Uma matriz nula é uma matriz na qual todas as entradas são zero Tal matriz é frequentemente denotada por 0 já que a ambiguidade entre o número zero e uma matriz de zeros em geral é resolvida facilmente pelo contexto Se pretendemos uma matriz de zeros então o tamanho da matriz também precisa ser deduzido do contexto Matrizes quadradas Matrizes quadradas n n surgem frequentemente Diversos casos especiais de matrizes quadradas têm interesse particular Uma matriz diagonal tem aij 0 sempre que i j Como todos os elementos fora da diagonal são zero a matriz pode ser especificada por uma lista de elementos ao longo da diagonal A matriz identidade n n In é uma matriz diagonal com 1s ao longo da diagonal 3 4 5 6 Quando I aparece sem índice deduzimos seu tamanho do contexto A iésima coluna de uma matriz identidade é o vetor unitário ei Uma matriz tridiagonal T é tal que tij 0 se i j 1 Entradas não nulas aparecem somente na diagonal principal imediatamente acima da diagonal principal ti i 1 para i 1 2 n 1 ou imediatamente abaixo da diagonal principal ti 1 i para i 1 2 n 1 Uma matriz triangular superior U é tal que uij 0 se i j Todas as entradas abaixo da diagonal são zero Uma matriz triangular superior é triangular superior unitária se tem apenas 1s ao longo da diagonal Uma matriz triangular inferior L é tal que lij 0 se i j Todas as entradas acima da diagonal são zero Uma matriz triangular inferior é triangular inferior unitária se tem somente 1s ao longo da diagonal Uma matriz de permutação P tem exatamente um 1 em cada linha ou coluna e zeros em todas as outras posições Um exemplo de matriz de permutação é 7 Tal matriz é denominada matriz de permutação porque multiplicar um vetor x por uma matriz de permutação tem o efeito de permutar rearranjar os elementos de x O Exercício D14 explora propriedades adicionais da matrizes de permutação Uma matriz simétrica A satisfaz a condição A AT Por exemplo é uma matriz simétrica Operações básicas com matrizes Os elementos de uma matriz ou vetor são números que pertencem a um sistema numérico como os números reais os números complexos ou inteiros módulo um número primo O sistema numérico define como somar e multiplicar números Podemos estender essas definições para englobar a adição e a multiplicação de matrizes Definimos a adição de matrizes da seguinte maneira se A aij e B bij são matrizes m n então a soma dessas matrizes C cij A B é a matriz m n definida por para i 1 2 m e j 1 2 n Isto é a adição de matrizes é executada componente a componente Uma matriz zero é a identidade para adição de matrizes Se l é um número e A aij é uma matriz então lA laij é o múltiplo escalar de A obtido pela multiplicação de cada um de seus elementos por l Como caso especial definimos a negativa de uma matriz A aij como 1 A A de modo que a ijésima entrada de A é aij Assim Usamos a negativa de uma matriz para definir subtração de matrizes A B A B Definimos multiplicação de matrizes da maneira descrita a seguir Começamos com duas matrizes A e B que são compatíveis no sentido de que o número de colunas de A é igual ao número de linhas de B Em geral sempre consideramos que uma expressão que contém um produto de matrizes AB implica que as matrizes A e B são compatíveis Se A aik é uma matriz m n e B bkj é uma matriz n p então seu produto de matrizes C AB é a matriz m p C cij onde para i 1 2 m e j 1 2 p O procedimento SQUAREMATRIXMULTIPLY na Seção 42 implementa a multiplicação de matrizes da maneira direta baseada na equação D2 considerando que as matrizes sejam quadradas m n p Para multiplicar matrizes n n SQUAREMATRIXMULTIPLY executa n3 multiplicações e n2n 1 adições e seu tempo de execução é Qn3 Matrizes têm muitas mas não todas das propriedades algébricas típicas de números Matrizes identidade são identidades para multiplicação de matrizes para qualquer matriz A m n Multiplicar por uma matriz zero dá uma matriz zero A multiplicação de matrizes é associativa para matrizes compatíveis A B e C A multiplicação de matrizes é distributiva para a adição Para n 1 a multiplicação de matrizes n n não é comutativa Por exemplo se Definimos produtos matrizvetor ou produtos vetorvetor como se o vetor fosse a matriz n 1 equivalente ou uma matriz 1 n no caso de um vetor linha Assim se A é uma matriz m n e x é um nvetor então Ax é um mvetor Se x e y são vetores n então é um número na realidade uma matriz 1 1 denominado produto interno de x e y A matriz xyT é uma matriz n n Z denominada produto externo de x e y com z x y A norma euclidiana x de um vetor n x é definida por D11 D12 D13 D14 D2 Assim a norma de x é seu comprimento no espaço euclidiano de n dimensões Exercícios Mostre que se A e B são matrizes n n simétricas então A B e A B também são simétricas Prove que ABT BTAT e que ATA é sempre uma matriz simétrica Prove que o produto de duas matrizes triangulares inferiores é triangular inferior Prove que se P é uma matriz de permutação n n e A é uma matriz n n então o produto de matrizes PA é A com suas linhas permutadas e que o produto de matrizes AP é A com suas colunas permutadas Prove que o produto de duas matrizes de permutação é uma matriz de permutação PROPRIEDADES BÁSICAS DE MATRIZES Nesta seção definimos algumas propriedades básicas pertinentes a matrizes inversas dependência linear independência linear posto e determinantes Definimos também a classe de matrizes positivas definidas Inversas postos e determinantes de matrizes Definimos a inversa de uma matriz A n n como a matriz n n denotada por A1 se existir tal que AA1 In A1A Por exemplo Muitas matrizes n n não nulas não têm inversas Uma matriz que não tem inversa é denominada não inversível ou singular Um exemplo de matriz singular não nula é Se uma matriz tem uma inversa ela é denominada inversível ou não singular Inversas de matrizes quando existem são únicas Veja o Exercício D 21 Se A e B são matrizes n n não singulares então A operação inversa comuta com a operação transposta Os vetores x1 x2 xn são linearmente dependentes se existem coeficientes c1 c2 cn nem todos iguais a zero tais que c1x1 c2x2 cnxn 0 Por exemplo os vetores linhas x1 1 2 3 x2 2 6 4 e x3 4 11 9 são linearmente dependentes já que 2x1 3x2 2x3 0 Se os vetores não são linearmente dependentes são linearmente independentes Por exemplo as colunas de uma matriz identidade são linearmente independentes O posto coluna de uma matriz A m n não nula é o tamanho do maior conjunto de colunas linearmente independentes de A De modo semelhante o posto linha de A é o tamanho do maior conjunto de linhas linearmente independentes de A Uma propriedade fundamental de qualquer matriz A é que seu posto linha é sempre igual a seu posto coluna de modo que podemos simplesmente nos referir ao posto de A O posto de uma matriz m n é um inteiro entre 0 e minm n inclusive O posto de uma matriz zero é 0 e o posto de uma matriz identidade n n é n Uma definição alternativa embora equivalente e muitas vezes mais útil é que o posto de uma matriz A m n não nula é o menor número r tal que existem matrizes B e C de tamanhos respectivos m r e r n tais que Uma matriz quadrada n n tem posto completo se seu posto é n Uma matriz m n tem posto coluna completo se seu posto é n O teorema a seguir dá uma propriedade fundamental de postos Teorema D1 Uma matriz quadrada tem posto completo se e somente se ela é não singular Um vetor anulador para uma matriz A é um vetor não nulo x tal que Ax 0 O teorema a seguir cuja prova fica para o Exercício D27 e seu corolário relacionam as noções de posto coluna e singularidade a vetores anuladores Teorema D2 Uma matriz A tem posto coluna completo se e somente se não tem vetor anulador Corolário D3 Uma matriz quadrada A é singular se e somente se tem vetor anulador O ijésimo menor de uma matriz n n A para n 1 é a matriz n 1 n 1 Aij obtida pela eliminação da i ésima linha e da jésima coluna de A Definimos o determinante de uma matriz n n A recursivamente em termos de seus menores por O termo 1ij detA é conhecido como cofator do elemento aij Os teoremas a seguir cujas provas são omitidas aqui expressam propriedades fundamentais do determinante Teorema D4 Propriedades de determinantes O determinante de uma matriz quadrada A tem as seguintes propriedades Se qualquer linha ou qualquer coluna de A é nula então detA 0 O determinante de A é multiplicado por l se as entradas de qualquer uma das linhas ou de qualquer uma das colunas de A são multiplicadas por l D21 O determinante de A não se altera se as entradas em uma linha respectivamente coluna são adicionadas às de outra linha respectivamente coluna O determinante de A é igual ao determinante de AT O determinante de A é multiplicado por 1 se quaisquer duas linhas respectivamente colunas são trocadas Além disso para quaisquer matrizes quadradas A e B temos detAB detAdetB Teorema D5 Uma matriz n n A é singular se e somente se detA 0 Matrizes positivas definidas Matrizes positivas definidas desempenham um papel importante em muitas aplicações Uma matriz A n n é positiva definida se xTAx 0 para todos os nvetores x 0 Por exemplo a matriz identidade é positiva definida já que para qualquer vetor não nulo x x1 x2 xn T Matrizes que surgem em aplicações frequentemente são positivas definidas devido ao teorema a seguir Teorema D6 Para qualquer matriz A com posto coluna completo a matriz ATA é positiva definida Prova Devemos mostrar que xTAT Ax 0 para qualquer vetor não nulo x Para qualquer vetor x Observe que Ax2 é apenas a soma dos quadrados dos elementos do vetor Ax Então Ax2 0 Se Ax2 0 todo elemento de Ax é 0 o que significa que Ax 0 Visto que A tem posto coluna completa Ax 0 implica x 0 pelo Teorema D2 Consequentemente ATA é positiva definida A Seção 283 explora outras propriedades de matrizes positivas definidas Exercícios Prove que matrizes inversas são únicas isto é se B e C são inversas de A então B C D22 D23 D24 D25 D26 D27 D28 D1 D2 Prove que o determinante de uma matriz triangular inferior ou triangular superior é igual ao produto dos elementos de sua diagonal Prove que a inversa de uma matriz triangular inferior se existir é triangular inferior Prove que se P é uma matriz de permutação então P é inversível sua inversa é PT e PT é uma matriz permutação Sejam A e B matrizes n n tais que AB I Prove que se A é obtida de A mediante a adição da linha j à linha i então subtrair a coluna i da coluna j de B produz a inversa B de A Seja A uma matriz não singular n n com entradas complexas Mostre que toda entrada de A1 é real se e somente se toda entrada de A é real Mostre que se A é uma matriz não singular simétrica n n então A1 é simétrica Mostre que se B é uma matriz arbitrária m n então a matriz m m dada pelo produto BABT é simétrica Prove o Teorema D2 Isto é mostre que uma matriz A tem posto coluna completo se e somente se Ax 0 implica x 0 Sugestão Expresse a dependência linear de uma coluna em relação às outras como uma equação matrizvetor Prove que para quaisquer duas matrizes compatíveis A e B onde a igualdade se mantém se A ou B é uma matriz quadrada não singular Sugestão Use a definição alternativa de posto de uma matriz Problemas Matriz de Vandermonde Dados os números x0 x1 xn 1 prove que o determinante da matriz de Vandermonde é Sugestão Multiplique a coluna i por x0 e adicionea à coluna i 1 para i n 1 n n 2 1 e depois use indução Permutações definidas por multiplicação matrizvetor em GF2 Uma classe de permutações de inteiros no conjunto Sn 0 1 2 2n 1 é definida por multiplicação de matrizes em GF2 Para cada inteiro x em Sn vemos sua representação binária como um vetor de n bits onde x Se A é uma matriz n n na qual cada entrada é zero ou 1 então podemos definir uma permutação mapeando cada valor x em Sn para o número cuja representação binária é o produto matrizvetor Ax Aqui efetuamos toda a aritmética em GF2 todos os valores são 0 ou 1 e com uma única exceção as regras usuais da adição e da multiplicação se aplicam A exceção é que 1 1 0 Você pode muito bem imaginar que a aritmética em GF2 é exatamente igual à aritmética normal de inteiros exceto que usará somente o bit menos significativo Como exemplo para S2 0 1 2 3 a matriz define a seguinte permutação A A0 0 A1 3 A2 2 A3 1 Para ver por que A3 1 observe que trabalhando em GF2 que é a representação binária de 1 No restante deste problema trabalhamos com GF2 e todas as entradas de matrizes e vetores são 0 ou 1 Definimos a o posto de uma matriz 01 uma matriz para a qual cada entrada é 0 ou 1 em GF2 do mesmo modo que para uma matriz comum porém com toda a aritmética que determina dependência linear executada em GF2 Definimos a imagem de uma matriz 01 nn A por de modo que RA seja o conjunto de números em Sn que podemos produzir multiplicando cada valor de x em Sn por por A a b c d Se r é o posto da matriz A prove que RA 2r Conclua que A define uma permutação em Sn somente se A tiver posto completo Para uma matriz nn A dada e para um valor y RA dado definimos a préimagem de y por PA y x Ax y de modo que PA y seja um conjunto de valores em Sn que mapeia para y quando multiplicado por A Se r é o posto da matriz n n A e y RA prove que PA y 2n r Seja 0 m n e suponha que particionamos o conjunto Sn em blocos de números consecutivos onde o i ésimo bloco consiste nos 2m números i2m i2m 1 i2m 2 i 12m 1 Para qualquer subconjunto S Sn defina BSm como o conjunto de blocos de tamanho 2m de Sn que contém algum elemento de S Como exemplo quando n 3 m 1 e S 1 4 5 então BSm consiste em blocos 0 visto que 1 está no 0 ésimo bloco e 2 visto que 4 e 5 estão no bloco 2 Seja r o posto da submatriz inferior esquerda n m m de A isto é a matriz formada tomando a interseção das n m linhas inferiores com as m colunas da extrema esquerda de A Seja S qualquer bloco de tamanho 2m de Sn e seja S y y Ax para algum x S Prove que BS m 2r e que para cada bloco em BSm exatamente 2m r números em S mapeiam para aquele bloco Como multiplicar o vetor zero por qualquer matriz produz um vetor zero o conjunto de permutações de Sn definido pela multiplicação de matrizes 01 n n com posto completo em GF2 não pode incluir todas as permutações de Sn Vamos estender a classe de permutações definida pela multiplicação matrizvetor para incluir um termo aditivo de modo que x Sn mapeie para Ax c onde c é um vetor de n bits e a adição é efetuada em GF2 Por exemplo quando e obtemos a seguinte permutação Ac Ac 0 2Ac1 1 Ac 2 0 Ac 3 3 Denominamos permutação linear qualquer permutação que mapeie x Sn para Ax c para alguma matriz 01 n n A com posto completo e algum vetor c de n bits Use um argumento de contagem para mostrar que o número de permutações lineares de Sn é muito menor que o número de permutações de Sn e Dê um exemplo de valor de n e uma permutação de Sn que não possa ser conseguida por nenhuma permutação linear Sugestão Para dada permutação pense em como multiplicar uma matriz por um vetor unitário está relacionado com as colunas da matriz NOTAS DO APÊNDICE Livros didáticos de álgebra linear apresentam muitas informações sobre matrizes Os livros de Strang 323 324 são particularmente bons 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 BIBLIOGRAFIA Milton Abramowitz and Irene A Stegun editors Handbook of Mathematical Functions Dover 1965 G M AdelsonVelskii and E M Landis An algorithm for the organization of information Soviet Mathematics Doklady 35 12591263 1962 Leonard M Adleman Carl Pomerance and Robert S Rumely On distinguishing prime numbers from composite numbers Annals of Mathematics 117 173206 1983 Alok Aggarwal and Jeffrey Scott Vitter The inputJoutput complexity of sorting and related prob1ems Communications ef the ACM 31911161127 1988 Alfred V Aho John E Hopcroft and Jeffrey D Ullman The Design and Analysis of Computer Algorithms AddisonWesley 1974 Alfred V Aho John E Hopcroft and Jeffrey D Ullman Data Structures and Algorithms AddisonWesley 1983 Ravindra K Ahuja Thomas L Magnanti and James B Orlin Network Flows Theory Algorithms and Applications Prentice Hall 1993 Ravindra K Ahuja Kurt Mehlhom James B Orlin and Robert E Tarjan Faster algorithms for the shortest path problem Journal of the ACM 37213 223 1990 Ravindra K Ahuja and James B Orlin A fast and simple algorithm for the maximum flow problem Operations Research 375748759 1989 Ravindra K Ahuja James B Orlin and Robert E Tarjan Improved time bounds for the maximum flow problem SIAM Journal on Computing 185939954 1989 Miklós Ajtai Nimrod Megiddo and Orli Waarts Improved algorithms and analysis for secretary problems and generalizations In Proceedings of the 36th Annual Symposium on Foundations of Computer Science pages 473482 1995 Selim G Akl The Design and Analysis of Parallel Algorithms Prentice Hall 1989 Mohamad Akra and Louay Bazzi On the solution of linear recurrence equations Computational Optimization and Applications 102195210 1998 Noga Alon Generating pseudorandom permutations and maximum flow algorithms Information Processing Letters 35201 204 1990 Arne Andersson Balanced search trees made simple In Proceedings of the Third Workshop on Algorithms and Data Structures volume 709 of Lecture Notes in Computer Science pages 6071 Springer 1993 Arne Andersson Faster detenninistic sorting and searching in linear space In Proceedings of the 37th Annual Symposium on Foundations of Computer Science pages 135141 1996 Arne Andersson Torben Hagerup Stefan Nilsson and Rajeev Raman Sorting in linear time Journal of Computer and System Sciences 577493 1998 Tom M Apostol Calculus volume 1 Blaisdell Publishing Company second edition 1967 Nimar S Arora Robert D Blumofe and C Greg Plaxton Thread scheduling for multiprogrammed multiprocessors In Proceedings of the 10th Annual ACM Symposium on Parallel Algorithms and Architectures pages 119129 1998 Sanjeev Arora Probabilistic checking of proofs and the hardness of approximation problems PhD thesis University of Califomia Berkeley 1994 Sanjeev Arora The approximability of NPhard problems In Proceedings of the 30th Annual ACM Symposium on Theory of Computing pages 337348 1998 Sanjeev Arora Polynomial time approximation schemes for euclidean traveling salesman and other geometric problems Journal of the ACM 455753782 1998 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 Sanjeev Arora and Carsten Lund Hardness of approximations In Dorit S Hochbaum editor Approximation Algorithms for NP Hard Problems pages 399446 PWS Publishing Company 1997 Javed A Aslam A simple bound on the expected height of a randomly built binary search tree Technical Report TR2001387 Dartmouth College Department of Computer Science 2001 Mikhail J Atallah editor Algorithms and Theory of Computation Handbook CRC Press 1999 G Ausiello P Crescenzi G Gambosi V Kann A MarchettiSpaccamela and M Protasi Complexity and Approximation Combinatorial Optimization Proble ms and Their Approximability Properties Springer 1999 Shai Avidan and Ariel Shamir Seam carving for contentaware image resizing ACM Transactions on Graphics 263 article 10 2007 Sara Baase and Alan Van Gelder Computer Algorithms lntroduction to Design and Analysis AddisonWesley third edition 2000 Eric Bach Private communication 1989 Eric Bach Numbertheoretic algorithms In Annual Review of Computer Science volume 4 pages 119 172 Annual Reviews Inc 1990 Eric Bach and Jeffrey Shallit Algorithmic Number Theory Volume 1 Eificient Algorithms The MIT Press 1996 David H Bailey King Lee and Horst D Simon Using Strassens algorithm to accelerate the solution of linear systems The Journal of Supercomputing 44357371 1990 Surender Baswana Ramesh Hariharan and Sandeep Seno Improved decremental algorithms for maintaining transitive dosure and allpairs shortest paths Journal of Algorithms 6227492 2007 R Bayer Symmetric binary Btrees Data structure and maintenance algorithms Acta Informatica 14290306 1972 R Bayer and E M McCreight Organization and maintenance of large ordered indexes Acta lnformatica 13173189 1972 Pierre Beauchemin Gilles Brassard Claude Crépeau Claude Goutier and Carl Pomerance The generation of random numbers that are probably prime Journal of Cryptology 1 l5364 1988 Richard Bellman Dynamic Programming Princeton University Press 1957 Richard Bellman On a routing problem Quarterly of Applied Mathematics 1618790 1958 Michael BenOr Lower bounds for algebraic computation trees In Proceedings of the Fifteenth Annual ACM Symposium on Theory of Computing pages 8086 1983 Michael A Bender Erik D Demaine and Martin FarachColton Cacheoblivious Btrees In Proceedings of the 41st Annual Symposium on Foundations of Computer Science pages 399409 2000 Samuel W Bent and John W John Finding the median requires 2n comparisons In Proceedings of the Seventeenth Annual ACM Symposium on Theory of Computing pages 213216 1985 Jon L Bentley Writing Eificient Programs Prentice Hall 1982 Jon L Bentley Programming Pearls AddisonWesley 1986 Jon L Bentley Dorothea Haken and James B Saxe A general method for solving divideandconquer recurrences SIGACT News 1233644 1980 Daniel Bienstock and Benjamin McClosky Tightening simplex mixedinteger sets with guaranteed bounds Optimization Online July 2008 Patrick Billingsley Probability and Measure John Wiley Sons second edition 1986 Guy E Blelloch Scan Primitives and Parallel Vector Models PhD thesis Department of Electrical Engineering and Computer Science MIT 1989 Available as MIT Laboratory for Computer Science Technical Report MITLCSTR463 Guy E Blelloch Programming parallel algorithms Communications of the ACM 3938597 1996 Guy E BlelIoch Phillip B Gibbons and Yossi Matias Provably efficient scheduling for languages with finegrained parallelism In Proceedings of the 7th Annual ACM Symposium on Parallel Algorithms and Architectures pages 112 1995 Manuel Blum Robert W Floyd Vaughan Pratt Ronald L Rivest and Robert E Tarjan Time bounds for selection Journal of Computer and System Sciences 74448461 1973 Robert D Blumofe Christopher F Joerg Bradley C Kuszmaul Charles E Leiserson Keith H RandalI and Yuli Zhou Cilk An efficient multithreaded runtime system Journal of Parallel and Distributed Computing 3715569 1996 Robert D Blumofe and Charles E Leiserson Spaceefficient scheduling of multithreaded computations SIAM Joumal on Computing 271202229 1998 Robert D Blumofe and Charles E Leiserson Scheduling multithreaded computations by work stealing Joumal of the ACM 465720748 1999 Béla Bollobás Random Graphs Academic Press 1985 Gilles Brassard and Paul Bratley Fundamentais of Algorithmics Prentice Hall 1996 Richard P Brent The parallel evaluation of general arithmetic expressions Joumal of the ACM 212201206 1974 Richard P Brent An improved Monte Carlo factorization algorithm BIT 202176184 1980 J P Buhler H W Lenstra Jr and Carl Pomerance Factoring integers with the number field sieve In A K Lenstra and H W Lenstra Jr editors The Development of the Number Field Sieve volume 1554 of Lecture Notes in Mathematics pages 5094 Springer 1993 J Lawrence Carter and Mark N Wegman Universal classes of hash functions Joumal of Computer and System Sciences 182143154 1979 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 Barbara Chapman Gabriele Jost and Ruud van der Pas Using OpenMP Portable Shared Memory Parallel Programming The MIT Press 2007 Bemard Chazelle A minimum spanning tree algorithm with inverseAckermann type complexity Joumal of the ACM 4761028 1047 2000 Joseph Cheriyan and Torben Hagerup A randomized maximumfiow algorithm SIAM Joumal on Computing 242203226 1995 Joseph Cheriyan and S N Maheshwari Ana1ysis of prefiow push algorithms for maximum network fiow SIAM Joumal on Computing 18610571086 1989 Boris V Cherkassky and Andrew V Goldberg On implementing the pushrelabel method for the maximum fiow problem Algorithmica 194390410 1997 Boris V Cherkassky Andrew V Goldberg and Tomasz Radzik Shortest paths aIgorithms Theory and experimental evaluation Mathematical Programming 732129174 1996 Boris V Cherkassky Andrew V Goldberg and Craig Silverstein Buckets heaps lists and monotone priority queues SIAM Joumal on Computing 28413261346 1999 H Chemoff A measure of asymptotic efficiency for tests of a hypothesis based on the sum of observations Annals of Mathematical Statistics 234493 507 1952 Kai Lai Chung Elementary Probability Theory with Stochastic Processes Springer 1974 V Chvátal A greedy heuristic for the setcovering problem Mathematics of Operations Research 43233235 1979 V Chvátal Linear Programming W H Freeman and Company 1983 V Chvátal D A Klamer and D E Knuth Selected combinatorial research problems Technical Report STANCS72292 Computer Science Department Stanford University 1972 Cilk Arts Inc Burlington Massachusetts Cilk Programmers Guide 2008 Available at httpwwwcilkcomlarchivedocsci lkIguide Alan Cobham The intrinsic computational difficulty of functions In Proceedings of the 1964 Congressfor Logic Methodology and the Philosophy of Science pages 2430 NorthHolland 1964 H Cohen and H W Lenstra Jr Primality testing and Jacobi sums Mathematics of Computation 42165297330 1984 D Comer The ubiquitous Btree ACM Computing Surveys 112121137 1979 Stephen Cook The complexity of theorem proving procedures In Proceedings of the Third Annual ACM Symposium on Theory of Computing pages 151158 1971 James W Cooley and John W Tukey An algorithm for the machine calculation of complex Fourier series Mathematics of Computation 1990297301 1965 Don Coppersmith Modifications to the number field sieve Journal of Cryptology 63169180 1993 Don Coppersmith and Shmuel Winograd Matrix multiplication via arithmetic progression Journal of Symbolic Computation 93251280 1990 Thomas H Cormen Thomas Sundquist and Leonard F Wisniewski Asymptotically tight bounds for performing BMMC permutations on parallel disk systems SIAM Journal on Computing 281105136 1998 Don Dailey and Charles E Leiserson Using Cilk to write multiprocessor chess programs In H J van den Herik and B Monien editors Advances in Computer Games volume 9 pages 2552 University of Maastricht Netherlands 200l Paolo DAlberto and Alexandru Nicolau Adaptive Strassens matrix multiplication In Proceedings of the 21st Annuallnternational Conference on Supercomputing pages 284292 June 2007 Sanjoy Dasgupta Christos Papadimitriou and Umesh Vazirani Algorithms McGrawHill 2008 Roman Dementiev Lutz Kettner Jens Mehnert and Peter Sanders Engineering a sorted list data structure for 32 bit keys In Proceedings of the Sixth Workshop on Algorithm Engineering and Experiments and the First Workshop on Analytic Algorithmics and Combinatorics pages 142151 January 2004 Camil Demetrescu and Giuseppe F Italiano Fully dynamic ali pairs shortest paths with real edge weights Journal of Computer and System Sciences 725813837 2006 Eric V Denardo and Bennett L Fox Shortestroute methods l Reaching pruning and buckets Operations Research 271161 186 1979 Martin Dietzfelbinger Anna Karlin Kurt Mehlhom Friedhelm Meyer auf der Heide Hans Rohnert and Robert E Tarjan Dynamic perfect hashing Upper and lower bounds SIAM Journalon Computing 234738761 1994 Whitfield Diffie and Martin E Hellman New directions in cryptography IEEE Transactions on Information Theory IT 226644654 1976 E W Dijkstra A note on two problems in connexion with graphs Numerische Mathematik 11269 271 1959 E A Dinic Algorithm for solution of a problem of maximum ftow in a network with power estimation Soviet Mathematics Doklady 11512771280 1970 Brandon Dixon Monika Rauch and Robert E Tarjan Verification and sensitivity analysis of minimum spanning trees in linear time SIAM Journal on Computing 216 11841192 1992 John D Dixon Factorization and primality tests The American Mathematical Monthly 916333 352 1984 Dorit Dor Johan Hastad Staffan Ulfberg and Uri Zwick On lower bounds for selecting the mediano SIAM Journal on Discrete Mathematics 143299 3112001 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 Dorit Dor and Uri Zwick Selecting the mediano SIAM Journal on Computing 285 J7221758 1999 Dorit Dor and Uri Zwick Median selection requires 2 n comparisons SIAM Journal on Discrete Mathematics 143312 3252001 A1vin W Drake Fundamentais of Applied Probability Theory McGrawHill 1967 James R Driscoll Harold N Gabow Ruth Shrairman and Robert E Tarjan Relaxed heaps An altemative to Fibonacci heaps with app1ications to paralle1 computation Communications of the ACM 311113431354 1988 James R Driscoll Neil Samak Daniel D Sleator and Robert E Tarjan Making data structures persistent Journal of Computer and System Sciences 381 86124 1989 Herbert Edelsbrunner Algorithms in Combinatorial Geometry volume 10 of EATCS Monographs on Theoretical Computer Science Springer 1987 Jack Edmonds Paths trees and flowers Canadian Journal of Mathematics 17449467 1965 Jack Edmonds Matroids and the greedy algorithm Mathematical Programming 1 1 127136 1971 Jack Edmonds and Richard M Karp Theoretical improvements in the algorithrnic efficiency for network ftow problems Journal of the ACM 192248264 1972 Shimon Even Graph AIgorithms Computer Science Press 1979 William Feller An Introduction to Probability Theory and Its Applications John Wiley Sons third edition 1968 Robert W Floyd Algorithm 97 SHORTEST PATH Communications of the ACM 56345 1962 Robert W Floyd Algorithm 245 TREESORT Communications of the ACM 712701 1964 Robert W F1oyd Permuting information in idealized twolevel storage In Raymond E Miller and James W Thatcher editors Complexity of Computer Computations pages 105109 Plenum Press 1972 Robert W Floyd and Ronald L Rivest Expected time bounds for selection Communications of the ACM 183165172 1975 Lestor R Ford Jr and D R Fulkerson Flows in Networks Princeton University Press 1962 Lestor R Ford Jr and Selmer M Johnson A toumament problem The American Mathematical Monthly 665387389 1959 Michael L Fredman New bounds on the complexity of the shortest path problem SIAM Journal on Computing 518389 1976 Michael L Fredman János Komlós and Endre Szemerédi Storing a sparse table with 01 worst case access time Journal of the ACM 313538 544 1984 Michael L Fredman and Michael E Saks The cell probe complexity of dynamic data structures In Proceedings of the Twenty First Annual ACM Symposium on Theory of Computing pages 345354 1989 Michael L Fredman and Robert E Tarjan Fibonacci heaps and their uses in improved network optimization algorithms Journal of the ACM 343596 615 1987 Michael L Fredman and Dan E Willard Surpassing the inforrnation theoretic bound with fusion trees Journal of Computer and System Sciences 473424436 1993 Michael L Fredman and Dan E Willard Transdichotomous algorithms for minimum spanning trees and shortest paths Journal of Computer and System Sciences 483533551 1994 Matteo Frigo and Steven G Johnson The design and implementation of FFTW3 Proceedings of the IEEE 932216231 2005 Matteo Frigo Charles E Leiserson and Keith H Randall The implementation of the Cilk5 multithreaded language In Proceedings of the 1998 ACM SIGPLAN Conference on Programming Language Design and 1mplementation pages 212223 1998 Harold N Gabow Pathbased depthfirst search for strong and biconnected components Information Processing Letters 743 4 107114 2000 Harold N Gabow Z Galil T Spencer and Robert E Tarjan Efficient algorithms for finding minimum spanning trees in undirected and directed graphs Combinatorica 62 109122 1986 Harold N Gabow and Robert E Tarjan A lineartime algorithm for a special case of disjoint set union Journal of Computer and System Sciences 302209221 1985 Harold N Gabow and Robert E Tarjan Faster scaling algorithms for network problems SIAM Journal on Computing 18510131036 1989 Zvi Galil and Oded Margalit All pairs shortest distances for graphs with small integer length edges Information and Computation 1342103139 1997 Zvi Galil and Oded Margalit All pairs shortest paths for graphs with small integer length edges Journal of Computer and System Sciences 542243 254 1997 Zvi Galil and Kunsoo Park Dynamic programming with convexity concavity and sparsity Theoretical Computer Science 9214976 1992 Zvi Galil and Joel Seiferas Timespaceoptimal string matching Journal of Computer and System Sciences 263280294 1983 Igal Galperin and Ronald L Rivest Scapegoat trees In Proceedings of the 4th ACMSIAM Symposium on Discrete Algorithms pages 165174 1993 Michael R Garey R L Graham and J D Ullman Worstcase analyis of memory allocation algorithms In Proceedings of the Fourth Annual ACM Symposium on Theory of Computing pages 143150 1972 Michael R Garey and David S Johnson Computers and Intractability A Guide to the Theory of NPCompleteness W H Freeman 1979 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 Saul Gass Linear Programming Methods and Applications Intemational Thomson Publishing fourth edition 1975 Fánicá Gavril Algorithms for minimum coloring maximum clique minimum covering by cliques and maximum independent set of a chordal graph SIAM Journal on Computing 12180187 1972 Alan George and Joseph WH Liu Computer Solu tion of Large Sparse Positive Definite Systems Prentice Hall 1981 E N Gilbert and E F Moore Variablelength binary encodings Bel System Technical Journal 384 933967 1959 Michel X Goemans and David P Williamson Improved approximation algorithms for maximum cut and satisfiability problems using semidefinite programming Journal of the ACM 42611151145 1995 Michel X Goemans and David P Williamson The primaldual method for approximation algorithms and its application to network design problems In Dorit S Hochbaum editor Approximation Algorithmsfor NPHard Problems pages 144191 PWS Publishing Company 1997 Andrew V Goldberg Efficient Graph Algorithms for Sequential and Parallel Computers PhD thesis Department of Electrical Engineering and Computer Science MIT 1987 Andrew V Goldberg Scaling algorithms for the shortest paths problem SIAM Journal on Computing 243494504 1995 Andrew V Goldberg and Satish Rao Beyond the flow decomposition barrier Journal of the ACM 455783797 1998 Andrew V Goldberg Éva Tardos and Robert E Tarjan Network flow algorithms In Bemhard Korte László Lovász Hans Jürgen Promel and Alexander Schrijver editors Paths Flows and VLSI Layout pages 101164 Springer 1990 Andrew V Goldberg and Robert E Tarjan A new approach to the maximum flow problem Journal of the ACM 354921940 1988 D Goldfarb and M J Todd Linear programming In G L Nemhauser A H G RinnooyKan and M J Todd editors Handbook in Operations Research and Management Science Vol I Optimization pages 73170 Elsevier Science Publishers 1989 Shafi Goldwasser and Silvio Micali Probabilistic encryption Journal of Computer and System Sciences 282270299 1984 Shafi Goldwasser Silvio Micali and Ronald L Rivest A digital signature scheme secure against adaptive chosenmessage attacks SIAM Journal on Computing 172281308 1988 Gene H Golub and Charles F Van Loan Matrix Computations The Johns Hopkins University Press third edition 1996 G H Gonnet Handbook of Algorithms and Data Structures AddisonWesley 1984 Rafael C Gonzalez and Richard E Woods Digital Image Processing AddisonWesley 1992 Michael T Goodrich and Roberto Tamassia Data Structures and Algorithms in Java John Woley Sons 1998 Michael T Goodrich and Roberto Tamassia Algorithm Design Foundations Analysis and Internet Examples John Wiley Sons 2001 Ronald L Graham Bounds for certain multiprocessor anomalies Bell System Technical Journal 45915631581 1966 Ronald L Graham An efficient algorithm for determining the convex hull of a finite planar set Information Processing Letters 14132133 1972 Ronald L Graham and Pavol HelI On the history of the minimum spanning tree problem Annals ofthe History of Computing 714357 1985 Ronald L Graham Donald E Knuth and Oren Patashnik Concrete Mathematics AddisonWesley second edition 1994 David Gries The Science of Programming Springer 1981 M Grotschel László Lovász and Alexander Schrijver Geometric Algorithms and Combinatorial Optimization Springer 1988 Leo J Guibas and Robert Sedgewick A dichromatic framework for balanced trees In Proceedings of the 19th Annual Symposium on Foundations of Computer Science pages 821 1978 Dan Gusfield Algorithms on Strings Trees and Sequences Computer Science and Computational Biolo gy Cambridge University Press 1997 H Halberstam and R E Ingram editors The Mathematical Papers of Sir William Rowan Hamilton volume III Algebra Cambridge University Press 1967 Yijie Han Improved fast integer sorting in linear space In Proceedings of the 12th ACMSIAM Symposium on Discrete Algorithms pages 793796 2001 Yijie Han An On3log log nlog n54 time algorithm for ali pairs shortest path Algorithmica 514428434 2008 Frank Harary Graph Theory AddisonWesley 1969 Gregory C Harfst and Edward M Reingold A potentialbased amortized analysis of the unionfind data structure SIGACT News 3138695 2000 J Hartmanis and R E Stearns On the computational complexity of algorithms Transactions of the American Mathematical Society 117285306 May 1965 Michael T Heideman Don H Johnson and C Sidney Burrus Gauss and the history of the Fast Fourier Transform IEEE ASSP Magazine 141421 1984 Monika R Henzinger and VaJerie King Ful1y dynarnic biconnectivity and transitive closure In Proceedings of the 36th Annual Symposium on Foundations of Computer Science pages 664672 1995 Monika R Henzinger and Valerie King Randomized fully dynamic graph algorithms with polylogarithmic time per operation Journal of the ACM 464502516 1999 Monika R Henzinger Satish Rao and Harold N Gabow Computing vertex connectivity New bounds from old techniques Journal of Algorithms 342222250 2000 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 Nicholas J Higham Exploiting fast matrix multiplication within the level 3 BLAS ACM Transac tions on Mathematical Software 164352368 1990 W Daniel HiIIis and Jr Guy L SteeJe Data parallel algorithms Communications of the ACM 291211701183 1986 C A R Hoare Algorithm 63 PARTITION and algorithm 65 FIND Communications of the ACM 47321322 1961 C A R Hoare Quicksort Computer Journal 51 1015 1962 Dorit S Hochbaum Efficient bounds for the stable set vertex cover and set packing problems Discrete Applied Mathematics 63243254 1983 Dorit S Hochbaum editor Approximation Algorithms for NPHard Problems PWS Publishing Company 1997 W Hoeffding On the distribution of the number of successes in independent trials Annals of Mathematical Statistics 273713721 1956 Micha Hofri Probabilistic Analysis of Algorithms Springer 1987 Micha Hofri Analysis of Algorithms Oxford University Press 1995 John E Hopcroft and Richard M Karp An n52 algorithm for maximum matchings in bipartite graphs SIAM Journal on Computing 24225231 1973 John E Hopcroft Rajeev Motwani and Jeffrey D Ullman Introduction to Automata Theory Languages and Computation Addison Wesley third edition 2006 John E Hopcroft and Robert E Tarjan Efficient algorithms for graph manipulation Communications of the ACM 166372378 1973 John E Hopcroft and Jeffrey D Ullman Set merging algorithms SlAM Journal on Computing 24294303 1973 John E Hopcroft and Jeffrey D Ullman Introduction to Automata Theory Languages and Computation AddisonWesJey 1979 Ellis Horowitz Sartaj Sahni and Sanguthevar Rajasekaran Computer Algorithms Computer Science Press 1998 T C Hu and M T Shing Computation of matrix chain products Part I SIAM Journal on Computing 112362Volume 1373 1982 T C Hu and M T Shing Computation of matrix chain products Part I SIAM Journal on Computing 132228251 1984 T C Hu and A C Tucker Optimal computer search trees and variablelength alphabetic codes SIAM Journal on Applied Mathematics 214514 532 1971 David A Huffman A method for the construction of minimumredundancy codes Proeeedings of the IRE 409 10981101 1952 Steven HussLederman Elaine M Jacobson Jeremy R Johnson Anna Tsao and Thomas Tumbull Implementation of Strassens algorithm for matrix multiplication In Proeeedings of the 1996 ACMIEEE Conferenee on Supereomputing article 32 1996 Oscar H Ibarra and Chul E Kim Fast approximation algorithms for the knapsack and sum of subset problems Journal of the ACM 224463468 1975 E J Isaac and R C Singleton Sorting by address ca1culation Journal of the ACM 33169174 1956 R A Jarvis On the identification of the convex hull of a finite set of points in the plane Information Proeessing Letters 21 1821 1973 David S Johnson Approximation algorithms for combinatorial problems Journal of Computer and System Scienees 93256 278 1974 David S Johnson The NPcompleteness column An ongoing guideThe tale of the second prover Journal of Algorithms 133502524 1992 Donald B Johnson Efficient algorithms for shortest paths in sparse networks Journal of the ACM 241113 1977 Richard Johnsonbaugh and Marcus Schaefer Algorithms Pearson Prentice Hall 2004 A Karatsuba and Yu Ofman Multiplication of multidigit numbers on automata Soviet Physies Doklady 77595596 1963 Translation of an article in Doklady Akademii Nauk SSSR 1452 1962 David R Karger Philip N Klein and Robert E Tarjan A randomized lineartime algorithm to find minimum spanning trees Journal of the ACM 422321328 1995 David R Karger Daphne Koller and Steven J Phillips Finding the hidden path Time bounds for allpairs shortest paths SIAM Journal on Computing 22611991217 1993 Howard Karloff Linear Programming Birkhiiuser 1991 N Karmarkar A new polynomialtime algorithm for linear programming Combinatoriea 44373 395 1984 Richard M Karp Reducibility among combinatorial problems In Raymond E Miller and James W Thatcher editors Complexity of Computer Computations pages 85103 Plenum Press 1972 Richard M Karp An introduction to randomized algorithms Diserete Applied Mathematies 3413165201 1991 Richard M Karp and Michael O Rabin Efficient randomized pattemmatching algorithms IBM Journal of Researeh and Development 31 2249 260 1987 A V Karzanov Determining the maximal flow in a network by the method of preflows Soviet Mathematies Doklady 152434 437 1974 Valerie King A simpler minimum spanning tree verification algorithm Algorithmiea 182263270 1997 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 Valerie King Satish Rao and Robert E Tarjan A faster deterministic maximum flow algorithm Journal of Algorithms 173447 474 1994 Jeffrey H Kingston AIgorithms and Data Structures Design Correctness Analysis AddisonWesley second edition 1997 D G Kirkpatrick and R Seidel The ultimate planar convex hull algorithm SIAM Journal on Computing 152287299 1986 Philip N Klein and Neal E Young Approximation algorithms for NPhard optimization problems In CRC Handbook on AIgorithms pages 3413419 CRC Press 1999 Jon Kleinberg and Éva Tardos Algorithm Design AddisonWesley 2006 Donald E Knuth Fundamental AIgorithms volume 1 of The Art of Computer Programming AddisonWesley 1968 Third edition 1997 Donald E Knuth Seminumerical Algorithms volume 2 of The Art of Computer Programming AddisonWesley 1969 Third edition 1997 Donald E Knuth Sorting and Searching volume 3 of The Art of Computer Programming AddisonWesley 1973 Second edition 1998 Donald E Knuth Optimum binary search trees Acta Iriformatica 111425 1971 Donald E Knuth Big omicron and big omega and big theta SIGACT News 821823 1976 Donald E Knuth James H Morris Jr and Vaughan R Pratt Fast pattem matching in strings SIAM Journal on Computing 62323350 1977 J Komlós Linear verification for spanning trees Combinatorica 515765 1985 Bernhard Korte and László Lovász Mathematical structures underlying greedy algorithms In F Gecseg editor Fundamentais of Computation Theory volume 117 of Lecture Notes in Computer Science pages 205209 Springer 1981 Bemhard Korte and László Lovász Structural properties of greedoids Combinatorica 334359374 1983 Bemhard Korte and László Lovász GreedoidsA structural framework for the greedy algorithm In W Pulleybank editor Progress in Combinatorial Optimization pages 221243 Academic Press 1984 Bemhard Korte and László Lovász Greedoids and linear objective functions SIAM Journal on AIgebraic and Discrete Methods 52229238 1984 Dexter C Kozen The Design and Analysis of AIgorithms Springer 1992 David W Krumme George Cybenko and K N Venkataraman Gossiping in mini mal time SIAM Journal on Computing 211111139 1992 Joseph B Kruskal Jr On the shortest spanning subtree of a graph and the traveling salesman problem Proceedings of the American Mathematical Society 714850 1956 Leslie Lamport How to make a multiprocessor computer that correctly executes multiprocess programs IEEE Transactions on Computers C289690691 1979 Eugene L LawJer Combinatorial Optimization Networks and Matroids Holt Rinehart and Winston 1976 Eugene L Lawler J K Lenstra A H G Rinnooy Kan and D B Shmoys editors The Traveling Salesman Problem John Wiley Sons 1985 C Y Lee An algorithm for path connection and its applications IRE Transactions on Electronic Computers EC103346365 1961 Tom Leighton Tight bounds an the complexity of parallel sorting IEEE Transactions on Computers C344344354 1985 Tom Leighton Notes an better master theorems for divideandconquer recurrences Class notes Available at httpciteseerist psuedu252350 html October 1996 Tom Leighton and Satish Rao Multicommodity maxfiow mincut theorems and their use in designing approximation algorithms Journal of the ACM 466787832 1999 Daan Leijen and Judd Hall Optimize managed code for multicore machines MSDN Magazine October 2007 Debra A LeJewer and Daniel S Hirschberg Data campression ACMComputing Surveys 193261 296 1987 A K Lenstra H W Lenstra Jr M S Manasse and J M Pollard The number field sieve In A K Lenstra and H W Lenstra Jr editors The Development of the Number Field Sieve volume 1554 of Lecture Notes in Mathematics pages 1142 Springer 1993 H W Lenstra Jr Factoring integers with elliptic curves Annals of Mathematics 1263649673 1987 L A Levin Universal sorting problems Problemy Peredachi Iriformatsii 93265266 1973 In Russian Anany Levitin Introduction to the Design Analysis of Algorithms AddisonWesley 2007 Harry R Lewis and Christos H Papadimitriou Elements of the Theory of Computation Prentice Hall second edition 1998 C L Liu Introduction to Combinatorial Mathematics McGrawHill 1968 László Lovász On the ratio of optimal integral and fractional cavers Discrete Mathematics 134383 390 1975 László Lovász and M D Plummer Matching Theory volume 121 of Annals of Discrete Mathematics North Holland 1986 Bruce M Maggs and Serge A Plotkin Minimumcost spanning tree as a pathfinding probJem Information Processing Letters 266291293 1988 Michael Main Data Structures and Other Objects Using Java AddisonWesley 1999 Udi Manber Introduction to Algorithms A Creative Approach AddisonWesley 1989 Conrado Martínez and Salvador Roura Randomized binary search trees Journal of the ACM 452288323 1998 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 William J Masek and Michael S Paterson A faster algorithm computing string edit distances Journal of Computer and System Sciences 2011831 1980 H A Maurer Th Ottmann and HW Six Implementing dictionaries using binary trees of very small height Information Processing Letters 5111 14 1976 Ernst W Mayr Hans Jürgen Prõmel and Angelika Steger editors Lectures on Proof Verification and Approximation Algorithms volume 1367 of Lecture Notes in Computer Science Springer 1998 C C MeGeoeh All pairs shortest paths and the essential subgraph Algorithmica 135426441 1995 M D MeIlroy A killer adversary for quieksort SoftwarePractice and Experience 294341344 1999 Kurt Mehlhorn Sorting and Searching volume 1 of Data Structures and Algorithms Springer 1984 Kurt Mehlhorn Graph Algorithms and NPComple teness volume 2 of Data Structures and AIgorithms Springer 1984 Kurt Mehlhorn Multidimensional Searching and Computational Geometry volume 3 of Data Structures and AIgorithms Springer 1984 Kurt Mehlhorn and Stefan Näher Bounded ordered dietionaries in Olog log N time and On spaee Information Processing Letters 354183189 1990 Kurt Mehlhorn and Stefan Näher LEDA A Platform for Combinatorial and Geometric Computing Cambridge University Press 1999 Alfred J Menezes Paul C van Oorsehot and Seott A Vanstone Handbook of Applied Cryptography CRC Press 1997 Gary L Miller Riemanns hypothesis and tests for primality Journal of Computer and System Sciences 133300317 1976 John C Mitehell Foundations for Programming Languages The MIT Press 1996 Joseph S B Mitehell Guillotine subdivisions approximate polygonal subdivisions A simple polynomialtime approximation seheme for geometrie TSP kMST and related problems SIAM Journal on Computing 28412981309 1999 Louis Monier Algorithmes de Factorisation DEntiers PhD thesis LUniversité ParisSud 1980 Louis Monier Evaluation and eomparison of two efficient probabilistie primality testing algorithms Theoretical Computer Science 12197108 1980 Edward F Moore The shortest path through a maze In Proceedings of the International Symposium on the Theory of Switching pages 285292 Harvard University Press 1959 Rajeev Motwani Joseph Seffi Naor and Prabakhar Raghavan Randomized approximation algorithms in eombinatorial optimization In Dorit Hoehbaum editor Approximation Algorithms for NPHard Problems ehapter 11 pages 447481 PWS Publishing Company 1997 Rajeev Motwani and Prabhakar Raghavan Randomized AIgorithms Cambridge University Press 1995 J L Munro and V Raman Fast stable inplace sorting with On data moves Algorithmica 162151 160 1996 J Nievergelt and E M Reingold Binary seareh trees of bounded balance SIAM Journal on Computing 213343 1973 Ivan Niven and Herbert S Zuckerman An Introduction to the Theory of Numbers John Wiley Sons fourth edition 1980 Alan V Oppenheim and Ronald W Schafer with John R Buck DiscreteTime Signal Processing Prentice Hall second edition 1998 Alan V Oppenheim and Alan S Willsky with S Hamid Nawab Signals and Systems Prentice Hall second edition 1997 James B Orlin A polynomial time primaI network simp1ex algorithm for minimum cost flows Mathematical Programming 781109129 1997 Joseph ORourke Computational Geometry in C Cambridge University Press second edition 1998 Christos H Papadimitriou Computational Complexity AddisonWesley 1994 Christos H Papadimitriou and Kenneth Steiglitz Combinatorial Optimization Algorithms and Complexity Prentice Hall 1982 Michael S Paterson Progress in selection In Proceedings of the Fifth Scandinavian Workshop on Algorithm Theory pages 368379 1996 Mihai Pãtrascu and Mikkel Thorup Timespace tradeoffs for predecessor search In Proceedings of the 38th Annual ACM Symposium on Theory of Computing pages 232240 2006 Mihai Pãtrascu and Mikkel Thorup Randomization does not help searching predecessors In Proceedings of the 18th ACM S1AM Symposium on Discrete Algorithms pages 555564 2007 Pavel A Pevzner Computational Molecular Biology An Algorithmic Approach The MIT Press 2000 Steven Phillips and Jeffery Westbrook Online load balancing and network flow In Proceedings of the 25th Annual ACM Symposium on Theory of Computing pages 402411 1993 J M Pollard A Monte Carlo method for factorization BIT 153331334 1975 J M Pollard Factoring with cubic integers In A K Lenstra and H W Lenstra Jr editors The Development of the Number Field Sieve volume 1554 of Lectu re Notes in Mathematics pages 410 Springer 1993 Carl Pomerance On the distribution of pseudoprimes Mathematics of Computation 37156587 593 1981 Carl Pomerance editor Proceedings of the AMS Symposia in Applied Mathematics Computational Number Theory and Cryptography American Mathematical Society 1990 William K Pratt Digital1mage Processing John Wiley Sons fourth edition 2007 Franco P Preparata and Michael Ian Shamos Computational Geometry An lntroduction Springer 1985 William H Press Saul A Teukolsky William T Vetterling and Brian P Flannery Numerical Recipes in C The Art of Scientific Computing Cambridge University Press second edition 2002 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323 William H Press Saul A Teukolsky William T Vetterling and Brian P Flannery Numerical Recipes The Art of Scientific Computing Cambridge University Press third edition 2007 R C Primo Shortest connection networks and some generalizations Bell System Technical Journal 36613891401 1957 William Pugh Skip lists A probabilistic alternative to balanced trees Communications of the ACM 336668676 1990 Paul W Purdom Jr and Cynthia A Brown The Analysis of Algorithms Holt Rinehart and Winston 1985 Michael O Rabin Probabilistic algorithms In J F Traub editor Algorithms and Complexity New Directions and Recent Results pages 2139 Academic Press 1976 Michael O Rabin Probabilistic algorithm for testing primality Journal of Number Theory 121128 138 1980 P Raghavan and C D Thompson Randomized rounding A technique for provably good algorithms and algorithmic proofs Combinatorica 74365374 1987 Rajeev Raman Recent results on the singlesource shortest paths problem SIGACT News 282 8187 1997 James Reinders Intel Threading Building Blocks Outfitting c for Multicore Processor Parallelism OReilly Media Inc 2007 Edward M Reingold Jürg Nievergelt and Narsingh Deo Combinatorial Algorithms Theory and Practice Prentice Hall 1977 Edward M Reingold Kenneth J Urban and David Gries KMP string matching revisited Information Processing Letters 645217223 1997 Hans Riesel Prime Numbers and Computer Methods for Factorization volume 126 of Progress in Mathematics Birkhãuser second edition 1994 Ronald L Rivest Adi Shamir and Leonard M Adleman A method for obtaining digital signatures and publickey cryptosystems Communications of the ACM 212120126 1978 See also US Patent 4405829 Herbert Robbins A remark on Stirlings formula American Mathematical Monthly 6212629 1955 D J Rosenkrantz R E Stearns and P M Lewis An analysis of several heuristics for the traveling salesman problem SIAM Journal on Computing 63563581 1977 Salvador Roura An improved master theorem for divideandconquer recurrences In Proceedings of Automata Languages and Programming 24th lnternational Colloquium ICALP97 volume 1256 of Lecture Notes in Computer Science pages 449459 Springer 1997 Y A Rozanov Probability Theory A Concise Course Dover 1969 S Sahni and T Gonzalez Pcomplete approximation problems Journal of the ACM 233555565 1976 A Schonhage M Paterson and N Pippenger Finding the mediano Journal of Computer and System Sciences 132184199 1976 Alexander Schrijver Theory of Linear and 1nteger Programming John Wiley Sons 1986 Alexander Schrijver Paths and flowsA historical survey CW1 Quarterly 63169183 1993 Robert Sedgewick Implementing quicksort programs Communications of the ACM 2110847857 1978 Robert Sedgewick Algorithms AddisonWesley second edition 1988 Robert Sedgewick and Philippe Flajolet An 1ntroduction to the Analysis of Algorithms AddisonWesley 1996 Raimund Seidel On the allpairsshortestpath problem in unweighted undirected graphs Journal of Computer and System Sciences 513400403 1995 Raimund Seidel and C R Aragon Randomized search trees Algorithmica 1645464497 1996 João Setubal and João Meidanis 1ntroduction to Computational Molecular Biology PWS Publishing Company 1997 Clifford A Shaffer A Practical Introduction to Data Structures and Algorithm Analysis Prentice Hall second edition 2001 Jeffrey Shallit Origins ofthe analysis ofthe Euclidean algorithm Historia Mathematica 214401419 1994 Michael I Shamos and Dan Hoey Geometric intersection problems In Proceedings of the 17th Annual Symposium on Foundations of Computer Science pages 208215 1976 M Sharir A strongconnectivity algorithm and its applications in data flow analysis Computers and Mathematics with Applications 716772 1981 David B Shmoys Computing nearoptimal solutions to combinatorial optimization problems In William Cook László Lovász and Paul Seymour editors Combinatorial Optimization volume 20 of DIMACS Series in Discrete Mathematics and Theoretical Compu ter Science American Mathematical Society 1995 Avi Shoshan and Uri Zwick All pairs shortest paths in undirected graphs with integer weights In Proceedings of the 40th Annual Symposium on Foun dations of Computer Science pages 605614 1999 Michael Sipser 1ntroduction to the Theory of Com putation Thomson Course Technology second edition 2006 Steven S Skiena The Algorithm Design Manual Springer second edition 1998 Daniel D Sleator and Robert E Tarjan A data structure for dynamic trees Journal of Computer and System Sciences 263 362391 1983 Daniel D Sleator and Robert E Tarjan Selfadjusting binary search trees Journal of the ACM 323652686 1985 Joel Spencer Ten Lectures on the Probabilistic Method volume 64 of CBMSNSF Regional Conference Series in Applied Mathematics Society for Industrial and Applied Mathematics 1993 Daniel A Spielman and ShangHua Teng Smoothed analysis of algorithms Why the simplex algorithm usually takes polynomial time Journal of the ACM 5133854632004 Gilbert Strang lntroduction to Applied Mathematics WellesleyCambridge Press 1986 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 362 Gilbert Strang Linear Algebra and lts Applications Thomson BrooksCole fourth edition 2006 Vo1ker Strassen Gaussian elimination is not optimal Numerische Mathematik 143354356 1969 T G Szymanski A specia1 case of the maximal common subsequence prob1em Technical Report TR170 Computer Science Laboratory Princeton University 1975 Robert E Tarjan Depth first search and linear graph algorithms SIAM Journal on Computing 12146160 1972 Robert E Tarjan Efficiency of a good but not linear set union algorithm Journal of the ACM 222215 225 1975 Robert E Tarjan A class of algorithms which require nonlinear time to maintain disjoint sets Jour nal of Computer and System Sciences 182110127 1979 Robert E Tarjan Data Structures and Network Algorithms Society for Industrial and Applied Mathematics 1983 Robert E Tarjan Amortized computational complexity SIAM Journal on Algebraic and Discrete Methods 62306318 1985 Robert E Tarjan Class notes Disjoint set union COS 423 Princeton University 1999 Robert E Tarjan and Jan van Leeuwen Worstcase analysis of set union algorithms Journal of the ACM 312245281 1984 George B Thomas Jr Maurice D Weir Joe1 Hass and Frank R Giordano Thomas Calculus AddisonWes1ey eleventh edition 2005 Mikkel Thorup Faster deterministic sorting and priority queues in linear space In Proceedings of the 9th ACMSIAM Symposium on Discrete Algorithms pages 550555 1998 Mikkel Thorup Undirected singlesource shortest paths with positive integer weights in linear time Journal of the ACM 463362394 1999 Mikke1 Thorup On RAM priority queues SIAM Journal on Computing 30186109 2000 Richard To1imieri Myoung An and Chao Lu Mathematics of Multidimensional Fourier Transform Algorithms Springer second edition 1997 P van Emde Boas Preserving order in a forest in 1ess than logarithmic time In Proceedings of the 16th Annual Symposium on Foundations of Computer Science pages 7584 1975 P van Emde Boas Preserving order in a forest in 1ess than logarithmic time and linear space lnformation Processing Letters 638082 1977 P van Emde Boas R Kaas and E Zijlstra Design and implementation of an efficient priority queue Mathematical Systems Theory 10199127 1976 Jan van Leeuwen editor Handbook of Theoretical Computer Science Volume A Algorithms and Complexity EIsevier Science Pub1ishers and the MIT Press 1990 Charles Van Loan Computational Frameworks for the Fast Fourier Transform Society for Industrial and Applied Mathematics 1992 Robert J Vanderbei Linear Programming Foundations and Extensions Kluwer Academic Publishers 1996 Vijay V Vazirani Approximation AIgorithms Springer 2001 Rakesh M Verma General techniques for analyzing recursive algorithms with applications SIAM Journal on Computing 262568581 1997 Hao Wang and Bill Lin Pipelined van Emde Boas tree Algorithms analysis and applications In 26th IEEE International Conference on Computer Communications pages 24712475 2007 Antony F Ware Fast approximate Fourier transforms for irregularly spaced data SIAM Review 404838856 1998 Stephen Warshall A theorem on boolean matrices Journal of the ACM 911112 1962 Michael S Waterman Introduction to Computational Biology Maps Sequences and Genomes Chapman Hall 1995 Mark Allen Weiss Data Structures and Problem Solving Using C AddisonWesley second edition 2000 Mark Allen Weiss Data Structures and Problem Solving Using Java AddisonWesley third edition 2006 Mark Allen Weiss Data Structures and Algorithm Analysis in C AddisonWesley third edition 2007 Mark Allen Weiss Data Structures and Algorithm Analy sis in Java AddisonWesley second edition 2007 Hassler Whitney On the abstract properties of linear dependence American Journal of Mathematics 573509533 1935 Herbert S Wilf AIgorithms and Complexity A K Peters second edition 2002 J W J Williams Algorithm 232 HEAPSORT Communications of the ACM 76347348 1964 Shmuel Winograd On the algebraic complexity of functions In Actes du Congres International des Mathématiciens volume 3 pages 283288 1970 Andrew c C Yao A lower bound to finding convex hulls Journal of the ACM 284780787 1981 Chee Yap A real elementary approach to the master recurrence and generalizations Unpublished manuscript Available at http csnyueduyap papers July 2008 Yinyu Ye Interior Point Algorithms Theory and Analysis John Wiley Sons 1997 Daniel Zwillinger editor CRC Standard Mathematical Tables and Formulae Chapman HallCRC Press 31 st edition 2003 ÍNDICE REMISSIVO Símbolos 2CNFSAT 791 2CNF satisfazibilidade 764 3CNF satisfazibilidade 764 765 788 804 3CNF 806 817 818 820 829 3CNFSAT 788 790 792 793 799 800 801 803 A ABOVE 745 746 aceitação por um algoritmo 17 284 309 488 529 772 775 777 783 aceitação em tempo polinomial 764 765 766 767 768 769 770 771 772 773 775 776 777 778 779 780 781 782 783 784 785 787 788 7 90 791 792 793 794 795 796 798 799 800 801 802 803 804 acerto 98 espúrio 721 722 acerto espúrio 721 722 adição de matrizes 58 576 884 885 inteiros binários 16 adversário 137 193 194 207 208 559 700 701 adversário matador para quicksort 137 agrupamento primário 198 agrupamento secundário 198 ajuste de curvas 605 606 alfabeto 296 314 315 316 317 318 352 716 717 719 722 724 729 769 771 alfabeto de entrada 724 algoritmo como tecnologia 23 correção de 31 117 120 302 646 678 681 705 734 736 744 751 754 779 tempo de execução de 18 24 25 26 11 17 18 19 20 21 25 26 28 29 30 32 33 35 36 37 39 48 49 51 54 55 56 57 58 59 61 69 71 82 84 85 86 105 106 108 109 110 113 114 115 116 117 118 119 120 121 122 123 125 126 127 128 129 130 131 132 133 134 135 136 137 139 140 142 144 145 146 148 154 155 156 157 158 159 160 161 162 171 172 174 178 181 183 188 190 1 94 210 211 212 213 222 235 241 242 243 245 250 251 261 265 266 267 268 269 274 278 281 288 294 295 296 297 298 29 9 300 301 306 308 312 316 322 326 327 328 331 332 335 340 345 346 349 354 366 384 390 393 395 396 400 401 402 403 404 408 413 414 416 418 419 424 425 427 428 435 438 441 452 459 461 463 464 465 469 474 477 479 482 488 494 4 97 498 499 500 501 502 506 510 513 520 529 530 532 536 544 545 552 553 554 555 557 562 566 567 568 569 570 574 57 5 577 578 579 593 599 601 602 603 628 654 662 664 669 672 673 677 679 699 702 709 712 713 714 715 716 717 718 720 723 728 732 736 737 750 755 756 757 759 760 761 763 764 768 770 772 773 774 775 781 782 783 792 802 805 806 8 08 811 821 825 826 827 831 885 algoritmo aleatório ordenação por comparação 108 algoritmo aleatorizado 18 algoritmo BellmanFord no algoritmo de Johnson 513 Para caminhos mínimos para todos os pares algoritmo de aproximação 765 794 805 806 807 809 812 813 814 817 818 826 827 828 829 Aleatorizado 18 20 86 90 91 94 106 109 122 123 128 130 135 137 150 155 157 182 467 497 559 588 589 672 702 714 715 806 817 818 820 821 829 para árvore geradora máxima 827 828 para clique máximo 826 para cobertura de conjuntos 302 559 806 813 814 815 817 826 829 para cobertura de vértice de peso mínimo 817 829 para cobertura de vértices 819 para cobertura ponderada de vértices 819 para corte ponderado máximo 827 828 para empacotamento em caixas 825 para emparelhamento máximo 826 827 para escalonamento de máquinas paralelas 827 para o problema da mochila 311 312 773 828 para o problema do caixeiro viajante 559 para satisfazibilidade MAX3CNF 817 829 para satisfazibilidade MAXCNF 820 algoritmo de Boruvka 466 467 algoritmo de comparação e troca inconsciente 151 152 153 algoritmo de Dijkstra 626 com um heap de Fibonacci 498 implementado com um heap de mínimo 482 no algoritmo de Johnson 513 para caminhos mínimos entre todos os pares 578 semelhança com o algoritmo de Prim 482 algoritmo de Euclides 672 677 678 679 680 713 715 algoritmo de FloydWarshall 499 504 505 506 508 509 510 513 algoritmo de Johnson 498 499 510 512 513 algoritmo de Kruskal 454 459 460 461 463 466 467 com pesos de arestas inteiros 495 algoritmo de mdc binário 713 algoritmo de Prim 482 483 algoritmo de redução 767 778 783 784 785 786 787 788 792 793 794 799 algoritmo de Strassen 577 algoritmo de tempo polinomial 764 765 767 768 770 772 773 775 776 777 778 779 781 782 787 788 791 793 794 802 804 algoritmo determinístico 467 Algoritmo determinístico multithreaded 893 895 Algoritmo de Viterbi 298 algoritmo EdmondsKarp 530 531 532 536 algoritmo guloso 302 303 305 306 308 309 311 312 314 316 321 323 324 325 326 329 algoritmo de Dijkstra 302 algoritmo de Kruskal 454 459 460 461 463 466 467 algoritmo de Prim 482 483 elementos de 319 325 e matroides 302 319 323 324 329 em comparação com programação dinâmica 305 em um matroide ponderado 321 322 323 para árvore geradora mínima 302 319 321 para Caching Offline 328 para cobertura de conjuntos 302 para código de Huffman 314 318 para o problema da mochila fracionário 310 para Troco em moedas 326 propriedade de escolha gulosa em 309 311 312 314 316 322 subestrutura ótima em 277 Algoritmo HopcroftKarp para emparelhamento de grafo bipartido 556 algoritmo ingênuo de correspondência de cadeias 718 722 algoritmo KMP 717 735 algoritmo KnuthMorrisPratt 719 729 734 735 737 algoritmo multithread 561 563 565 569 572 574 575 577 578 584 585 588 589 para decomposição LU 596 para decomposição LUP 598 599 para inversão de matrizes 601 603 para multiplicação de matrizes 601 603 para resolver sistemas de equações lineares 601 612 algoritmo multithread dinâmico 561 563 565 569 572 574 575 577 578 584 585 588 589 Algoritmo offline de Tarjan para o menor ancestral comum 425 algoritmo paralelo 667 algoritmo pushrelabel 536 537 539 540 541 543 544 545 550 551 553 557 algoritmo genérico 536 539 544 553 algoritmo relabeltofront 516 545 546 549 550 552 heurística de lacuna para 553 para emparelhamento máximo em grafo bipartido 533 534 557 algoritmo pushrelabel genérico 536 539 540 541 543 544 550 551 algoritmo RabinKarp 720 721 723 737 algoritmo relabeltofront 516 545 546 549 550 552 algoritmos aleatórios 109 algoritmo simplex 615 617 618 621 622 624 628 629 630 633 636 640 651 Alice 207 697 698 699 700 701 723 AllocateNode 358 359 360 AllocateObject 177 178 altura 414 de uma árvore 352 deuma árvore de decisão 139 de uma árvore vermelhopreto 352 de uma Bárvore 352 356 360 de um heap 121 de um heap dário 121 de um nó em uma árvore 853 de um nó em um heap 111 exponencial 219 220 preta 227 228 229 234 235 236 238 243 altura exponencial 219 220 altura preta 227 228 229 234 235 236 238 243 alvo 82 amostragem 123 130 amostragem aleatória 123 130 análise agregada 268 330 331 332 333 334 340 349 379 425 435 441 477 482 732 736 755 busca em largura 278 427 429 432 433 434 435 436 437 438 439 441 452 453 468 471 482 483 489 529 530 532 537 557 772 para busca em profundidade 445 para caminhos mínimos em um gad 497 para corte de hastes 287 para estruturas de dados de conjuntos disjuntos 425 para o algoritmo de Dijkstra 483 para o algoritmo de Prim 463 para o algoritmo KnuthMorrisPratt 719 tabelas dinâmicas 338 análise agregadade pilha para operações de pilha 332 333 334 335 336 338 366 análise amortizada 22 122 261 330 333 334 335 339 345 349 350 351 368 408 416 419 732 análise agregada 268 330 331 332 333 334 340 349 379 425 435 441 477 482 732 736 755 método da contabilidade 333 336 349 método do potencial para 330 340 342 para árvores de peso balanceado 247 346 para a varredura Graham 540 541 544 para busca em largura 278 427 429 432 433 434 435 436 437 438 439 441 452 453 468 471 482 483 489 529 530 532 537 557 77 2 para busca em profundidade 445 para caminhos mínimos em um gad 497 para estruturas de dados de conjuntos disjuntos 425 para heaps de Fibonacci 122 350 367 368 369 370 372 380 382 383 384 385 386 454 463 464 467 482 514 para listas autoorganizadas com movaparafrente 348 para o algoritmo de Dijkstra 483 para o algoritmo KnuthMorrisPratt 122 350 367 368 369 370 372 380 382 383 384 385 386 454 463 464 467 482 514 para o algoritmo pushrelabel genérico 540 541 544 para pilhas em armazenamento secundário 365 para reestruturar árvores vermelhopreto 330 340 342 para tornar busca binária dinâmica 540 541 544 Análise competitiva 348 análise probabilística 128 do problema da contratação 128 análise suavizada 651 ancestral 212 213 214 238 425 433 442 443 444 447 453 853 menor ancestral comum 425 ancestral próprio 453 ângulo polar 742 750 751 752 753 754 755 756 AnySegmentsIntersect 746 747 748 749 ApproxMinWeightVC 819 820 ApproxSubsetSum 823 824 825 829 ApproxTSPTour 810 811 829 APPROXVÉRTICECOVER 829 aproximação 23 41 43 134 140 162 206 354 559 574 604 605 606 607 702 765 794 805 806 807 808 809 811 812 813 814 815 817 818 819 820 821 822 823 824 825 826 827 828 829 838 839 861 862 por mínimos quadrados 558 590 604 605 606 607 608 609 610 por soma de integrais 558 590 604 605 606 607 608 609 610 aproximação de Stirling 206 aproximação por mínimos quadrados 590 604 605 606 607 608 609 610 Arbitragem 494 área limpa 153 área suja 153 aresta 265 280 298 311 315 319 320 321 327 351 368 409 410 427 429 430 431 432 433 435 437 438 440 441 443 444 445 446 44 7 449 450 451 452 453 454 455 456 457 458 459 460 461 462 464 465 466 468 469 472 473 474 475 477 479 480 481 482 4 83 485 486 487 489 490 491 493 494 495 496 497 500 501 505 508 511 513 514 515 516 517 518 519 520 521 522 523 524 528 529 530 531 532 533 534 537 538 539 540 541 542 543 544 545 546 547 548 549 550 555 557 565 617 625 626 627 628 650 724 725 764 781 791 792 793 794 795 796 797 798 799 802 803 807 808 809 811 812 813 819 820 827 828 847 848 849 850 851 852 853 856 857 admissível 545 546 547 548 549 550 antiparalela 518 519 árvore 265 266 268 273 281 282 284 290 291 292 293 294 295 298 atributos de 541 capacidade de 627 628 crítica 531 532 cruzada 444 445 452 de chamada 311 de continuação 565 de peso negativo 498 500 502 504 510 511 513 514 de retorno 444 445 447 452 453 direta 444 445 452 gerada 264 inadmissível 545 546 547 548 549 leve 456 457 458 459 461 462 peso de 495 ponte 452 453 residual 522 528 529 537 538 540 542 546 saturada 538 544 segura 455 456 457 458 459 aresta admissível 545 546 547 548 549 550 aresta crítica 531 532 aresta cruzada 444 445 452 aresta de chamada 311 aresta de continuação 565 aresta de retorno 444 445 447 452 453 565 aresta direta 444 445 452 aresta geradora 565 aresta leve 456 457 458 459 461 462 aresta residual 522 528 529 537 538 540 542 546 arestas antiparalelas 518 519 523 625 arestas de peso negativo 470 477 483 493 aritmética com valores infinitos 474 Aritmética modular 40 681 armazenamento secundário 352 353 365 arranjo 24 11 12 13 14 15 16 17 19 20 21 22 23 25 26 28 30 46 48 51 52 53 55 79 81 82 90 91 93 94 95 105 106 107 108 109 1 10 111 112 114 115 116 117 118 119 121 123 124 125 126 127 128 129 130 131 132 134 135 136 137 140 141 142 143 145 14 6 147 149 150 151 152 153 155 157 159 160 164 168 169 170 171 175 176 178 180 182 184 185 186 190 252 265 266 267 2 69 284 296 299 332 335 339 345 373 374 375 376 387 388 389 391 392 393 396 397 399 405 423 424 429 431 432 454 482 498 579 580 581 582 583 584 585 586 587 588 592 593 599 665 666 669 716 723 729 730 732 757 758 759 760 761 870 882 Monge 81 82 arranjo de Monge 81 82 arredondamento 739 aleatorizado 829 arredondamento aleatorizado 829 árvore 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 23 247 234 384 árvores AA 247 AVL 243 247 Bárvores 350 352 354 355 356 357 363 366 binomial 382 383 bode expiatório 247 caminhos mínimos 499 508 509 512 de busca binária ótima 290 291 292 293 294 295 de busca em largura 471 de busca em profundidade 449 451 452 de decisão 138 139 140 148 150 153 enraizada 853 fusão 154 livre 320 percorrer 209 recursão 127 128 129 131 van Emde Boas 351 árvore 23 384 árvore 234 384 árvore AA 247 árvore AVL 243 árvore binária 209 219 223 completa 179 representação de 168 175 176 178 179 sobreposta a um vetor de bits 387 árvore binária completa 431 relação com código ótimo 314 318 árvore binomial 382 383 árvore de altura balanceada 243 árvore de busca balanceada 167 árvores 23 247 366 384 árvores 234 366 384 árvores AA 247 árvores AVL 243 árvores de bode expiatório 247 árvores de k vizinhos 247 árvores de peso balanceado 247 346 árvores oblíquas 247 351 Árvores vermelhopreto 226 247 Bárvores 350 352 354 355 356 357 363 366 Treaps 244 247 árvore de busca binária 167 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 228 229 230 242 243 244 245 246 248 290 291 292 293 294 295 346 351 357 358 360 389 406 árvores AA 247 Árvores AVL 243 árvores de bode expiatório 247 árvores de k vizinhos 247 árvores de peso balanceado 247 Árvores oblíquas 351 busca em 171 172 182 chave máxima de 212 chave mínima de 212 213 361 370 com chaves iguais 222 construída aleatoriamente 209 219 220 222 223 225 eliminação em 171 225 252 256 363 824 e treaps 244 247 inserção em 24 31 35 171 243 244 251 252 344 361 362 ótima 162 192 225 261 262 263 264 268 269 271 272 273 274 275 276 277 278 279 280 281 282 284 285 286 287 290 291 292 293 294 295 297 300 302 303 304 305 308 309 310 311 312 313 314 316 317 323 324 325 326 328 329 414 469 500 614 6 16 617 619 625 626 628 631 633 634 635 639 640 641 643 644 645 646 647 648 649 650 651 794 805 807 808 809 813 81 5 817 819 820 821 823 824 827 828 856 para ordenação 138 139 140 142 143 144 145 147 148 153 154 predecessor em 219 sucessor em 851 árvore de busca binária ótima 290 291 292 293 294 295 árvore de busca em largura 471 árvore de busca em profundidade 449 451 452 árvore de busca exponencial 154 árvore de decisão 766 árvore de intervalos 255 256 257 259 260 árvore de recursão 49 55 58 65 66 67 68 69 73 74 76 e o método de substituição 62 63 65 67 68 69 árvore de van Emde Boas 390 391 396 397 398 399 400 404 405 cluster em 388 391 392 393 394 395 396 397 398 400 401 402 403 404 405 árvore de van Emde Boas de espaço reduzido 405 árvore digital 222 223 árvore geradora 454 455 456 457 458 459 461 462 463 464 465 466 467 de gargalo 465 máxima 827 828 árvore geradora com gargalo 454 455 456 457 458 459 461 462 463 464 465 466 467 árvore geradora máxima 827 828 árvore geradora mínima 385 o problema do caixeiro viajante 559 Segunda melhor 464 árvore kária 854 855 árvore kária completa 855 árvore livre 851 852 853 árvore nula 854 árvore ordenada 853 854 árvore posicional 854 Árvores de peso balanceado 346 árvore vazia 398 árvore vEBRS 405 árvore vermelhopreto 388 398 406 relaxada 228 árvore vermelhopreto relaxada 228 assinatura 696 698 699 701 715 assinatura digital 696 698 699 715 assintoticamente maior 39 45 71 502 assintoticamente menor 39 70 71 assintoticamente não negativa 33 assintoticamente positiva 33 34 69 atividades compatíveis 305 308 309 atribuição 13 14 15 121 125 236 237 436 463 491 492 493 634 636 765 777 781 782 784 785 786 787 789 790 792 793 799 800 80 1 818 múltipla 14 que satisfaz 19 83 137 163 226 228 319 383 456 484 487 517 522 536 590 625 627 643 655 680 692 704 707 765 781 782 786 7 87 792 793 800 801 813 822 824 871 872 atribuição múltipla 14 atribuição que satisfaz 765 781 782 786 787 792 793 800 801 atributo de um objeto 431 aumento de um fluxo 522 ausência 502 ausência da cache 328 autenticação 207 697 699 autômato 559 717 724 725 726 727 728 729 733 735 737 de correspondência de cadeias 716 717 718 719 720 722 724 725 726 728 729 733 735 737 finito 196 285 298 319 323 324 436 476 491 492 500 532 615 619 624 646 648 682 683 684 685 686 687 697 711 716 717 724 7 29 769 771 799 813 834 842 843 845 847 854 859 863 867 autômato finito 717 724 729 para correspondência de cadeias 737 AVLInsert 243 axiomas da probabilidade 858 874 B BadSetCoverInstance 817 Balance 243 balde 138 145 146 147 148 153 Bárvore 350 352 354 355 356 357 358 360 361 362 363 364 365 altura de 352 356 360 árvores 234 366 busca 350 351 352 355 357 358 360 362 366 chave mínima de 361 comparada com árvores vermelhopreto 356 Criando 358 eliminação em 363 grau mínimo de 355 356 357 361 362 363 364 inserção em 361 362 nó cheio em 358 359 360 361 propriedades de 363 Repartição de um nó em 359 Bárvore 355 Bárvore 355 BellmanFord 470 473 474 475 476 477 479 484 487 488 494 497 498 504 510 512 513 625 Below 745 746 BFS 433 BiasedRandom 86 BinarySearch 580 581 582 BitReverseCopy 666 667 BitReversedIncrement 345 Bob 429 Bolas e caixas 98 881 bonzinho 438 BottomUpCutRod 267 268 269 braço 353 474 BTreeCreate 357 358 BTreeDelete 363 365 BTreeInsert 357 358 360 361 BTreeInsertNonfull 360 361 BTreeSearch 357 358 362 BTreeSplitChild 358 359 360 361 bubblesort 29 BucketSort 145 146 147 148 BuildMaxHeap 112 114 115 116 117 121 122 BuildMinHeap 116 busca 765 772 binária 580 582 busca binária 28 71 72 79 167 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 228 229 230 242 243 244 245 246 248 262 290 291 292 293 294 295 301 313 345 346 351 352 355 357 358 360 362 389 406 580 579 580 582 com intercalação multithread 578 579 580 581 582 583 584 com ordenação por inserção 17 24 25 26 11 12 13 14 17 19 20 21 26 28 29 30 31 32 33 35 36 108 110 126 127 134 138 139 1 45 146 151 161 561 831 em árvores de busca binária 293 busca em largura 278 em fluxo máximo 22 semelhança com o algoritmo de Dijkstra 626 busca em profundidade 427 429 439 440 441 442 443 444 445 446 447 448 449 450 451 452 453 para encontrar componentes fortemente conexas 427 429 448 449 450 451 452 453 para ordenação topológica 427 429 446 447 448 453 pontos de articulação pontes e componentes biconexas 452 busca linear 388 by em pseudocódigo 666 C cabeça em uma unidade de disco 353 cache 664 671 caching offline 329 cadeia de uma nvoltória convexa 21 23 cadeia vazia 717 725 camadas 108 convexas 761 maximais 761 Camadas convexas 761 camadas maximais 761 câmbio de moedas 494 caminho 848 850 851 852 853 855 aumentador 521 522 524 525 527 528 529 530 531 532 535 536 555 556 557 crítico 479 encontrar 468 469 479 hamiltoniano 774 777 796 802 mais longo 414 peso de 470 488 491 492 Caminho simples 278 295 caminho aumentador 22 521 522 524 525 527 528 529 530 531 532 535 536 555 556 557 caminho crítico 479 de um gad 477 caminho fechado bitônico 295 296 caminho hamiltoniano 774 777 796 802 caminho simples 432 433 437 438 443 446 Caminho simples mais longo 278 295 caminho simples mais longo em um grafo não ponderado 766 Caminho simples mais longo 278 295 caminhos mínimos 764 769 como problema de programação linear 484 desigualdade triangular de 472 476 486 488 489 em um grafo acíclico dirigido 478 em um grafo ponderado 279 entre todos os pares 578 e relaxamento 473 474 e restrições de diferença 497 estimativa de 472 480 fonte única 468 469 474 477 479 484 495 497 por multiplicação de matrizes propriedade da inexistência de caminho 476 478 481 488 Propriedade de convergência de 473 490 propriedade do limite superior 481 488 490 491 subestrutura ótima de 469 caminhos mínimos de fonte única 624 626 627 caminhos mínimos para todos os pares 429 469 498 499 500 501 504 505 510 512 513 514 515 algoritmo de Johnson para 498 512 513 em grafos densos em grafos dinâmicos 351 por multiplicação de matrizes 889 capacidade 625 626 627 628 650 de uma aresta 521 528 534 538 de um corte 525 527 553 555 de um vértice 518 537 538 543 residual 521 522 523 524 525 527 528 529 530 531 532 535 536 537 538 539 540 541 542 544 545 546 555 557 capacidade residual 521 522 524 528 531 538 caractere lacuna 719 720 cardinalidade de um conjunto 842 carimbo de tempo 439 447 CascadingCut 377 378 379 380 382 casobase 48 54 55 57 62 71 157 293 393 394 395 396 400 401 402 403 571 577 580 581 582 583 584 679 caso recursivo 48 54 55 57 58 cauda 306 certificado 765 773 774 775 782 783 784 785 787 792 794 795 798 799 verificação de algoritmos 775 ChainedHashDelete 188 ChainedHashInsert 187 ChainedHashSearch 187 chamada 305 306 307 de uma subrotina 561 570 573 em computação multithread 564 565 566 567 568 por valor 311 312 chave 804 interpretada como um número natural 191 pública 20 secreta 697 698 699 700 701 chave fictícia 290 291 292 293 chave pública 20 chave secreta 697 698 699 700 701 ciclagem de algoritmo simplex 636 637 638 ciclo de peso médio mínimo 495 496 ciclo de peso negativo 498 500 504 510 511 513 514 e caminhos mínimos 468 469 470 471 472 473 474 475 476 477 478 479 480 482 483 484 486 487 488 489 491 492 493 495 496 497 e relaxamento 472 473 474 475 478 483 488 489 490 491 492 493 e restrições de diferença 484 ciclo de um grafo 458 de peso médio mínimo 495 496 de peso negativo 469 470 471 474 475 476 477 483 484 486 487 489 491 492 493 494 496 e caminhos mínimos 484 hamiltoniano 809 810 811 812 813 ciclo hamiltoniano 764 765 774 775 776 794 795 796 797 798 799 804 ciclo simples 448 452 453 764 773 774 802 Cilk 893 894 895 Cilk 894 circuito 664 665 667 668 combinacional booleano 767 780 781 782 783 787 para transformada rápida de Fourier 82 profundidade de 439 441 442 443 444 445 446 447 449 451 453 CIRCUITSAT 777 781 782 784 785 786 787 788 790 791 Circulação de custo mínimo 650 classe 193 194 195 203 204 205 207 de complexidade 768 769 772 775 776 de equivalência 674 682 683 684 classe de complexidade 768 769 772 775 776 Classe de complexidade coNP 776 777 785 790 791 NP 764 765 766 767 768 769 775 776 777 779 780 781 782 783 784 785 786 787 788 791 792 793 794 795 798 799 801 802 803 804 NPC 765 779 785 786 P 764 765 768 769 770 772 773 775 776 777 778 779 781 785 791 804 classe de equivalência 844 classificação de arestas em busca em profundidade 427 429 439 440 441 442 443 444 445 446 447 448 449 450 451 452 453 por busca em largura 427 429 432 433 434 435 436 437 438 439 441 452 453 Classificação de arestas 443 452 cláusula 436 cláusula then 436 clique 895 algoritmo de aproximação para 817 828 cluster altura constante 388 392 em árvores de van Emde Boas 386 387 389 405 406 407 em estruturas proto van Emde Boas 386 387 391 392 393 394 395 396 400 para computação paralela 558 CNF forma normal conjuntiva conjunctive normal form 806 817 818 820 829 cobertura 858 de vértices 806 807 808 809 813 817 818 819 820 827 829 cobertura de vértices 806 807 808 809 813 817 818 819 820 827 829 cobertura de vértices de peso mínimo 818 819 820 cobertura de vértices ótima 807 808 809 820 codificação de instâncias de um problema 770 codificação padrão 771 799 código 560 570 572 573 574 581 código de caracteres binários 312 313 847 código de comprimento fixo 313 314 código de comprimento variável 313 código de Huffman 314 318 código de prefixo 313 314 315 316 317 318 coeficiente 174 binomial 98 de um polinômio 41 em forma de folgas 615 617 622 629 coeficiente binomial 860 cofator 887 coleção universal de funções hash 193 coleta de lixo 110 colisão 186 187 193 194 195 202 203 206 resolução por encadeamento 184 186 187 188 189 190 192 193 194 196 198 200 202 206 208 resolução por endereçamento aberto 184 187 196 197 198 200 202 206 208 Coloração 856 combinação 859 860 combinação convexa de pontos 738 743 751 CompactifyList 178 CompactListSearch 182 183 CompareExchange 151 complemento de uma linguagem 771 778 788 de um conjunto 559 de um evento 118 de um grafo 847 849 850 Schur 595 596 597 598 599 600 603 605 606 complemento de Schur 595 596 597 598 599 600 603 605 606 completude de uma linguagem 765 766 767 768 769 775 777 779 781 782 784 785 786 787 791 804 componente 664 biconexa 452 453 conexa 437 446 448 449 450 451 fortemente conexa 448 449 450 451 componente biconexa 452 453 componente conexa 457 componente fortemente conexa 448 449 450 451 compressão de caminho 459 Compressão de imagem 299 comprimento 677 688 695 697 700 702 708 712 713 715 de uma cadeia 717 de um caminho 556 comprimento de caminho externo 855 comprimento de caminho interno 855 computação multithread 564 565 566 567 568 computador multinúcleo 572 computador paralelo 560 561 565 566 567 568 572 575 ideal 565 566 567 568 572 575 computador paralelo ideal 565 566 567 568 572 575 ComputePrefixFunction 731 732 733 734 ComputeTransitionFunction 728 concatenação 717 736 737 de cadeias 769 771 772 de linguagens 768 771 772 773 775 776 777 778 779 786 condição de contorno em uma recorrência 740 747 condição de crescimento de polinômio 83 condição de regularidade 602 603 conectividade de arestas 351 conectivo 790 configuração 780 782 783 784 conjunto 558 559 564 565 convexo 520 independente 320 321 325 326 conjunto convexo 520 conjunto de arestas 319 321 328 conjunto de vértices 811 conjunto dinâmico 408 423 conjunto finito 859 conjunto independente 320 321 325 326 de tarefas 325 conjunto infinito 842 conjunto infinito contável 842 conjunto parcialmente ordenado 845 conjuntos disjuntos 408 409 410 412 413 414 416 418 419 421 423 424 425 426 conjunto unitário 414 conjunto vazio 480 ConnectedComponents 448 449 450 451 coNP 776 777 785 790 791 conservação de fluxo 518 523 526 532 534 536 625 627 650 consistência 621 de literais 818 820 sequencial 782 Consistência sequencial 565 consolidar a lista de raízes de um heap de Fibonacci 373 376 Consolidate 372 373 374 376 380 constante de Euler 685 contador binário 330 332 333 335 337 667 analisado por análise agregada 268 330 331 332 333 334 340 349 379 425 435 441 477 482 732 736 755 analisado por método da contabilidade 333 336 349 analisado por método do potencial 330 331 335 336 337 340 342 346 349 370 416 419 com inversão de bits 345 665 666 667 668 contador binário com inversão de bits 667 contador de programa 782 783 784 contagem 830 probabilística 830 Contagem probabilística 104 contém um caminho 471 477 492 contorno de um polígono 743 contração 850 de uma tabela dinâmica 339 de um grafo não dirigido 319 327 de um matroide 319 320 321 322 323 324 325 327 328 conversão de binário para decimal 677 convolução 654 664 correspondência 328 de cadeias 716 717 718 719 720 722 724 725 726 728 729 733 735 737 correspondência de cadeias 716 717 718 719 720 722 724 725 726 728 729 733 735 737 baseada em fatores de repetição 737 corrida de determinância 572 573 corte 520 521 525 526 527 532 533 534 536 537 541 544 553 555 capacidade de 518 520 525 526 527 555 de uma rede de fluxo 525 526 de um grafo não dirigido 525 532 em cascata 377 378 379 382 fluxo líquido através de um 525 526 534 mínimo 520 521 525 527 532 533 536 541 544 553 555 Corte de hastes 263 corte em cascata 377 378 379 382 corte mínimo 639 643 CountingSort 141 142 crédito 330 333 334 335 340 criptossistema 558 criptossistema RSA de chaves públicas 558 crivo de corpo de números 715 crivo genérico de corpo de números 715 custo amortizado 247 330 332 333 334 335 336 337 338 339 340 341 342 343 344 349 371 372 376 378 379 421 422 423 482 na análise agregada 334 no método da contabilidade 333 no método do potencial 334 CutRod 265 266 267 268 269 270 D dados satélites 107 108 decomposição de valor singular 612 decomposição LU 655 decomposição LUP 590 591 592 594 595 596 597 598 599 600 601 604 610 cálculo de 592 de uma matriz de permutação 600 de uma matriz diagonal 600 em inversão de matrizes 601 decomposição LUP de 600 601 604 DecreaseKey 514 decrementando uma chave em heaps de Fibonacci 369 370 384 Heaps 234 384 Decrementando uma chave 377 degenerescência 636 Delete 386 387 388 393 396 398 399 403 404 406 407 DeleteLargerHalf 338 densidade 270 de uma haste 270 Densidade de números primos 702 dependência linear 886 889 890 dependência linear 886 889 890 de polinômios 41 42 45 652 653 654 656 657 658 660 663 Dequeue 433 descendente 433 441 442 443 444 445 447 451 453 descendente próprio 443 descritor 368 Desigualdade da função sufixo 727 desigualdade de Boole 99 desigualdade de Jensen 221 desigualdade de Kraft 855 desigualdade de Markov 203 205 desigualdade linear 649 desigualdade triangular 806 809 810 811 812 813 829 deslocamento inválido 716 deslocamento válido 716 720 723 desviopadrão 869 870 determinante 887 888 889 DFS 439 440 441 444 445 447 448 449 450 451 DFSVisit 440 441 444 445 DFT transformação discreta de Fourier 656 657 658 660 661 662 663 664 665 666 668 669 670 671 diagrama de Venn 841 842 diâmetro de uma árvore 438 dicionário 351 diferença simétrica 556 diferença simétrica de conjuntos 556 Dijkstra 626 DirectAddressDelete 185 DirectAddressInsert 185 DirectAddressSearch 185 Direction 741 DISCHARGE 547 552 disco 748 762 DiskRead 354 357 358 360 361 365 DiskWrite 354 357 358 359 360 361 365 distância 354 de caminho mais curto 25 de edição 287 296 297 298 301 euclidiana 886 Manhattan 760 distância de edição 287 297 298 distância euclidiana 809 810 813 distância Manhattan 163 distribuição 262 294 binomial 98 de entradas 85 90 de envoltórias esparsas 762 de números primos 47 de probabilidade 18 geométrica 98 uniforme 711 uniforme contínua 711 distribuição binomial 858 871 872 873 874 875 876 878 880 caudas da 875 valor máximo da 85 103 distribuição de envoltórias esparsas 762 distribuição de probabilidade 863 864 distribuição de probabilidade discreta 191 Distribuição de probabilidade uniforme 864 Distribuição de probabilidade uniforme contínua 864 distribuição geométrica 98 divisor comum 672 673 674 675 677 678 681 683 690 708 710 713 714 divisor comum 558 máximo 558 DNA 285 297 DNF forma normal disjuntiva 789 790 791 domínio da frequência 652 domínio do tempo 652 671 downto e pseudocódigo 141 151 dualidade 617 639 640 643 650 fraca 640 643 650 dualidade fraca 640 643 650 duração 308 E eficiência assintótica 32 elemento de um conjunto 165 elementos maximais de um conjunto parcialmente ordenado 845 elevação ao quadrado repetida 695 696 eliminação 887 do status de uma linha de varredura 744 745 746 747 761 em árvore de estatística de ordem 155 159 162 163 em árvores de busca binária 225 em árvores de intervalos 255 em árvores de van Emde Boas 351 em árvores vermelhopreto 745 em Bárvores 350 352 354 355 356 357 363 366 em estruturas protovan Emde Boas 400 em filas 171 em heaps 514 em Heaps 234 384 em heaps de Fibonacci 514 em listas ligadas 188 196 em pilhas 168 169 171 em tabelas de endereço direto 184 185 186 em tabelas de hash de endereço aberto 197 199 200 201 202 em tabelas dinâmicas 338 else em pseudocódigo 528 538 547 elseif em pseudocódigo 547 embrulhar presente 755 emparelhamento 808 809 826 827 bipartido 385 bipartido ponderado 385 máximo 826 827 perfeito 535 536 emparelhamento em grafo bipartido 557 emparelhamento maximal 808 809 826 827 emparelhamento máximo 516 533 534 535 544 556 557 emparelhamento máximo em grafo bipartido Algoritmo HopcroftKarp para 556 Emparelhamento máximo em grafo bipartido 533 emparelhamento perfeito 535 536 em pseudocódigo 84 415 429 em torno da mediana de 3 elementos 160 encadeamento 184 186 187 188 189 190 192 193 194 196 198 200 202 206 208 endereçamento aberto 184 187 196 197 198 200 202 206 208 endereçamento direto 184 186 Enqueue 433 435 entrada tamanho da 32 envoltória convexa 21 23 738 749 750 751 752 753 755 756 757 762 763 equação 221 normal 608 609 recorrência 603 equação de recorrência 58 equação normal 608 609 equações lineares 590 591 593 595 597 601 610 612 resolver modulares 558 resolver sistemas de 601 612 Sistemas tridiagonais de 610 equações lineares modulares 687 equivalência modular 672 673 erro de aproximação 311 312 773 828 error em pseudocódigo 599 esalonamento ponto eventual 745 escalonador 561 563 566 567 568 574 575 588 589 centralizado 567 com roubo de trabalho 589 guloso 567 568 574 575 588 589 escalonador guloso 567 568 574 575 588 589 Escalonamento 827 escalonamento de pontos eventuais 745 746 espaço amostral 87 espinha 245 246 esquema de aproximação 806 821 822 823 824 825 826 829 esquema de aproximação de tempo completamente polinomial 806 821 822 824 825 826 para soma de subconjuntos 806 821 822 824 825 829 esquema de aproximação de tempo polinomial 806 829 para clique máximo 826 estabilidade 655 numérica 655 estabilidade numérica 655 estado aceitador 724 725 726 727 estado inicial 724 725 726 estatística de ordem 248 estatística de ordem dinâmica 248 estêncil 587 588 estêncil cálculo simples com 587 588 estouro 197 de uma fila 171 de uma pilha 168 estouro negativo 168 170 171 estratégia do futuro mais longínquo 328 estrela de Kleene 771 777 estrelado polígono 756 757 estritamente crescente 40 42 estritamente decrescente 40 estrutura de dados 529 544 545 árvore de busca binária 226 228 229 230 242 243 244 245 246 árvores 23 384 árvores 234 384 árvores AA 247 Árvores AVL 243 árvores de bode expiatório 247 árvores de fusão 351 Árvores de intervalos 255 árvores de k vizinhos 247 Árvores de peso balanceado 346 árvores de van Emde Boas 351 árvores digitais 406 árvores enraizadas 368 369 árvores oblíquas 247 árvores vermelhopreto 386 Bárvores 350 352 354 355 356 357 363 366 conjuntos dinâmicos 350 351 352 366 em armazenamento secundário 209 estruturas protovan Emde Boas 386 387 400 filas 386 filas de prioridades 111 118 122 heap intercalável 181 Heaps 181 heaps 234 384 385 heaps binomiais 382 384 Heaps de Fibonacci 350 heaps relaxados 385 listas de saltos 247 listas ligadas 188 196 para grafos dinâmicos 351 persistente 351 pilhas 167 168 169 171 177 183 potencial 330 331 335 336 337 338 340 341 342 343 344 346 347 348 349 tabela de endereços diretos 184 185 186 Treaps 244 247 estrutura de dados de conjuntos disjuntos 459 análise de 408 409 410 412 413 414 416 418 419 421 423 424 425 426 caso especial de tempo linear 466 467 em componentes conexas 409 410 floresta de conjuntos disjuntos 459 implementação de floresta de conjuntos disjuntos 459 implementação de lista ligada 408 no algoritmo de Kruskal 463 no menor ancestral comum offline 425 no mínimo offline 423 estrutura parentizada de busca em profundidade 441 445 estrutura protovan Emde Boas 391 393 399 estruturas de dados Árvores dinâmicas 351 dicionários 222 para conjuntos disjuntos 408 etapa completa 567 etapa incompleta 567 568 Euler 764 evento certo 863 evento elementar 862 863 864 867 evento nulo 863 eventos mutuamente exclusivos 863 866 ExactSubsetSum 821 822 825 excesso de fluxo 536 537 538 542 546 547 548 550 551 552 Executar uma subrotina 561 563 570 571 573 expansão binomial 860 exponenciação modular 695 696 704 ExtendedBottomUpCutRod 269 ExtendedEuclid 680 681 684 688 689 690 ExtendShortestPaths 501 502 503 504 ExtractMax 112 118 119 120 121 ExtractMin 118 120 122 extrair a chave máxima de heaps de máximo 114 extrair a chave mínima 370 de heaps 234 384 de heaps dários 121 de heaps de Fibonacci 368 369 370 382 384 385 de tabelas de Young 121 122 extremidade 738 739 740 741 744 745 746 747 749 755 762 de um segmento de reta 616 F família de subconjuntos independentes 319 320 fase de algoritmo relabeltofront 516 545 546 549 550 552 FasterAllPairsShortestPaths 503 504 fator 108 de giro 662 665 666 667 668 fatoração 672 676 678 700 702 712 715 única 672 676 690 692 698 fatoração única de inteiros 672 676 fator de aceleração 566 567 568 569 571 579 588 fator de aceleração linear 566 567 568 569 571 579 fator de aceleração linear perfeito 566 567 fator de carga 339 342 343 344 de uma tabela dinâmica 339 fator de giro 665 668 fecho 604 de uma linguagem 771 778 788 transitivo 604 fecho transitivo 604 FFTW 671 Fib 562 563 564 565 566 567 569 574 FibHeapChangeKey 384 FibHeapDecreaseKey 377 378 379 FibHeapDelete 376 379 382 FibHeapExtractMin 372 373 374 376 379 382 FibHeapInsert 371 372 FibHeapLink 373 374 375 377 FibHeapPrune 384 FibHeapUnion 372 fibra 564 565 566 567 568 574 577 578 final 565 inicial 565 logicamente em paralelo 581 583 fibra final 565 fibra inicial 565 FIFO firstem firstout 168 169 fila de prioridade máxima 163 mínima 118 120 fila de prioridade máxima 163 fila de prioridade mínima 498 510 513 fila de prioridades 386 no algoritmo de Dijkstra 513 filho 563 573 em árvore enraizada 471 491 492 em computação multithread 564 565 566 567 568 filho à direita 388 filho da esquerda 250 FindDepth 424 425 FindMaxCrossingSubarray 52 53 54 55 FindMaximumSubarray 54 55 FindSet 351 FINDSET implementação de floresta de conjuntos disjuntos 459 FiniteAutomatonMatcher 727 728 731 733 734 735 fio 780 781 782 786 787 floresta 457 459 460 de busca em profundidade 439 445 452 de conjuntos disjuntos 413 414 416 419 423 424 floresta de busca em profundidade 439 445 452 floresta de conjuntos disjuntos 459 análise de 426 Propriedades de posto 418 FloydWarshall 499 504 505 506 508 509 510 513 fluxo 22 agregado 627 628 aumento de 530 535 de valor inteiro 534 535 excesso 536 537 538 542 546 547 548 550 551 552 líquido através de um corte 525 526 534 valor de 517 529 530 535 fluxo agregado 627 628 fluxo de custo mínimo 624 626 628 643 650 651 fluxo de valor inteiro 534 fluxo de várias mercadorias 624 628 custo mínimo 624 626 628 643 650 651 fluxo linear e emparelhamento máximo em grafo bipartido 628 fluxo líquido por um corte 525 526 534 fluxo máximo 22 Atualização do 555 como um programa linear 625 651 folga 24 paralela 571 folga paralela 571 regra prática 569 Folgas complementares 649 folha 571 for e invariantes de laço 12 FordFulkerson 520 521 525 527 528 529 530 532 533 534 535 536 555 557 FordFulkersonMethod 521 528 555 forma adiantada 324 forma de folgas 615 617 618 621 622 623 628 629 631 632 633 634 636 637 638 640 641 642 643 644 645 646 647 648 forma normal 3conjuntiva 788 802 forma normal conjuntiva 788 789 forma normal disjuntiva 789 791 forma normal kconjuntiva 765 fórmula booleana 764 765 777 786 787 788 790 791 792 fórmula de Lagrange 655 fórmula satisfazível 786 FreeObject 177 178 função 806 809 810 811 812 813 824 convexa 869 de Ackermann 467 estado final 724 728 hash 701 linear 613 614 615 619 625 objetivo 615 616 617 618 619 620 622 625 626 627 629 630 631 632 633 639 641 642 644 645 646 potencial 543 prefixo 729 730 731 733 734 735 736 quadrática 34 35 36 redução 778 782 783 784 sufixo 725 727 função altura em algoritmos pushrelabel 537 538 539 540 541 545 546 553 função AND 425 função bijetora 847 849 função convexa 869 função de Ackermann 425 426 467 função densidade de probabilidade 867 função densidade de probabilidade conjunta 868 função de transição 724 727 729 função distribuição de primos 702 função entropia 861 862 875 função estado final 724 728 função exponencial 41 função fatorial 41 43 função fi 684 693 função fi de Euler 684 693 função geradora 224 função hash 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 202 203 204 205 207 auxiliar 198 202 método de divisão para 191 196 método de multiplicação para 192 universal 190 191 193 194 195 196 202 203 204 205 207 função hash auxiliar 198 202 função hash resistente a colisão 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 202 203 204 205 207 função high 391 função injetora 846 função iterada 47 função linear 484 função logaritmo discreto 694 707 iterado 43 44 função logaritmo iterado 43 função logaritmo log 41 43 função low 391 função objetivo 615 616 617 618 619 620 622 625 626 627 629 630 631 632 633 639 641 642 644 645 646 função partição 263 função peso 320 321 322 323 324 função piso 40 no teorema mestre 78 função potencial 543 função prefixo 729 730 731 733 734 735 736 função quadrática 34 35 36 função redução 778 782 783 784 função sobrejetora 846 função sufixo 725 727 função teto 40 função teto no teorema mestre 78 função transição 724 725 726 728 729 733 735 737 fuso 353 G gad 564 gad de computação 564 565 566 572 573 574 575 GenericMST 455 457 459 461 GenericPushRelabel 540 541 542 543 544 545 geometria computacional 558 559 Geometria computacional 738 gerador de números aleatórios 86 91 GF2 889 890 891 grade 810 grafo 625 627 628 atributos de 428 busca em largura em 483 busca em profundidade em 427 429 439 440 441 442 443 444 445 446 447 448 449 450 451 452 453 Caminho mais curto em 278 componente 849 852 denso 463 de restrições 486 615 617 620 629 646 dinâmico 514 e notação assintótica 428 esparso 463 estático 260 hamiltoniano 774 intervalo 442 443 matriz de incidência de 432 não hamiltoniano 774 776 percurso em 799 ponderado 625 representação de por lista de adjacências 498 representação de por matriz de adjacências 498 499 500 singularmente conexo 446 subproblema 126 759 grafo acíclico 545 554 grafo acíclico dirigido 850 855 algoritmos de caminhos mínimos com fonte nica para 498 514 Caminho simples mais longo em 295 e arestas de retorno 578 e caminho hamiltoniano 774 777 796 802 ordenação topológica de 477 para representar uma computação multithread 564 565 566 567 568 grafo bipartido 850 correspondente a uma rede de fluxo 650 651 grafo completo 850 grafo conexo 438 452 grafo de componentes 449 450 451 452 grafo de intervalos 308 grafo denso 498 grafo de restrições 486 grafo de subproblemas 268 278 grafo dinâmico 514 algoritmos de árvore geradora mínima em 302 319 320 321 caminhos mínimos para todos os pares algoritmo para 498 499 500 501 504 505 510 512 513 514 515 Fecho transitivo de um 514 grafo dirigido 468 469 470 471 472 474 475 476 477 478 479 481 482 483 484 486 489 490 491 492 493 495 496 625 627 628 caminho mínimo em 438 caminhos mínimos de fonte única em 514 caminhos mínimos para todos os pares em 499 500 504 514 ciclo hamiltoniano 809 810 811 812 813 cobertura de caminho 554 e caminho de comprimento máximo 566 568 fecho transitivo de 604 grafo de restrições 486 percurso de Euler de 453 quadrado de 432 semiconexo 452 singularmente conexo 446 sorvedouro universal em 432 transposto de 431 448 grafo dregular 536 grafo esparso 463 grafo fortemente conexo 453 grafo hamiltoniano 774 grafo não dirigido 847 848 849 850 851 853 856 clique em 791 792 coloração de 803 componente biconexa de 452 ponte de 452 ponto de articulação de 452 453 grafo não hamiltoniano 774 776 grafo no dirigido cobertura de vértices 806 807 808 809 813 817 818 819 820 827 829 grafos dinâmicos estruturas de dados para 351 grafos isomorfos 849 Graft 424 425 GrahamScan 750 751 752 754 755 756 GRAPHISOMORPHISM 776 grau 607 611 de um nó 853 de um polinômio 652 de um vértice 848 853 grau de entrada 568 grau limitado 652 653 654 655 656 657 658 660 661 663 664 668 669 670 grau máximo em um heap de Fibonacci 384 greedy 894 895 898 GreedyActivitySelector 306 307 308 GreedySetCover 814 815 817 grupo 761 cíclico 707 operador 677 grupo abeliano 682 683 684 grupo cíclico 707 grupo finito 682 685 686 687 grupo multiplicativo módulo n 683 H HAMCYCLE 774 775 776 777 795 798 HAMPATH 777 HashDelete 188 202 hashing 184 188 189 190 191 193 200 202 206 208 723 com encadeamento 188 190 202 Com endereçamento aberto 197 duplo 198 199 202 perfeito 202 universal 193 hashing perfeito 184 188 202 208 hashing uniforme 406 hashing uniforme simples 406 hashing universal 193 202 HashInsert 187 197 201 202 HashSearch 187 197 198 heap 165 167 179 180 181 altura de 111 121 analisado pelo método do potencial 416 419 aumentar uma chave em 119 binomial 383 384 comparado com heap de Fibonacci 498 510 513 514 dário 514 heap de máximo 367 heap de mínimo 369 371 377 383 inserção em 35 intercalável 367 368 no algoritmo de Dijkstra 513 no algoritmo de Huffman 315 316 318 no algoritmo de Johnson 513 no algoritmo de Prim 483 para implementar um heap intercalável 181 remoção em 452 tempo de execução de operações em 349 heap 234 384 385 heap binário 121 367 368 431 463 497 498 heap binomial 383 384 heap dário 514 em algoritmos de caminho mínimo 498 499 500 504 505 506 510 511 513 515 HeapDecreaseKey 120 heap de Fibonacci 367 368 369 370 371 372 373 374 375 376 378 379 380 381 382 383 384 chave mínima de 361 função potencial para 423 426 grau máximo de 370 no algoritmo de Dijkstra 483 497 no algoritmo de Johnson 513 no algoritmo de Prim 483 tempo de execução de operações em 408 união 408 410 411 412 413 414 416 418 423 424 HeapDelete 121 heap de máximo 367 como uma fila de prioridade máxima 163 construção de 116 dário 121 intercalável 367 heap de mínimo 244 construção de 116 intercalável 350 HeapExtractMax 112 119 120 HeapExtractMin 120 HeapIncreaseKey 112 119 120 121 heap intercalável 367 368 heaps binomiais 382 384 heaps relaxados 385 heap intercalável de máximo 181 heap intercalável de mínimo 181 HeapMaximum 112 119 HeapMinimum 120 Heapsort 116 117 118 119 heurística de lacuna 553 heurística de união ponderada 411 412 413 414 heurística do ponto mais próximo 813 heurística do primeiro que couber 825 826 heurística movetofront 348 349 Heurística rô 709 heurística rô de Pollard 559 hiperaresta 850 hipergrafo 850 em grafos bipartidos 533 HireAssistant 84 85 86 89 91 HoarePartition 134 135 HopcroftKarp 556 557 Huffman 302 312 314 315 316 317 318 319 329 I identação 14 identidade 501 igualdade linear 615 igualdade linear 615 imagem 890 de uma matriz 890 inclusão e exclusão 843 IncreaseKey 367 independência 886 de subproblemas em programação dinâmica 280 de variáveis aleatórias 868 881 independência aos pares 104 início 354 de uma fila 169 171 de uma lista ligada 172 173 InitializePreflow 539 540 541 544 549 550 InitializeSimplex 633 634 638 643 644 645 646 648 InitializeSingleSource 472 473 474 477 479 489 490 491 492 493 InorderTreeWalk 210 211 inserção 514 inserção elementar 340 Insert 514 InsertionSort 129 instância 52 54 de um problema 627 639 de um problema abstrato 769 770 771 instrução de desvio condicional 16 instruções aritméticas 16 intercalação 558 572 578 579 580 581 582 583 584 589 de listas ordenadas 150 Limite inferior para a 150 interior de um polígono 743 762 IntervalDelete 255 260 IntervalInsert 255 260 intervalo 751 755 intervalo aberto 864 intervalo fechado 255 intervalo semiaberto 146 intervalo sobreposto 257 ponto de sobreposição máxima 259 IntervalSearch 255 257 259 IntervalSearchExactly 259 intratabilidade 765 invariante de laço 541 549 550 551 laços for 501 506 inversa 288 de função bijetora 849 de uma matriz 601 inversão 665 666 667 668 inverso 534 538 multiplicativo módulo n 683 inverso multiplicativo módulo n 684 690 699 inverter 332 irmão 298 iteração funcional 733 IterativeFft 666 667 668 IterativeTreeSearch 212 215 J jogador dono de seu passe 301 Johnson 153 junção 363 366 K kcadeia 859 kCNF 765 kcoloração 856 kcombinação 859 860 késima potência 826 KmpMatcher 731 732 733 734 735 736 kordenado 150 ksubconjunto 859 kuniversal 207 L laço 265 268 274 294 772 798 paralelo 561 571 584 laço paralelo 561 571 584 lâmina 353 LCS 587 LCSLength 587 Left 251 259 LeftRotate 251 259 lei da duração 566 567 575 588 lei do trabalho 566 567 568 575 588 leis associativas para conjuntos 841 leis de DeMorgan para conjuntos 408 para lógica proposicional 789 Leis de DeMorgan 841 leis distributivas para conjuntos 843 Leis do conjunto vazio 841 Lema da divisão ao meio 659 Lema da iteração da função prefixo 733 lema da ordenação 01 153 Lema de Farkas 650 Lema do cancelamento 659 Lema do complemento de Schur 606 lema do cumprimento 850 Lema do somatório 660 Lema dos sufixos sobrepostos 717 leque de saída 780 787 lexicograficamente menor que 222 lgk 42 47 liberação de objetos 176 LIFO lastin firstout 168 ligação 375 376 377 limite 32 33 34 35 36 37 38 42 43 47 261 285 assintoticamente justo 37 assintótico inferior 36 assintótico superior 35 36 37 para coeficientes binomiais 860 para distribuições binomiais 872 limite assintoticamente justo 836 limite inferior assintótico 26 49 63 67 76 82 92 101 104 108 109 138 139 140 142 148 150 153 156 160 161 164 342 350 381 386 4 07 420 426 479 489 493 685 756 763 766 808 810 811 819 820 826 836 839 860 limites inferiores para determinar a mediana 162 164 para determinar o mínimo 155 156 157 para determinar o predecessor 387 para estruturas de dados de conjuntos disjuntos 425 para ordenação 138 Limites inferiores 138 148 limite superior 535 543 limite superior assintótico 68 69 72 82 221 837 839 linearidade da esperança 194 linearidade de somatórios 834 linguagem 666 linguagem vazia 771 linha de varredura 744 745 746 747 761 Link 373 374 375 377 lista compacta 182 lista de filhos em um heap de Fibonacci 369 377 382 lista de raízes de um heap de Fibonacci 369 370 371 372 373 374 375 376 377 380 382 383 384 lista de saltos 247 lista de vizinhos 546 547 548 549 550 551 557 lista livre 176 177 178 182 Listas circulares duplamente ligadas 369 listas duplamente ligadas 174 listas ligadas 188 196 listas simplesmente ligadas 188 ListDelete 172 173 174 177 ListInsert 172 173 174 177 ListSearch 171 172 173 174 182 183 literal 788 790 793 800 801 logaritmo binário 42 logaritmo discreto 694 707 logaritmo natural 41 42 43 LONGESTPATH 773 LONGESTPATHLENGTH 773 LookupChain 283 284 LuDecomposition 596 597 LUPDecomposition 599 601 604 LUPSolve 593 601 M Makeheap 367 MakeSet 459 465 MAKESET floresta de conjuntos disjuntos implementação de 459 implementação de lista ligada 408 MakeTree 424 425 máquina de acesso aleatório 16 Máquina Paralela de Acesso Aleatório 589 marcha de Jarvis 738 749 755 756 MatrixChainMultiply 276 MatrixChainOrder 273 274 275 276 281 283 294 MatrixMultiply 56 57 58 59 61 82 matriz de incidência 432 de permutação 884 886 888 de predecessores 499 504 506 510 determinante de 604 610 de Vandermonde 889 diagonal 600 identidade 883 887 888 negativa de 885 pseudoinversa da 608 609 610 transposta conjugada 604 transposta de 604 triangular inferior 591 596 597 598 triangular inferior unitária 591 592 596 597 598 triangular superior 884 888 triangular superior unitária 884 tridiagonal 610 matriz de incidência 485 de um grafo dirigido 432 de um grafo não dirigido 430 431 444 445 452 e restrições de diferença 497 matriz de permutação 884 886 888 decomposição LUP de 590 591 592 594 595 596 597 598 599 600 601 604 610 matriz de predecessores 499 504 506 510 matriz de Toeplitz 669 matriz de Vandermonde 889 matrizes 558 561 575 576 577 578 585 589 adição de 576 de Toeplitz 669 multiplicação de 601 602 603 604 612 múltiplo escalar de 885 simétricas 884 886 889 subtração de 885 matrizes compatíveis 885 889 matriz identidade 883 887 888 matriz matrizes 714 matriz não inversível 886 matriz não singular 591 595 603 604 matriz nula 883 matriz quadrada 596 matriz simétrica 884 886 matriz simétrica positiva definida 603 604 605 606 610 matriz singular 886 matriz triangular 591 596 597 598 matriz triangular inferior 884 888 matriz triangular inferior unitária 591 596 597 598 matriz tridiagonal 883 matroide 467 matroide gráfico 467 matroide ponderado 321 322 323 324 MatVec 570 571 573 584 MatVecMainLoop 570 571 584 MatVecWrong 573 MAXCNF 820 MaxFlowByScaling 555 556 MaxHeapify 112 113 114 115 116 117 119 122 MaxHeapInsert 112 119 120 121 máximo 615 616 617 619 624 625 626 627 628 638 639 643 651 de uma distribuição binomial 874 máximo divisor comum 202 558 Algoritmo binário para mdc 713 algoritmo de Euclides para 672 677 678 679 680 713 715 com mais que dois argumentos 681 Teorema de recursão para 678 MAXIMUM 530 MaybeMSTA 466 MaybeMSTB 466 MaybeMSTC 466 mdc 674 675 676 677 678 680 681 683 684 687 688 689 690 693 695 704 706 708 709 710 711 712 713 mediana 358 359 361 363 ponderada 163 mediana inferior 155 160 Mediana ponderada 163 mediana superior 155 medida de complexidade 772 membro de um conjunto 33 memoização 714 MemoizedCutRod 267 268 270 MemoizedCutRodAux 267 MemoizedMatrixChain 281 283 memória 266 hierarquia de memória 108 Merge 108 memória compartilhada 560 561 565 memória distribuída 560 memória primária 144 memória principal 384 memória virtual 178 menor ancestral comum 425 menor de uma matriz 887 mercadoria 627 628 MergeLists 821 822 823 MergeSort 578 579 582 583 método da contabilidade 333 336 349 método da mediana de 3 136 137 método de baixo para cima programação dinâmica 266 268 método de cima para baixo 269 283 método de divisão 49 52 55 58 71 82 método de divisão e conquista 652 750 para achar a envoltória convexa 738 749 750 751 752 753 755 756 757 762 763 para algoritmo de Strassen 48 56 58 59 61 69 71 82 83 para busca binária 28 para conversão de binário para decimal 677 para encontrar o par de pontos mais próximos 738 758 para multiplicação 17 para multiplicação de matrizes 601 603 para multiplicação de matrizes multithread 601 603 para o problema do subarranjo máximo 49 52 55 71 para ordenação por intercalação 31 para ordenação por intercalação multithread 31 para quicksort 588 589 para seleção 467 para transformada rápida de Fourier 652 661 663 669 671 relação com programação dinâmica 499 500 504 resolução de recorrências para 49 61 65 69 83 método de duas passagens 415 método de eliminação de Gauss 628 método de multiplicação 656 método de poda e busca 750 método de programação dinâmica 262 276 de baixo para cima 304 305 309 314 de cima para baixo com memoização 264 266 267 268 269 273 276 282 283 284 e árvores de busca binária ótimas 290 elementos de 288 289 301 em comparação com algoritmos gulosos 302 303 304 305 308 309 310 311 312 para Algoritmo de Viterbi 298 para algoritmo FloydWarshall 578 para a subsequência comum mais longa 262 285 286 301 para a subsequência palíndromo mais longa 296 para caminho simples mais longo num grafo acíclico dirigido ponderado 278 295 para caminhos mínimos para todos os pares 498 499 500 501 504 505 510 512 513 514 515 para contratação de jogadores donos de seus passes 300 301 para Corte de hastes 263 para distância de edição 287 297 298 para fecho transitivo para impressão nítida 296 para multiplicação de cadeia de matrizes 276 278 301 para o problema da mochila 01 828 para o problema do caixeiroviajante euclidiano bitônico 496 para planejamento de estoque 300 para quebrar uma cadeia 299 para seam carving 299 subestrutura ótima em 277 subproblemas sobrepostos em 280 281 282 284 286 287 método de substituição 562 582 método do potencial 330 331 335 336 337 340 342 346 349 método FordFulkerson 520 525 527 530 534 536 557 método incremental de projeto 749 757 para encontrar a envoltória convexa 757 762 Método mestre para resolver recorrências 69 MillerRabin 686 695 704 705 706 707 708 709 MinGap 259 MinHeapify 114 116 MinHeapInsert 120 mínimo 111 112 114 116 120 121 122 offline 423 mínimo múltiplo comum 681 Minimum 424 mmc 681 709 modelo de dados paralelos 589 ModularExponentiation 695 696 699 703 704 ModularLinearEquationSolver 689 690 módulo 672 674 682 683 684 687 688 689 690 691 692 693 694 695 696 699 700 701 704 705 706 707 708 709 711 712 714 moeda não viciada 148 monotonicamente crescente 39 40 41 45 47 monotonicamente decrescente 39 41 MSTKruskal 459 MSTPrim 461 465 MSTReduce 464 465 466 mudança de escala 555 mudança de variáveis no método de substituição 64 65 muito maior que 101 muito menor que 95 102 multa 324 325 326 328 multiconjunto 338 multigrafo 432 multiplicação 16 17 de polinômios 653 654 656 657 660 663 matrizvetor 889 890 módulo n 682 683 706 707 multiplicação de cadeia de matrizes 276 278 301 multiplicação de matrizes 270 275 Algoritmo de Strassen para 56 algoritmo multithread para 575 584 588 589 e inversão de matrizes 601 multiplicação de matrizes booleanas 764 multiplicação matrizvetor 889 890 múltiplo 301 escalar 885 múltiplo comum 681 múltiplo escalar 520 Multipop 330 331 332 334 335 336 337 338 multiprocessadores de chip 560 Multipush 333 N NaiveStringMatcher 718 719 não instância 770 nconjunto 860 N conjunto dos números naturais 869 negativa de uma matriz 885 NextToTop 750 751 nil 546 547 548 549 550 nível 716 de uma árvore 128 de uma função 417 nó 526 nó cheio 358 359 360 361 nó externo 853 nó interno 387 388 389 nó marcado 379 nó mínimo de um heap de Fibonacci 371 376 notação assintótica 17 32 33 36 37 39 41 46 58 62 64 72 428 583 832 835 e linearidade de somatórios 834 notação O 34 35 36 37 38 42 47 49 74 129 428 NPC 765 779 785 786 NP classe de complexidade 768 769 772 775 776 NPcompleto 764 765 766 767 768 775 776 777 779 780 782 784 785 786 791 792 794 795 798 799 801 802 803 804 NPcompletude 765 766 767 768 769 775 777 779 781 782 784 785 786 787 791 804 da programação linear inteira 801 do problema da cobertura de conjuntos 559 do problema do caminho hamiltoniano 777 802 do problema do ciclo hamiltoniano 796 NPdifícil 296 ntupla 843 846 número composto 673 706 707 709 713 testemunha de 705 706 708 709 número de Carmichael 706 707 709 número harmônico 833 839 número primo 673 703 números complexos 652 653 664 670 multiplicação de 653 654 656 657 660 663 números de Catalan 272 números de Fibonacci 270 cálculo de 274 275 276 números naturais 32 números reais 191 nvetor 619 650 O objeto 110 111 118 119 alocação e liberação de 340 OffLineMinimum 424 OnLineMaximum 102 OnSegment 741 742 OpenMP 561 operação borboleta 665 666 668 operação modificadora 166 operação push em algoritmos pushrelabel não saturador 538 543 544 553 saturador 538 543 544 546 553 operação Push em algoritmos pushrelabel 334 336 337 operação Relabel 539 540 543 Operaçes com bits no algoritmo de Euclides 713 operações com bits 673 680 691 696 700 706 713 714 Operações de pilha 331 334 336 OptimalBst 293 ordem 768 775 776 linear 565 parcial 565 total 253 ordem de crescimento 50 ordem linear 565 ordem orientada por coluna 153 ordem orientada por linha 287 ordem parcial 845 ordem total 253 ordenação 558 561 565 578 579 582 583 589 de Shell 31 digital 138 142 143 144 145 153 estável 143 144 153 κordenação 150 lema de ordenação 01 150 151 153 lexicográfica 747 limites inferiores para 153 nebulosa 137 no lugar 144 por balde 138 145 146 147 148 153 por coluna 150 151 152 153 154 por comparação 138 139 140 142 148 149 por contagem 138 140 141 142 144 145 149 153 por inserção 126 127 134 por intercalação 138 140 145 por seleção 21 topológica 21 ordenação de Shell 31 ordenação digital 138 142 143 144 145 153 Ordenação nebulosa 137 ordenação no lugar 144 Ordenação por balde 145 ordenação por coluna 150 151 152 153 154 ordenação por comparação 138 139 140 142 148 149 aleatorizada 223 ordenação por contagem 386 Ordenação por contagem em ordenação digital 142 ordenação por inserção 161 árvore de decisão para 139 140 148 153 comparada com ordenação por intercalação 138 140 145 Comparada com quicksort 138 144 145 em ordenação por balde 138 145 146 147 148 153 em ordenação por intercalação 138 140 145 em Quicksort 136 ordenação por intercalação 821 ordenação por seleção 21 ordenação topológica 268 269 origem 764 OSKeyRank 252 OSRank 250 251 252 253 OSSelect 249 250 251 252 253 P pai 563 573 palavra de código 312 313 314 315 palavraschave 570 palavraschaves de concorrência 561 563 palíndromo 296 paradoxo do aniversário 203 paralelismo 558 561 563 565 566 567 569 570 571 572 574 575 576 577 578 579 581 582 583 584 585 586 587 588 aninhado 561 570 576 577 578 579 581 584 585 586 587 588 de um algoritmo multithread aleatorizado 588 lógico 561 563 paralelismo lógico 561 563 parallel for 570 571 572 573 575 576 577 578 584 586 parâmetro 576 par mais próximo 758 759 761 par ordenado 255 521 partição de um conjunto 842 particionamento 157 159 160 Partition 584 588 passeio completo numa árvore 810 811 813 passo conquista em divisão e conquista 48 Path 471 percorrer uma árvore 209 percurso 798 799 Euler 764 percurso de árvore em inordem 250 256 percurso de árvore em pósordem 210 percurso de árvore em préordem 210 percurso de Euler e ciclos hamiltonianos 774 Percurso de Euler 453 permutação 494 aleatória 85 90 91 92 93 94 95 aleatória uniforme 85 90 92 93 94 95 de um conjunto 859 inversão de bits 333 345 Josephus 260 κpermutação 93 104 linear 891 permutação aleatória 85 90 91 92 93 94 95 uniforme 85 90 92 93 94 95 permutação aleatória uniforme 85 90 92 93 94 95 permutação com inversão de bits 665 666 667 668 Permutação de Josephus 260 permutação linear 891 permuta tempomemória 266 PermuteBySorting 91 92 95 PermuteWithAll 94 PermuteWithoutIdentity 94 PersistentTreeInsert 242 pertinência 33 36 peso 624 625 627 de uma aresta 462 464 de um caminho 472 474 479 496 de um corte 821 médio 495 496 peso médio de um ciclo 495 PFib 563 564 565 566 567 569 574 pilha vazia 750 PisanoDelete 382 pivô 353 em programação linear 301 em quicksort 136 Pivot 631 632 633 634 636 638 644 645 646 647 Planejamento de estoque 300 plataforma de concorrência 561 565 567 PMerge 580 581 582 583 584 PMergeSort 582 583 polígono 21 estrelado 756 757 polígono convexo 738 743 749 750 751 762 polígono simples 743 polilogaritmicamente limitada 42 polinomialmente relacionada 771 polinômio 34 40 41 45 comportamento assintótico de 37 derivadas de 669 representação pontovalor de 654 657 representação por coeficientes de 653 654 657 658 663 669 670 PollardRho 709 710 711 712 713 ponte 452 453 ponteiro 546 548 549 550 552 ponto de articulação 159 452 453 ponto eventual 745 746 747 748 ponto extremo alto de um intervalo 255 ponto extremo baixo de um intervalo 255 256 259 pontos maximais 761 Pop 751 755 porta AND 780 porta lógica 782 porta NOT 780 porta OR 780 posição 597 posto 886 887 888 889 890 891 coluna 887 888 889 de uma matriz 887 889 890 linha 887 total 608 609 posto coluna 887 888 889 posto completo 887 890 891 posto linha 887 potência 191 192 199 207 késima 826 não trivial 677 potência não trivial 677 prazo final 803 804 Pr distribuição de probabilidade 191 predecessor 899 preempção 327 prefixo 313 314 315 316 317 318 de uma cadeia 717 préfluxo 536 537 538 539 540 541 542 545 546 550 552 préimagem de uma matriz 890 préordem total 845 préordenação 744 745 746 747 757 760 761 presença na cache 328 primeiro a entrar primeiro a sair 553 primos dois a dois 676 681 690 691 692 princípio de inclusão e exclusão 843 PrintAllPairsShortestPath 499 506 510 PrintCutRodSolution 269 270 PrintIntersectingSegments 748 PrintLCS 288 289 PrintOptimalParens 275 276 PrintPath 499 PrintSet 416 probabilidade 85 86 87 89 92 93 94 95 96 97 98 99 100 101 102 103 104 105 Probabilidade condicional 864 problema 197 198 abstrato 768 769 770 771 computacional 19 20 concreto 769 problema abstrato 768 769 770 771 problema concreto 769 problema da chapelaria 90 problema da cobertura de conjuntos 806 problema da cobertura de vértices 796 problema da contratação 84 85 86 87 88 91 95 102 106 análise probabilística de 91 online 102 problema da contratação online 102 problema da envoltória convexa online 757 problema da mochila 310 311 312 01 310 311 312 fracionário 310 problema da mochila 01 828 problema da mochila fracionário 310 problema da parada 764 772 problema da soma de subconjuntos 806 821 822 824 825 problema de decisão 766 767 769 770 771 772 773 778 792 794 798 802 803 804 e problema de otimização 766 769 773 792 794 804 problema de determinação de profundidade 424 problema de escalonamento de máquinas paralelas 827 problema de Monty Hall 867 problema de otimização 805 806 813 821 e problemas de decisão 766 problema de seleção de atividades 302 303 304 305 308 309 310 319 329 problema do caixeiroviajante 496 euclidiano bitônico 496 problema do caixeiroviajante euclidiano bitônico 496 problema do colecionador de cupons 99 problema do escape 553 554 problema do subarranjo máximo 48 49 50 52 55 71 problema offline 328 caching 328 329 menor ancestral comum 425 procedimento 616 631 633 634 638 643 646 648 produto 619 cartesiano 858 859 cruzado 739 740 741 742 de matrizes 602 603 de polinômios 653 externo 595 interno 619 regra do 858 produto cartesiano 691 produto cruzado 739 740 741 742 produto externo 886 produto interno 619 profundidade 853 854 855 árvore de recursão do quicksort 130 de uma pilha 365 de um circuito 667 de um nó em uma árvore enraizada 291 média de um nó em uma árvore de busca binária construída aleatoriamente 221 222 223 programação linear 20 algoritmo simplex para 651 Algoritmos para 618 Aplicações de 617 e fluxo de custo mínimo 651 forma de folgas para 633 634 638 643 644 645 648 teorema fundamental de 643 648 Programação linear inteira 650 programa linear 614 615 616 617 618 619 620 621 622 623 624 625 626 627 628 629 630 631 633 634 635 636 637 638 639 640 64 1 642 643 644 645 646 647 648 649 650 651 de maximização 615 619 620 de minimização 615 619 620 programa linear auxiliar 644 645 programa linear dual 639 640 641 642 643 649 650 programa linear primal 639 640 641 643 649 650 programa linear viável 643 programas de jogo de xadrez 575 Programas lineares equivalentes 613 614 Projeto Genoma Humano 20 propriedade da inexistência de caminho 476 478 481 488 propriedade de árvore de busca binária 229 243 244 em treaps 244 propriedade de heap de mínimo 211 Propriedade de convergência 473 490 propriedade de escolha gulosa 309 311 312 314 316 322 de códigos de Huffman 329 de um matroide ponderado 321 322 323 para seleção de atividades 302 303 304 305 308 309 310 319 329 propriedade de heap 111 112 113 116 119 120 121 Manutenção da 112 propriedade de heap de máximo 111 112 113 116 119 120 121 manutenção da 112 propriedade de heap de mínimo 111 Propriedade de relaxamento de caminho 473 490 propriedade de troca 319 320 322 325 Propriedade do limite superior 473 ProtovEBInsert 395 396 ProtoVebMember 393 400 ProtoVebMinimum 394 ProtovEBSuccessor 394 395 400 401 Prova do teorema mestre 72 PScan1 586 PScan2 586 PScan3 586 587 PScanDown 587 PScanUp 587 pseudocódigo 561 563 570 575 576 578 580 584 585 586 588 589 pseudoinversa 608 609 610 Pseudoprime 703 704 705 706 pseudoprimo 703 pseudoprimo de base a 703 PTranspose 575 push 894 operação de pilha 365 366 Q quadrado de um grafo dirigido 432 quebra 572 Quebra de somatórios 836 quicksort 219 223 224 583 588 589 adversário matador para 137 algoritmo multithread para 588 589 análise de 164 análise do caso médio 90 com elementos de valores iguais 135 com o método da mediana de 3 136 137 versão aleatorizada de 223 quociente 40 R RabinKarpMatcher 722 RaceExample 572 RadixSort 143 144 149 raio 743 748 762 raio horizontal 743 raízes complexas da unidade 653 656 658 659 661 663 670 Raízes complexas da unidade interpolação em 654 655 656 raiz primitiva de Zn 694 raiz quadrada não trivial de 1 módulo n 695 704 705 709 raiz quadrada superior 397 RandomizedHireAssistant 91 RandomizedPartition 588 RandomizedQuicksort 588 589 RandomizedSelect 584 589 RandomizeInPlace 93 94 95 RandomSample 95 RandomSearch 105 razão áurea 44 45 razão de aproximação 805 806 808 809 811 812 813 817 818 825 826 RBDelete 346 347 RBDeleteFixup 347 RBEnumerate 254 RBInsert 231 232 233 234 235 236 239 241 243 RBInsertFixup 231 232 233 234 235 236 239 RBJoin 243 RBTransplant 236 237 238 Reconstrução de uma solução ótima 282 recorrência 220 603 solução pelo método da árvore de recursão 49 solução pelo método de AkraBazzi 83 solução pelo método mestre 49 55 58 59 65 69 70 71 72 83 recursão 48 49 55 58 62 65 66 67 68 69 73 74 76 77 82 recursão de cauda 136 RecursiveActivitySelector 305 306 307 RecursiveFft 661 662 665 666 rede 516 517 518 519 520 521 522 523 524 525 526 527 528 529 530 531 532 533 534 535 536 537 538 539 540 541 542 543 544 545 546 549 550 551 552 553 554 555 556 557 admissível 545 546 549 550 residual 521 522 523 524 525 527 528 529 530 531 532 535 536 538 539 541 542 544 545 546 555 557 rede admissível 545 546 549 550 rede de fluxo 516 517 518 519 520 521 522 523 524 525 526 527 528 529 530 531 532 533 534 535 536 537 539 540 541 542 543 544 545 546 551 552 553 554 555 556 com várias fontes e sorvedouros 519 520 532 533 rede residual 521 522 523 524 525 527 528 529 530 531 532 535 536 538 539 541 542 544 545 546 555 557 redução de um arranjo 585 Reduce 585 586 redutibilidade 777 780 região viável 615 616 617 618 619 624 regra da soma 858 regra de Horner 720 Regra de Horner no algoritmo RabinKarp 720 721 723 737 regra do produto 858 relabel 516 532 536 537 539 540 541 542 543 544 545 546 549 550 551 552 553 557 relabeltofront 516 545 546 549 550 552 553 relação 522 525 530 531 535 537 539 540 541 556 relação antissimétrica 518 519 523 625 relação binária 768 844 845 846 847 relação de equivalência 844 845 850 Relação de equivalência e equivalência modular 672 673 relação total 845 relação transitiva 784 relaxação 819 linear 819 relaxação linear 819 repeat 556 557 RepetitionMatcher 737 reponderação 510 511 512 513 representação filho da esquerda irmão da direita 179 180 representação por coeficientes 653 654 657 658 663 669 670 representação por pontovalor 653 654 655 656 657 658 660 663 representante de um conjunto 408 Reset 335 resíduo quadrático 714 resolvível em tempo polinomial 769 779 788 791 803 resto 264 restrição 300 de igualdade 619 620 621 622 628 629 desigualdade 619 620 621 631 635 647 649 linear 613 614 615 616 617 618 619 620 621 622 623 624 625 626 627 628 629 630 631 633 634 635 636 637 638 639 640 641 642 643 644 645 646 647 648 649 650 651 não negatividade 618 619 620 621 622 629 633 643 646 violação de 231 233 restrição de capacidade 518 521 523 524 526 532 534 536 554 restrição de desigualdade 621 restrição de igualdade 620 622 629 violação de 231 233 restrição de não negatividade 620 621 622 629 646 retângulo 259 return 562 563 564 570 574 575 580 581 585 586 587 right 587 RightRotate 251 rotação 353 354 cíclica 737 rotação cíclica 737 rotação para a direita 232 235 240 241 rotação para a esquerda 229 230 232 235 239 240 241 S sabermétrica 301 saída 861 de um algoritmo 768 SameComponent 409 410 satisfazibilidade 806 817 818 820 829 satisfazibilidade 3CNF 764 765 788 804 satisfazibilidade de fórmulas 768 785 787 788 791 804 satisfazibilidade de meia 3CNF 802 satisfazibilidade MAX3CNF 817 818 820 829 Scan 893 ScrambleSearch 106 Seam carving 893 search 892 895 897 898 899 900 901 segmento de reta 738 743 comparável 744 segmento dirigido 739 740 segmentos de reta comparáveis 738 739 740 742 743 744 746 748 749 SegmentsIntersect 741 746 747 748 749 Segunda melhor árvore geradora mínima 464 seleção 558 de atividades 302 303 304 305 308 309 310 319 329 Select 584 589 semianel sentinela 248 254 255 257 sequência 251 256 bitônica 497 de sondagem 197 198 199 200 201 finita 866 infinita 846 sequência bitônica 497 sequência de sondagem 197 198 199 200 201 sequência finita 866 sequência infinita 493 sequências 587 serialização do algoritmo multithread 561 563 569 570 571 572 575 578 série 565 569 573 série absolutamente convergente 832 série aritmética 126 268 832 834 835 836 série convergente 831 série geométrica 67 74 75 série harmônica 834 836 837 shortestpath 900 símbolo de Legendre 714 simplex 893 901 sistema de equações lineares 590 593 597 sistema de equações lineares superdeterminado 590 593 597 sistema de restrições de diferença 484 486 487 488 SlowAllPairsShortestPaths 502 503 504 solução 614 615 616 617 618 619 620 625 626 627 628 629 630 631 632 633 634 635 636 638 639 640 641 642 643 644 645 646 6 47 648 649 650 651 básica 628 629 630 631 632 633 634 635 636 638 640 642 643 644 645 646 647 648 inviável 619 ótima 616 617 619 625 626 628 631 633 639 640 641 643 644 645 646 647 648 649 651 viável 615 616 617 618 619 620 634 638 640 643 644 645 646 647 648 649 650 solução básica 628 629 630 631 632 633 634 635 636 638 640 642 643 644 645 646 647 648 solução básica viável 628 629 643 645 646 solução inviável 619 solução ótima 616 617 619 625 626 628 631 633 639 640 641 643 644 645 646 647 648 649 651 solução viável 615 616 617 618 619 620 634 638 640 643 644 645 646 647 648 649 650 soma 716 cartesiana 658 de matrizes 59 infinita 831 regra da 858 telescópica 833 soma cartesiana 658 soma telescópica 833 somatório 660 663 somatórios Fórmulas e propriedades de 831 linearidade de 834 sondagem 191 197 198 199 200 201 202 206 207 sondagem linear 191 198 199 202 Sondagem quadrática 198 207 sorvedouro universal 432 spawn 561 563 564 570 573 576 579 581 583 584 586 587 spline cúbica 611 spline cúbica natural 611 StackEmpty 331 status da linha de varredura 745 StronglyConnectedComponents 448 449 450 451 subárvore 853 854 856 subárvore à direita 229 subcadeia 272 274 277 285 subcaminho 848 851 subconjunto 303 305 306 308 311 319 320 321 322 323 324 325 327 328 subconjunto ótimo de um matroide 321 subconjunto próprio 455 subestrutura ótima 303 304 308 309 310 314 316 317 323 329 em caminhos mínimos 504 em programação dinâmica 277 na multiplicação de cadeia de matrizes 278 no corte de hastes 263 no problema da mochila 310 no problema da mochila fracionário 828 subsequências comuns mais longas 286 subexpressão comum 665 subgrafo 437 439 441 dos predecessores 437 439 subgrafo dos predecessores 437 439 499 508 509 em caminhos mínimos para todos os pares 499 508 509 subgrafo induzido 849 subgrupo 856 subgrupo próprio 685 686 706 707 708 submatriz líder 605 606 610 subproblemas sobrepostos 305 311 subrotina 236 chamada 415 subsequência 424 subsequência comum 587 mais longa 568 587 subsequência comum mais longa 587 Subsequência palíndromo mais longa 296 SubsetSum 821 822 823 824 825 829 substituição direta 592 593 594 595 599 604 610 substituição inversa 593 594 595 subtração de matrizes 885 Successor 386 387 388 393 394 395 398 400 401 402 406 407 sucessor 851 sufixo 717 725 726 727 728 730 731 734 735 736 sumário 804 SumArrays 584 585 supercomputador 574 superfonte 519 520 supersorvedouro 519 520 SVD 612 sync 561 563 564 565 570 571 573 577 579 581 583 584 585 586 587 T tabela de endereços diretos 184 185 186 tabela de hash secundário 202 tabela de hash de endereço aberto 199 com hash duplo 199 com sondagem linear 191 198 199 202 com sondagem quadrática 198 202 207 tabela de símbolos 184 191 193 tabela dinâmica 405 analisada pelo método da contabilidade 333 336 349 analisada pelo método do potencial 330 331 335 336 337 340 342 346 349 analisada por análise agregada 330 331 332 333 334 340 349 fator de carga de 339 342 Tabelas dinâmicas 338 tabela verdade 780 789 790 791 TableDelete 339 340 342 343 344 TableInsert 339 340 341 342 343 344 TailRecursiveQuicksort 136 tal que 381 tamanho 554 556 de uma cobertura de vértices 794 de um circuito combinacional booleano 781 de um clique 791 tamanho do universo 386 388 390 397 tarefa 306 324 325 326 327 328 tarefa adiantada 324 tarefa atrasada 324 325 tautologia 777 791 taxa de crescimento 20 tempo de descoberta em busca em profundidade 440 441 442 450 tempo de execução 831 esperado 245 tempo de execução do caso médio 20 85 86 105 106 109 127 131 145 146 148 194 720 tempo de execução do melhor caso 19 36 39 118 133 tempo de execução do pior caso 416 424 425 tempo de execução esperado 245 tempo de início 302 307 308 tempo de liberação 327 tempo de término 440 441 442 446 447 450 451 tempo polinomial não determinístico 775 tempo superpolinomial 764 770 792 tentativa de Bernoulli 702 870 878 sequências 20 21 17 22 24 25 95 100 101 102 151 198 199 207 214 262 285 286 287 288 289 297 298 301 334 496 587 697 71 6 832 teorema chinês do resto 672 690 691 692 693 700 707 714 715 Teorema da divisão 673 674 teorema de Bayes 708 866 teorema de Euler 693 694 709 teorema de Fermat 693 694 703 705 teorema de Hall 536 Teorema de Lagrange 685 Teorema de Lamé 679 Teorema do caminho branco 443 teorema do fluxo máximocorte mínimo 639 Teorema do logaritmo discreto 694 teorema dos números primos 702 708 Teorema dos parênteses 441 teorema fundamental de programação linear 643 648 teorema mestre 69 70 72 74 75 76 78 79 prova do 72 teste 741 748 751 755 de primalidade 672 686 694 695 702 703 704 705 706 708 709 715 de pseudoprimalidade 703 teste de primalidade 672 686 694 695 702 703 704 705 706 708 709 715 pseudoprimalidade 703 707 teste de MillerRabin 707 texto cifrado 698 699 700 701 thread estático 560 Threading Building Blocks 900 tipo de dados 175 tipos de dados de ponto flutuante 16 TopologicalSort 446 447 448 trabalho de uma computação multithread 565 transformada chirp 664 transformada de Fourier 671 transformada discreta de Fourier 22 transformada rápida de Fourier 82 Transformada rápida de Fourier algoritmo multithread para 575 584 588 589 Aritmética modular 40 circuito para 781 789 implementação iterativa de 665 Implementação recursiva de 264 multidimensional 669 Transformada rápida de Fourier multidimensional 669 TransitiveClosure 508 Transplant 236 237 238 transposta 882 883 886 conjugada 604 de uma matriz 485 transposta conjugada 604 Treap 244 245 246 TreapInsert 244 245 246 TreeDelete 218 219 TreeInsert 215 216 218 222 TreeMinimum 213 214 218 TreePredecessor 213 214 TreeSearch 211 212 213 215 TreeSuccessor 213 214 triângulo de Pascal 862 tricotomia de intervalos 255 258 259 tricotomia intervalo 255 258 259 trie árvore digital 407 trilha 353 354 Trim 823 Troco em moedas 326 TSP 798 799 U último a entrar primeiro a sair 168 ultrapassa 740 741 742 unário 770 801 união 99 de conjuntos 858 unidade 672 673 unidade de disco 352 353 Union 459 465 UNION implementação de floresta de conjuntos disjuntos 459 implementação de lista ligada 408 universo 418 until 556 V valor 719 720 721 722 728 729 731 733 734 736 737 de uma função 615 622 de um fluxo 625 objetivo 615 616 617 619 620 623 624 628 629 630 631 635 636 638 640 641 642 643 644 645 646 647 648 650 valor esperado 223 de uma distribuição binomial 880 de uma distribuição geométrica 871 de uma variável aleatória indicadora 87 valor hash 186 187 188 191 192 195 196 valor objetivo 615 616 617 619 620 623 624 628 629 630 631 635 636 638 640 641 642 643 644 645 646 647 648 650 valor objetivo ótimo 617 619 624 641 644 645 646 648 650 variância 105 variável 87 88 97 98 101 aleatória 219 220 básica 617 628 629 630 631 633 634 635 644 645 647 de folga 621 631 não básica 617 628 629 630 632 634 que entra 634 variável aleatória 87 88 97 98 101 variável aleatória discreta 868 variável aleatória indicadora 818 análise do quicksort 164 na análise do paradoxo do aniversário 711 valor esperado de 868 variável básica 617 628 629 630 631 633 634 635 644 645 647 variável de folga 621 631 variável global 440 441 variável não básica 617 628 629 630 632 634 variável que entra 634 varredura 545 559 rotacional 738 749 varredura de Graham 738 749 750 751 755 757 763 vEBEmptyTreeInsert 402 vEBTreeDelete 403 404 vEBTreeInsert 402 403 404 406 vEBTreeMaximum 400 401 403 404 vEBTreeMember 400 vEBTREEMINIMUM 401 vEBTreePredecessor 401 402 vEBTreeSuccessor 400 401 402 406 verificação 773 algoritmo de 775 787 794 795 798 799 de árvores geradoras 467 Verificação 773 versão dirigida de um grafo não dirigido 849 850 versão não dirigida de um grafo dirigido 850 VertexCover 807 808 809 817 829 vértice 764 774 777 781 793 794 795 796 797 798 802 803 atributos de 431 de um polígono 743 751 intermediário 504 505 506 510 isolado 461 ponto de articulação 452 453 que está transbordando 538 540 543 552 557 seletor 797 vértice branco 433 436 440 441 vértice cinzento 434 444 vértice descoberto 450 vértice de sorvedouro 555 vértice fonte 625 vértice intermediário 537 vértice isolado 461 vértice não emparelhado 556 vértice preto 565 vértice que está transbordando 538 540 543 552 557 vértices adjacentes 536 vértice seletor 797 vetor coluna 883 vetor de bits 185 vetores 387 388 389 vetor linha 883 885 vetor unitário 601 606 vilões 438 VORP 301 W while 305 306 widget 795 796 797 798 803 Witness 704 705 706 707