/[smeserver]/builds_bin/update_repos
ViewVC logotype

Diff of /builds_bin/update_repos

Parent Directory Parent Directory | Revision Log Revision Log | View Revision Graph Revision Graph | View Patch Patch

Revision 1.26 by slords, Thu Nov 8 17:12:31 2007 UTC Revision 1.80 by unnilennium, Sat Mar 5 16:25:14 2016 UTC
# Line 6  use RPM2; Line 6  use RPM2;
6  use File::Find;  use File::Find;
7  use File::Basename;  use File::Basename;
8  use Getopt::Std;  use Getopt::Std;
 use Term::ANSIColor;  
9  use Data::Dumper;  use Data::Dumper;
10    
11  delete $ENV{PATH};  delete $ENV{PATH};
12  my $HOME=$ENV{HOME};  my $HOME=$ENV{HOME};
13  umask 002;  umask 002;
   
 my $rpm_flags = RPM2->vsf_nosha1header | RPM2->vsf_nomd5header | RPM2->vsf_nodsaheader | RPM2->vsf_norsaheader;  
 $rpm_flags |= RPM2->vsf_nosha1 | RPM2->vsf_nomd5 | RPM2->vsf_nodsa | RPM2->vsf_norsa;  
   
 $Term::ANSIColor::AUTORESET = 1;  
14  $| = 1;  $| = 1;
15    
 my @archs = ( 'i386', 'x86_64' );  
   
 my $repos = { 'smeos'              => { prio => 17, inc => 1, ver => 1, rel => 1, os => 1 },  
               'smeupdates'         => { prio => 16, inc => 1, ver => 1, rel => 1 },  
               'smeupdates-testing' => { prio => 15, inc => 1, ver => 1, rel => 1 },  
               'smeextras'          => { prio => 14, inc => 0, ver => 1, rel => 1 },  
               'smeaddons'          => { prio => 13, inc => 0, ver => 1, rel => 1 },  
               'smecontribs'        => { prio => 12, inc => 0, ver => 1, rel => 1 },  
               'smetest'            => { prio => 11, inc => 1, ver => 2, rel => 2, devel => 2 },  
               'smedev'             => { prio => 10, inc => 0, ver => 2, rel => 2, devel => 1 },  
               'centos'             => { prio =>  9, inc => 0, ver => 0, rel => 0, base => 1 },  
               'fedora/epel'        => { prio =>  8, inc => 0, ver => 0, rel => 0, base => 1 },  
               'fedora/extras'      => { prio =>  7, inc => 0, ver => 0, rel => 0, base => 1 },  
               'rpmforge'           => { prio =>  6, inc => 0, ver => 0, rel => 0, base => 1 },  
               'atrpms'             => { prio =>  5, inc => 0, ver => 0, rel => 0, base => 1 },  
               'fedora/core'        => { prio =>  4, inc => 0, ver => 0, rel => 0, base => 1 },  
               'base'               => { prio =>  3, inc => 0, ver => 0, rel => 0, base => 1 },  
               'builds'             => { prio =>  2, inc => 0, ver => 0, rel => 0, builds => 1 },  
               'stage'              => { prio =>  1, inc => 0, ver => 0, rel => 0, stage => 1, os => 1 },  
             };  
   
 my $distrepo = { '7' => { active => 1,  
                           centos => 4,  
                           fedora => 3,  
                           repo   => '/releases/7/',  
                           os     => 'SME/RPMS/',  
                           builds => '/builds/smeserver-7-core/',  
                           stage  => '/stage/7/',  
                         },  
                  '8' => { active => 1,  
                           centos => 5,  
                           fedora => 6,  
                           repo   => '/releases/testing/8/',  
                           os     => 'SME/',  
                           builds => '/builds/smeserver-8-core/',  
                           stage  => '/stage/8/',  
                         },  
                };  
   
 my @baserepo = ( ( map { "/mirrors/centos/~C/$_/" } ('os','updates','fasttrack','extras') ),  
                  ( map { "/mirrors/fedora/epel$_/~C/" } ('','/testing') ),  
                  '/mirrors/fedora/extras/~F/',  
                  '/mirrors/rpmforge/dag/redhat/el~C/en/~A/RPMS.dag/',  
                  '/mirrors/rpmforge/dag/source/',  
                  ( map { "/mirrors/atrpms$_/el~C-~A/atrpms/stable/" } ('','/src') ),  
                  ( map { "/mirrors/atrpms$_/el~C-~A/atrpms/testing/" } ('','/src') ),  
                  ( map {"/mirrors/fedora/core$_/~F/" } ('','/updates') ),  
                );  
   
 my $skippkg = { '7' => { 'centos'           => ['horde','imp-h3','ingo-h3','turba-h3','vim'],  
                          'fedora/epel'      => ['perl-Razor-Agent'],  
                          'rpmforge'         => ['perl-Test-Inline'],  
                          'atrpms'           => ['dovecot','yum'],  
                        },  
                 '8' => { 'centos'           => ['horde','imp-h3','ingo-h3','turba-h3'],  
                          'fedora/epel'      => ['perl-Razor-Agent','smolt'],  
                          'fedora/extras'    => ['dstat','gocr','horde','oidentd','perl-Test-Inline','perl-Razor-Agent','smolt'],  
                          'rpmforge'         => ['perl-Test-Inline'],  
                          'atrpms'           => [],  
                          'fedora/core'      => [],  
                        },  
               };  
   
16  my %opts;  my %opts;
17  getopts( 'dtvr:', \%opts );  getopts( 'ostr:', \%opts );
18  $opts{r} ||= '';  $opts{r} ||= '';
19    
20    my $rpm_flags = RPM2->vsf_nodsaheader | RPM2->vsf_norsaheader | RPM2->vsf_nodsa | RPM2->vsf_norsa;
21    
22    my $osdir = 'SME';
23    my $disttag = 'sme';
24    my $repotag = 'sme';
25    
26    my $distrepo = { '8' => { active    => 1,
27                              centos    => 5,
28                              archs     => [ 'i386', 'x86_64' ],
29                              repo      => '/build/smeserver/repo/8/',
30                              builds    => ['/build/builds/smeserver-8-core/'],
31                              community => '/build/builds/smeserver-8-contribs/',
32                              stage     => '/build/smeserver/stage/8/',
33                              sign      => 1,
34                              keyname   => 'SME Server 7 signing key <bugteam@contribs.org>',
35                              checksum  => 'sha',
36                            },
37                     '9' => { active    => 1,
38                              centos    => 6,
39                              archs     => [ 'i386', 'x86_64' ],
40                              repo      => '/build/smeserver/repo/9/',
41                              builds    => ['/build/builds/smeserver-9-core/'],
42                              community => '/build/builds/smeserver-9-contribs/',
43                              stage     => '/build/smeserver/stage/9/',
44                              sign      => 1,
45                              keyname   => 'SME Server 7 signing key <bugteam@contribs.org>',
46                              checksum  => 'sha256',
47                            },
48                     '10' => { active   => 0,
49                              centos    => 7,
50                              archs     => [ 'x86_64' ],
51                              repo      => '/build/smeserver/repo/testing/10/',
52                              builds    => ['/build/builds/smeserver-10-core/'],
53                              community => '/build/builds/smeserver-10-contribs/',
54                              stage     => '/build/smeserver/stage/10/',
55                              sign      => 1,
56                              keyname   => 'SME Server 7 signing key <bugteam@contribs.org>',
57                              checksum  => 'sha256',
58                            },
59                   };
60    
61    my $repos = { "${repotag}os"              => { prio => 19, inc => 1, ver => 1, rel => 1, os => 1 },
62                  "${repotag}updates"         => { prio => 18, inc => 1, ver => 1, rel => 1 },
63                  "${repotag}updates-testing" => { prio => 17, inc => 1, ver => 1, rel => 3 },
64                  "${repotag}extras"          => { prio => 16, inc => 0, ver => 1, rel => 1 },
65                  "${repotag}addons"          => { prio => 15, inc => 0, ver => 1, rel => 1 },
66                  "${repotag}contribs"        => { prio => 14, inc => 0, ver => 1, rel => 1 },
67                  "${repotag}test"            => { prio => 13, inc => 0, ver => 2, rel => 3, devel => 2 },
68                  "${repotag}dev"             => { prio => 12, inc => 0, ver => 1, rel => 1, devel => 1 },
69                  'centos'                    => { prio => 10, inc => 0, ver => 0, rel => 0, orig => 1, base => 1 },
70                  'epel'                      => { prio =>  9, inc => 0, ver => 0, rel => 0, orig => 1, base => 1 },
71                  'rpmforge'                  => { prio =>  7, inc => 0, ver => 0, rel => 0, orig => 1, base => 1 },
72                  'atrpms'                    => { prio =>  6, inc => 0, ver => 0, rel => 0, orig => 1, base => 1 },
73                  'builds'                    => { prio =>  4, inc => 0, ver => 0, rel => 0, orig => 1 },
74                  'community'                 => { prio =>  2, inc => 0, ver => 0, rel => 0, orig => 1 },
75                  'stage'                     => { prio =>  1, inc => 0, ver => 0, rel => 0, stage => 1, os => 1 },
76                };
77    
78    my $baserepo = { "~S${repotag}os/~A/" => "${repotag}os",
79                     "~S${repotag}updates/~A/" => "${repotag}updates",
80                     "~S${repotag}updates-testing/~A/" => "${repotag}updates-testing",
81                     "~S${repotag}extras/~A/" => "${repotag}extras",
82                     "~S${repotag}addons/~A/" => "${repotag}addons",
83                     "~S${repotag}contribs/~A/" => "${repotag}contribs",
84                     "~S${repotag}test/~A/" => "${repotag}test",
85                     "~S${repotag}dev/~A/" => "${repotag}dev",
86                     "/build/smeserver/stage/~s/~A/" => 'stage',
87                     '/mirrors/centos/~C/fasttrack/~A/' => 'centos',
88                     '/mirrors/centos/~C/updates/~A/' => 'centos',
89                     '/mirrors/centos/~C/os/~A/' => 'centos',
90                     '/mirrors/centos/~C/extras/~A/' => 'centos',
91                     '/mirrors/centos-vault/~C/fasttrack/~A/' => 'centos',
92                     '/mirrors/centos-vault/~C/updates/~A/' => 'centos',
93                     '/mirrors/centos-vault/~C/os/~A/' => 'centos',
94                     '/mirrors/centos-vault/~C/extras/~A/' => 'centos',
95                     '/mirrors/fedora/epel/~C/~A/' => 'epel',
96                     '/mirrors/fedora/epel/testing/~C/~A/' => 'epel',
97                     '/mirrors/rpmforge/redhat/el~C/en/~A/dag/' => 'rpmforge',
98                     '/mirrors/rpmforge/redhat/el~C/en/~A/extras/' => 'rpmforge',
99                     '/mirrors/rpmforge/source/' => 'rpmforge',
100                     '/mirrors/atrpms/el~C-~A/atrpms/stable/' => 'atrpms',
101                     '/mirrors/atrpms/el~C-~A/atrpms/testing/' => 'atrpms',
102                     '/mirrors/atrpms/src/el~C-~A/atrpms/stable/' => 'atrpms',
103                     '/mirrors/atrpms/src/el~C-~A/atrpms/testing/' => 'atrpms',
104                   };
105    
106    my $skippkg = { '8'  => { 'atrpms'        => { map { $_ => 1 } ( 'clamav', 'gnupg' ) },
107                              'centos'        => { map { $_ => 1 } ( 'horde', 'imp-h3', 'ingo-h3', 'turba-h3' ) },
108                              'epel'          => { map { $_ => 1 } ( 'clamav', 'fping', 'html2ps', 'horde', 'libtalloc', 'libtdb', 'oidentd', 'perl-Compress-Bzip2', 'perl-Compress-Raw-Zlib', 'perl-Compress-Raw-Bzip2', 'perl-Crypt-OpenSSL-Bignum', 'perl-Crypt-OpenSSL-Random', 'perl-Crypt-OpenSSL-RSA', 'perl-Razor-Agent', 'smolt' ) },
109                              'rpmforge'      => { map { $_ => 1 } ( 'dovecot', 'libtalloc', 'mod_auth_tkt', 'perl-Test-Inline', 'spamassassin' ) },
110                            },
111                    '9'  => { 'atrpms'        => { map { $_ => 1 } ( 'clamav', 'perl-Pod-Escapes', 'perl-Pod-Simple' ) },
112                              'epel'          => { map { $_ => 1 } ( 'oidentd', 'perl-Razor-Agent' ) },
113                              'rpmforge'      => { map { $_ => 1 } ( 'perl-CGI', 'perl-Compress-Raw-Zlib', 'perl-ExtUtils-ParseXS', 'perl-Pod-Escapes', 'perl-Pod-Simple', 'perl-Time-HiRes', 'perl-version', 'spamassassin' ) },
114                            },
115                    '10' => {
116                            },
117                  };
118    
119    my ($stage) = sort { $repos->{$a}->{stage} <=> $repos->{$b}->{stage} } grep { $repos->{$_}->{stage} } keys %$repos;
120  my ($devel1, $devel2) = sort { $repos->{$a}->{devel} <=> $repos->{$b}->{devel} } grep { $repos->{$_}->{devel} } keys %$repos;  my ($devel1, $devel2) = sort { $repos->{$a}->{devel} <=> $repos->{$b}->{devel} } grep { $repos->{$_}->{devel} } keys %$repos;
121  $devel2 ||= $devel1;  $devel2 ||= $devel1;
 my ($stage) = sort { $repos->{$a}->{stage} <=> $repos->{$b}->{stage} } grep { $repos->{$_}->{stage} } keys %$repos;  
122    
123  my ($rel, @rpms, %latest, %sources, $archs, $rebuild, $newline);  my ($rpms, %base, %latest, %sources);
124  foreach my $smever ( sort { $a <=> $b } grep { $distrepo->{$_}->{active} } keys %$distrepo ) {  foreach my $ver ( sort { $a <=> $b } keys %$distrepo ) {
125      $rel = $smever;      next unless $distrepo->{$ver}->{active};
126        my %repochg = ();
127        $rpms = ();
128      %latest = ();      %latest = ();
129      %sources = ();      %sources = ();
130      @rpms = ();      %base = ();
     $rebuild = ();  
131    
132      # Load distro packages      @{$distrepo->{$ver}->{all_archs}} = ('noarch', @{$distrepo->{$ver}->{'archs'}});
133      find( { wanted => \&loadpkg, no_chdir => 1, follow_fast => 1 },  map { $distrepo->{$smever}->{$_} } ('repo','builds','stage') );      if ( grep $_ eq 'i386', @{$distrepo->{$ver}->{'archs'}} ) {
134      printline('white', 0, "Distro (SME Server $rel) packages loaded.\n");          push @{$distrepo->{$ver}->{all_archs}}, ('i586', 'i686');
135        }
136      # Load base packages  
137      foreach my $base ( @baserepo ) {      foreach my $dir  ( sort { $repos->{$baserepo->{$b}}->{prio} <=> $repos->{$baserepo->{$a}}->{prio} || $a cmp $b } keys %$baserepo ) {
138          my $bdir = $base;          my $bdir = $dir;
139          $bdir =~ s/~C/$distrepo->{$smever}->{centos}/;          $bdir =~ s/~S/$distrepo->{$ver}->{repo}/;
140          $bdir =~ s/~F/$distrepo->{$smever}->{fedora}/;          $bdir =~ s/~s/$ver/;
141          if ( $bdir =~ m{~A} ) {          $bdir =~ s/~C/$distrepo->{$ver}->{centos}/;
142              for my $arch ( @archs ) {          for my $arch ( @{$distrepo->{$ver}->{'archs'}}, 'SRPMS/' ) {
143                  my $basearch = $bdir;              my $adir = $bdir;
144                  $basearch =~ s/~A/$arch/;              if ( $arch eq 'SRPMS/' ) {
145                  find( { wanted => \&loadbase, no_chdir => 1, follow_fast => 1 }, $basearch ) if -r $basearch;                  $adir =~ s/~A.*//;
146              }                  if ( -d "${adir}SRPMS" ) {
147          } else {                      $adir .= "SRPMS/";
148              find( { wanted => \&loadbase, no_chdir => 1, follow_fast => 1 }, $bdir ) if -r $bdir;                  } elsif ( -d "${adir}Source/SPackages" ) {
149          }                      $adir .= "Source/SPackages/";
150                    }
151                } else {
152                    $adir =~ s/~A/$arch/;
153                    if ( -d "${adir}RPMS" ) {
154                        $adir .= "RPMS/";
155                    } elsif ( -d "${adir}Packages" ) {
156                        $adir .= "Packages/";
157                    } elsif ( -d "${adir}CentOS" ) {
158                        $adir .= "CentOS/";
159                    } elsif ( -d "${adir}$osdir" ) {
160                        $adir .= "$osdir/";
161                    }
162                }
163                next unless -d $adir;
164                opendir DIR, $adir or next;
165                process_rpm("$adir$_", $ver, $baserepo->{$dir}) foreach readdir DIR;
166                closedir DIR;
167                last unless $dir =~ m{~A};
168            }
169        }
170        find( { wanted => sub { process_rpm($_, $ver, 'builds'); }, no_chdir => 1, follow_fast => 1 }, "$_" ) foreach @{$distrepo->{$ver}->{'builds'}};
171        find( { wanted => sub { process_rpm($_, $ver, 'community'); }, no_chdir => 1, follow_fast => 1 }, $distrepo->{$ver}->{'community'} ) if $distrepo->{$ver}->{'community'};
172    
173        foreach my $base ( sort keys %$rpms ) {
174            next unless $rpms->{$base}->{rpms};
175            my %track = ();
176            my %seen = ();
177            my %counts = ();
178            my $acnt = ();
179            my $print = 0;
180            %latest = ();
181    
182            foreach my $pkg ( sort { $b->{rpm} cmp $a->{rpm} } @{$rpms->{$base}->{rpms}} ) {
183                next if $pkg->{done};
184    
185                my $tmp = $pkg->{svr};
186                # srpm transformations to match up binary and source rpms
187                SRC: {
188                    # Try to find the name the binary wants (no changes)
189                    $rpms->{$base}->{vers}->{$tmp}                       && last SRC;
190    
191                    # rpmforge (.el4.rf to .rf, with rf,rfb,rft,rfx endings)
192                    ($tmp = $pkg->{svr}) =~ s{\.el\d(\.rf[btx]?)$}{$1}   && $rpms->{$base}->{vers}->{$tmp} && last SRC;
193                    # rpmforge (.el4.rfx to .rf, rfb,rft,rfx switched to rf)
194                    ($tmp = $pkg->{svr}) =~ s{\.el\d(\.rf)[btx]$}{$1}    && $rpms->{$base}->{vers}->{$tmp} && last SRC;
195                    # rpmforge (.el4.rf to .rfx, rf,rfb,rft,rfx switched to rfx)
196                    ($tmp = $pkg->{svr}) =~ s{\.el\d(\.rf)[btx]?$}{$1x}   && $rpms->{$base}->{vers}->{$tmp} && last SRC;
197                    # rpmforge (.el4.rf to .el5) TODO: remove when no longer needed
198                    ($tmp = $pkg->{svr}) =~ s{\.el\d\.rf$}{.el5}         && $rpms->{$base}->{vers}->{$tmp} && last SRC;
199                    # rpmforge (.2.el4.rf to .rf, minor modification not pushed to source?) TODO: remove when no longer needed
200                    ($tmp = $pkg->{svr}) =~ s{\.2\.el\d(\.rf)$}{$1}      && $rpms->{$base}->{vers}->{$tmp} && last SRC;
201    
202                    # atrpms (remove .at)
203                    ($tmp = $pkg->{svr}) =~ s{\.at$}{}                   && $rpms->{$base}->{vers}->{$tmp} && last SRC;
204                    # atrpms (remove .el4.at)
205                    ($tmp = $pkg->{svr}) =~ s{\.el\d\.at$}{}             && $rpms->{$base}->{vers}->{$tmp} && last SRC;
206                    # atrpms (remove .el4)
207                    ($tmp = $pkg->{svr}) =~ s{\.el\d$}{}                 && $rpms->{$base}->{vers}->{$tmp} && last SRC;
208                    # atrpms (remove .0.el5, minor modification not pushed to source?) TODO: remove when no longer needed
209                    ($tmp = $pkg->{svr}) =~ s{\.0\.el\d$}{}              && $rpms->{$base}->{vers}->{$tmp} && last SRC;
210    
211                    # Transformations that we hopefully won't have to use anymore TODO: remove if no issues
212                    #($tmp = $pkg->{svr}) =~ s{(\.el\d)\.rf$}{$1}             && $rpms->{$base}->{vers}->{$tmp} && last SRC;
213                    #($tmp = $pkg->{svr}) =~ s{(\d+)\.\d+(\.rf)$}{$1$2}       && $rpms->{$base}->{vers}->{$tmp} && last SRC;
214                    #($tmp = $pkg->{svr}) =~ s{\.el\d\.rf$}{.dag}             && $rpms->{$base}->{vers}->{$tmp} && last SRC;
215                    #($tmp = $pkg->{svr}) =~ s{(\d+)\.\d+\.el\d\.rf$}{$1.dag} && $rpms->{$base}->{vers}->{$tmp} && last SRC;
216                    #($tmp = $pkg->{svr}) =~ s{\.el\d_}{_}                    && $rpms->{$base}->{vers}->{$tmp} && last SRC;
217                    #($tmp = $pkg->{svr}) =~ s{(-\d+)\.\d+\.el\d$}{$1}        && $rpms->{$base}->{vers}->{$tmp} && last SRC;
218                    #($tmp = $pkg->{svr}) =~ s{\.centos\d$}{}                 && $rpms->{$base}->{vers}->{$tmp} && last SRC;
219                    #($tmp = $pkg->{svr}) =~ s{\.at$}{}                       && $rpms->{$base}->{vers}->{$tmp} && last SRC;
220                    #($tmp = $pkg->{svr}) =~ s{\.el\d\.$disttag$}{            && $rpms->{$base}->{vers}->{$tmp} && last SRC;
221                }
222                if ( $rpms->{$base}->{vers}->{$tmp} ) {
223                    foreach $tmp ( @{$rpms->{$base}->{vers}->{$tmp}} ) {
224                        $tmp->{svr} = $pkg->{svr};
225                        push @{$rpms->{$base}->{rpms}}, $tmp unless $tmp->{added};
226                        $tmp->{added}++;
227                    }
228                }
229    
230                my %orig = ();
231                my %pkgs = ();
232                my %reposrc = ();
233                my $srpm = undef;
234                foreach my $cmp ( sort { $a->{src} <=> $b->{src} || $repos->{$b->{repo}}->{prio} <=> $repos->{$a->{repo}}->{prio} } @{$rpms->{$base}->{rpms}} ) {
235                    next unless $cmp->{svr} eq $pkg->{svr};
236    
237                    if ( ! $track{repo} || $repos->{$cmp->{repo}}->{prio} > $repos->{$track{repo}}->{prio} ) {
238                        if ( $cmp->{src} ) {
239                            if ( ! $track{repo} ) {
240                                $cmp->{delete}++;
241                                $cmp->{done}++;
242                                next;
243                            }
244                        } else {
245                            $track{repo} = $cmp->{repo};
246                            $track{svr} = $cmp->{svr};
247                        }
248                    }
249                    if ( $cmp->{svr} eq $track{svr} ) {
250                        if ( $seen{$cmp->{nvra}} ) {
251                            if ( $track{repo} ne $cmp->{repo} ) {
252                                if ($repos->{$cmp->{repo}}->{stage} ) {
253                                    if ( $seen{$cmp->{nvra}}->{latest} ) {
254                                        $seen{$cmp->{nvra}}->{latest}++;
255                                        delete $cmp->{delete} if $cmp->{delete};
256                                    } else {
257                                        $cmp->{delete}++;
258                                    }
259                                } elsif ( $repos->{$cmp->{repo}}->{orig} ) {
260                                    $orig{$cmp->{nvra}}++;
261                                    unless ( $repos->{$cmp->{repo}}->{base} ) {
262                                        my $tag = dirname(dirname($cmp->{rpm}->{filename}));
263                                        qx(touch $tag/PUSHED) if ! $opts{t} && -d $tag && ! -f "$tag/PUSHED";
264                                    }
265                                } elsif ( $cmp->{src} ) {
266                                    if ( $cmp->{delete} && $cmp->{oldrepo} && $reposrc{$cmp->{oldrepo}}) {
267                                        $cmp->{repo} = $cmp->{oldrepo};
268                                        delete $cmp->{delete};
269                                    }
270                                    if ( $reposrc{$cmp->{repo}} ) {
271                                        $reposrc{$cmp->{repo}}->{srpm} = $cmp;
272                                        $srpm = $cmp if ! $srpm;
273                                    } elsif ( $seen{$cmp->{nvra}}->{repo} ne $cmp->{repo} && ! $cmp->{done} ) {
274                                        $cmp->{delete}++;
275                                    }
276                                } elsif ( $seen{$cmp->{nvra}}->{repo} ne $cmp->{repo} ) {
277                                    $cmp->{delete}++;
278                                }
279                            } elsif ( $cmp->{src} ) {
280                                if ( $reposrc{$cmp->{repo}} && $reposrc{$cmp->{repo}}->{srpm} && $reposrc{$cmp->{repo}}->{srpm}->{oldrepo} ne $cmp->{repo} ) {
281                                    $acnt->{$cmp->{repo}}->{$cmp->{rpm}->as_nvre}->{src} = [
282                                        grep { $_ ne $reposrc{$cmp->{repo}}->{srpm} } @{$acnt->{$cmp->{repo}}->{$cmp->{rpm}->as_nvre}->{src}}
283                                    ];
284    
285                                    if ( @{$reposrc{$cmp->{repo}}->{srpm}->{repos}} == 1 ) {
286                                        $reposrc{$cmp->{repo}}->{srpm}->{repo} = $reposrc{$cmp->{repo}}->{srpm}->{oldrepo};
287                                        delete $reposrc{$cmp->{repo}}->{srpm}->{oldrepo};
288                                        delete $reposrc{$cmp->{repo}}->{srpm}->{delete};
289                                        delete $reposrc{$cmp->{repo}}->{srpm}->{repos};
290                                        delete $reposrc{$cmp->{repo}}->{srpm}->{done};
291                                        $seen{$cmp->{nvra}} = $cmp if $seen{$cmp->{nvra}} eq $reposrc{$cmp->{repo}}->{srpm};
292                                    } else {
293                                        warn "How did I get here??";
294                                    }
295                                } else {
296                                    $seen{$cmp->{nvra}} = $cmp if $seen{$cmp->{nvra}}->{repo} ne $cmp->{repo};
297                                }
298                                $srpm = $cmp if ! $srpm && $cmp->{src};
299                                $reposrc{$cmp->{repo}}->{srpm} = $cmp if $reposrc{$cmp->{repo}};
300                            }
301                        } elsif ( $repos->{$cmp->{repo}}->{stage} ) {
302                            $cmp->{delete}++;
303                        } elsif ( $cmp->{src} || grep $_ eq $cmp->{rpm}->arch, @{$distrepo->{$ver}->{all_archs}} ) {
304                            $srpm = $cmp if ! $srpm && $cmp->{src};
305                            my $dest = $repos->{$track{repo}}->{prio} > $repos->{$devel2}->{prio} ? $track{repo} : $devel2;
306                            $dest = pkgdest($cmp, $devel1, $dest, $rpms->{$base}->{rpms});
307                            $dest = $devel1 if verrel($cmp, $dest, \%counts);
308                            if ( $cmp->{repo} ne $dest ) {
309                                push @{$cmp->{repos}}, $dest;
310                                if ( $repos->{$cmp->{repo}}->{orig} ) {
311                                    $orig{$cmp->{nvra}}++;
312                                    unless ( $repos->{$cmp->{repo}}->{base} ) {
313                                        my $tag = dirname(dirname($cmp->{rpm}->{filename}));
314                                        qx(touch $tag/PUSHED) if ! $opts{t} && -d $tag && ! -f "$tag/PUSHED";
315                                    }
316                                } elsif ( $cmp->{src} && $reposrc{$cmp->{repo}} ) {
317                                    $reposrc{$cmp->{repo}}->{srpm} = $cmp;
318                                } else {
319                                    $cmp->{delete}++;
320                                }
321                                $cmp->{oldrepo} = $cmp->{repo} unless $cmp->{oldrepo};
322                                $cmp->{repo} = $dest;
323                                if ( ! $cmp->{src} && $repos->{$dest}->{prio} > $repos->{$track{repo}}->{prio} ) {
324                                    $track{repo} = $dest;
325                                    $track{svr} = $cmp->{svr};
326                                }
327                            }
328                            if ( $cmp->{src} && $reposrc{$cmp->{repo}} ) {
329                                $reposrc{$cmp->{repo}}->{srpm} = $cmp;
330                            }
331                        }
332                    } else {
333                        if ( $track{repo} eq $cmp->{repo} ) {
334                            if ( verrel($cmp, $cmp->{repo}, \%counts) ) {
335                                $cmp->{delete}++ unless $repos->{$cmp->{repo}}->{base};
336                            } elsif ( $cmp->{src} ) {
337                                $cmp->{delete}++ unless $repos->{$cmp->{repo}}->{base};
338                            } else {
339                                $track{svr} = $cmp->{svr};
340                            }
341                        } elsif ( ! $repos->{$cmp->{repo}}->{base} ) {
342                            if ( $repos->{$cmp->{repo}}->{orig} ) {
343                                $srpm = $cmp if ! $srpm && $cmp->{src};
344                                my $dest = $repos->{$track{repo}}->{prio} > $repos->{$devel2}->{prio} ? $track{repo} : $devel2;
345                                $dest = pkgdest($cmp, $devel1, $dest, $rpms->{$base}->{rpms});
346                                $dest = $devel1 if verrel($cmp, $dest, \%counts);
347                                unless ( $cmp->{src} && ! $reposrc{$dest} ) {
348                                    if ( $repos->{$dest}->{prio} >= $repos->{$track{repo}}->{prio} && ! verrel($cmp, $dest, \%counts) ) {
349                                        unless ( $repos->{$cmp->{repo}}->{base} ) {
350                                            my $tag = dirname(dirname($cmp->{rpm}->{filename}));
351                                            qx(touch $tag/PUSHED) if ! $opts{t} && -d $tag && ! -f "$tag/PUSHED";
352                                        }
353                                        push @{$cmp->{repos}}, $dest;
354                                        $cmp->{oldrepo} = $cmp->{repo} unless $cmp->{oldrepo};
355                                        $cmp->{repo} = $dest;
356                                        $reposrc{$cmp->{repo}}->{srpm} = $cmp if $cmp->{src};
357                                        $orig{$cmp->{nvra}}++;
358                                    }
359                                }
360                            } else {
361                                $cmp->{delete}++;
362                            }
363                        }
364                    }
365                    unless ( $repos->{$cmp->{repo}}->{orig} || ( $cmp->{delete} && ! $cmp->{repos} ) ) {
366                        $pkgs{$cmp->{nvra}}++;
367                        $latest{$cmp->{base}} = $cmp->{svr} if $repos->{$cmp->{repo}}->{inc} && ! $latest{$cmp->{base}};
368                        $reposrc{$cmp->{repo}} = $cmp unless $reposrc{$cmp->{repo}} || $cmp->{src} || $repos->{$cmp->{repo}}->{stage};
369                        if ( $latest{$cmp->{base}} && $cmp->{svr} eq $latest{$cmp->{base}} && $repos->{$cmp->{repo}}->{inc} ) {
370                            $cmp->{latest}++ if ! $seen{$cmp->{nvra}} || $cmp->{src};
371                        }
372                        $seen{$cmp->{nvra}} = $cmp unless $seen{$cmp->{nvra}};
373                        push @{$acnt->{$cmp->{repo}}->{$cmp->{rpm}->as_nvre}->{$cmp->{src} ? 'src' : $cmp->{rpm}->arch}}, $cmp unless $cmp->{done};
374                    }
375                    $cmp->{done}++;
376                }
377                if ( $srpm ) {
378                    foreach my $r ( sort { $repos->{$b}->{prio} <=> $repos->{$a}->{prio} } keys %reposrc ) {
379                        unless ( $reposrc{$r}->{srpm} ) {
380                            unshift @{$srpm->{repos}}, $r;
381                            $srpm->{oldrepo} = $srpm->{repo} unless $srpm->{oldrepo};
382                            $srpm->{repo} = $r;
383                            $reposrc{$r}->{srpm} = $srpm;
384                        }
385                    }
386                } elsif ( scalar keys %pkgs && $opts{s} ) {
387                    print "\n * missing source ($disttag$ver, ", $pkg->{repo}, ", ", $pkg->{svr}, ")\n";
388                }
389                print "\n * missing originals ($disttag$ver, ", $pkg->{repo}, ", ", $pkg->{svr}, ")\n" if $opts{o} && scalar keys %orig != scalar keys %pkgs;
390            }
391    
392            foreach my $r ( keys %$acnt ) {
393                foreach my $p ( keys %{$acnt->{$r}} ) {
394                    foreach my $a ( keys %{$acnt->{$r}->{$p}} ) {
395                        if ( $a eq 'noarch' ) {
396                            my $p2 = ${$acnt->{$r}->{$p}->{$a}}[0];
397                            if ( ! $p2->{repos} && scalar @{$acnt->{$r}->{$p}->{$a}} != scalar @{$distrepo->{$ver}->{'archs'}} ) {
398                                $p2->{oldrepo} = $p2->{repo};
399                                push @{$p2->{repos}}, $p2->{repo};
400                            }
401                        } elsif ( scalar @{$acnt->{$r}->{$p}->{$a}} != 1 ) {
402                            print "\n * many packages ($r, $a, $p)\n" unless $p =~ m{^syslinux-nonlinux-[0-9]};
403                        }
404                    }
405                }
406            }
407    
408            foreach my $pkg ( sort { $a->{nvra} cmp $b->{nvra} } @{$rpms->{$base}->{rpms}} ) {
409                if ( $pkg->{latest} && $pkg->{latest} == 1 ) {
410                    unless ( grep { $_->{nvra} eq $pkg->{nvra} && $_->{repo} eq $stage } @{$rpms->{$base}->{rpms}} ) {
411                        $pkg->{oldrepo} = $pkg->{repo} unless $pkg->{oldrepo};
412                        $pkg->{repo} = $stage;
413                        push @{$pkg->{repos}}, $stage;
414                    }
415                }
416    
417                if ( ! $print && ($pkg->{delete} || $pkg->{repos} || ( ! $repos->{$pkg->{repo}}->{base} && $pkg->{nosig} && $distrepo->{$ver}->{sign} ) ) ) {
418                    print "\n$base ($disttag$ver)\n", "=" x length("$base ($disttag$ver)"), "\n";
419                    $print++;
420                }
421    
422                my $src = $pkg->{rpm}->filename;
423                if ( ! $repos->{$pkg->{repo}}->{base} && $pkg->{nosig} && $distrepo->{$ver}->{sign} ) {
424                    print "sign package (", basename($pkg->{rpm}->filename), ")\n";
425                    unless ( $opts{t} ) {
426                        qx(cat $HOME/.rpmpass | setsid rpm -D '_gpg_name  $distrepo->{$ver}->{keyname}' --addsign $src >& /dev/null);
427                        if ($?) {
428                            print " * failed to sign package\n";
429                            next;
430                        }
431                    }
432                }
433    
434                if ( $pkg->{repos} ) {
435                    foreach my $repo ( @{$pkg->{repos}} ) {
436                        if ( $pkg->{delete} ) {
437                            print "move from ", $pkg->{oldrepo}, " to $repo (", basename($pkg->{rpm}->filename), ")\n";
438                            $pkg->{delete} = 0;
439                            $repochg{$pkg->{oldrepo}}++ unless $repos->{$pkg->{oldrepo}}->{base} || $repos->{$pkg->{oldrepo}}->{stage};
440                        } elsif ( $pkg->{oldrepo} eq $repo ) {
441                            print "distribute noarch in $repo (", basename($pkg->{rpm}->filename), ")\n";
442                        } else {
443                            print "copy from ", $pkg->{oldrepo}, " to $repo (", basename($pkg->{rpm}->filename), ")\n";
444                        }
445                        $repochg{$repo}++ unless $repos->{$repo}->{base} || $repos->{$repo}->{stage};
446                        $pkg->{oldrepo} = $repo unless $pkg->{oldrepo} eq ${$pkg->{repos}}[0];
447    
448                        my @d = ();
449                        my $head = $distrepo->{$ver}->{repo} . $repo . '/';
450                        $head = $distrepo->{$ver}->{stage} if $repos->{$repo}->{stage};
451                        my $tail = $repos->{$repo}->{os} ? "$osdir/" : 'RPMS/';
452                        if ( $pkg->{src} ) {
453                            push @d, "${head}SRPMS/" . basename($pkg->{rpm}->filename);
454                        } elsif ( $pkg->{rpm}->arch eq 'noarch' ) {
455                            push @d, map { "${head}$_/$tail" . basename($pkg->{rpm}->filename) } @{$distrepo->{$ver}->{'archs'}};
456                        } elsif ($ver>=10 && $pkg->{rpm}->arch =~ m{^(i[356]86)$}  && $pkg->{arch} =~ m{^(x86_64)$}  ) {
457                           #add copy of i686 packages in x86_64 folder for SME>=10
458                           push @d, map { "${head}$_/$tail" . basename($pkg->{rpm}->filename) } @{$distrepo->{$ver}->{'archs'}};
459                        } elsif ( $pkg->{rpm}->arch =~ m{^(i[356]86)$} ) {
460                            push @d, "${head}i386/$tail" . basename($pkg->{rpm}->filename);
461                        } else {
462                            push @d, $head . $pkg->{rpm}->arch . "/$tail" . basename($pkg->{rpm}->filename);
463                        }
464                        foreach my $dest ( @d ) {
465                            qx(cp --preserve=timestamps $src $dest) unless $opts{t} || -f "$dest";
466                        }
467    
468                    }
469                    qx(rm -f $src) if exists $pkg->{delete} && ! $opts{t};
470                } elsif ( $pkg->{delete} ) {
471                    print "delete from ", $pkg->{repo}, " (", $pkg->{arch}, ", ", basename($pkg->{rpm}->filename), ")\n";
472                    qx(rm -f $src) unless $opts{t};
473                    $repochg{$pkg->{repo}}++ unless $repos->{$pkg->{repo}}->{base} || $repos->{$pkg->{repo}}->{stage};
474                    if ( $repos->{$pkg->{repo}}->{orig} && ! $repos->{$pkg->{repo}}->{base} ) {
475                        my $tag = dirname(dirname($pkg->{rpm}->{filename}));
476                        qx(rm -f $tag/PUSHED) if ! $opts{t} && -d $tag && -f "$tag/PUSHED";
477                    }
478                }
479            }
480    
481            if ( $rpms->{$base}->{srpms} ) {
482                foreach my $pkg ( sort { $b->{rpm} cmp $a->{rpm} } @{$rpms->{$base}->{srpms}} ) {
483                    next if $pkg->{done} || $repos->{$pkg->{repo}}->{orig} || $repos->{$pkg->{repo}}->{base};
484                    $pkg->{delete}++;
485                    my $src = $pkg->{rpm}->filename;
486                    if ( ! $print && ($pkg->{delete} || $pkg->{repos} || ( $pkg->{nosig} && $distrepo->{$ver}->{sign} ) ) ) {
487                        print "\n$base ($disttag$ver)\n", "=" x length("$base ($disttag$ver)"), "\n";
488                        $print++;
489                    }
490                    print "delete from ", $pkg->{repo}, " (", $pkg->{arch}, ", ", basename($pkg->{rpm}->filename), ")\n";
491                    qx(rm -f $src) unless $opts{t};
492                    $repochg{$pkg->{repo}}++ unless $repos->{$pkg->{repo}}->{base} || $repos->{$pkg->{repo}}->{stage};
493                }
494            }
495        }
496    
497        if ( %repochg ) {
498            print "\nrebuild repo ($disttag$ver)\n", "=" x length("rebuild repo ($disttag$ver)"), "\n";
499        }
500        foreach my $repo ( sort { $repos->{$b}->{prio} <=> $repos->{$a}->{prio} } keys %repochg ) {
501            next if $repos->{$repo}->{orig} || $repos->{$repo}->{stage};
502            foreach my $arch ( @{$distrepo->{$ver}->{'archs'}} ) {
503                my $dir = $distrepo->{$ver}->{repo} . "$repo/$arch";
504                $dir = qx(readlink -f $dir);
505                if ( $dir ) {
506                    chomp $dir;
507                } else {
508                    $dir = $distrepo->{$ver}->{repo} . "$repo/$arch";
509                }
510                print "rebuild $repo/$arch\n";
511                unless ( $opts{t} ) {
512                    my $checksum = "--checksum $distrepo->{$ver}->{checksum}";
513    
514                    my $exclude = "";
515                    $exclude .= " --exclude ${osdir}/*" if -d "$dir/Packages";
516                    $exclude .= " --exclude *smeserver-release*.rpm" if $dir =~ m{test/|-testing/};
517    
518                    my $groupfile = "";
519                    $groupfile = "--simple-md-filenames --groupfile repodata/comps.xml" if -f "$dir/repodata/comps.xml";
520    
521                    qx(createrepo --update --database --exclude *.src.rpm --exclude *-debuginfo-*.rpm $checksum $exclude $groupfile $dir);
522                    qx(repoview $dir);
523    
524                    qx(rm -rf $dir/.olddata) if -d "$dir/.olddata";
525                    qx(rm -rf $dir/.repodata) if -d "$dir/.repodata";
526                    qx(rm -rf $dir/repodata/index.html) if -f "$dir/repodata/index.html";
527                    qx(rm -rf $dir/repodata/update-info) if -d "$dir/repodata/update-info";
528                    qx(rm -rf $dir/repodata/repoview) if -d "$dir/repodata/repoview";
529                }
530            }
531        }
532        unless ( $opts{t} ) {
533            foreach (@{$distrepo->{$ver}->{'builds'}})
534            {
535                finddepth(sub{rmdir}, "$_") if -d "$_";
536            }
537            finddepth(sub{rmdir}, $distrepo->{$ver}->{'community'}) if -d "$distrepo->{$ver}->{'community'}";
538      }      }
     printline('white', 0, 'Base (Centos: ', $distrepo->{$smever}->{centos}, ', Fedora: ', $distrepo->{$smever}->{fedora}, ") packages loaded.\n");  
   
     %latest = ();  
     foreach my $name ( sort keys %{{ map { $_->{base} => 1 } @rpms }} ) {  
         printline('white', 0, "Processing: $name");  
         my @pkgs = sort pkgsrt grep { $_->{base} eq $name } @rpms;  
         my %seen = ();  
         my $count = ();  
         $archs = ();  
   
         foreach my $pkg ( @pkgs ) {  
             next if $pkg->{done} || $pkg->{obsolete} || $pkg->{rpm}->is_source_package || ! $repos->{$pkg->{repo}};  
             printline('bold black', 1, ' - ', $pkg->{rpm}->filename) if $opts{d};  
             my $orig = 0;  
   
             # Find names of packages in same or higher repos  
             my %names = names($pkg, @pkgs);  
   
             # Stage packages should never be most current  
             if ( rprop($pkg, 'stage') ) {  
                 printline('dark blue', 1, '    - checking stage') if $opts{d};  
                 tagpkg($pkg, 'obsolete');  
                 next;  
             }  
   
             # Move packages from base/builds to correct area  
             elsif ( rprop($pkg, 'base') || rprop($pkg, 'builds') ) {  
                 printline('dark blue', 1, '    - checking base/builds') if $opts{d};  
                 my $repo = $names{$pkg->{name}} && $names{$pkg->{name}} > 1 ? $devel2 : $devel1;  
                 if ( $pkg->{nonbase} ) {  
                     foreach my $up ( @pkgs ) {  
                         next if rprop($up, 'builds') || rprop($up, 'base');  
                         next if $up->{name} ne $pkg->{name} || ! $up->{obsolete} || $up->{rpm} ge $pkg->{rpm};  
                         $repo = $up->{repo};  
                         last;  
                     }  
                 }  
                 next if rprop($pkg, 'base') && $repo eq $devel1 && $devel1 ne $devel2;  
                 movepkg($pkg, $repo);  
                 %names = names($pkg, @pkgs);  
                 $seen{$pkg->{nvra}}++;  
                 $orig++;  
             }  
   
             # Check version/release counts  
             unless ( $pkg->{nonbase} ) {  
                 printline('dark blue', 1, '    - checking version/release counts') if $opts{d};  
                 $count->{$pkg->{repo}}->{$pkg->{version}}->{$pkg->{release}}++;  
                 if ( rprop($pkg, 'ver') && scalar keys %{$count->{$pkg->{repo}}} > rprop($pkg, 'ver') ) {  
                     movepkg($_, 'delete') foreach grep { $_->{rpm} eq $pkg->{rpm} } @pkgs;  
                     next;  
                 }  
                 if ( rprop($pkg, 'rel') && scalar keys %{$count->{$pkg->{repo}}->{$pkg->{version}}} > rprop($pkg, 'rel') ) {  
                     movepkg($_, 'delete') foreach grep { $_->{rpm} eq $pkg->{rpm} } @pkgs;  
                     next;  
                 }  
             }  
   
             foreach my $cmp ( grep { $_->{rpm}->is_source_package || ( ! $_->{done} && $_->{rpm} le $pkg->{rpm} && rprop($_, 'prio') <= rprop($pkg, 'prio') ) } @pkgs ) {  
                 printline('dark blue', 1, '    - ', $cmp->{rpm}->filename) if $opts{d};  
                 if ( $cmp->{rpm}->is_source_package ) {  
                     if ( $cmp->{name} eq $pkg->{base} ) {  
                         if ( $cmp->{rpm} eq $pkg->{rpm} ) {  
                             if ( $pkg->{repo} eq $cmp->{repo} || ! $pkg->{srpm} || $pkg->{srpm}->{rpm} ne $pkg->{rpm} ) {  
                                 delete $pkg->{srpm}->{latest} if $pkg->{latest} && $pkg->{srpm} && $pkg->{srpm}->{latest};  
                                 $pkg->{srpm} = $cmp;  
                                 $pkg->{srpm}->{latest}++ if $pkg->{latest};  
                             }  
                             if ( $pkg->{latest} && rprop($cmp, 'stage') ) {  
                                 tagpkg($cmp, 'inuse');  
                                 $pkg->{srpm}->{latest}++;  
                             }  
                             if ( $pkg->{repo} eq $cmp->{repo} || rprop($cmp, 'base') || rprop($cmp, 'builds') || ( $cmp->{oldrepo} && $pkg->{repo} eq $cmp->{oldrepo} ) ) {  
                                 tagpkg($cmp, 'inuse')  
                             }  
                         }  
                         next if $pkg->{srpm} && $pkg->{srpm}->{rpm} eq $pkg->{rpm};  
   
                         my $src = $pkg->{rpm}->sourcerpm;  
                         my $source = basename $cmp->{rpm}->filename;  
                         SRC: {  
                             $src eq $source && last SRC;  
                             ($src = $pkg->{rpm}->sourcerpm) =~ s{\.el\d\.at(\.src)}{$1}                 && $src eq $source && last SRC;  
                             ($src = $pkg->{rpm}->sourcerpm) =~ s{\.el\d(\.rf\.src)}{$1}                 && $src eq $source && last SRC;  
                             ($src = $pkg->{rpm}->sourcerpm) =~ s{(\d+)\.\d+\.el\d(\.rf\.src)}{$1$2}     && $src eq $source && last SRC;  
                             ($src = $pkg->{rpm}->sourcerpm) =~ s{\.el\d\.rf(\.src)}{.dag$1}             && $src eq $source && last SRC;  
                             ($src = $pkg->{rpm}->sourcerpm) =~ s{(\d+)\.\d+\.el\d\.rf(\.src)}{$1.dag$2} && $src eq $source && last SRC;  
                             ($src = $pkg->{rpm}->sourcerpm) =~ s{\.el\d(\.src)}{$1}                     && $src eq $source && last SRC;  
                             ($src = $pkg->{rpm}->sourcerpm) =~ s{(-\d+)\.\d+\.el\d(\.src)}{$1$2}        && $src eq $source && last SRC;  
                             ($src = $pkg->{rpm}->sourcerpm) =~ s{\.centos\d(\.src)}{$1}                 && $src eq $source && last SRC;  
                             ($src = $pkg->{rpm}->sourcerpm) =~ s{\.el\d\.sme(\.src)}{$1}                && $src eq $source && last SRC;  
                             $src = '';  
                         }  
                         if ( $src eq $source && ( ! $pkg->{srpm} || $pkg->{srpm}->{rpm} eq $cmp->{rpm} ) ) {  
                             if ( ! $pkg->{srpm} || $pkg->{repo} eq $cmp->{repo} ) {  
                                 delete $pkg->{srpm}->{latest} if $pkg->{latest} && $pkg->{srpm} && $pkg->{srpm}->{latest};  
                                 $pkg->{srpm} = $cmp;  
                                 $pkg->{srpm}->{latest}++ if $pkg->{latest};  
                             }  
                             if ( $pkg->{latest} && rprop($cmp, 'stage') ) {  
                                 tagpkg($cmp, 'inuse');  
                                 $pkg->{srpm}->{latest}++;  
                             }  
                             tagpkg($cmp, 'inuse') if $pkg->{repo} eq $cmp->{repo} || rprop($cmp, 'base') || rprop($cmp, 'builds');  
                         }  
                     }  
                 } elsif ( $cmp->{rpm} eq $pkg->{rpm} ) {  
                     if ( $names{$cmp->{name}} ) {  
                         if ( $pkg->{repo} eq $cmp->{repo} ) {  
                             tagpkg($cmp, 'correct', 1);  
                             $seen{$cmp->{nvra}}++;  
                         } elsif ( $seen{$cmp->{nvra}} && rprop($cmp, 'stage') && $pkg->{latest} ) {  
                             $_->{latest}++ foreach grep { $_->{nvra} eq $cmp->{nvra} && $_->{latest} && $_->{done} } @pkgs;  
                             tagpkg($cmp, 'correct', 1);  
                         } elsif ( $seen{$cmp->{nvra}} ) {  
                             $orig++ if rprop($cmp, 'base') || rprop($cmp, 'builds');  
                             movepkg($cmp, 'delete', 1);  
                         } else {  
                             movepkg($cmp, $pkg->{repo}, 1, 1);  
                             $seen{$cmp->{nvra}}++;  
                         }  
                     } else {  
                         tagpkg($cmp, 'nonbase');  
                     }  
                 } elsif ( rprop($cmp, 'prio') < rprop($pkg, 'prio') ) {  
                     tagpkg($cmp, 'obsolete');  
                 }  
             }  
             printline('dark blue', 1, '    - checking source packages') if $opts{d};  
             if ( ! $pkg->{srpm} ) {  
                 printline('bold yellow on_red', 1, ' - ', $pkg->{rpm}->filename, ' (missing source ', $pkg->{rpm}->sourcerpm, ')');  
             } elsif ( $pkg->{srpm}->{repo} ne $pkg->{repo} && ( ! $pkg->{srpm}->{oldrepo} || $pkg->{srpm}->{oldrepo} ne $pkg->{repo} ) ) {  
                 movepkg($pkg->{srpm}, $pkg->{repo}, 0);  
             }  
             unless ( $orig ) {  
                 foreach ( grep { $_->{base} eq $pkg->{base} && $_->{repo} eq $pkg->{repo} } @pkgs ) {  
                     printline('bold yellow on_red', 1, ' - ', $_->{rpm}->filename, ' (missing original)');  
                 }  
             }  
         }  
         printline('bold black', 1, ' - arch count check') if $opts{d};  
         foreach my $r ( keys %$archs ) {  
             foreach my $p ( keys %{$archs->{$r}} ) {  
                 foreach my $a ( keys %{$archs->{$r}->{$p}} ) {  
                     my $p2 = ${$archs->{$r}->{$p}->{$a}}[0];  
                     if ( $a eq 'noarch' ) {  
                         movepkg($p2, $p2->{repo}, 0) if ! $p2->{repos} && scalar @{$archs->{$r}->{$p}->{$a}} != scalar @archs;  
                     } elsif ( scalar @{$archs->{$r}->{$p}->{$a}} != 1 ) {  
                         printline('bold yellow on_red', 1, ' - ', $p2->{rpm}->filename, ' (many arch)');  
                     }  
                 }  
             }  
         }  
   
         printline('bold black', 1, ' - missing stage packages') if $opts{d};  
         movepkg($_, $stage, 0) foreach grep { $_->{latest} && $_->{latest} == 1 } @pkgs;  
   
         printline('bold black', 1, ' - obsolete packages') if $opts{d};  
         movepkg($_, 'delete') foreach grep { ! rprop($_, 'base') && ! $_->{done} && ( $_->{obsolete} || ( $_->{rpm}->is_source_package && ! $_->{inuse} ) ) } @pkgs;  
     }  
     printline('white', 0, "Finished processing.\n");  
   
     unless ( $opts{t} || $opts{r} ) {  
         my %repochg = ();  
         # Move / Copy / Delete packages and tag repo for rebuild.  
         foreach my $pkg ( grep { $_->{oldrepo} } @rpms ) {  
             printline('white', 0, 'Copy/move: ', $pkg->{rpm}->filename);  
             my $src = $pkg->{rpm}->filename;  
   
             qx(cat $HOME/.rpmpass | setsid rpm --addsign $src >& /dev/null) if $pkg->{nosig};  
             if ( $pkg->{repos} ) {  
                 foreach my $dest ( dest($pkg, @{$pkg->{repos}}) ) {  
                     qx(cp --preserve=timestamps $src $dest) unless -f "$dest";  
                 }  
                 $repochg{$_}++ foreach @{$pkg->{repos}};  
             }  
             if ( $pkg->{remove} ) {  
                 qx(rm -f $src);  
                 $repochg{$pkg->{oldrepo}}++;  
             }  
         }  
         finddepth(sub{rmdir}, $distrepo->{$rel}->{builds});  
         printline('white', 0, "Finished copying/moving.\n");  
   
         foreach my $repo ( sort keys %repochg ) {  
             next if ! $repos->{$repo} || $repos->{$repo}->{base} || $repos->{$repo}->{builds} || $repos->{$repo}->{stage};  
             foreach my $arch ( @archs ) {  
                 my $dir = $distrepo->{$rel}->{repo} . "$repo/$arch";  
                 $dir = qx(readlink -f $dir);  
                 chomp $dir;  
                 printline('white', 0, "Createrepo: $repo/$arch");  
                 qx(createrepo $dir);  
                 printline('white', 0, "Repoview: $repo/$arch");  
                 qx(repoview $dir);  
                 qx(rm -rf $dir/.olddata) if -d "$dir/.olddata";  
                 qx(rm -rf $dir/.repodata) if -d "$dir/.repodata";  
             }  
         }  
         printline('white', 0, "Finished rebuilding repos.\n");  
     }  
   
     print "\n================================================================================\n\n";  
 }  
   
 sub pkgsrt {  
     return $a->{rpm}->is_source_package <=> $b->{rpm}->is_source_package || $b->{rpm} cmp $a->{rpm} || rprop($b, 'prio') <=> rprop($a, 'prio');  
539  }  }
540    
541  sub rprop {  sub verrel {
     my ($pkg, $prop) = @_;  
     return $repos->{$pkg->{repo}} ? $repos->{$pkg->{repo}}->{$prop} : 0;  
 }  
   
 sub names {  
542      my $pkg = shift;      my $pkg = shift;
543      my @rpms = @_;      my $repo = shift;
544      return map { $_->{name} => rprop($_, 'inc') ? 2 : 1 } grep { $_->{base} eq $pkg->{base} &&      my $counts = shift;
                                                                  rprop($_, 'prio') >= rprop($pkg, 'prio') &&  
                                                                  ! rprop($_, 'base') &&  
                                                                  ! rprop($_, 'builds') &&  
                                                                  ! $_->{rpm}->is_source_package  
                                                                } @rpms;  
 }  
545    
546  sub dest {      return 0 if $pkg->{src};
547      my ($pkg, @repos) = @_;      $counts->{$repo}->{$pkg->{ver}}->{$pkg->{rel}}++;
548      my @d = ();      return 1 if $repos->{$repo}->{ver} && scalar keys %{$counts->{$repo}} > $repos->{$repo}->{ver};
549      foreach my $repo ( @repos ) {      return 1 if $repos->{$repo}->{rel} && scalar keys %{$counts->{$repo}->{$pkg->{ver}}} > $repos->{$repo}->{rel};
550          my $base = $distrepo->{$rel}->{repo} . $repo;      return 0;
         $base = $distrepo->{$rel}->{stage} if $repos->{$repo}->{stage};  
         if ( $pkg->{arch} eq 'noarch' ) {  
             push @d, "$base/i386/" .  
                      ( $repos->{$repo}->{os} ? $distrepo->{$rel}->{os} : 'RPMS/' ) .  
                      basename $pkg->{rpm}->filename;  
             push @d, "$base/x86_64/" .  
                      ( $repos->{$repo}->{os} ? $distrepo->{$rel}->{os} : 'RPMS/' ) .  
                      basename $pkg->{rpm}->filename;  
         } elsif ( $pkg->{arch} =~ m{^(i[356]86)$} ) {  
             push @d, "$base/i386/" .  
                      ( $repos->{$repo}->{os} ? $distrepo->{$rel}->{os} : 'RPMS/' ) .  
                      basename $pkg->{rpm}->filename;  
         } elsif ( $pkg->{arch} eq 'x86_64' ) {  
             push @d, "$base/x86_64/" .  
                      ( $repos->{$repo}->{os} ? $distrepo->{$rel}->{os} : 'RPMS/' ) .  
                      basename $pkg->{rpm}->filename;  
         } elsif ( $pkg->{arch} eq 'zsrc' ) {  
             push @d, "$base/SRPMS/" .  
                      basename $pkg->{rpm}->filename;  
         } else {  
             printline('bold yellow on_red', 1, ' - ', $pkg->{rpm}->filename, ' (bad arch: ', $pkg->{arch}, ')');  
         }  
     }  
     return @d;  
551  }  }
552    
553  sub movepkg {  sub pkgdest {
     my ($pkg, $repo, $done, $remove) = @_;  
     defined $done or $done = 2;  
     defined $remove or $remove = 0;  
     $remove = 0 if rprop($pkg, 'base') || rprop($pkg, 'builds');  
     $remove = 1 if $repo eq 'delete';  
   
     if ( $repo eq 'delete' && ( rprop($pkg, 'base') || (  rprop($pkg, 'builds') && $done == 1 ) ) ) {  
         tagpkg($pkg, 'inuse', 1);  
     } else {  
         printline('bold magenta', 1, "       - ($repo) ", $pkg->{rpm}->filename) if $opts{d};  
         my $color = 'bold white';  
         $color = 'bold yellow' if rprop($pkg, 'builds');  
         $color = 'dark green' if $repos->{$repo} && $repos->{$repo}->{devel};  
         $color = 'dark red' if $repo eq 'delete';  
         push @{$pkg->{repos}}, $repo unless $repo eq 'delete';  
         $pkg->{oldrepo} = $pkg->{repo} unless $pkg->{oldrepo};  
         $pkg->{repo} = $repo;  
         $pkg->{remove}++ if $remove;  
         printline($color, 1, ' - ', $pkg->{rpm}->filename, ' (', $pkg->{oldrepo}, " to $repo)") if $opts{v} || $opts{d};  
         done($pkg) if $done;  
     }  
 }  
   
 sub tagpkg {  
     my ($pkg, $tag, $done) = @_;  
     defined $done or $done = 0;  
   
     printline('bold magenta', 1, "       - ($tag) ", $pkg->{rpm}->filename) if $opts{d};  
     delete $pkg->{obsolete} if $pkg->{obsolete};  
     $pkg->{$tag}++;  
     done($pkg) if $done;  
 }  
   
 sub done {  
554      my $pkg = shift;      my $pkg = shift;
555      printline('bold yellow on_red', 1, " - ", $pkg->{rpm}->filename, " (already processed)") if $pkg->{done};      my $dest = shift;
556      $pkg->{done}++;      my $hirepo = shift;
557      delete $pkg->{obsolete} if $pkg->{obsolete};      my $pkgs = shift;
558    
559      if ( $repos->{$pkg->{repo}} && ! rprop($pkg, 'base') && ! rprop($pkg, 'builds') ) {      foreach my $cmp ( @$pkgs ) {
560          # FIXME: Nasty hack for comps package          next if $cmp->{src} || $repos->{$cmp->{repo}}->{prio} <= $repos->{$dest}->{prio};
561          if ( $pkg->{name} eq 'comps' ) {          next if $pkg->{name} ne ( $pkg->{src} ? $cmp->{base} : $cmp->{name} );
562              if ( ! $latest{$pkg->{name}.'.'.$pkg->{arch}} || $latest{$pkg->{name}.'.'.$pkg->{arch}}->{rpm} eq $pkg->{rpm} ) {          if ( $repos->{$cmp->{repo}}->{prio} > $repos->{$hirepo}->{prio} ) {
563                  if ( rprop($pkg, 'inc') && ! $pkg->{rpm}->is_source_package ) {              $dest = $hirepo;
564                      $latest{$pkg->{name}.'.'.$pkg->{arch}} = $pkg if ! $latest{$pkg->{name}.'.'.$pkg->{arch}};              last;
565                      $pkg->{latest}++;          } else {
566                  }              $dest = $cmp->{repo};
567              }          }
568          } elsif ( ! $latest{$pkg->{name}} || $latest{$pkg->{name}}->{rpm} eq $pkg->{rpm} ) {      }
569              if ( rprop($pkg, 'inc') && ! $pkg->{rpm}->is_source_package ) {      return $dest;
570                  $latest{$pkg->{name}} = $pkg if ! $latest{$pkg->{name}};  }
571                  $pkg->{latest}++;  
572              }  sub process_rpm {
573          }      my $rpm = shift;
574          unless ( $pkg->{oldrepo} ) {      my $ver = shift;
575              my $goodarch = 0;      my $repo = shift;
576              $goodarch++ if $pkg->{rpm}->filename =~ m{/(i386|x86_64)/.*\.noarch\.rpm$};      return unless $rpm =~ m{/([^/]*)-[^-]+-[^-]+\.\w+\.rpm$};
577              $goodarch++ if $pkg->{rpm}->filename =~ m{/i386/.*\.(i[56]86)\.rpm$};      my $base = $1;
578              $goodarch++ if $pkg->{rpm}->filename =~ m{/(noarch|i[356]86|x86_64)/.*\.\1\.rpm$};      return unless ! $opts{r} || $base =~ m[$opts{r}];
579              printline('bold yellow on_red', 1, ' - ', $pkg->{rpm}->filename, ' (wrong arch)') unless $goodarch;      return unless $latest{$base} || $sources{$base} || ! $repos->{$repo}->{base};
         }  
         push @{$archs->{$pkg->{repo}}->{$pkg->{rpm}->as_nvre}->{$pkg->{rpm}->is_source_package ? 'src' : $pkg->{rpm}->arch}}, $pkg;  
     }  
 }  
   
 sub printline {  
     my $color = shift;  
     my $nline = shift;  
     my $string = join '', @_;  
   
     if ( $nline ) {  
         print "\n" unless $newline;  
         $newline++;  
     } else {  
         $newline = 0;  
         print "\r\e[0K";  
     }  
     print color $color;  
     print $string;  
     print color 'reset';  
     print "\n" if $nline;  
 }  
   
 sub loadpkg {  
     printline('white', 0, "Loading: $_") if -d _;  
     return unless m{/([^/]*)-[^-]+-[^-]+\.\w+.rpm} && ( ! $opts{r} || $1 =~ m{$opts{r}} );  
580    
581      my $pkg;      my $pkg;
582      eval { $pkg = RPM2->open_package($_, $rpm_flags); };      eval { $pkg = RPM2->open_package($rpm, $rpm_flags); };
583      if ($@) { printline('bold yellow on_red', 1, "Corrupt package $_"); return; }      if ($@) { print " * corrupt package ($rpm)\n"; return; }
584      eval { my $sig = $pkg->siggpg };      eval { my $sig = $pkg->siggpg };
     my $nosig = ! $@;  
       
     my ($srcname, $version, $release) = ($pkg->is_source_package ? basename $pkg->filename : $pkg->sourcerpm) =~ m{^([^/]*)-([^-]+)-([^-]+)\.\w+.rpm};  
     foreach my $repo ( keys %{$skippkg->{$rel}} ) { return if (dirname $pkg->filename) =~ m{/$repo/} && grep { $_ eq $srcname } @{$skippkg->{$rel}->{$repo}}; }  
     my $reponame = 'unknown';  
     if ( substr($_, 0, length($distrepo->{$rel}->{builds})) eq $distrepo->{$rel}->{builds} ) {  
         $reponame = 'builds';  
     } elsif ( substr($_, 0, length($distrepo->{$rel}->{stage})) eq $distrepo->{$rel}->{stage} ) {  
         $reponame = 'stage';  
     } elsif ( (dirname $pkg->filename) =~ m{\d/(sme[^/]+)/} ) {  
         $reponame = $1;  
     }  
     if ( $nosig && ( ! -f "$HOME/.rpmpass" || $reponame eq 'builds' ) ) {  
         printline('bold yellow on_red', 1, ' - ', $pkg->filename, ' (missing signature)');  
         return;  
     }  
     push @rpms, { base    => $srcname,  
                   name    => $pkg->name,  
                   repo    => $reponame,  
                   nvra    => $pkg->name.'-'.$pkg->version.'-'.$pkg->release.'.'.( $pkg->is_source_package ? 'src' : $pkg->tag('ARCH') ),  
                   arch    => $pkg->is_source_package ? 'zsrc' : $pkg->tag('ARCH'),  
                   version => $version,  
                   release => $release,  
                   rpm     => $pkg,  
                   nosig   => $nosig,  
                 };  
     $sources{$srcname}++;  
     if ( ! $pkg->is_source_package && ! $repos->{$reponame}->{stage} ) {  
         $latest{$pkg->name} = $rpms[$#rpms] if ! $latest{$pkg->name} || $pkg gt $latest{$pkg->name}->{rpm};  
     }  
 }  
585    
586  sub loadbase {      my $nosig = 1;
587      printline('white', 0, "Loading: $_") if -d _;      eval { my $sig = $pkg->dsaheader };   $nosig &= ! $@;
588      return unless m{/([^/]*)-[^-]+-[^-]+\.\w+.rpm} && ($latest{$1} || $sources{$1});      eval { my $sig = $pkg->rsaheader };   $nosig &= ! $@;
589        eval { my $sig = $pkg->siggpg };      $nosig &= ! $@;
590      my $pkg;      eval { my $sig = $pkg->sigpgp };      $nosig &= ! $@;
     eval { $pkg = RPM2->open_package($_, $rpm_flags); };  
     if ($@) { printline('bold yellow on_red', 1, "Corrupt package $_"); return; }  
     eval { my $sig = $pkg->siggpg };  
     unless ($@) { printline('bold yellow on_red', 1, ' - ', $pkg->filename, ' (missing signature)'); return; }  
591    
592      my $cmp = $latest{$pkg->name};      my $cmp = $latest{$pkg->name};
593      my ($srcname, $version, $release) = ($pkg->is_source_package ? basename $pkg->filename : $pkg->sourcerpm) =~ m{^([^/]*)-([^-]+)-([^-]+)\.\w+.rpm};      if ( $repos->{$repo}->{base} && ! $pkg->is_source_package ) {
594      my $pkgrepo = 'base';          return unless $cmp;
595      foreach my $repo ( keys %{$skippkg->{$rel}} ) {          return if $repos->{$cmp->{repo}}->{base} && $repos->{$cmp->{repo}}->{prio} > $repos->{$repo}->{prio} && $pkg ge $cmp->{rpm};
596          if ( (dirname $pkg->filename) =~ m{/$repo/} ) {      }
597              return if grep { $_ eq $srcname } @{$skippkg->{$rel}->{$repo}};      my ($src, $version, $release) = ($pkg->is_source_package ? $pkg->filename : $pkg->sourcerpm) =~ m{(?:^|/)([^/]*)-([^-]+)-([^-]+)\.\w+\.rpm$};
598              $pkgrepo = $repo;      return if $skippkg->{$ver}->{$repo} && ( $skippkg->{$ver}->{$repo}->{$src} || $skippkg->{$ver}->{$repo}->{$pkg->name} );
599              return unless $pkg->is_source_package || $cmp;      return if $repos->{$repo}->{base} && $nosig && $baserepo->{$ver}->{sign};
600              return if ! $pkg->is_source_package && $pkg ge $cmp->{rpm} && rprop($cmp, 'base') && rprop($cmp, 'prio') > $repos->{$pkgrepo}->{prio};      if ( $nosig && ! -f "$HOME/.rpmpass" ) { print " * missing signature (" .$pkg->filename . ")\n"; return; }
601              last;      my $arch = 'unknown';
602          }      $arch = 'SRPMS' if $pkg->filename =~ m{[/-](SRPMS?|src|source)/};
603        $arch = 'x86_64' if $pkg->filename =~ m{[/-]x86_64/};
604        $arch = 'i386' if $pkg->filename =~ m{[/-](i[356]86)/};
605        $arch = 'noarch' if $pkg->filename =~ m{[/-]noarch/};
606    
607        my $rpmhash = { base  => $src,
608                        name  => $pkg->name,
609                        repo  => $repo,
610                        nvra  => $pkg->name.'-'.$pkg->version.'-'.$pkg->release.'.'.( $pkg->is_source_package ? 'src' : $pkg->tag('ARCH') ),
611                        svr   => $src.'-'.$version.'-'.$release,
612                        src   => $pkg->is_source_package,
613                        arch  => $arch,
614                        ver   => $version,
615                        rel   => $release,
616                        rpm   => $pkg,
617                        nosig => $nosig,
618                      };
619        if ( $pkg->is_source_package ) {
620            push @{$rpms->{$src}->{srpms}}, $rpmhash;
621            push @{$rpms->{$src}->{vers}->{$rpmhash->{svr}}}, $rpmhash;
622        } else {
623            push @{$rpms->{$src}->{rpms}}, $rpmhash;
624      }      }
625        $sources{$src}++;
626    
627      push @rpms, { base    => $srcname,      return if $pkg->is_source_package || $repos->{$repo}->{stage};
628                    name    => $pkg->name,      if ( ! $repos->{$repo}->{base} ) {
629                    repo    => $pkgrepo,          if ( ! $cmp || $pkg gt $cmp->{rpm} ) {
630                    nvra    => $pkg->name.'-'.$pkg->version.'-'.$pkg->release.'.'.( $pkg->is_source_package ? 'src' : $pkg->tag('ARCH') ),              $latest{$pkg->name} = $rpmhash;
631                    arch    => $pkg->is_source_package ? 'zsrc' : $pkg->tag('ARCH'),          }
632                    version => $version,      } elsif ( ( $repos->{$repo}->{prio} >= $repos->{$cmp->{repo}}->{prio} || ! $repos->{$cmp->{repo}}->{base} ) && $pkg ge $cmp->{rpm} ) {
633                    release => $release,          $latest{$pkg->name} = $rpmhash;
                   rpm     => $pkg,  
                   nosig   => 0,  
                 };  
     if ( ! $pkg->is_source_package && $pkg ge $cmp->{rpm} && ( $repos->{$pkgrepo}->{prio} >= rprop($cmp, 'prio') || ! rprop($cmp, 'base') ) ) {  
         $latest{$pkg->name} = $rpms[$#rpms];  
634      }      }
635  }  }
   


Legend:
Removed lines/characters  
Changed lines/characters
  Added lines/characters

admin@koozali.org
ViewVC Help
Powered by ViewVC 1.2.1 RSS 2.0 feed