Diff for /loncom/loncron between versions 1.103.2.7 and 1.106

version 1.103.2.7, 2020/05/06 14:40:08 version 1.106, 2018/07/18 13:44:55
Line 41  use IO::File; Line 41  use IO::File;
 use IO::Socket;  use IO::Socket;
 use HTML::Entities;  use HTML::Entities;
 use Getopt::Long;  use Getopt::Long;
 use File::Copy;  use GDBM_File;
 use Sys::Hostname::FQDN();  use Storable qw(thaw);
   
 #globals  #globals
 use vars qw (%perlvar %simplestatus $errors $warnings $notices $totalcount);  use vars qw (%perlvar %simplestatus $errors $warnings $notices $totalcount);
   
Line 114  sub checkon_daemon { Line 113  sub checkon_daemon {
     my $result;      my $result;
     &log($fh,'<hr /><a name="'.$daemon.'" /><h2>'.$daemon.'</h2><h3>Log</h3><p style="white-space: pre;"><tt>');      &log($fh,'<hr /><a name="'.$daemon.'" /><h2>'.$daemon.'</h2><h3>Log</h3><p style="white-space: pre;"><tt>');
     printf("%-15s ",$daemon);      printf("%-15s ",$daemon);
     if ($fh) {      if (-e "$perlvar{'lonDaemons'}/logs/$daemon.log"){
         if (-e "$perlvar{'lonDaemons'}/logs/$daemon.log"){   open (DFH,"tail -n25 $perlvar{'lonDaemons'}/logs/$daemon.log|");
     if (open(DFH,"tail -n25 $perlvar{'lonDaemons'}/logs/$daemon.log|")) {   while (my $line=<DFH>) { 
         while (my $line=<DFH>) {      &log($fh,"$line");
             &log($fh,"$line");      if ($line=~/INFO/) { $notices++; }
             if ($line=~/INFO/) { $notices++; }      if ($line=~/WARNING/) { $notices++; }
             if ($line=~/WARNING/) { $notices++; }      if ($line=~/CRITICAL/) { $warnings++; }
             if ($line=~/CRITICAL/) { $warnings++; }   };
         }   close (DFH);
         close (DFH);  
             }  
         }  
         &log($fh,"</tt></p>");  
     }      }
          &log($fh,"</tt></p>");
       
     my $pidfile="$perlvar{'lonDaemons'}/logs/$daemon.pid";      my $pidfile="$perlvar{'lonDaemons'}/logs/$daemon.pid";
           
     my $restartflag=1;      my $restartflag=1;
Line 170  sub checkon_daemon { Line 166  sub checkon_daemon {
     `killall -9 $kadaemon 2>&1`.      `killall -9 $kadaemon 2>&1`.
     '</font><br />');      '</font><br />');
  &log($fh,"<h3>$daemon not running, trying to start</h3>");   &log($fh,"<h3>$daemon not running, trying to start</h3>");
   
  if (&start_daemon($fh,$daemon,$pidfile,$args)) {   if (&start_daemon($fh,$daemon,$pidfile,$args)) {
     &log($fh,"<h3>$daemon at pid $daemonpid responding</h3>");      &log($fh,"<h3>$daemon at pid $daemonpid responding</h3>");
     $simplestatus{$daemon}='restarted';      $simplestatus{$daemon}='restarted';
Line 195  sub checkon_daemon { Line 191  sub checkon_daemon {
  &log($fh,"<p>Unable to start $daemon</p>");   &log($fh,"<p>Unable to start $daemon</p>");
     }      }
  }   }
         if ($fh) {  
     if (-e "$perlvar{'lonDaemons'}/logs/$daemon.log"){   if (-e "$perlvar{'lonDaemons'}/logs/$daemon.log"){
         &log($fh,"<p><pre>");      &log($fh,"<p><pre>");
         if (open(DFH,"tail -n100 $perlvar{'lonDaemons'}/logs/$daemon.log|")) {      open (DFH,"tail -n100 $perlvar{'lonDaemons'}/logs/$daemon.log|");
             while (my $line=<DFH>) {       while (my $line=<DFH>) { 
         &log($fh,"$line");   &log($fh,"$line");
         if ($line=~/WARNING/) { $notices++; }   if ($line=~/WARNING/) { $notices++; }
         if ($line=~/CRITICAL/) { $notices++; }   if ($line=~/CRITICAL/) { $notices++; }
             }      };
             close (DFH);      close (DFH);
                 }      &log($fh,"</pre></p>");
         &log($fh,"</pre></p>");   }
     }  
         }  
     }      }
           
     my $fname="$perlvar{'lonDaemons'}/logs/$daemon.log";      my $fname="$perlvar{'lonDaemons'}/logs/$daemon.log";
Line 490  sub clean_lonIDs { Line 484  sub clean_lonIDs {
     my $cleaned=0;      my $cleaned=0;
     my $active=0;      my $active=0;
     while (my $fname=<$perlvar{'lonIDsDir'}/*>) {      while (my $fname=<$perlvar{'lonIDsDir'}/*>) {
         my $now=time;   my ($dev,$ino,$mode,$nlink,
         if (-l $fname) {      $uid,$gid,$rdev,$size,
             my $linkfname = readlink($fname);      $atime,$mtime,$ctime,
             if (-f $linkfname) {      $blksize,$blocks)=stat($fname);
                 if ($linkfname =~ m{^$perlvar{'lonIDsDir'}/[^/]+\.id$}) {   my $now=time;
                     my @data = stat($linkfname);   my $since=$now-$mtime;
                     my $mtime = $data[9];   if ($since>$perlvar{'lonExpire'}) {
                     my $since=$now-$mtime;      $cleaned++;
                     if ($since>$perlvar{'lonExpire'}) {      &log($fh,"Unlinking $fname<br />");
                         if (unlink($linkfname)) {      unlink("$fname");
                             $cleaned++;   } else {
                             &log($fh,"Unlinking $linkfname<br />");      $active++;
                             unlink($fname);   }
                         }  
                     }  
                 }  
             } else {  
                unlink($fname);  
             }  
         } elsif (-f $fname) {  
             my @data = stat($fname);  
             my $mtime = $data[9];  
             my $since=$now-$mtime;  
             if ($since>$perlvar{'lonExpire'}) {  
                 if (unlink($fname)) {  
                     $cleaned++;  
                     &log($fh,"Unlinking $fname<br />");  
                 }  
             } else {  
                 $active++;  
             }  
         }  
     }      }
     &log($fh,"<p>Cleaned up ".$cleaned." stale session token(s).</p>");      &log($fh,"<p>Cleaned up ".$cleaned." stale session token(s).</p>");
     &log($fh,"<h3>$active open session(s)</h3>");      &log($fh,"<h3>$active open session(s)</h3>");
 }  }
   
 # -------------------------------------------------------- clean out balanceIDs  
   
 sub clean_balanceIDs {  
     my ($fh)=@_;  
     &log($fh,'<hr /><a name="balcookies" /><h2>Session Tokens</h2>');  
     my $cleaned=0;  
     my $active=0;  
     if (-d $perlvar{'lonBalanceDir'}) {  
         while (my $fname=<$perlvar{'balanceDir'}/*.id>) {  
             my ($dev,$ino,$mode,$nlink,  
                 $uid,$gid,$rdev,$size,  
                 $atime,$mtime,$ctime,  
                 $blksize,$blocks)=stat($fname);  
             my $now=time;  
             my $since=$now-$mtime;  
             if ($since>$perlvar{'lonExpire'}) {  
                 $cleaned++;  
                 &log($fh,"Unlinking $fname<br />");  
                 unlink("$fname");  
             } else {  
                 $active++;  
             }  
         }  
     }  
     &log($fh,"<p>Cleaned up ".$cleaned." stale balancer files</p>");  
     &log($fh,"<h3>$active unexpired balancer files</h3>");  
 }  
   
 # ------------------------------------------------ clean out webDAV Session IDs  # ------------------------------------------------ clean out webDAV Session IDs
 sub clean_webDAV_sessionIDs {  sub clean_webDAV_sessionIDs {
     my ($fh)=@_;      my ($fh)=@_;
Line 874  sub write_checksums { Line 821  sub write_checksums {
     return;      return;
 }  }
   
 sub write_hostips {  sub write_connection_config {
     my $lontabdir = $perlvar{'lonTabDir'};      my ($isprimary,$domconf,$url,%connectssl);
     my $defdom = $perlvar{'lonDefDomain'};      my $primaryLibServer = &Apache::lonnet::domain($perlvar{'lonDefDomain'},'primary');
     my $lonhost = $perlvar{'lonHostID'};      if ($primaryLibServer eq $perlvar{'lonHostID'}) {
     my $newfile = "$lontabdir/currhostips.tab";          $isprimary = 1;
     my $oldfile = "$lontabdir/prevhostips.tab";      } elsif ($primaryLibServer ne '') {
     my (%prevhosts,%currhosts,%ipchange);          my $protocol = $Apache::lonnet::protocol{$primaryLibServer};
     if ((-e $newfile) && (-s $newfile)) {          my $hostname = &Apache::lonnet::hostname($primaryLibServer);
         move($newfile,$oldfile);          unless ($protocol eq 'https') {
         chmod(0644,$oldfile);              $protocol = 'http';
         if (open(my $fh,'<',$oldfile)) {          }
             while (my $line=<$fh>) {          $url = $protocol.'://'.$hostname.'/cgi-bin/listdomconfig.pl';
                 chomp($line);      }
                 if ($line =~ /^([^:]+):([\d.]+)$/) {      my $domconf = &get_domain_config($perlvar{'lonDefDomain'},$primaryLibServer,$isprimary,
                     $prevhosts{$1} = $2;                                       $url);
       if (ref($domconf) eq 'HASH') {
           if (ref($domconf->{'ssl'}) eq 'HASH') {
               foreach my $connect ('connto','connfrom') {
                   if (ref($domconf->{'ssl'}->{$connect}) eq 'HASH') {
                       my ($sslreq,$sslnoreq,$currsetting);
                       my %contypes;
                       foreach my $type ('dom','intdom','other') {
                           $connectssl{$connect.'_'.$type} = $domconf->{'ssl'}->{$connect}->{$type};
                       }
                 }                  }
             }              }
             close($fh);  
         }          }
     }          if (keys(%connectssl)) {
     my ($ip_info,$cached) =              if (open(my $fh,">$perlvar{'lonTabDir'}/connectionrules.tab")) {
         &Apache::lonnet::is_cached_new('iphost','iphost');                  my $count = 0;
     if (!$cached) {                  foreach my $key (sort(keys(%connectssl))) { 
         &Apache::lonnet::get_iphost();                      print $fh "$key=$connectssl{$key}\n";
         ($ip_info,$cached) =                      $count ++;
         &Apache::lonnet::is_cached_new('iphost','iphost');                  }
     }                  close($fh);
     if (ref($ip_info) eq 'ARRAY') {                  print "Completed writing SSL options for lonc/lond for $count items.\n";
         %currhosts = %{$ip_info->[1]};  
         if (open(my $fh,'>',$newfile)) {  
             foreach my $key (keys(%currhosts)) {  
                 print $fh "$key:$currhosts{$key}\n";  
             }              }
             close($fh);          } else {
             chmod(0644,$newfile);              print "Writing of SSL options skipped - no connection rules in domain configuration.\n";
         }          }
       } else {
           print "Retrieval of SSL options for lonc/lond skipped - no configuration data available for domain.\n";
     }      }
     if (keys(%prevhosts) && keys(%currhosts)) {  }
         foreach my $key (keys(%prevhosts)) {  
             unless ($currhosts{$key} eq $prevhosts{$key}) {  sub get_domain_config {
                 $ipchange{$key} = $prevhosts{$key}.' | '.$currhosts{$key};      my ($dom,$primlibserv,$isprimary,$url) = @_;
       my %confhash;
       if ($isprimary) {
           my $lonusersdir = $perlvar{'lonUsersDir'};
           my $fname = $lonusersdir.'/'.$dom.'/configuration.db';
           if (-e $fname) {
               my $dbref=&LONCAPA::locking_hash_tie($fname,&GDBM_READER());
               if (ref($dbref) eq 'HASH') {
                   foreach my $key (sort(keys(%{$dbref}))) {
                       my $value = $dbref->{$key};
                       if ($value =~ s/^__FROZEN__//) {
                           $value = thaw(&LONCAPA::unescape($value));
                       } else {
                           $value = &LONCAPA::unescape($value);
                       }
                       $confhash{$key} = $value;
                   }
                   &LONCAPA::locking_hash_untie($dbref);
             }              }
         }          }
         foreach my $key (keys(%currhosts)) {      } else {
             unless ($currhosts{$key} eq $prevhosts{$key}) {          if (open(PIPE,"wget --no-check-certificate '$url?primary=$primlibserv&format=raw' |")) {
                 $ipchange{$key} = $prevhosts{$key}.' | '.$currhosts{$key};              my $config = '';
               while (<PIPE>) {
                   $config .= $_;
               }
               close(PIPE);
               if ($config) {
                   my @pairs=split(/\&/,$config);
                   foreach my $item (@pairs) {
                       my ($key,$value)=split(/=/,$item,2);
                       my $what = &LONCAPA::unescape($key);
                       if ($value =~ s/^__FROZEN__//) {
                           $value = thaw(&LONCAPA::unescape($value));
                       } else {
                           $value = &LONCAPA::unescape($value);
                       }
                       $confhash{$what}=$value;
                   }
             }              }
         }          }
     }      }
     if (&Apache::lonnet::domain($defdom,'primary') eq $lonhost) {      return \%confhash;
         if (keys(%ipchange)) {  }
             if (open(my $fh,'>>',$perlvar{'lonDaemons'}.'/logs/hostip.log')) {  
                print $fh "********************\n".localtime(time).' Changes --'."\n".  sub write_hosttypes {
                          "| Hostname | Previous IP | New IP |\n".      my %intdom = &Apache::lonnet::all_host_intdom();
                          " --------------------------------- \n";      my %hostdom = &Apache::lonnet::all_host_domain();
                foreach my $hostname (sort(keys(%ipchange))) {      my $dom = $hostdom{$perlvar{'lonHostID'}};
                     print $fh "| $hostname | $ipchange{$hostname} |\n";      my $internetdom = $intdom{$perlvar{'lonHostID'}};
       if (($dom ne '') && ($internetdom ne '')) {
           if (keys(%hostdom)) {
               if (open(my $fh,">$perlvar{'lonTabDir'}/hosttypes.tab")) {
                   my $count = 0;
                   foreach my $lonid (sort(keys(%hostdom))) {
                       my $type = 'other';
                       if ($hostdom{$lonid} eq $dom) {
                           $type = 'dom'; 
                       } elsif ($intdom{$lonid} eq $internetdom) {
                           $type = 'intdom';
                       }
                       print $fh "$lonid:$type\n";
                       $count ++;
                 }                  }
                 print $fh "\n*******************\n\n";  
                 close($fh);                  close($fh);
                   print "Completed writing host type data for $count hosts.\n";
             }              }
             my $emailto = &Apache::loncommon::build_recipient_list(undef,          } else {
                                    'hostipmail',$defdom);              print "Writing of host types skipped - no hosts found.\n";
             if ($emailto) {  
                 my $subject = "LON-CAPA Hostname to IP change ($perlvar{'lonHostID'})";  
                 my $chgmail = "To: $emailto\n".  
                               "Subject: $subject\n".  
                               "Content-type: text/plain\; charset=UTF-8\n".  
                               "MIME-Version: 1.0\n\n".  
                               "Host/IP changes\n".  
                               " \n".  
                               "| Hostname | Previous IP | New IP |\n".  
                               " --------------------------------- \n";  
                 foreach my $hostname (sort(keys(%ipchange))) {  
                     $chgmail .= "| $hostname | $ipchange{$hostname} |\n";  
                 }  
                 $chgmail .= "\n\n";  
                 if (open(my $mailh, "|/usr/lib/sendmail -oi -t -odb")) {  
                     print $mailh $chgmail;  
                     close($mailh);  
                     print "Sending mail notification of hostname/IP changes.\n";  
                 }  
             }  
         }          }
       } else {
           print "Writing of host types skipped - could not determine this host's LON-CAPA domain or 'internet' domain.\n";
       }
   }
   
   sub update_revocation_list {
       if (&Apache::lonnet::fetch_crl_pemfile() eq 'ok') {
           print "Certificate Revocation List (from CA) updated.\n";
       } else {
           print "Certificate Revocation List from (CA) not updated.\n";
     }      }
     return;  
 }  }
   
 sub send_mail {  sub send_mail {
Line 1020  Options: Line 1008  Options:
  do not send emails do not   do not send emails do not
                                 check if the daemons are running, do not                                  check if the daemons are running, do not
                                 generate lon-status                                  generate lon-status
    --justiptables          Only update the dynamic iptables rules for the                             
                                 lond port; do not send emails, do not  
                                 check if the daemons are running, do not  
                                 generate lon-status  
 USAGE  USAGE
 }  }
   
 # ================================================================ Main Program  # ================================================================ Main Program
 sub main () {  sub main () {
     my ($help,$justcheckdaemons,$noemail,$justcheckconnections,      my ($help,$justcheckdaemons,$noemail,$justcheckconnections,
  $justreload,$justiptables);   $justreload);
     &GetOptions("help"                 => \$help,      &GetOptions("help"                 => \$help,
  "justcheckdaemons"     => \$justcheckdaemons,   "justcheckdaemons"     => \$justcheckdaemons,
  "noemail"              => \$noemail,   "noemail"              => \$noemail,
  "justcheckconnections" => \$justcheckconnections,   "justcheckconnections" => \$justcheckconnections,
  "justreload"           => \$justreload,   "justreload"           => \$justreload
                 "justiptables"         => \$justiptables  
  );   );
     if ($help) { &usage(); return; }      if ($help) { &usage(); return; }
 # --------------------------------- Read loncapa_apache.conf and loncapa.conf  # --------------------------------- Read loncapa_apache.conf and loncapa.conf
Line 1051  sub main () { Line 1035  sub main () {
     if ('{[[[[lonHostID]]]]}' eq $perlvar{'lonHostID'}) {      if ('{[[[[lonHostID]]]]}' eq $perlvar{'lonHostID'}) {
  print("Unconfigured machine.\n");   print("Unconfigured machine.\n");
  my $emailto=$perlvar{'lonSysEMail'};   my $emailto=$perlvar{'lonSysEMail'};
  my $hostname = Sys::Hostname::FQDN::fqdn();   my $hostname=`/bin/hostname`;
  $hostname=~s/\.+/./g;   chop $hostname;
  $hostname=~s/\-+/-/g;   $hostname=~s/[^\w\.]//g; # make sure is safe to pass through shell
  $hostname=~s/[^\w\.-]//g; # make sure is safe to pass through shell  
  my $subj="LON: Unconfigured machine $hostname";   my $subj="LON: Unconfigured machine $hostname";
  system("echo 'Unconfigured machine $hostname.' |".   system("echo 'Unconfigured machine $hostname.' |\
                " mail -s '$subj' $emailto > /dev/null");   mailto $emailto -s '$subj' > /dev/null");
  exit 1;   exit 1;
     }      }
   
Line 1067  sub main () { Line 1050  sub main () {
  print("User ID mismatch. This program must be run as user 'www'.\n");   print("User ID mismatch. This program must be run as user 'www'.\n");
  my $emailto="$perlvar{'lonAdmEMail'},$perlvar{'lonSysEMail'}";   my $emailto="$perlvar{'lonAdmEMail'},$perlvar{'lonSysEMail'}";
  my $subj="LON: $perlvar{'lonHostID'} User ID mismatch";   my $subj="LON: $perlvar{'lonHostID'} User ID mismatch";
  system("echo 'User ID mismatch. loncron must be run as user www.' |".   system("echo 'User ID mismatch. loncron must be run as user www.' |\
                " mail -s '$subj' $emailto > /dev/null");   mailto $emailto -s '$subj' > /dev/null");
  exit 1;   exit 1;
     }      }
   
Line 1087  sub main () { Line 1070  sub main () {
             }              }
         }          }
     }      }
     if (!$justiptables) {      &Apache::lonnet::load_hosts_tab(1,$nomemcache);
         &Apache::lonnet::load_hosts_tab(1,$nomemcache);      &Apache::lonnet::load_domain_tab(1,$nomemcache);
         &Apache::lonnet::load_domain_tab(1,$nomemcache);      &Apache::lonnet::get_iphost(1,$nomemcache);
         &Apache::lonnet::get_iphost(1,$nomemcache);  
     }  
   
 # ----------------------------------------- Force firewall update for lond port    # ----------------------------------------- Force firewall update for lond port  
   
Line 1122  sub main () { Line 1103  sub main () {
   
   
     my $fh;      my $fh;
     if (!$justcheckdaemons && !$justcheckconnections && !$justreload && !$justiptables) {      if (!$justcheckdaemons && !$justcheckconnections && !$justreload) {
  $fh=&start_logging();   $fh=&start_logging();
   
  &log_machine_info($fh);   &log_machine_info($fh);
  &clean_tmp($fh);   &clean_tmp($fh);
  &clean_lonIDs($fh);   &clean_lonIDs($fh);
         &clean_balanceIDs($fh);  
         &clean_webDAV_sessionIDs($fh);          &clean_webDAV_sessionIDs($fh);
  &check_httpd_logs($fh);   &check_httpd_logs($fh);
  &rotate_lonnet_logs($fh);   &rotate_lonnet_logs($fh);
  &rotate_other_logs($fh);   &rotate_other_logs($fh);
     }      }
     if (!$justcheckconnections && !$justreload && !$justiptables) {      if (!$justcheckconnections && !$justreload) {
  &checkon_daemon($fh,'lonmemcached',40000);   &checkon_daemon($fh,'lonmemcached',40000);
  &checkon_daemon($fh,'lonsql',200000);   &checkon_daemon($fh,'lonsql',200000);
  if ( &checkon_daemon($fh,'lond',40000,'USR1') eq 'running') {   if ( &checkon_daemon($fh,'lond',40000,'USR1') eq 'running') {
Line 1145  sub main () { Line 1125  sub main () {
         &checkon_daemon($fh,'lonr',40000);          &checkon_daemon($fh,'lonr',40000);
     }      }
     if ($justreload) {      if ($justreload) {
           &write_connection_config();
           &write_hosttypes();
  &checkon_daemon($fh,'lond',40000,'USR2');   &checkon_daemon($fh,'lond',40000,'USR2');
  &checkon_daemon($fh,'lonc',40000,'USR2');   &checkon_daemon($fh,'lonc',40000,'USR2');
     }      }
     if ($justcheckconnections) {      if ($justcheckconnections) {
  &test_connections($fh);   &test_connections($fh);
     }      }
     if (!$justcheckdaemons && !$justcheckconnections && !$justreload && !$justiptables) {      if (!$justcheckdaemons && !$justcheckconnections && !$justreload) {
  &check_delayed_msg($fh);   &check_delayed_msg($fh);
  &finish_logging($fh);   &finish_logging($fh);
  &log_simplestatus();   &log_simplestatus();
         &write_loncaparevs();          &write_loncaparevs();
         &write_serverhomeIDs();          &write_serverhomeIDs();
  &write_checksums();   &write_checksums();
         &write_hostips();          &write_connection_config();
           &write_hosttypes();
           &update_revocation_list();
  if ($totalcount>200 && !$noemail) { &send_mail(); }   if ($totalcount>200 && !$noemail) { &send_mail(); }
     }      }
 }  }

Removed from v.1.103.2.7  
changed lines
  Added in v.1.106


FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>