[BACK]Return to loncron CVS log [TXT] [DIR] Up to [LON-CAPA] / loncom

Diff for /loncom/loncron between versions 1.103.2.9 and 1.113

version 1.103.2.9, 2021/01/30 22:25:53 version 1.113, 2018/11/06 15:37:42
Line 37  use LONCAPA; Line 37  use LONCAPA;
 use Apache::lonnet;  use Apache::lonnet;
 use Apache::loncommon;  use Apache::loncommon;
   
 use LWP::UserAgent();  
 use HTTP::Request();  
 use IO::File;  use IO::File;
 use IO::Socket;  use IO::Socket;
 use HTML::Entities;  use HTML::Entities;
 use Getopt::Long;  use Getopt::Long;
 use File::ReadBackwards;  use GDBM_File;
 use File::Copy;  use Storable qw(thaw);
 use Sys::Hostname::FQDN();  
   
 #globals  #globals
 use vars qw (%perlvar %simplestatus $errors $warnings $notices $totalcount);  use vars qw (%perlvar %simplestatus $errors $warnings $notices $totalcount);
   
Line 79  sub rotate_logfile { Line 75  sub rotate_logfile {
  rename("$file.2","$file.3");   rename("$file.2","$file.3");
  rename("$file.1","$file.2");   rename("$file.1","$file.2");
  rename("$file","$file.1");   rename("$file","$file.1");
     }      } 
 }  }
   
 sub start_daemon {  sub start_daemon {
     my ($fh,$daemon,$pidfile,$args) = @_;      my ($fh,$daemon,$pidfile,$args) = @_;
     my $progname=$daemon;      my $progname=$daemon;
     if ($daemon eq 'lonc') {      if ($daemon eq 'lonc') {
  $progname='loncnew';   $progname='loncnew'; 
     }      }
     my $error_fname="$perlvar{'lonDaemons'}/logs/${daemon}_errors";      my $error_fname="$perlvar{'lonDaemons'}/logs/${daemon}_errors";
     &rotate_logfile($error_fname,$fh,'error logs');      &rotate_logfile($error_fname,$fh,'error logs');
Line 120  sub checkon_daemon { Line 116  sub checkon_daemon {
     if ($fh) {      if ($fh) {
         if (-e "$perlvar{'lonDaemons'}/logs/$daemon.log"){          if (-e "$perlvar{'lonDaemons'}/logs/$daemon.log"){
     if (open(DFH,"tail -n25 $perlvar{'lonDaemons'}/logs/$daemon.log|")) {      if (open(DFH,"tail -n25 $perlvar{'lonDaemons'}/logs/$daemon.log|")) {
         while (my $line=<DFH>) {          while (my $line=<DFH>) { 
             &log($fh,"$line");              &log($fh,"$line");
             if ($line=~/INFO/) { $notices++; }              if ($line=~/INFO/) { $notices++; }
             if ($line=~/WARNING/) { $notices++; }              if ($line=~/WARNING/) { $notices++; }
Line 131  sub checkon_daemon { Line 127  sub checkon_daemon {
         }          }
         &log($fh,"</tt></p>");          &log($fh,"</tt></p>");
     }      }
       
     my $pidfile="$perlvar{'lonDaemons'}/logs/$daemon.pid";      my $pidfile="$perlvar{'lonDaemons'}/logs/$daemon.pid";
        
     my $restartflag=1;      my $restartflag=1;
     my $daemonpid;      my $daemonpid;
     if (-e $pidfile) {      if (-e $pidfile) {
Line 172  sub checkon_daemon { Line 168  sub checkon_daemon {
  &log($fh,unlink($pidfile).' - '.   &log($fh,unlink($pidfile).' - '.
     `killall -9 $kadaemon 2>&1`.      `killall -9 $kadaemon 2>&1`.
     '</font><br />');      '</font><br />');
           if ($kadaemon eq 'loncnew') {
               &clean_lonc_childpids();
           }
  &log($fh,"<h3>$daemon not running, trying to start</h3>");   &log($fh,"<h3>$daemon not running, trying to start</h3>");
   
  if (&start_daemon($fh,$daemon,$pidfile,$args)) {   if (&start_daemon($fh,$daemon,$pidfile,$args)) {
Line 210  sub checkon_daemon { Line 209  sub checkon_daemon {
             close (DFH);              close (DFH);
                 }                  }
         &log($fh,"</pre></p>");          &log($fh,"</pre></p>");
     }              }
         }   }
     }      }
       
     my $fname="$perlvar{'lonDaemons'}/logs/$daemon.log";      my $fname="$perlvar{'lonDaemons'}/logs/$daemon.log";
     &rotate_logfile($fname,$fh,'logs');      &rotate_logfile($fname,$fh,'logs');
   
Line 226  sub log_machine_info { Line 225  sub log_machine_info {
     my ($fh)=@_;      my ($fh)=@_;
     &log($fh,'<hr /><a name="machine" /><h2>Machine Information</h2>');      &log($fh,'<hr /><a name="machine" /><h2>Machine Information</h2>');
     &log($fh,"<h3>loadavg</h3>");      &log($fh,"<h3>loadavg</h3>");
   
     open (LOADAVGH,"/proc/loadavg");      open (LOADAVGH,"/proc/loadavg");
     my $loadavg=<LOADAVGH>;      my $loadavg=<LOADAVGH>;
     close (LOADAVGH);      close (LOADAVGH);
       
     &log($fh,"<tt>$loadavg</tt>");      &log($fh,"<tt>$loadavg</tt>");
       
     my @parts=split(/\s+/,$loadavg);      my @parts=split(/\s+/,$loadavg);
     if ($parts[1]>4.0) {      if ($parts[1]>4.0) {
  $errors++;   $errors++;
Line 246  sub log_machine_info { Line 245  sub log_machine_info {
     &log($fh,"<pre>");      &log($fh,"<pre>");
   
     open (DFH,"df|");      open (DFH,"df|");
     while (my $line=<DFH>) {      while (my $line=<DFH>) { 
  &log($fh,&encode_entities($line,'<>&"'));   &log($fh,&encode_entities($line,'<>&"')); 
  @parts=split(/\s+/,$line);   @parts=split(/\s+/,$line);
  my $usage=$parts[4];   my $usage=$parts[4];
  $usage=~s/\W//g;   $usage=~s/\W//g;
  if ($usage>90) {   if ($usage>90) { 
     $warnings++;      $warnings++;
     $notices++;      $notices++; 
  } elsif ($usage>80) {   } elsif ($usage>80) {
     $warnings++;      $warnings++;
  } elsif ($usage>60) {   } elsif ($usage>60) {
Line 270  sub log_machine_info { Line 269  sub log_machine_info {
     my $psproc=0;      my $psproc=0;
   
     open (PSH,"ps aux --cols 140 |");      open (PSH,"ps aux --cols 140 |");
     while (my $line=<PSH>) {      while (my $line=<PSH>) { 
  &log($fh,&encode_entities($line,'<>&"'));   &log($fh,&encode_entities($line,'<>&"')); 
  $psproc++;   $psproc++;
     }      }
     close (PSH);      close (PSH);
Line 293  sub start_logging { Line 292  sub start_logging {
     my %simplestatus=();      my %simplestatus=();
     my $now=time;      my $now=time;
     my $date=localtime($now);      my $date=localtime($now);
       
   
     &log($fh,(<<ENDHEADERS));      &log($fh,(<<ENDHEADERS));
 <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">  <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
Line 409  sub recursive_clean_tmp { Line 408  sub recursive_clean_tmp {
                 ($cleaned,$old,$removed) =                   ($cleaned,$old,$removed) = 
                      &recursive_clean_tmp($innerdir,$cleaned,$old,$removed,$errors);                       &recursive_clean_tmp($innerdir,$cleaned,$old,$removed,$errors);
                 my @doms = &Apache::lonnet::current_machine_domains();                  my @doms = &Apache::lonnet::current_machine_domains();
                   
                 if (open(my $dirhandle,$fname)) {                  if (open(my $dirhandle,$fname)) {
                     unless (($innerdir eq 'helprequests') ||                      unless (($innerdir eq 'helprequests') ||
                             (($innerdir =~ /^addcourse/) && ($innerdir !~ m{/\d+$}))) {                              (($innerdir =~ /^addcourse/) && ($innerdir !~ m{/\d+$}))) {
                         my @contents = grep {!/^\.\.?$/} readdir($dirhandle);                          my @contents = grep {!/^\.\.?$/} readdir($dirhandle);
                                       join('&&',@contents)."\n";                                        join('&&',@contents)."\n";    
                         if (scalar(grep {!/^\.\.?$/} readdir($dirhandle)) == 0) {                          if (scalar(grep {!/^\.\.?$/} readdir($dirhandle)) == 0) {
                             closedir($dirhandle);                              closedir($dirhandle);
                             if ($fname =~ m{^\Q$perlvar{'lonDaemons'}\E/tmp/}) {                              if ($fname =~ m{^\Q$perlvar{'lonDaemons'}\E/tmp/}) {
Line 467  sub recursive_clean_tmp { Line 466  sub recursive_clean_tmp {
                                 }                                  }
                             }                              }
                         } elsif (ref($errors->{failopen}) eq 'ARRAY') {                          } elsif (ref($errors->{failopen}) eq 'ARRAY') {
                             push(@{$errors->{failopen}},$fname);                              push(@{$errors->{failopen}},$fname); 
                         }                          }
                     } else {                      } else {
                         if (unlink($fname)) {                          if (unlink($fname)) {
Line 493  sub clean_lonIDs { Line 492  sub clean_lonIDs {
     my $cleaned=0;      my $cleaned=0;
     my $active=0;      my $active=0;
     while (my $fname=<$perlvar{'lonIDsDir'}/*>) {      while (my $fname=<$perlvar{'lonIDsDir'}/*>) {
         my $now=time;   my ($dev,$ino,$mode,$nlink,
         if (-l $fname) {      $uid,$gid,$rdev,$size,
             my $linkfname = readlink($fname);      $atime,$mtime,$ctime,
             if (-f $linkfname) {      $blksize,$blocks)=stat($fname);
                 if ($linkfname =~ m{^$perlvar{'lonIDsDir'}/[^/]+\.id$}) {   my $now=time;
                     my @data = stat($linkfname);   my $since=$now-$mtime;
                     my $mtime = $data[9];   if ($since>$perlvar{'lonExpire'}) {
                     my $since=$now-$mtime;      $cleaned++;
                     if ($since>$perlvar{'lonExpire'}) {      &log($fh,"Unlinking $fname<br />");
                         if (unlink($linkfname)) {      unlink("$fname");
                             $cleaned++;   } else {
                             &log($fh,"Unlinking $linkfname<br />");      $active++;
                             unlink($fname);   }
                         }  
                     }  
                 }  
             } else {  
                unlink($fname);  
             }  
         } elsif (-f $fname) {  
             my @data = stat($fname);  
             my $mtime = $data[9];  
             my $since=$now-$mtime;  
             if ($since>$perlvar{'lonExpire'}) {  
                 if (unlink($fname)) {  
                     $cleaned++;  
                     &log($fh,"Unlinking $fname<br />");  
                 }  
             } else {  
                 $active++;  
             }  
         }  
     }      }
     &log($fh,"<p>Cleaned up ".$cleaned." stale session token(s).</p>");      &log($fh,"<p>Cleaned up ".$cleaned." stale session token(s).</p>");
     &log($fh,"<h3>$active open session(s)</h3>");      &log($fh,"<h3>$active open session(s)</h3>");
 }  }
   
 # -------------------------------------------------------- clean out balanceIDs  
   
 sub clean_balanceIDs {  
     my ($fh)=@_;  
     &log($fh,'<hr /><a name="balcookies" /><h2>Session Tokens</h2>');  
     my $cleaned=0;  
     my $active=0;  
     if (-d $perlvar{'lonBalanceDir'}) {  
         while (my $fname=<$perlvar{'lonBalanceDir'}/*.id>) {  
             my ($dev,$ino,$mode,$nlink,  
                 $uid,$gid,$rdev,$size,  
                 $atime,$mtime,$ctime,  
                 $blksize,$blocks)=stat($fname);  
             my $now=time;  
             my $since=$now-$mtime;  
             if ($since>$perlvar{'lonExpire'}) {  
                 $cleaned++;  
                 &log($fh,"Unlinking $fname<br />");  
                 unlink("$fname");  
             } else {  
                 $active++;  
             }  
         }  
     }  
     &log($fh,"<p>Cleaned up ".$cleaned." stale balancer files</p>");  
     &log($fh,"<h3>$active unexpired balancer files</h3>");  
 }  
   
 # ------------------------------------------------ clean out webDAV Session IDs  # ------------------------------------------------ clean out webDAV Session IDs
 sub clean_webDAV_sessionIDs {  sub clean_webDAV_sessionIDs {
     my ($fh)=@_;      my ($fh)=@_;
Line 621  sub rotate_lonnet_logs { Line 573  sub rotate_lonnet_logs {
     print "Checking logs.\n";      print "Checking logs.\n";
     if (-e "$perlvar{'lonDaemons'}/logs/lonnet.log"){      if (-e "$perlvar{'lonDaemons'}/logs/lonnet.log"){
  open (DFH,"tail -n50 $perlvar{'lonDaemons'}/logs/lonnet.log|");   open (DFH,"tail -n50 $perlvar{'lonDaemons'}/logs/lonnet.log|");
  while (my $line=<DFH>) {   while (my $line=<DFH>) { 
     &log($fh,&encode_entities($line,'<>&"'));      &log($fh,&encode_entities($line,'<>&"'));
  }   }
  close (DFH);   close (DFH);
     }      }
     &log($fh,"</pre><h3>Perm Log</h3><pre>");      &log($fh,"</pre><h3>Perm Log</h3><pre>");
       
     if (-e "$perlvar{'lonDaemons'}/logs/lonnet.perm.log") {      if (-e "$perlvar{'lonDaemons'}/logs/lonnet.perm.log") {
  open(DFH,"tail -n10 $perlvar{'lonDaemons'}/logs/lonnet.perm.log|");   open(DFH,"tail -n10 $perlvar{'lonDaemons'}/logs/lonnet.perm.log|");
  while (my $line=<DFH>) {   while (my $line=<DFH>) { 
     &log($fh,&encode_entities($line,'<>&"'));      &log($fh,&encode_entities($line,'<>&"'));
  }   }
  close (DFH);   close (DFH);
Line 694  sub test_connections { Line 646  sub test_connections {
   
 # ------------------------------------------------------------ Delayed messages  # ------------------------------------------------------------ Delayed messages
 sub check_delayed_msg {  sub check_delayed_msg {
     my ($fh,$weightsref,$exclusionsref)=@_;      my ($fh)=@_;
     &log($fh,'<hr /><a name="delayed" /><h2>Delayed Messages</h2>');      &log($fh,'<hr /><a name="delayed" /><h2>Delayed Messages</h2>');
     print "Checking buffers.\n";      print "Checking buffers.\n";
           
     &log($fh,'<h3>Scanning Permanent Log</h3>');      &log($fh,'<h3>Scanning Permanent Log</h3>');
   
     my $unsend=0;      my $unsend=0;
     my $ignored=0;  
   
     my %hostname = &Apache::lonnet::all_hostnames();      my %hostname = &Apache::lonnet::all_hostnames();
     my $numhosts = scalar(keys(%hostname));      my $numhosts = scalar(keys(%hostname));
     my $checkbackwards = 0;  
     my $checkfrom = 0;      my $dfh=IO::File->new("$perlvar{'lonDaemons'}/logs/lonnet.perm.log");
     my $checkexcluded = 0;      while (my $line=<$dfh>) {
     my (%bymachine,%weights,%exclusions,%serverhomes);   my ($time,$sdf,$dserv,$dcmd)=split(/:/,$line);
     if (ref($weightsref) eq 'HASH') {          if ($numhosts) {
         %weights = %{$weightsref};              next unless ($hostname{$dserv});
     }          }
     if (ref($exclusionsref) eq 'HASH') {   if ($sdf eq 'F') { 
         %exclusions = %{$exclusionsref};      my $local=localtime($time);
         if (keys(%exclusions)) {      &log($fh,"<b>Failed: $time, $dserv, $dcmd</b><br />");
             $checkexcluded = 1;      $warnings++;
             %serverhomes = &read_serverhomeIDs();   }
         }   if ($sdf eq 'S') { $unsend--; }
     }   if ($sdf eq 'D') { $unsend++; }
   
 #  
 # For LON-CAPA 1.2.0 to 2.1.3 (release dates: 8/31/2004 and 3/31/2006) any  
 # entry logged in lonnet.perm.log for completion of a delayed (critical)  
 # transaction lacked the hostID for the remote node to which the command  
 # to be completed was sent.  
 #  
 # Because of this, exclusion of items in lonnet.perm.log for nodes which are  
 # no longer part of the cluster from adding to the overall "unsend" count  
 # needs additional effort besides the changes made in loncron rev. 1.105.  
 #  
 # For "S" (completion) events logging in LON-CAPA 1.2.0 through 2.1.3 included  
 # "LondTransaction=HASH(hexadecimal)->getClient() :$cmd, where the hexadecimal  
 # is a memory location, and $cmd is the command sent to the remote node.  
 #  
 # Starting with 2.2.0 (released 8/21/2006) logging for "S" (completion) events  
 # had sethost:$host_id:$cmd after LondTransaction=HASH(hexadecimal)->getClient()  
 #  
 # Starting with 2.4.1 (released 6/13/2007) logging for "S" replaced echoing the  
 # getClient() call with the result of the Transaction->getClient() call itself  
 # undef for completion of delivery of a delayed message.  
 #  
 # The net effect of these changes is that lonnet.perm.log is now accessed three  
 # times: (a) oldest record is checked, if earlier than release date for 2.5.0  
 # then (b) file is read backwards, with timestamp recorded for most recent  
 # instance of logged "S" event for "update" command without "sethost:$host_id:"  
 # then (c) file is read forward with records ignored which predate the timestamp  
 # recorded in (b), if one was found.  
 #  
 # In (c), when calculating the unsend total, i.e., the difference between delayed  
 # transactions ("D") and sent transactions ("S"), transactions are ignored if the  
 # target node is no longer in the cluster, and also (for "update" commands), if  
 # the target node is in the list of nodes excluded from the count, in the domain  
 # configuration for this machine's default domain.  The idea here is to remove  
 # delayed "update" commands for nodes for which inbound access to port 5663,  
 # is blocked, but are still part of the LON-CAPA network, (i.e., they can still  
 # replicate content from other nodes).  
 #  
   
     my $dfh=IO::File->new("$perlvar{'lonDaemons'}/logs/lonnet.perm.log","r");  
     if (defined($dfh)) {  
         while (my $line=<$dfh>) {  
     my ($time,$sdf,$rest)=split(/:/,$line,3);  
             if ($time < 1541185772) {  
                 $checkbackwards = 1;  
             }  
             last;  
         }  
         undef $dfh;  
     }  
   
     if ($checkbackwards) {  
         if (tie *BW, 'File::ReadBackwards', "$perlvar{'lonDaemons'}/logs/lonnet.perm.log") {  
             while(my $line=<BW>) {  
                 if ($line =~ /\QLondTransaction=HASH\E[^:]+:update:/) {  
                     ($checkfrom) = split(/:/,$line,2);  
                     last;  
                 }  
             }  
             close(BW);  
         }  
     }      }
     $dfh=IO::File->new("$perlvar{'lonDaemons'}/logs/lonnet.perm.log","r");  
     if (defined($dfh)) {      &log($fh,"<p>Total unsend messages: <b>$unsend</b></p>\n");
         while (my $line=<$dfh>) {      if ($unsend > 0) {
             my ($time,$sdf,$rest)=split(/:/,$line,3);          $warnings=$warnings+5*$unsend;
             next unless (($sdf eq 'F') || ($sdf eq 'S') || ($sdf eq 'D'));  
             next if (($checkfrom) && ($time <= $checkfrom));  
             my ($dserv,$dcmd);  
             if ($sdf eq 'S') {  
                 my ($serva,$cmda,$servb,$cmdb) = split(/:/,$rest);  
                 if ($cmda eq 'sethost') {  
                     chomp($cmdb);  
                     $dcmd = $cmdb;  
                 } else {  
                     $dcmd = $cmda;  
                 }  
                 if (($serva =~ /^LondTransaction/) || ($serva eq '')) {  
                     unless (($servb eq '') || ($servb =~ m{^/})) {  
                         $dserv = $servb;  
                     }  
                 } else {  
                     $dserv = $serva;  
                 }  
             } else {  
                 ($dserv,$dcmd) = split(/:/,$rest);  
             }  
             if ($sdf eq 'F') {  
                 my $local=localtime($time);  
                 &log($fh,"<b>Failed: $time, $dserv, $dcmd</b><br />");  
                 $warnings++;  
             }  
             next if ((($dserv eq '') || ($dcmd eq '')) && ($sdf ne 'F'));  
             if ($sdf eq 'S') {  
                 if ($dcmd eq 'update') {  
                     if ($hostname{$dserv}) {  
                         if ($exclusions{$serverhomes{$hostname{$dserv}}}) {  
                             $ignored --;  
                         } else {  
                             $unsend --;  
                         }  
                     }  
                     if (exists($bymachine{$dserv})) {  
                         $bymachine{$dserv} --;  
                     } else {  
                         $bymachine{$dserv} = -1;  
                     }  
                 } else {  
                     if ($hostname{$dserv}) {  
                         $unsend --;  
                     }  
                 }  
             } elsif ($sdf eq 'D') {  
                 if ($dcmd eq 'update') {  
                     if ($hostname{$dserv}) {  
                         if ($exclusions{$serverhomes{$hostname{$dserv}}}) {  
                             $ignored ++;  
                         } else {  
                             $unsend ++;  
                         }  
                     }  
                     if (exists($bymachine{$dserv})) {  
                         $bymachine{$dserv} ++;  
                     } else {  
                         $bymachine{$dserv} = 1;  
                     }  
                 } else {  
                     if ($hostname{$dserv}) {  
                         $unsend ++;  
                     }  
                 }  
             }  
         }  
         undef $dfh;  
         my $nodest = 0;  
         my $retired = 0;  
         my %active;  
         if (keys(%bymachine)) {  
             unless ($checkexcluded) {  
                 %serverhomes = &read_serverhomeIDs();  
             }  
             foreach my $key (keys(%bymachine)) {  
                 if ($bymachine{$key} > 0) {  
                     if ($hostname{$key}) {  
                         $active{$serverhomes{$hostname{$key}}} += $bymachine{$key};  
                     } else {  
                         $retired ++;  
                         $nodest += $bymachine{$key};  
                     }  
                 }  
             }  
         }  
         if (keys(%active)) {  
             &log($fh,"<p>Unsend messages by node, active (undegraded) nodes in cluster</p>\n");  
             foreach my $key (sort(keys(%active))) {  
                 &log($fh,&encode_entities("$key => $active{$key}",'<>&"')."\n");  
             }  
         }  
         &log($fh,"<p>Total unsend messages: <b>$unsend</b> for ".scalar(keys(%active))." active (undegraded) nodes in cluster.</p>\n");  
         if (keys(%exclusions) > 0) {  
             &log($fh,"<p>Total incomplete updates <b>$ignored</b> for ".scalar(keys(%exclusions))." degraded nodes in cluster.</p>\n");  
         }  
         if ($retired) {  
             &log($fh,"<p>Total unsent <b>$nodest</b> for $retired nodes no longer in cluster.</p>\n");  
         }  
         if ($unsend > 0) {  
             $warnings=$warnings+$weights{'U'}*$unsend;  
         }  
     }      }
   
     if ($unsend) { $simplestatus{'unsend'}=$unsend; }      if ($unsend) { $simplestatus{'unsend'}=$unsend; }
Line 925  sub check_delayed_msg { Line 713  sub check_delayed_msg {
 }  }
   
 sub finish_logging {  sub finish_logging {
     my ($fh,$weightsref)=@_;      my ($fh,%weights)=@_;
     my %weights;  
     if (ref($weightsref) eq 'HASH') {  
         %weights = %{$weightsref};  
     }  
     &log($fh,"<a name='errcount' />\n");      &log($fh,"<a name='errcount' />\n");
     $totalcount=($weights{'N'}*$notices)+($weights{'W'}*$warnings)+($weights{'E'}*$errors);      $totalcount=($weights{'N'}*$notices)+($weights{'W'}*$warnings)+($weights{'E'}*$errors);
     &errout($fh);      &errout($fh);
Line 1000  sub write_serverhomeIDs { Line 784  sub write_serverhomeIDs {
                 eval {                  eval {
                     local $SIG{ ALRM } = sub { die "TIMEOUT" };                      local $SIG{ ALRM } = sub { die "TIMEOUT" };
                     alarm(10);                      alarm(10);
                     $serverhomeID =                      $serverhomeID = 
                         &Apache::lonnet::get_server_homeID($name,1,'loncron');                          &Apache::lonnet::get_server_homeID($name,1,'loncron');
                     alarm(0);                      alarm(0);
                 };                  };
Line 1045  sub write_checksums { Line 829  sub write_checksums {
     return;      return;
 }  }
   
 sub write_hostips {  sub clean_nosslverify {
     my $lontabdir = $perlvar{'lonTabDir'};      my ($fh) = @_;
     my $defdom = $perlvar{'lonDefDomain'};      my %unlinked; 
     my $lonhost = $perlvar{'lonHostID'};      if (-d "$perlvar{'lonSockDir'}/nosslverify") {
     my $newfile = "$lontabdir/currhostips.tab";          if (opendir(my $dh,"$perlvar{'lonSockDir'}/nosslverify")) {
     my $oldfile = "$lontabdir/prevhostips.tab";              while (my $fname=readdir($dh)) {
     my (%prevhosts,%currhosts,%ipchange);                  next if ($fname =~ /^\.+$/);
     if ((-e $newfile) && (-s $newfile)) {                  if (unlink("/home/httpd/sockets/nosslverify/$fname")) {
         move($newfile,$oldfile);                      &log($fh,"Unlinking $fname<br />");
         chmod(0644,$oldfile);                      $unlinked{$fname} = 1;
         if (open(my $fh,'<',$oldfile)) {  
             while (my $line=<$fh>) {  
                 chomp($line);  
                 if ($line =~ /^([^:]+):([\d.]+)$/) {  
                     $prevhosts{$1} = $2;  
                 }                  }
             }              }
             close($fh);              closedir($dh);
         }          }
     }      }
     my ($ip_info,$cached) =      &log($fh,"<p>Removed ".scalar(keys(%unlinked))." nosslverify clients</p>");
         &Apache::lonnet::is_cached_new('iphost','iphost');      return %unlinked;
     if (!$cached) {  }
         &Apache::lonnet::get_iphost();  sub clean_lonc_childpids {
         ($ip_info,$cached) =      my $childpiddir = "$perlvar{'lonDocRoot'}/lon-status/loncchld";
         &Apache::lonnet::is_cached_new('iphost','iphost');      if (-d $childpiddir) {
     }          if (opendir(my $dh,$childpiddir)) {
     if (ref($ip_info) eq 'ARRAY') {              while (my $fname=readdir($dh)) {
         %currhosts = %{$ip_info->[1]};                  next if ($fname =~ /^\.+$/);
         if (open(my $fh,'>',$newfile)) {                  unlink("$childpiddir/$fname");
             foreach my $key (keys(%currhosts)) {  
                 print $fh "$key:$currhosts{$key}\n";  
             }              }
             close($fh);              closedir($dh);
             chmod(0644,$newfile);  
         }          }
     }      }
     if (keys(%prevhosts) && keys(%currhosts)) {  }
         foreach my $key (keys(%prevhosts)) {  
             unless ($currhosts{$key} eq $prevhosts{$key}) {  sub write_connection_config {
                 $ipchange{$key} = $prevhosts{$key}.' | '.$currhosts{$key};      my ($domconf,%connectssl,%changes);
             }      $domconf = &get_domain_config();
         }      if (ref($domconf) eq 'HASH') {
         foreach my $key (keys(%currhosts)) {          if (ref($domconf->{'ssl'}) eq 'HASH') {
             unless ($currhosts{$key} eq $prevhosts{$key}) {              foreach my $connect ('connto','connfrom') {
                 $ipchange{$key} = $prevhosts{$key}.' | '.$currhosts{$key};                  if (ref($domconf->{'ssl'}->{$connect}) eq 'HASH') {
                       my ($sslreq,$sslnoreq,$currsetting);
                       my %contypes;
                       foreach my $type ('dom','intdom','other') {
                           $connectssl{$connect.'_'.$type} = $domconf->{'ssl'}->{$connect}->{$type};
                       }
                   }
             }              }
         }          }
     }          if (keys(%connectssl)) {
     if (&Apache::lonnet::domain($defdom,'primary') eq $lonhost) {              my %currconf; 
         if (keys(%ipchange)) {              if (open(my $fh,'<',"$perlvar{'lonTabDir'}/connectionrules.tab")) {
             if (open(my $fh,'>>',$perlvar{'lonDaemons'}.'/logs/hostip.log')) {                  while (my $line = <$fh>) {
                print $fh "********************\n".localtime(time).' Changes --'."\n".                      chomp($line);
                          "| Hostname | Previous IP | New IP |\n".                      my ($name,$value) = split(/=/,$line);
                          " --------------------------------- \n";                      if ($value =~ /^(?:no|yes|req)$/) {
                foreach my $hostname (sort(keys(%ipchange))) {                          if ($name =~ /^conn(to|from)_(dom|intdom|other)$/) {
                     print $fh "| $hostname | $ipchange{$hostname} |\n";                              $currconf{$name} = $value;
                           }
                       }
                 }                  }
                 print $fh "\n*******************\n\n";  
                 close($fh);                  close($fh);
             }              }
             my $emailto = &Apache::loncommon::build_recipient_list(undef,              if (open(my $fh,'>',"$perlvar{'lonTabDir'}/connectionrules.tab")) {
                                    'hostipmail',$defdom);                  my $count = 0;
             if ($emailto) {                  foreach my $key (sort(keys(%connectssl))) { 
                 my $subject = "LON-CAPA Hostname to IP change ($perlvar{'lonHostID'})";                      print $fh "$key=$connectssl{$key}\n";
                 my $chgmail = "To: $emailto\n".                      if (exists($currconf{$key})) {
                               "Subject: $subject\n".                          unless ($currconf{$key} eq $connectssl{$key}) {
                               "Content-type: text/plain\; charset=UTF-8\n".                              $changes{$key} = 1;
                               "MIME-Version: 1.0\n\n".                          }
                               "Host/IP changes\n".                      } else {
                               " \n".                          $changes{$key} = 1;
                               "| Hostname | Previous IP | New IP |\n".                      }
                               " --------------------------------- \n";                      $count ++;
                 foreach my $hostname (sort(keys(%ipchange))) {  
                     $chgmail .= "| $hostname | $ipchange{$hostname} |\n";  
                 }  
                 $chgmail .= "\n\n";  
                 if (open(my $mailh, "|/usr/lib/sendmail -oi -t -odb")) {  
                     print $mailh $chgmail;  
                     close($mailh);  
                     print "Sending mail notification of hostname/IP changes.\n";  
                 }                  }
                   close($fh);
                   print "Completed writing SSL options for lonc/lond for $count items.\n";
             }              }
           } else {
               print "Writing of SSL options skipped - no connection rules in domain configuration.\n";
         }          }
       } else {
           print "Retrieval of SSL options for lonc/lond skipped - no configuration data available for domain.\n";
     }      }
     return;      return %changes;
 }  }
   
 sub get_domain_config {  sub get_domain_config {
Line 1145  sub get_domain_config { Line 926  sub get_domain_config {
         unless ($protocol eq 'https') {          unless ($protocol eq 'https') {
             $protocol = 'http';              $protocol = 'http';
         }          }
         $url = $protocol.'://'.$hostname.'/cgi-bin/listdomconfig.pl?primary='.$primlibserv.'&format=raw';          $url = $protocol.'://'.$hostname.'/cgi-bin/listdomconfig.pl';
     }      }
     if ($isprimary) {      if ($isprimary) {
         my $lonusersdir = $perlvar{'lonUsersDir'};          my $lonusersdir = $perlvar{'lonUsersDir'};
Line 1166  sub get_domain_config { Line 947  sub get_domain_config {
             }              }
         }          }
     } else {      } else {
         my $ua=new LWP::UserAgent;          if (open(PIPE,"wget --no-check-certificate '$url?primary=$primlibserv&format=raw' |")) {
         $ua->timeout(5);              my $config = '';
         my $request=new HTTP::Request('GET',$url);              while (<PIPE>) {
         my $response=$ua->request($request);                  $config .= $_;
         unless ($response->is_error()) {              }
             my $content = $response->content;              close(PIPE);
             if ($content) {              if ($config) {
                 my @pairs=split(/\&/,$content);                  my @pairs=split(/\&/,$config);
                 foreach my $item (@pairs) {                  foreach my $item (@pairs) {
                     my ($key,$value)=split(/=/,$item,2);                      my ($key,$value)=split(/=/,$item,2);
                     my $what = &LONCAPA::unescape($key);                      my $what = &LONCAPA::unescape($key);
Line 1190  sub get_domain_config { Line 971  sub get_domain_config {
     return \%confhash;      return \%confhash;
 }  }
   
 sub get_permcount_settings {  sub write_hosttypes {
     my ($domconf) = @_;      my %intdom = &Apache::lonnet::all_host_intdom();
     my ($defaults,$names) = &Apache::loncommon::lon_status_items();      my %hostdom = &Apache::lonnet::all_host_domain();
     my (%weights,$threshold,$sysmail,$reportstatus,%exclusions);      my $dom = $hostdom{$perlvar{'lonHostID'}};
     foreach my $type ('E','W','N','U') {      my $internetdom = $intdom{$perlvar{'lonHostID'}};
         $weights{$type} = $defaults->{$type};      my %changes;
     }      if (($dom ne '') && ($internetdom ne '')) {
     $threshold = $defaults->{'threshold'};          if (keys(%hostdom)) {
     $sysmail = $defaults->{'sysmail'};              my %currhosttypes;
     $reportstatus = 1;              if (open(my $fh,'<',"$perlvar{'lonTabDir'}/hosttypes.tab")) {
     if (ref($domconf) eq 'HASH') {                  while (my $line = <$fh>) {
         if (ref($domconf->{'contacts'}) eq 'HASH') {                      chomp($line);
             if ($domconf->{'contacts'}{'reportstatus'} == 0) {                      my ($name,$value) = split(/:/,$line);
                 $reportstatus = 0;                      if (($name ne '') && ($value =~ /^(dom|intdom|other)$/)) {
             }                          $currhosttypes{$name} = $value;
             if (ref($domconf->{'contacts'}{'lonstatus'}) eq 'HASH') {  
                 if (ref($domconf->{'contacts'}{'lonstatus'}{weights}) eq 'HASH') {  
                     foreach my $type ('E','W','N','U') {  
                         if (exists($domconf->{'contacts'}{'lonstatus'}{weights}{$type})) {  
                             $weights{$type} = $domconf->{'contacts'}{'lonstatus'}{weights}{$type};  
                         }  
                     }                      }
                 }                  }
                 if (ref($domconf->{'contacts'}{'lonstatus'}{'excluded'}) eq 'ARRAY') {                  close($fh);
                     my @excluded = @{$domconf->{'contacts'}{'lonstatus'}{'excluded'}};              }
                     if (@excluded) {              if (open(my $fh,'>',"$perlvar{'lonTabDir'}/hosttypes.tab")) {
                         map { $exclusions{$_} = 1; } @excluded;                  my $count = 0;
                   foreach my $lonid (sort(keys(%hostdom))) {
                       my $type = 'other';
                       if ($hostdom{$lonid} eq $dom) {
                           $type = 'dom'; 
                       } elsif ($intdom{$lonid} eq $internetdom) {
                           $type = 'intdom';
                     }                      }
                       print $fh "$lonid:$type\n";
                       if (exists($currhosttypes{$lonid})) {
                           if ($type ne $currhosttypes{$lonid}) {
                               $changes{$lonid} = 1;
                           }
                       } else {
                           $changes{$lonid} = 1;
                       }
                       $count ++;
                 }                  }
                 if (exists($domconf->{'contacts'}{'lonstatus'}{'threshold'})) {                  close($fh);
                     $threshold = $domconf->{'contacts'}{'lonstatus'}{'threshold'};                  print "Completed writing host type data for $count hosts.\n";
                 }  
                 if (exists($domconf->{'contacts'}{'lonstatus'}{'sysmail'})) {  
                     $sysmail = $domconf->{'contacts'}{'lonstatus'}{'sysmail'};  
                 }  
             }              }
           } else {
               print "Writing of host types skipped - no hosts found.\n";
         }          }
       } else {
           print "Writing of host types skipped - could not determine this host's LON-CAPA domain or 'internet' domain.\n";
       }
       return %changes;
   }
   
   sub update_revocation_list {
       my ($result,$changed) = &Apache::lonnet::fetch_crl_pemfile();
       if ($result eq 'ok') {
           print "Certificate Revocation List (from CA) updated.\n";
       } else {
           print "Certificate Revocation List from (CA) not updated.\n";
     }      }
     return ($threshold,$sysmail,$reportstatus,\%weights,\%exclusions);      return $changed;
 }  }
   
 sub read_serverhomeIDs {  sub reset_nosslverify_pids {
     my %server;      my ($fh,%sslrem) = @_;
     if (-e "$perlvar{'lonTabDir'}/serverhomeIDs.tab") {      &checkon_daemon($fh,'lond',40000,'USR2');
         if (open(my $fh,'<',"$perlvar{'lonTabDir'}/serverhomeIDs.tab")) {      my $loncpidfile="$perlvar{'lonDaemons'}/logs/lonc.pid";
             while (<$fh>) {      my $loncppid;
                 my($host,$id) = split(/:/);      if ((-e $loncpidfile) && (open(my $pfh,'<',$loncpidfile))) {
                 chomp($id);          $loncppid=<$pfh>;
                 $server{$host} = $id;          chomp($loncppid);
           close($pfh);
           if ($loncppid =~ /^\d+$/) {
               my %pids_by_host;
               my $docdir = $perlvar{'lonDocRoot'};
               if (-d "$docdir/lon-status/loncchld") {
                   if (opendir(my $dh,"$docdir/lon-status/loncchld")) {
                       while (my $file = readdir($dh)) {
                           next if ($file =~ /^\./);
                           if (open(my $fh,'<',"$docdir/lon-status/loncchld/$file")) {
                               my $record = <$fh>;
                               chomp($record);
                               close($fh);
                               my ($remotehost,$authmode) = split(/:/,$record);
                               $pids_by_host{$remotehost}{$authmode}{$file} = 1;
                           }
                       }
                       closedir($dh);
                       if (keys(%pids_by_host)) {
                           foreach my $host (keys(%pids_by_host)) {
                               if ($sslrem{$host}) {
                                   if (ref($pids_by_host{$host}) eq 'HASH') {
                                       if (ref($pids_by_host{$host}{'insecure'}) eq 'HASH') {
                                           if (keys(%{$pids_by_host{$host}{'insecure'}})) {
                                               foreach my $pid (keys(%{$pids_by_host{$host}{'insecure'}})) {
                                                   if (open(PIPE,"ps -o ppid= -p $pid |")) {
                                                       my $ppid = <PIPE>;
                                                       chomp($ppid);
                                                       close(PIPE);
                                                       $ppid =~ s/(^\s+|\s+$)//g;
                                                       if (($ppid == $loncppid) && (kill 0 => $pid)) {
                                                           kill QUIT => $pid;
                                                       }
                                                   }
                                               }
                                           }
                                       }
                                   }
                               }
                           }
                       }
                   }
             }              }
             close($fh);  
         }          }
     }      }
     return %server;      return;
 }  }
   
 sub send_mail {  sub send_mail {
Line 1305  Options: Line 1145  Options:
  do not send emails do not   do not send emails do not
                                 check if the daemons are running, do not                                  check if the daemons are running, do not
                                 generate lon-status                                  generate lon-status
    --justiptables          Only update the dynamic iptables rules for the                             
                                 lond port; do not send emails, do not  
                                 check if the daemons are running, do not  
                                 generate lon-status  
 USAGE  USAGE
 }  }
   
 # ================================================================ Main Program  # ================================================================ Main Program
 sub main () {  sub main () {
     my ($help,$justcheckdaemons,$noemail,$justcheckconnections,      my ($help,$justcheckdaemons,$noemail,$justcheckconnections,
  $justreload,$justiptables);   $justreload);
     &GetOptions("help"                 => \$help,      &GetOptions("help"                 => \$help,
  "justcheckdaemons"     => \$justcheckdaemons,   "justcheckdaemons"     => \$justcheckdaemons,
  "noemail"              => \$noemail,   "noemail"              => \$noemail,
  "justcheckconnections" => \$justcheckconnections,   "justcheckconnections" => \$justcheckconnections,
  "justreload"           => \$justreload,   "justreload"           => \$justreload
                 "justiptables"         => \$justiptables  
  );   );
     if ($help) { &usage(); return; }      if ($help) { &usage(); return; }
 # --------------------------------- Read loncapa_apache.conf and loncapa.conf  # --------------------------------- Read loncapa_apache.conf and loncapa.conf
Line 1336  sub main () { Line 1172  sub main () {
     if ('{[[[[lonHostID]]]]}' eq $perlvar{'lonHostID'}) {      if ('{[[[[lonHostID]]]]}' eq $perlvar{'lonHostID'}) {
  print("Unconfigured machine.\n");   print("Unconfigured machine.\n");
  my $emailto=$perlvar{'lonSysEMail'};   my $emailto=$perlvar{'lonSysEMail'};
  my $hostname = Sys::Hostname::FQDN::fqdn();   my $hostname=`/bin/hostname`;
  $hostname=~s/\.+/./g;   chop $hostname;
  $hostname=~s/\-+/-/g;   $hostname=~s/[^\w\.]//g; # make sure is safe to pass through shell
  $hostname=~s/[^\w\.-]//g; # make sure is safe to pass through shell  
  my $subj="LON: Unconfigured machine $hostname";   my $subj="LON: Unconfigured machine $hostname";
  system("echo 'Unconfigured machine $hostname.' |".   system("echo 'Unconfigured machine $hostname.' |".
                " mail -s '$subj' $emailto > /dev/null");                 " mail -s '$subj' $emailto > /dev/null");
Line 1372  sub main () { Line 1207  sub main () {
             }              }
         }          }
     }      }
     if (!$justiptables) {      &Apache::lonnet::load_hosts_tab(1,$nomemcache);
         &Apache::lonnet::load_hosts_tab(1,$nomemcache);      &Apache::lonnet::load_domain_tab(1,$nomemcache);
         &Apache::lonnet::load_domain_tab(1,$nomemcache);      &Apache::lonnet::get_iphost(1,$nomemcache);
         &Apache::lonnet::get_iphost(1,$nomemcache);  
     }  
   
 # ----------------------------------------- Force firewall update for lond port  # ----------------------------------------- Force firewall update for lond port  
   
     if ((!$justcheckdaemons) && (!$justreload)) {      if ((!$justcheckdaemons) && (!$justreload)) {
         my $now = time;          my $now = time;
Line 1393  sub main () { Line 1226  sub main () {
             if (&LONCAPA::try_to_lock('/tmp/lock_lciptables')) {              if (&LONCAPA::try_to_lock('/tmp/lock_lciptables')) {
                 my $execpath = $perlvar{'lonDaemons'}.'/lciptables';                  my $execpath = $perlvar{'lonDaemons'}.'/lciptables';
                 system("$execpath $tmpfile");                  system("$execpath $tmpfile");
                 unlink('/tmp/lock_lciptables');  # Remove the lock file.                  unlink('/tmp/lock_lciptables');  # Remove the lock file. 
             }              }
             unlink($tmpfile);              unlink($tmpfile);
         }          }
Line 1405  sub main () { Line 1238  sub main () {
     $warnings=0;      $warnings=0;
     $notices=0;      $notices=0;
   
   
     my $fh;      my $fh;
     if (!$justcheckdaemons && !$justcheckconnections && !$justreload && !$justiptables) {      if (!$justcheckdaemons && !$justcheckconnections && !$justreload) {
  $fh=&start_logging();   $fh=&start_logging();
   
  &log_machine_info($fh);   &log_machine_info($fh);
  &clean_tmp($fh);   &clean_tmp($fh);
  &clean_lonIDs($fh);   &clean_lonIDs($fh);
         &clean_balanceIDs($fh);  
         &clean_webDAV_sessionIDs($fh);          &clean_webDAV_sessionIDs($fh);
  &check_httpd_logs($fh);   &check_httpd_logs($fh);
  &rotate_lonnet_logs($fh);   &rotate_lonnet_logs($fh);
  &rotate_other_logs($fh);   &rotate_other_logs($fh);
     }      }
     if (!$justcheckconnections && !$justreload && !$justiptables) {      if (!$justcheckconnections && !$justreload) {
  &checkon_daemon($fh,'lonmemcached',40000);   &checkon_daemon($fh,'lonmemcached',40000);
  &checkon_daemon($fh,'lonsql',200000);   &checkon_daemon($fh,'lonsql',200000);
  if ( &checkon_daemon($fh,'lond',40000,'USR1') eq 'running') {   if ( &checkon_daemon($fh,'lond',40000,'USR1') eq 'running') {
Line 1430  sub main () { Line 1262  sub main () {
         &checkon_daemon($fh,'lonr',40000);          &checkon_daemon($fh,'lonr',40000);
     }      }
     if ($justreload) {      if ($justreload) {
           &clean_nosslverify($fh);
           &write_connection_config();
           &write_hosttypes();
           &update_revocation_list(); 
  &checkon_daemon($fh,'lond',40000,'USR2');   &checkon_daemon($fh,'lond',40000,'USR2');
  &checkon_daemon($fh,'lonc',40000,'USR2');   &checkon_daemon($fh,'lonc',40000,'USR2');
     }      }
     if ($justcheckconnections) {      if ($justcheckconnections) {
  &test_connections($fh);   &test_connections($fh);
     }      }
     if (!$justcheckdaemons && !$justcheckconnections && !$justreload && !$justiptables) {      if (!$justcheckdaemons && !$justcheckconnections && !$justreload) {
         my $domconf = &get_domain_config();   &check_delayed_msg($fh);
         my ($threshold,$sysmail,$reportstatus,$weightsref,$exclusionsref) =  
             &get_permcount_settings($domconf);  
  &check_delayed_msg($fh,$weightsref,$exclusionsref);  
  &finish_logging($fh,$weightsref);  
  &log_simplestatus();   &log_simplestatus();
         &write_loncaparevs();          &write_loncaparevs();
         &write_serverhomeIDs();          &write_serverhomeIDs();
  &write_checksums();   &write_checksums();
         &write_hostips();          my %sslrem = &clean_nosslverify($fh);
         if ($totalcount>$threshold && !$noemail) { &send_mail($sysmail,$reportstatus); }          my %conchgs = &write_connection_config();
           my %hosttypechgs = &write_hosttypes();
           my $hadcrlchg = &update_revocation_list();
           if ((keys(%conchgs) > 0) || (keys(%hosttypechgs) > 0) ||
               $hadcrlchg || (keys(%sslrem) > 0)) {
               &checkon_daemon($fh,'lond',40000,'USR2');
               &reset_nosslverify_pids($fh,%sslrem);
           }
           my $domconf = &get_domain_config();
           my ($defaults,$names) = &Apache::loncommon::lon_status_items();
           my (%weights,$threshold);
           foreach my $type ('E','W','N') {
               $weights{$type} = $defaults->{$type};
           }
           my $threshold = $defaults->{'threshold'};
           my $sysmail = $defaults->{'sysmail'};
           my $reportstatus = 1;
           if (ref($domconf->{'contacts'}) eq 'HASH') {
               if ($domconf->{'contacts'}{'reportstatus'} == 0) {
                   $reportstatus = 0;
               }
               if (ref($domconf->{'contacts'}{'lonstatus'}) eq 'HASH') {
                   if (ref($domconf->{'contacts'}{'lonstatus'}{weights}) eq 'HASH') {
                       foreach my $type ('E','W','N') {
                           if (exists($domconf->{'contacts'}{'lonstatus'}{weights}{$type})) {
                               $weights{$type} = $domconf->{'contacts'}{'lonstatus'}{weights}{$type};
                           }
                       }
                   }
               }
               if (exists($domconf->{'contacts'}{'lonstatus'}{'threshold'})) {
                   $threshold = $domconf->{'contacts'}{'lonstatus'}{'threshold'};
               }
               if (exists($domconf->{'contacts'}{'lonstatus'}{'sysmail'})) {
                   $sysmail = $domconf->{'contacts'}{'lonstatus'}{'sysmail'};
               }
           }
           &finish_logging($fh,%weights);
    if ($totalcount>$threshold && !$noemail) { &send_mail($sysmail,$reportstatus); }
     }      }
 }  }
   
Removed from v.1.103.2.9  
changed lines
  Added in v.1.113

FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>