[BACK]Return to searchcat.pl CVS log [TXT] [DIR] Up to [LON-CAPA] / loncom / metadata_database

Diff for /loncom/metadata_database/searchcat.pl between versions 1.75 and 1.82

version 1.75, 2007/01/02 12:52:22 version 1.82, 2014/01/16 13:31:31
Line 68  use strict; Line 68  use strict;
 use DBI;  use DBI;
 use lib '/home/httpd/lib/perl/';  use lib '/home/httpd/lib/perl/';
 use LONCAPA::lonmetadata;  use LONCAPA::lonmetadata;
   use LONCAPA;
 use Getopt::Long;  use Getopt::Long;
 use IO::File;  use IO::File;
 use HTML::TokeParser;  use HTML::TokeParser;
 use GDBM_File;  use GDBM_File;
 use POSIX qw(strftime mktime);  use POSIX qw(strftime mktime);
   use Mail::Send;
   use Apache::loncommon();
   
 use Apache::lonnet();  use Apache::lonnet();
   
Line 123  my %oldnames = ( Line 125  my %oldnames = (
                  'portfolio'   => 'portfolio_metadata',                   'portfolio'   => 'portfolio_metadata',
                  'access'      => 'portfolio_access',                   'access'      => 'portfolio_access',
                  'addedfields' => 'portfolio_addedfields',                   'addedfields' => 'portfolio_addedfields',
                    'allusers'    => 'allusers',
                );                 );
   
 my %newnames;  my %newnames;
Line 134  foreach my $key (keys(%oldnames)) { Line 137  foreach my $key (keys(%oldnames)) {
 #  #
 # Only run if machine is a library server  # Only run if machine is a library server
 exit if ($Apache::lonnet::perlvar{'lonRole'} ne 'library');  exit if ($Apache::lonnet::perlvar{'lonRole'} ne 'library');
   my $hostid = $Apache::lonnet::perlvar{'lonHostID'};
   
 #  #
 #  Make sure this process is running from user=www  #  Make sure this process is running from user=www
 my $wwwid=getpwnam('www');  my $wwwid=getpwnam('www');
Line 172  foreach my $key (keys(%newnames)) { Line 177  foreach my $key (keys(%newnames)) {
 }  }
   
 #  #
 # Create the new metadata and portfolio tables  # Create the new metadata, portfolio and allusers tables
 foreach my $key (keys(%newnames)) {  foreach my $key (keys(%newnames)) {
     if ($newnames{$key} ne '') {       if ($newnames{$key} ne '') { 
         my $request =          my $request =
Line 206  foreach my $dom (@domains) { Line 211  foreach my $dom (@domains) {
     if ($oneuser) {      if ($oneuser) {
         @homeusers=($oneuser);          @homeusers=($oneuser);
     }      }
   
     #      #
     # Loop through the users      # Loop through the users
     foreach my $user (@homeusers) {      foreach my $user (@homeusers) {
Line 221  foreach my $dom (@domains) { Line 227  foreach my $dom (@domains) {
               no_chdir   => 1,                no_chdir   => 1,
              }, join('/',($Apache::lonnet::perlvar{'lonDocRoot'},'res',$dom,$user)) );               }, join('/',($Apache::lonnet::perlvar{'lonDocRoot'},'res',$dom,$user)) );
     }      }
     # Search for public portfolio files      # Search for all users and public portfolio files
     my %portusers;      my (%allusers,%portusers,%courses);
     if ($oneuser) {      if ($oneuser) {
         %portusers = (          %portusers = (
                         $oneuser => '',                          $oneuser => '',
                        );                         );
           %allusers = (
                           $oneuser => '',
                          );
           %courses = &courseiddump($dom,'.',1,'.','.',$oneuser,undef,
                                    undef,'.');
     } else {      } else {
           # get courseIDs for domain on current machine
           %courses=&Apache::lonnet::courseiddump($dom,'.',1,'.','.','.',1,[$hostid],'.');
         my $dir = $Apache::lonnet::perlvar{lonUsersDir}.'/'.$dom;          my $dir = $Apache::lonnet::perlvar{lonUsersDir}.'/'.$dom;
         &descend_tree($dir,0,\%portusers);          &descend_tree($dom,$dir,0,\%portusers,\%allusers);
     }      }
     foreach my $uname (keys(%portusers)) {      foreach my $uname (keys(%portusers)) {
         my $urlstart = '/uploaded/'.$dom.'/'.$uname;          my $urlstart = '/uploaded/'.$dom.'/'.$uname;
         my $pathstart = &propath($dom,$uname).'/userfiles';          my $pathstart = &propath($dom,$uname).'/userfiles';
         my $is_course = &Apache::lonnet::is_course($dom,$uname);          my $is_course = '';
           if (exists($courses{$dom.'_'.$uname})) {
               $is_course = 1;
           }
         my $curr_perm = &Apache::lonnet::get_portfile_permissions($dom,$uname);          my $curr_perm = &Apache::lonnet::get_portfile_permissions($dom,$uname);
         my %access = &Apache::lonnet::get_access_controls($curr_perm);          my %access = &Apache::lonnet::get_access_controls($curr_perm);
         foreach my $file (keys(%access)) {          foreach my $file (keys(%access)) {
Line 257  foreach my $dom (@domains) { Line 273  foreach my $dom (@domains) {
             &portfolio_logging(%portmetalog);              &portfolio_logging(%portmetalog);
         }          }
     }      }
       my (%names_by_id,,%ids_by_name,%idstodelete,%idstoadd,%duplicates);
       unless ($simulate || $oneuser) {
           my $idshashref;
           $idshashref = &tie_domain_hash($dom, "ids", &GDBM_WRCREAT());
           if (ref($idshashref) eq 'HASH') {
               %names_by_id = %{$idshashref};
               while (my ($id,$uname) = each(%{$idshashref}) ) {
                   $id = &unescape($id);
                   $uname = &unescape($uname); 
                   $names_by_id{$id} = $uname;
                   push(@{$ids_by_name{$uname}},$id);
               }
               &untie_domain_hash($idshashref);
           }
       }
       # Update allusers
       foreach my $uname (keys(%allusers)) {
           next if (exists($courses{$dom.'_'.$uname}));
           my %userdata = 
               &Apache::lonnet::get('environment',['firstname','lastname',
                   'middlename','generation','id','permanentemail'],$dom,$uname);
           unless ($simulate || $oneuser) {
               my $addid;
               if ($userdata{'id'} ne '') {
                   $addid = $userdata{'id'};
                   $addid=~tr/A-Z/a-z/;
               }
               if (exists($ids_by_name{$uname})) {
                   if (ref($ids_by_name{$uname}) eq 'ARRAY') {
                       if (scalar(@{$ids_by_name{$uname}}) > 1) {
                           &log(0,"Multiple employee/student IDs found in ids.db for $uname:$dom -- ".join(', ',@{$ids_by_name{$uname}}));
                       }
                       foreach my $id (@{$ids_by_name{$uname}}) {
                           if ($id eq $userdata{'id'}) {
                               undef($addid);
                           } else { 
                               $idstodelete{$id} = $uname;
                           }
                       }
                   }
               }
               if ($addid ne '') {
                   if (exists($idstoadd{$addid})) {
                       push(@{$duplicates{$addid}},$uname);
                   } else {
                       $idstoadd{$addid} = $uname;
                   }
               }
           }
           
           $userdata{'username'} = $uname;
           $userdata{'domain'} = $dom;
           my %alluserslog = 
               &LONCAPA::lonmetadata::process_allusers_data($dbh,$simulate,
                   \%newnames,$uname,$dom,\%userdata);
           foreach my $item (keys(%alluserslog)) {
               &log(0,$alluserslog{$item});
           }
       }
       unless ($simulate || $oneuser) {
           if (keys(%idstodelete) > 0) {
               my %resulthash = &Apache::lonnet::iddel($dom,\%idstodelete,$hostid);
               if ($resulthash{$hostid} eq 'ok') {
                   foreach my $id (sort(keys(%idstodelete))) {
                       &log(0,"Record deleted from ids.db for $dom -- $id => ".$idstodelete{$id});
                   }
               } else {
                   &log(0,"Error: '$resulthash{$hostid}' occurred when attempting to delete records from ids.db for $dom");
               }
           }
           if (keys(%idstoadd) > 0) {
               my $idmessage = '';
               my %newids;
               foreach my $addid (sort(keys(%idstoadd))) {
                   if ((exists($names_by_id{$addid})) && ($names_by_id{$addid} ne $idstoadd{$addid})  && !($idstodelete{$addid})) {
                       &log(0,"Two usernames associated with a single ID $addid in domain: $dom: $names_by_id{$addid} (current) and $idstoadd{$addid}\n");
                       $idmessage .= "$addid,$names_by_id{$addid},$idstoadd{$addid}\n";
                   } else {
                       $newids{$addid} = $idstoadd{$addid};
                   }
               }
               if (keys(%newids) > 0) {
                   my $putresult = &Apache::lonnet::put_dom('ids',\%idstoadd,$dom,$hostid);
                   if ($putresult eq 'ok') {
                       foreach my $id (sort(keys(%idstoadd))) {
                           &log(0,"Record added to ids.db for $dom -- $id => ".$idstoadd{$id});
                       }
                   } else {
                       &log(0,"Error: '$putresult' occurred when attempting to add records to ids.db for $dom"); 
                   }
               }
               if ($idmessage) {
                   my $to = &Apache::loncommon::build_recipient_list(undef,'idconflictsmail',$dom);
                   if ($to ne '') {
                       my $msg = new Mail::Send;
                       $msg->to($to);
                       $msg->subject('LON-CAPA studentIDs conflict');
                       my $lonhost = $Apache::lonnet::perlvar{'lonHostID'};
                       my $hostname = &Apache::lonnet::hostname($lonhost);
                       my $replytoaddress = 'do-not-reply@'.$hostname;
                       $msg->add('Reply-to',$replytoaddress);
                       $msg->add('From','www@'.$hostname);
                       $msg->add('Content-type','text/plain; charset=UTF-8');
                       if (my $fh = $msg->open()) {
                           print $fh 
                               'The following IDs are used for more than one user in your domain:'."\n".
                               'Each row contains: Student/Employee ID, Current username in ids.db file, '.
                               'Additional username'."\n\n".
                               $idmessage;
                           $fh->close;
                       }
                   }
               }
           }
           if (keys(%duplicates) > 0) {
               foreach my $id (sort(keys(%duplicates))) {
                   &log(0,"Duplicate IDs found for entries to add to ids.db in $dom -- $id => $idstodelete{$id}");
               }
           }
       }
 }  }
   
 #  #
Line 317  sub portfolio_logging { Line 453  sub portfolio_logging {
 }  }
   
 sub descend_tree {  sub descend_tree {
     my ($dir,$depth,$alldomusers) = @_;      my ($dom,$dir,$depth,$allportusers,$alldomusers) = @_;
     if (-d $dir) {      if (-d $dir) {
         opendir(DIR,$dir);          opendir(DIR,$dir);
         my @contents = grep(!/^\./,readdir(DIR));          my @contents = grep(!/^\./,readdir(DIR));
Line 325  sub descend_tree { Line 461  sub descend_tree {
         $depth ++;          $depth ++;
         foreach my $item (@contents) {          foreach my $item (@contents) {
             if ($depth < 4) {              if ($depth < 4) {
                 &descend_tree($dir.'/'.$item,$depth,$alldomusers);                  &descend_tree($dom,$dir.'/'.$item,$depth,$allportusers,$alldomusers);
             } else {              } else {
                 if (-e $dir.'/'.$item.'/file_permissions.db') {                  if (-e $dir.'/'.$item.'/file_permissions.db') {
                                        $$allportusers{$item} = '';
                   }
                   if (-e $dir.'/'.$item.'/passwd') {
                     $$alldomusers{$item} = '';                      $$alldomusers{$item} = '';
                 }                  }
             }                     }       
Line 679  sub write_copyright_count { Line 817  sub write_copyright_count {
 ##   (copied from lond, modification of the return value)  ##   (copied from lond, modification of the return value)
 sub ishome {  sub ishome {
     my $author=shift;      my $author=shift;
     $author=~s/\/home\/httpd\/html\/res\/([^\/]*)\/([^\/]*).*/$1\/$2/;      $author=~s{/home/httpd/html/res/([^/]*)/([^/]*).*}{$1/$2};
     my ($udom,$uname)=split(/\//,$author);      my ($udom,$uname)=split(/\//,$author);
     my $proname=propath($udom,$uname);      my $proname=propath($udom,$uname);
     if (-e $proname) {      if (-e $proname) {
Line 690  sub ishome { Line 828  sub ishome {
 }  }
   
 ##  ##
 ## &propath($udom,$uname)  
 ##   Returns the path to the users LON-CAPA directory  
 ##   (copied from lond)  
 sub propath {  
     my ($udom,$uname)=@_;  
     $udom=~s/\W//g;  
     $uname=~s/\W//g;  
     my $subdir=$uname.'__';  
     $subdir =~ s/(.)(.)(.).*/$1\/$2\/$3/;  
     my $proname="$Apache::lonnet::perlvar{'lonUsersDir'}/$udom/$subdir/$uname";  
     return $proname;  
 }   
   
 ##  
 ## &declutter($filename)  ## &declutter($filename)
 ##   Given a filename, returns a url for the filename.  ##   Given a filename, returns a url for the filename.
 sub declutter {  sub declutter {
Line 714  sub declutter { Line 838  sub declutter {
     return $thisfn;      return $thisfn;
 }  }
   
 ##  
 ## Escape / Unescape special characters  
 sub unescape {  
     my $str=shift;  
     $str =~ s/%([a-fA-F0-9][a-fA-F0-9])/pack("C",hex($1))/eg;  
     return $str;  
 }  
   
 sub escape {  
     my $str=shift;  
     $str =~ s/(\W)/"%".unpack('H2',$1)/eg;  
     return $str;  
 }  
Removed from v.1.75  
changed lines
  Added in v.1.82

FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>