Diff for /loncom/lonnet/perl/lonnet.pm between versions 1.1172.2.146.2.6 and 1.1300

version 1.1172.2.146.2.6, 2022/09/19 20:51:17 version 1.1300, 2016/01/31 21:25:57
Line 74  use strict; Line 74  use strict;
 use LWP::UserAgent();  use LWP::UserAgent();
 use HTTP::Date;  use HTTP::Date;
 use Image::Magick;  use Image::Magick;
 use CGI::Cookie;  
   
 use vars qw(%perlvar %spareid %pr %prp $memcache %packagetab $tmpdir $deftex  
   use Encode;
   
   use vars qw(%perlvar %spareid %pr %prp $memcache %packagetab $tmpdir
             $_64bit %env %protocol %loncaparevs %serverhomeIDs %needsrelease              $_64bit %env %protocol %loncaparevs %serverhomeIDs %needsrelease
             %managerstab $passwdmin);              %managerstab);
   
 my (%badServerCache, $memcache, %courselogs, %accesshash, %domainrolehash,  my (%badServerCache, $memcache, %courselogs, %accesshash, %domainrolehash,
     %userrolehash, $processmarker, $dumpcount, %coursedombuf,      %userrolehash, $processmarker, $dumpcount, %coursedombuf,
Line 95  use Cache::Memcached; Line 97  use Cache::Memcached;
 use Digest::MD5;  use Digest::MD5;
 use Math::Random;  use Math::Random;
 use File::MMagic;  use File::MMagic;
 use Net::CIDR;  
 use Sys::Hostname::FQDN();  
 use LONCAPA qw(:DEFAULT :match);  use LONCAPA qw(:DEFAULT :match);
 use LONCAPA::Configuration;  use LONCAPA::Configuration;
 use LONCAPA::lonmetadata;  use LONCAPA::lonmetadata;
 use LONCAPA::Lond;  use LONCAPA::Lond;
 use LONCAPA::transliterate;  
   
 use File::Copy;  use File::Copy;
   
Line 113  require Exporter; Line 112  require Exporter;
 our @ISA = qw (Exporter);  our @ISA = qw (Exporter);
 our @EXPORT = qw(%env);  our @EXPORT = qw(%env);
   
   
 # ------------------------------------ Logging (parameters, docs, slots, roles)  # ------------------------------------ Logging (parameters, docs, slots, roles)
 {  {
     my $logid;      my $logid;
Line 127  our @EXPORT = qw(%env); Line 127  our @EXPORT = qw(%env);
  $logid ++;   $logid ++;
         my $now = time();          my $now = time();
  my $id=$now.'00000'.$$.'00000'.$logid;   my $id=$now.'00000'.$$.'00000'.$logid;
         my $ip = &get_requestor_ip();          my $logentry = { 
         my $logentry = {                            $id => {
                          $id => {                                     'exe_uname' => $env{'user.name'},
                                   'exe_uname' => $env{'user.name'},                                     'exe_udom'  => $env{'user.domain'},
                                   'exe_udom'  => $env{'user.domain'},                                     'exe_time'  => $now,
                                   'exe_time'  => $now,                                     'exe_ip'    => $ENV{'REMOTE_ADDR'},
                                   'exe_ip'    => $ip,                                     'delflag'   => $delflag,
                                   'delflag'   => $delflag,                                     'logentry'  => $storehash,
                                   'logentry'  => $storehash,                                     'uname'     => $uname,
                                   'uname'     => $uname,                                     'udom'      => $udom,
                                   'udom'      => $udom,                                    }
                                 }  
                        };                         };
         return &put('nohist_'.$hash_name,$logentry,$cdom,$cnum);   return &put('nohist_'.$hash_name,$logentry,$cdom,$cnum);
     }      }
 }  }
   
 sub logtouch {  sub logtouch {
     my $execdir=$perlvar{'lonDaemons'};      my $execdir=$perlvar{'lonDaemons'};
     unless (-e "$execdir/logs/lonnet.log") {      unless (-e "$execdir/logs/lonnet.log") {
  open(my $fh,">>","$execdir/logs/lonnet.log");   open(my $fh,">>$execdir/logs/lonnet.log");
  close $fh;   close $fh;
     }      }
     my ($wwwuid,$wwwgid)=(getpwnam('www'))[2,3];      my ($wwwuid,$wwwgid)=(getpwnam('www'))[2,3];
Line 159  sub logthis { Line 158  sub logthis {
     my $execdir=$perlvar{'lonDaemons'};      my $execdir=$perlvar{'lonDaemons'};
     my $now=time;      my $now=time;
     my $local=localtime($now);      my $local=localtime($now);
     if (open(my $fh,">>","$execdir/logs/lonnet.log")) {      if (open(my $fh,">>$execdir/logs/lonnet.log")) {
  my $logstring = $local. " ($$): ".$message."\n"; # Keep any \'s in string.   my $logstring = $local. " ($$): ".$message."\n"; # Keep any \'s in string.
  print $fh $logstring;   print $fh $logstring;
  close($fh);   close($fh);
Line 172  sub logperm { Line 171  sub logperm {
     my $execdir=$perlvar{'lonDaemons'};      my $execdir=$perlvar{'lonDaemons'};
     my $now=time;      my $now=time;
     my $local=localtime($now);      my $local=localtime($now);
     if (open(my $fh,">>","$execdir/logs/lonnet.perm.log")) {      if (open(my $fh,">>$execdir/logs/lonnet.perm.log")) {
  print $fh "$now:$message:$local\n";   print $fh "$now:$message:$local\n";
  close($fh);   close($fh);
     }      }
Line 266  sub get_server_loncaparev { Line 265  sub get_server_loncaparev {
                 if ($caller eq 'loncron') {                  if ($caller eq 'loncron') {
                     my $ua=new LWP::UserAgent;                      my $ua=new LWP::UserAgent;
                     $ua->timeout(4);                      $ua->timeout(4);
                     my $hostname = &hostname($lonhost);  
                     my $protocol = $protocol{$lonhost};                      my $protocol = $protocol{$lonhost};
                     $protocol = 'http' if ($protocol ne 'https');                      $protocol = 'http' if ($protocol ne 'https');
                     my $url = $protocol.'://'.$hostname.'/adm/about.html';                      my $url = $protocol.'://'.&hostname($lonhost).'/adm/about.html';
                     my $request=new HTTP::Request('GET',$url);                      my $request=new HTTP::Request('GET',$url);
                     my $response=$ua->request($request);                      my $response=$ua->request($request);
                     unless ($response->is_error()) {                      unless ($response->is_error()) {
Line 362  sub remote_devalidate_cache { Line 360  sub remote_devalidate_cache {
     my $items;      my $items;
     return unless (ref($cachekeys) eq 'ARRAY');      return unless (ref($cachekeys) eq 'ARRAY');
     my $cachestr = join('&',@{$cachekeys});      my $cachestr = join('&',@{$cachekeys});
     return &reply('devalidatecache:'.&escape($cachestr),$lonhost);      my $response = &reply('devalidatecache:'.&escape($cachestr),$lonhost);
       return $response;
 }  }
   
 # -------------------------------------------------- Non-critical communication  # -------------------------------------------------- Non-critical communication
Line 394  sub subreply { Line 393  sub subreply {
  } else {   } else {
     &create_connection(&hostname($server),$server);      &create_connection(&hostname($server),$server);
  }   }
         sleep(0.1); # Try again later if failed connection.          sleep(0.1); # Try again later if failed connection.
     }      }
     my $answer;      my $answer;
     if ($client) {      if ($client) {
Line 413  sub reply { Line 412  sub reply {
     unless (defined(&hostname($server))) { return 'no_such_host'; }      unless (defined(&hostname($server))) { return 'no_such_host'; }
     my $answer=subreply($cmd,$server);      my $answer=subreply($cmd,$server);
     if (($answer=~/^refused/) || ($answer=~/^rejected/)) {      if (($answer=~/^refused/) || ($answer=~/^rejected/)) {
         my $logged = $cmd;         &logthis("<font color=\"blue\">WARNING:".
         if ($cmd =~ /^encrypt:([^:]+):/) {                  " $cmd to $server returned $answer</font>");
             my $subcmd = $1;  
             if (($subcmd eq 'auth') || ($subcmd eq 'passwd') ||  
                 ($subcmd eq 'changeuserauth') || ($subcmd eq 'makeuser') ||  
                 ($subcmd eq 'putdom') || ($subcmd eq 'autoexportgrades')) {  
                 (undef,undef,my @rest) = split(/:/,$cmd);  
                 if (($subcmd eq 'auth') || ($subcmd eq 'putdom')) {  
                     splice(@rest,2,1,'Hidden');  
                 } elsif ($subcmd eq 'passwd') {  
                     splice(@rest,2,2,('Hidden','Hidden'));  
                 } elsif (($subcmd eq 'changeuserauth') || ($subcmd eq 'makeuser') ||  
                          ($subcmd eq 'autoexportgrades')) {  
                     splice(@rest,3,1,'Hidden');  
                 }  
                 $logged = join(':',('encrypt:'.$subcmd,@rest));  
             }  
         }  
         &logthis("<font color=\"blue\">WARNING:".  
                  " $logged to $server returned $answer</font>");  
     }      }
     return $answer;      return $answer;
 }  }
Line 460  sub reconlonc { Line 441  sub reconlonc {
   
     &logthis("Trying to reconnect lonc");      &logthis("Trying to reconnect lonc");
     my $loncfile="$perlvar{'lonDaemons'}/logs/lonc.pid";      my $loncfile="$perlvar{'lonDaemons'}/logs/lonc.pid";
     if (open(my $fh,"<",$loncfile)) {      if (open(my $fh,"<$loncfile")) {
  my $loncpid=<$fh>;   my $loncpid=<$fh>;
         chomp($loncpid);          chomp($loncpid);
         if (kill 0 => $loncpid) {          if (kill 0 => $loncpid) {
     &logthis("lonc at pid $loncpid responding, sending USR1");      &logthis("lonc at pid $loncpid responding, sending USR1");
             kill USR1 => $loncpid;              kill USR1 => $loncpid;
             sleep 1;              sleep 1;
          } else {          } else {
     &logthis(      &logthis(
                "<font color=\"blue\">WARNING:".                 "<font color=\"blue\">WARNING:".
                " lonc at pid $loncpid not responding, giving up</font>");                 " lonc at pid $loncpid not responding, giving up</font>");
Line 500  sub critical { Line 481  sub critical {
             $dumpcount++;              $dumpcount++;
             {              {
  my $dfh;   my $dfh;
  if (open($dfh,">",$dfilename)) {   if (open($dfh,">$dfilename")) {
     print $dfh "$cmd\n";       print $dfh "$cmd\n"; 
     close($dfh);      close($dfh);
  }   }
Line 509  sub critical { Line 490  sub critical {
             my $wcmd='';              my $wcmd='';
             {              {
  my $dfh;   my $dfh;
  if (open($dfh,"<",$dfilename)) {   if (open($dfh,"<$dfilename")) {
     $wcmd=<$dfh>;       $wcmd=<$dfh>; 
     close($dfh);      close($dfh);
  }   }
Line 625  sub transfer_profile_to_env { Line 606  sub transfer_profile_to_env {
   
 # ---------------------------------------------------- Check for valid session   # ---------------------------------------------------- Check for valid session 
 sub check_for_valid_session {  sub check_for_valid_session {
     my ($r,$name,$userhashref,$domref) = @_;      my ($r,$name,$userhashref) = @_;
     my %cookies=CGI::Cookie->parse($r->header_in('Cookie'));      my %cookies=CGI::Cookie->parse($r->header_in('Cookie'));
     my ($lonidsdir,$linkname,$pubname,$secure,$lonid);      if ($name eq '') {
     if ($name eq 'lonDAV') {          $name = 'lonID';
         $lonidsdir=$r->dir_config('lonDAVsessDir');  
     } else {  
         $lonidsdir=$r->dir_config('lonIDsDir');  
         if ($name eq '') {  
             $name = 'lonID';  
         }  
     }  
     if ($name eq 'lonID') {  
         $secure = 'lonSID';  
         $linkname = 'lonLinkID';  
         $pubname = 'lonPubID';  
         if (exists($cookies{$secure})) {  
             $lonid=$cookies{$secure};  
         } elsif (exists($cookies{$name})) {  
             $lonid=$cookies{$name};  
         } elsif ((exists($cookies{$linkname})) && ($ENV{'SERVER_PORT'} != 443)) {  
             $lonid=$cookies{$linkname};  
         } elsif (exists($cookies{$pubname})) {  
             $lonid=$cookies{$pubname};  
         }  
     } else {  
         $lonid=$cookies{$name};  
     }      }
       my $lonid=$cookies{$name};
     return undef if (!$lonid);      return undef if (!$lonid);
   
     my $handle=&LONCAPA::clean_handle($lonid->value);      my $handle=&LONCAPA::clean_handle($lonid->value);
     if (-l "$lonidsdir/$handle.id") {      my $lonidsdir;
         my $link = readlink("$lonidsdir/$handle.id");      if ($name eq 'lonDAV') {
         if ((-e $link) && ($link =~ m{^\Q$lonidsdir\E/(.+)\.id$})) {          $lonidsdir=$r->dir_config('lonDAVsessDir');
             $handle = $1;      } else {
         }          $lonidsdir=$r->dir_config('lonIDsDir');
     }  
     if (!-e "$lonidsdir/$handle.id") {  
         if ((ref($domref)) && ($name eq 'lonID') &&  
             ($handle =~ /^($match_username)\_\d+\_($match_domain)\_(.+)$/)) {  
             my ($possuname,$possudom,$possuhome) = ($1,$2,$3);  
             if ((&domain($possudom) ne '') && (&homeserver($possuname,$possudom) eq $possuhome)) {  
                 $$domref = $possudom;  
             }  
         }  
         return undef;  
     }      }
       return undef if (!-e "$lonidsdir/$handle.id");
   
     my $opened = open(my $idf,'+<',"$lonidsdir/$handle.id");      my $opened = open(my $idf,'+<',"$lonidsdir/$handle.id");
     return undef if (!$opened);      return undef if (!$opened);
Line 684  sub check_for_valid_session { Line 635  sub check_for_valid_session {
   
     if (!defined($disk_env{'user.name'})      if (!defined($disk_env{'user.name'})
  || !defined($disk_env{'user.domain'})) {   || !defined($disk_env{'user.domain'})) {
         untie(%disk_env);  
  return undef;   return undef;
     }      }
   
     if (ref($userhashref) eq 'HASH') {      if (ref($userhashref) eq 'HASH') {
         $userhashref->{'name'} = $disk_env{'user.name'};          $userhashref->{'name'} = $disk_env{'user.name'};
         $userhashref->{'domain'} = $disk_env{'user.domain'};          $userhashref->{'domain'} = $disk_env{'user.domain'};
         if ($disk_env{'request.role'}) {  
             $userhashref->{'role'} = $disk_env{'request.role'};  
         }  
     }      }
     untie(%disk_env);  
   
     return $handle;      return $handle;
 }  }
Line 720  sub timed_flock { Line 666  sub timed_flock {
     }      }
 }  }
   
 sub get_sessionfile_vars {  
     my ($handle,$lonidsdir,$storearr) = @_;  
     my %returnhash;  
     unless (ref($storearr) eq 'ARRAY') {  
         return %returnhash;  
     }  
     if (-l "$lonidsdir/$handle.id") {  
         my $link = readlink("$lonidsdir/$handle.id");  
         if ((-e $link) && ($link =~ m{^\Q$lonidsdir\E/(.+)\.id$})) {  
             $handle = $1;  
         }  
     }  
     if ((-e "$lonidsdir/$handle.id") &&  
         ($handle =~ /^($match_username)\_\d+\_($match_domain)\_(.+)$/)) {  
         my ($possuname,$possudom,$possuhome) = ($1,$2,$3);  
         if ((&domain($possudom) ne '') && (&homeserver($possuname,$possudom) eq $possuhome)) {  
             if (open(my $idf,'+<',"$lonidsdir/$handle.id")) {  
                 flock($idf,LOCK_SH);  
                 if (tie(my %disk_env,'GDBM_File',"$lonidsdir/$handle.id",  
                         &GDBM_READER(),0640)) {  
                     foreach my $item (@{$storearr}) {  
                         $returnhash{$item} = $disk_env{$item};  
                     }  
                     untie(%disk_env);  
                 }  
             }  
         }  
     }  
     return %returnhash;  
 }  
   
 # ---------------------------------------------------------- Append Environment  # ---------------------------------------------------------- Append Environment
   
 sub appenv {  sub appenv {
Line 776  sub appenv { Line 691  sub appenv {
                 $env{$key}=$newenv->{$key};                  $env{$key}=$newenv->{$key};
             }              }
         }          }
         my $lonids = $perlvar{'lonIDsDir'};          my $opened = open(my $env_file,'+<',$env{'user.environment'});
         if ($env{'user.environment'} =~ m{^\Q$lonids/\E$match_username\_\d+\_$match_domain\_[\w\-.]+\.id$}) {          if ($opened
             my $opened = open(my $env_file,'+<',$env{'user.environment'});      && &timed_flock($env_file,LOCK_EX)
             if ($opened      &&
         && &timed_flock($env_file,LOCK_EX)      tie(my %disk_env,'GDBM_File',$env{'user.environment'},
         &&          (&GDBM_WRITER()|&GDBM_NOLOCK()),0640)) {
         tie(my %disk_env,'GDBM_File',$env{'user.environment'},      while (my ($key,$value) = each(%{$newenv})) {
             (&GDBM_WRITER()|&GDBM_NOLOCK()),0640)) {          $disk_env{$key} = $value;
         while (my ($key,$value) = each(%{$newenv})) {      }
             $disk_env{$key} = $value;      untie(%disk_env);
         }  
         untie(%disk_env);  
             }  
         }          }
     }      }
     return 'ok';      return 'ok';
Line 904  sub userload { Line 816  sub userload {
  while ($filename=readdir(LONIDS)) {   while ($filename=readdir(LONIDS)) {
     next if ($filename eq '.' || $filename eq '..');      next if ($filename eq '.' || $filename eq '..');
     next if ($filename =~ /publicuser_\d+\.id/);      next if ($filename =~ /publicuser_\d+\.id/);
             next if ($filename =~ /^[a-f0-9]+_linked\.id$/);  
     my ($mtime)=(stat($perlvar{'lonIDsDir'}.'/'.$filename))[9];      my ($mtime)=(stat($perlvar{'lonIDsDir'}.'/'.$filename))[9];
     if ($curtime-$mtime < 1800) { $numusers++; }      if ($curtime-$mtime < 1800) { $numusers++; }
  }   }
Line 922  sub userload { Line 833  sub userload {
 # ------------------------------ Find server with least workload from spare.tab  # ------------------------------ Find server with least workload from spare.tab
   
 sub spareserver {  sub spareserver {
     my ($r,$loadpercent,$userloadpercent,$want_server_name,$udom) = @_;      my ($loadpercent,$userloadpercent,$want_server_name,$udom) = @_;
     my $spare_server;      my $spare_server;
     if ($userloadpercent !~ /\d/) { $userloadpercent=0; }      if ($userloadpercent !~ /\d/) { $userloadpercent=0; }
     my $lowest_load=($loadpercent > $userloadpercent) ? $loadpercent       my $lowest_load=($loadpercent > $userloadpercent) ? $loadpercent 
Line 960  sub spareserver { Line 871  sub spareserver {
     }      }
   
     if (!$want_server_name) {      if (!$want_server_name) {
           my $protocol = 'http';
           if ($protocol{$spare_server} eq 'https') {
               $protocol = $protocol{$spare_server};
           }
         if (defined($spare_server)) {          if (defined($spare_server)) {
             my $hostname = &hostname($spare_server);              my $hostname = &hostname($spare_server);
             if (defined($hostname)) {              if (defined($hostname)) {
                 my $protocol = 'http';  
                 if ($protocol{$spare_server} eq 'https') {  
                     $protocol = $protocol{$spare_server};  
                 }  
                 my $alias = &Apache::lonnet::use_proxy_alias($r,$spare_server);  
                 $hostname = $alias if ($alias ne '');  
         $spare_server = $protocol.'://'.$hostname;          $spare_server = $protocol.'://'.$hostname;
             }              }
         }          }
Line 1035  sub find_existing_session { Line 944  sub find_existing_session {
     return;      return;
 }  }
   
 # check if user's browser sent load balancer cookie and server still has session  
 # and is not overloaded.  
 sub check_for_balancer_cookie {  
     my ($r,$update_mtime) = @_;  
     my ($otherserver,$cookie);  
     my %cookies=CGI::Cookie->parse($r->header_in('Cookie'));  
     if (exists($cookies{'balanceID'})) {  
         my $balid = $cookies{'balanceID'};  
         $cookie=&LONCAPA::clean_handle($balid->value);  
         my $balancedir=$r->dir_config('lonBalanceDir');  
         if ((-d $balancedir) && (-e "$balancedir/$cookie.id")) {  
             if ($cookie =~ /^($match_domain)_($match_username)_[a-f0-9]+$/) {  
                 my ($possudom,$possuname) = ($1,$2);  
                 my $has_session = 0;  
                 if ((&domain($possudom) ne '') &&  
                     (&homeserver($possuname,$possudom) ne 'no_host')) {  
                     my $try_server;  
                     my $opened = open(my $idf,'+<',"$balancedir/$cookie.id");  
                     if ($opened) {  
                         flock($idf,LOCK_SH);  
                         while (my $line = <$idf>) {  
                             chomp($line);  
                             if (&hostname($line) ne '') {  
                                 $try_server = $line;  
                                 last;  
                             }  
                         }  
                         close($idf);  
                         if (($try_server) &&  
                             (&has_user_session($try_server,$possudom,$possuname))) {  
                             my $lowest_load = 30000;  
                             ($otherserver,$lowest_load) =  
                                 &compare_server_load($try_server,undef,$lowest_load);  
                             if ($otherserver ne '' && $lowest_load < 100) {  
                                 $has_session = 1;  
                             } else {  
                                 undef($otherserver);  
                             }  
                         }  
                     }  
                 }  
                 if ($has_session) {  
                     if ($update_mtime) {  
                         my $atime = my $mtime = time;  
                         utime($atime,$mtime,"$balancedir/$cookie.id");  
                     }  
                 } else {  
                     unlink("$balancedir/$cookie.id");  
                 }  
             }  
         }  
     }  
     return ($otherserver,$cookie);  
 }  
   
 sub updatebalcookie {  
     my ($cookie,$balancer,$lastentry)=@_;  
     if ($cookie =~ /^($match_domain)\_($match_username)\_[a-f0-9]{32}$/) {  
         my ($udom,$uname) = ($1,$2);  
         my $uprimary_id = &domain($udom,'primary');  
         my $uintdom = &internet_dom($uprimary_id);  
         my $intdom = &internet_dom($balancer);  
         my $serverhomedom = &host_domain($balancer);  
         if (($uintdom ne '') && ($uintdom eq $intdom)) {  
             return &reply('updatebalcookie:'.&escape($cookie).':'.&escape($lastentry),$balancer);  
         }  
     }  
     return;  
 }  
   
 sub delbalcookie {  
     my ($cookie,$balancer) =@_;  
     if ($cookie =~ /^($match_domain)\_($match_username)\_[a-f0-9]{32}$/) {  
         my ($udom,$uname) = ($1,$2);  
         my $uprimary_id = &domain($udom,'primary');  
         my $uintdom = &internet_dom($uprimary_id);  
         my $intdom = &internet_dom($balancer);  
         my $serverhomedom = &host_domain($balancer);  
         if (($uintdom ne '') && ($uintdom eq $intdom)) {  
             return &reply('delbalcookie:'.&escape($cookie),$balancer);  
         }  
     }  
 }  
   
 # -------------------------------- ask if server already has a session for user  # -------------------------------- ask if server already has a session for user
 sub has_user_session {  sub has_user_session {
     my ($lonid,$udom,$uname) = @_;      my ($lonid,$udom,$uname) = @_;
Line 1150  sub choose_server { Line 975  sub choose_server {
         }          }
     }      }
     foreach my $lonhost (keys(%servers)) {      foreach my $lonhost (keys(%servers)) {
         my $loginvia;  
         if ($skiploadbal) {          if ($skiploadbal) {
             if (ref($balancers) eq 'HASH') {              if (ref($balancers) eq 'HASH') {
                 next if (exists($balancers->{$lonhost}));                  next if (exists($balancers->{$lonhost}));
             }              }
         }          }   
           my $loginvia;
         if ($checkloginvia) {          if ($checkloginvia) {
             $loginvia = $domconfhash{$udom.'.login.loginvia_'.$lonhost};              $loginvia = $domconfhash{$udom.'.login.loginvia_'.$lonhost};
             if ($loginvia) {              if ($loginvia) {
Line 1182  sub choose_server { Line 1007  sub choose_server {
     if ($login_host ne '') {      if ($login_host ne '') {
         $hostname = &hostname($login_host);          $hostname = &hostname($login_host);
     }      }
     return ($login_host,$hostname,$portal_path,$isredirect,$lowest_load);      return ($login_host,$hostname,$portal_path,$isredirect);
 }  
   
 sub get_course_sessions {  
     my ($cnum,$cdom,$lastactivity) = @_;  
     my %servers = &internet_dom_servers($cdom);  
     my %returnhash;  
     foreach my $server (sort(keys(%servers))) {  
         my $rep = &reply("coursesessions:$cdom:$cnum:$lastactivity",$server);  
         my @pairs=split(/\&/,$rep);  
         unless (($rep eq 'unknown_cmd') || ($rep =~ /^error/)) {  
             foreach my $item (@pairs) {  
                 my ($key,$value)=split(/=/,$item,2);  
                 $key = &unescape($key);  
                 next if ($key =~ /^error: 2 /);  
                 if (exists($returnhash{$key})) {  
                     next if ($value < $returnhash{$key});  
                 }  
                 $returnhash{$key}=$value;  
             }  
         }  
     }  
     return %returnhash;  
 }  }
   
 # --------------------------------------------- Try to change a user's password  # --------------------------------------------- Try to change a user's password
Line 1242  sub changepass { Line 1045  sub changepass {
     } elsif ($answer =~ "invalid_client") {      } elsif ($answer =~ "invalid_client") {
         &logthis("$server refused to change $uname in $udom password because ".          &logthis("$server refused to change $uname in $udom password because ".
                  "it was a reset by e-mail originating from an invalid server.");                   "it was a reset by e-mail originating from an invalid server.");
     } elsif ($answer =~ "^prioruse") {  
        &logthis("$server refused to change $uname in $udom password because ".  
                 "the password had been used before");  
     }      }
     return $answer;      return $answer;
 }  }
Line 1254  sub changepass { Line 1054  sub changepass {
 sub queryauthenticate {  sub queryauthenticate {
     my ($uname,$udom)=@_;      my ($uname,$udom)=@_;
     my $uhome=&homeserver($uname,$udom);      my $uhome=&homeserver($uname,$udom);
     if ((!$uhome) || ($uhome eq 'no_host')) {      if (!$uhome) {
  &logthis("User $uname at $udom is unknown when looking for authentication mechanism");   &logthis("User $uname at $udom is unknown when looking for authentication mechanism");
  return 'no_host';   return 'no_host';
     }      }
Line 1303  sub authenticate { Line 1103  sub authenticate {
     }      }
     if ($answer eq 'non_authorized') {      if ($answer eq 'non_authorized') {
  &logthis("User $uname at $udom rejected by $uhome");   &logthis("User $uname at $udom rejected by $uhome");
  return 'no_host';   return 'no_host'; 
     }      }
     &logthis("User $uname at $udom threw error $answer when checking authentication mechanism");      &logthis("User $uname at $udom threw error $answer when checking authentication mechanism");
     return 'no_host';      return 'no_host';
 }  }
   
 sub can_switchserver {  
     my ($udom,$home) = @_;  
     my ($canswitch,@intdoms);  
     my $internet_names = &get_internet_names($home);  
     if (ref($internet_names) eq 'ARRAY') {  
         @intdoms = @{$internet_names};  
     }  
     my $uint_dom = &internet_dom(&domain($udom,'primary'));  
     if ($uint_dom ne '' && grep(/^\Q$uint_dom\E$/,@intdoms)) {  
         $canswitch = 1;  
     } else {  
          my $serverhomeID = &get_server_homeID(&hostname($home));  
          my $serverhomedom = &host_domain($serverhomeID);  
          my %defdomdefaults = &get_domain_defaults($serverhomedom);  
          my %udomdefaults = &get_domain_defaults($udom);  
          my $remoterev = &get_server_loncaparev('',$home);  
          $canswitch = &can_host_session($udom,$home,$remoterev,  
                                         $udomdefaults{'remotesessions'},  
                                         $defdomdefaults{'hostedsessions'});  
     }  
     return $canswitch;  
 }  
   
 sub can_host_session {  sub can_host_session {
     my ($udom,$lonhost,$remoterev,$remotesessions,$hostedsessions) = @_;      my ($udom,$lonhost,$remoterev,$remotesessions,$hostedsessions) = @_;
     my $canhost = 1;      my $canhost = 1;
Line 1406  sub spare_can_host { Line 1183  sub spare_can_host {
             $canhost = 0;              $canhost = 0;
         }          }
     }      }
     if ($canhost) {  
         if (ref($defdomdefaults{'offloadoth'}) eq 'HASH') {  
             if ($defdomdefaults{'offloadoth'}{$try_server}) {  
                 unless (&shared_institution($udom,$try_server)) {  
                     $canhost = 0;  
                 }  
             }  
         }  
     }  
     if (($canhost) && ($uint_dom)) {      if (($canhost) && ($uint_dom)) {
         my @intdoms;          my @intdoms;
         my $internet_names = &get_internet_names($try_server);          my $internet_names = &get_internet_names($try_server);
Line 1511  sub get_lonbalancer_config { Line 1279  sub get_lonbalancer_config {
 }  }
   
 sub check_loadbalancing {  sub check_loadbalancing {
     my ($uname,$udom,$caller) = @_;      my ($uname,$udom) = @_;
     my ($is_balancer,$currtargets,$currrules,$dom_in_use,$homeintdom,      my ($is_balancer,$currtargets,$currrules,$dom_in_use,$homeintdom,
         $rule_in_effect,$offloadto,$otherserver,$setcookie);          $rule_in_effect,$offloadto,$otherserver);
     my $lonhost = $perlvar{'lonHostID'};      my $lonhost = $perlvar{'lonHostID'};
     my @hosts = &current_machine_ids();      my @hosts = &current_machine_ids();
     my $uprimary_id = &Apache::lonnet::domain($udom,'primary');      my $uprimary_id = &Apache::lonnet::domain($udom,'primary');
     my $uintdom = &Apache::lonnet::internet_dom($uprimary_id);      my $uintdom = &Apache::lonnet::internet_dom($uprimary_id);
     my $intdom = &Apache::lonnet::internet_dom($lonhost);      my $intdom = &Apache::lonnet::internet_dom($lonhost);
     my $serverhomedom = &host_domain($lonhost);      my $serverhomedom = &host_domain($lonhost);
     my $domneedscache;   
     my $cachetime = 60*60*24;      my $cachetime = 60*60*24;
   
     if (($uintdom ne '') && ($uintdom eq $intdom)) {      if (($uintdom ne '') && ($uintdom eq $intdom)) {
Line 1535  sub check_loadbalancing { Line 1303  sub check_loadbalancing {
             &Apache::lonnet::get_dom('configuration',['loadbalancing'],$dom_in_use);              &Apache::lonnet::get_dom('configuration',['loadbalancing'],$dom_in_use);
         if (ref($domconfig{'loadbalancing'}) eq 'HASH') {          if (ref($domconfig{'loadbalancing'}) eq 'HASH') {
             $result = &do_cache_new('loadbalancing',$dom_in_use,$domconfig{'loadbalancing'},$cachetime);              $result = &do_cache_new('loadbalancing',$dom_in_use,$domconfig{'loadbalancing'},$cachetime);
         } else {  
             $domneedscache = $dom_in_use;  
         }          }
     }      }
     if (ref($result) eq 'HASH') {      if (ref($result) eq 'HASH') {
         ($is_balancer,$currtargets,$currrules,$setcookie) =          ($is_balancer,$currtargets,$currrules) = 
             &check_balancer_result($result,@hosts);              &check_balancer_result($result,@hosts);
         if ($is_balancer) {          if ($is_balancer) {
             if (ref($currrules) eq 'HASH') {              if (ref($currrules) eq 'HASH') {
Line 1595  sub check_loadbalancing { Line 1361  sub check_loadbalancing {
             my %domconfig =              my %domconfig =
                 &Apache::lonnet::get_dom('configuration',['loadbalancing'],$serverhomedom);                  &Apache::lonnet::get_dom('configuration',['loadbalancing'],$serverhomedom);
             if (ref($domconfig{'loadbalancing'}) eq 'HASH') {              if (ref($domconfig{'loadbalancing'}) eq 'HASH') {
                 $result = &do_cache_new('loadbalancing',$serverhomedom,$domconfig{'loadbalancing'},$cachetime);                  $result = &do_cache_new('loadbalancing',$dom_in_use,$domconfig{'loadbalancing'},$cachetime);
             } else {  
                 $domneedscache = $serverhomedom;  
             }              }
         }          }
         if (ref($result) eq 'HASH') {          if (ref($result) eq 'HASH') {
             ($is_balancer,$currtargets,$currrules,$setcookie) =              ($is_balancer,$currtargets,$currrules) = 
                 &check_balancer_result($result,@hosts);                  &check_balancer_result($result,@hosts);
             if ($is_balancer) {              if ($is_balancer) {
                 if (ref($currrules) eq 'HASH') {                  if (ref($currrules) eq 'HASH') {
Line 1617  sub check_loadbalancing { Line 1381  sub check_loadbalancing {
                 $is_balancer = 1;                  $is_balancer = 1;
                 $offloadto = &this_host_spares($dom_in_use);                  $offloadto = &this_host_spares($dom_in_use);
             }              }
             unless (defined($cached)) {  
                 $domneedscache = $serverhomedom;  
             }  
         }          }
     } else {      } else {
         if ($perlvar{'lonBalancer'} eq 'yes') {          if ($perlvar{'lonBalancer'} eq 'yes') {
             $is_balancer = 1;              $is_balancer = 1;
             $offloadto = &this_host_spares($dom_in_use);              $offloadto = &this_host_spares($dom_in_use);
         }          }
         unless (defined($cached)) {  
             $domneedscache = $serverhomedom;  
         }  
     }      }
     if ($domneedscache) {      if ($is_balancer) {
         &do_cache_new('loadbalancing',$domneedscache,$is_balancer,$cachetime);  
     }  
     if (($is_balancer) && ($caller ne 'switchserver')) {  
         my $lowest_load = 30000;          my $lowest_load = 30000;
         if (ref($offloadto) eq 'HASH') {          if (ref($offloadto) eq 'HASH') {
             if (ref($offloadto->{'primary'}) eq 'ARRAY') {              if (ref($offloadto->{'primary'}) eq 'ARRAY') {
Line 1662  sub check_loadbalancing { Line 1417  sub check_loadbalancing {
                 }                  }
             }              }
         }          }
         unless ($caller eq 'login') {          if (($otherserver ne '') && (grep(/^\Q$otherserver\E$/,@hosts))) {
             if (($otherserver ne '') && (grep(/^\Q$otherserver\E$/,@hosts))) {              $is_balancer = 0;
                 $is_balancer = 0;              if ($uname ne '' && $udom ne '') {
                 if ($uname ne '' && $udom ne '') {                  if (($env{'user.name'} eq $uname) && ($env{'user.domain'} eq $udom)) {
                     if (($env{'user.name'} eq $uname) && ($env{'user.domain'} eq $udom)) {                      
                         &appenv({'user.loadbalexempt'     => $lonhost,                      &appenv({'user.loadbalexempt'     => $lonhost,  
                                  'user.loadbalcheck.time' => time});                               'user.loadbalcheck.time' => time});
                     }  
                 }                  }
             }              }
         }          }
     }      }
     if (($is_balancer) && (!$homeintdom)) {      return ($is_balancer,$otherserver);
         undef($setcookie);  
     }  
     return ($is_balancer,$otherserver,$setcookie);  
 }  }
   
 sub check_balancer_result {  sub check_balancer_result {
     my ($result,@hosts) = @_;      my ($result,@hosts) = @_;
     my ($is_balancer,$currtargets,$currrules,$setcookie);      my ($is_balancer,$currtargets,$currrules);
     if (ref($result) eq 'HASH') {      if (ref($result) eq 'HASH') {
         if ($result->{'lonhost'} ne '') {          if ($result->{'lonhost'} ne '') {
             my $currbalancer = $result->{'lonhost'};              my $currbalancer = $result->{'lonhost'};
Line 1698  sub check_balancer_result { Line 1449  sub check_balancer_result {
                     $is_balancer = 1;                      $is_balancer = 1;
                     $currrules = $result->{$key}{'rules'};                      $currrules = $result->{$key}{'rules'};
                     $currtargets = $result->{$key}{'targets'};                      $currtargets = $result->{$key}{'targets'};
                     $setcookie = $result->{$key}{'cookie'};  
                     last;                      last;
                 }                  }
             }              }
         }          }
     }      }
     return ($is_balancer,$currtargets,$currrules,$setcookie);      return ($is_balancer,$currtargets,$currrules);
 }  }
   
 sub get_loadbalancer_targets {  sub get_loadbalancer_targets {
Line 1801  sub homeserver { Line 1551  sub homeserver {
     return 'no_host';      return 'no_host';
 }  }
   
 # ------------------------------------- Find the usernames behind a list of IDs  # ----- Find the usernames behind a list of student/employee IDs or clicker IDs
   
 sub idget {  sub idget {
     my ($udom,@ids)=@_;      my ($udom,$idsref,$namespace)=@_;
     my %returnhash=();      my %returnhash=();
       my @ids=(); 
       if (ref($idsref) eq 'ARRAY') {
           @ids = @{$idsref};
       } else {
           return %returnhash; 
       }
       if ($namespace eq '') {
           $namespace = 'ids';
       }
           
     my %servers = &get_servers($udom,'library');      my %servers = &get_servers($udom,'library');
     foreach my $tryserver (keys(%servers)) {      foreach my $tryserver (keys(%servers)) {
  my $idlist=join('&', map { &escape($_); } @ids);   my $idlist=join('&', map { &escape($_); } @ids);
  $idlist=~tr/A-Z/a-z/;    if ($namespace eq 'ids') {
  my $reply=&reply("idget:$udom:".$idlist,$tryserver);      $idlist=~tr/A-Z/a-z/;
    }
    my $reply;
    if ($namespace eq 'ids') {
       $reply=&reply("idget:$udom:".$idlist,$tryserver);
    } else {
       $reply=&reply("getdom:$udom:$namespace:$idlist",$tryserver);
    }
  my @answer=();   my @answer=();
  if (($reply ne 'con_lost') && ($reply!~/^error\:/)) {   if (($reply ne 'con_lost') && ($reply!~/^error\:/)) {
     @answer=split(/\&/,$reply);      @answer=split(/\&/,$reply);
Line 1820  sub idget { Line 1586  sub idget {
  for ($i=0;$i<=$#ids;$i++) {   for ($i=0;$i<=$#ids;$i++) {
     if ($answer[$i]) {      if ($answer[$i]) {
  $returnhash{$ids[$i]}=&unescape($answer[$i]);   $returnhash{$ids[$i]}=&unescape($answer[$i]);
     }       }
  }   }
     }       }
     return %returnhash;      return %returnhash;
 }  }
   
Line 1837  sub idrget { Line 1603  sub idrget {
     return %returnhash;      return %returnhash;
 }  }
   
 # ------------------------------- Store away a list of names and associated IDs  # Store away a list of names and associated student/employee IDs or clicker IDs
   
 sub idput {  sub idput {
     my ($udom,%ids)=@_;      my ($udom,$idsref,$uhom,$namespace)=@_;
     my %servers=();      my %servers=();
       my %ids=();
       my %byid = ();
       if (ref($idsref) eq 'HASH') {
           %ids=%{$idsref};
       }
       if ($namespace eq '') {
           $namespace = 'ids'; 
       }
     foreach my $uname (keys(%ids)) {      foreach my $uname (keys(%ids)) {
  &cput('environment',{'id'=>$ids{$uname}},$udom,$uname);   &cput('environment',{'id'=>$ids{$uname}},$udom,$uname);
         my $uhom=&homeserver($uname,$udom);          if ($uhom eq '') {
               $uhom=&homeserver($uname,$udom);
           }
         if ($uhom ne 'no_host') {          if ($uhom ne 'no_host') {
             my $id=&escape($ids{$uname});  
             $id=~tr/A-Z/a-z/;  
             my $esc_unam=&escape($uname);              my $esc_unam=&escape($uname);
     if ($servers{$uhom}) {              if ($namespace eq 'ids') {
  $servers{$uhom}.='&'.$id.'='.$esc_unam;                  my $id=&escape($ids{$uname});
                   $id=~tr/A-Z/a-z/;
                   my $esc_unam=&escape($uname);
                   $servers{$uhom}.=$id.'='.$esc_unam.'&';
             } else {              } else {
                 $servers{$uhom}=$id.'='.$esc_unam;                  my @currids = split(/,/,$ids{$uname});
                   foreach my $id (@currids) {
                       $byid{$uhom}{$id} .= $uname.',';
                   }
               }
           }
       }
       if ($namespace eq 'clickers') {
           foreach my $server (keys(%byid)) {
               if (ref($byid{$server}) eq 'HASH') {
                   foreach my $id (keys(%{$byid{$server}})) {
                       $byid{$server} =~ s/,$//;
                       $servers{$uhom}.=&escape($id).'='.&escape($byid{$server}).'&'; 
                   }
             }              }
         }          }
     }      }
     foreach my $server (keys(%servers)) {      foreach my $server (keys(%servers)) {
         &critical('idput:'.$udom.':'.$servers{$server},$server);          $servers{$server} =~ s/\&$//;
           if ($namespace eq 'ids') {     
               &critical('idput:'.$udom.':'.$servers{$server},$server);
           } else {
               &critical('updateclickers:'.$udom.':add:'.$servers{$server},$server);
           }
     }      }
 }  }
   
 # ---------------------------------------- Delete unwanted IDs from ids.db file  # ------------- Delete unwanted student/employee IDs or clicker IDs from domain
   
 sub iddel {  sub iddel {
     my ($udom,$idshashref,$uhome)=@_;      my ($udom,$idshashref,$uhome,$namespace)=@_;
     my %result=();      my %result=();
     unless (ref($idshashref) eq 'HASH') {      my %ids=();
       my %byid = ();
       if (ref($idshashref) eq 'HASH') {
           %ids=%{$idshashref};
       } else {
         return %result;          return %result;
     }      }
       if ($namespace eq '') {
           $namespace = 'ids';
       }
     my %servers=();      my %servers=();
     while (my ($id,$uname) = each(%{$idshashref})) {      while (my ($id,$unamestr) = each(%ids)) {
         my $uhom;          if ($namespace eq 'ids') {
         if ($uhome) {              my $uhom = $uhome;
             $uhom = $uhome;              if ($uhom eq '') { 
         } else {                  $uhom=&homeserver($unamestr,$udom);
             $uhom=&homeserver($uname,$udom);              }
         }              if ($uhom ne 'no_host') {
         if ($uhom ne 'no_host') {  
             if ($servers{$uhom}) {  
                 $servers{$uhom}.='&'.&escape($id);                  $servers{$uhom}.='&'.&escape($id);
             } else {              }
                 $servers{$uhom}=&escape($id);           } else {
               my @curritems = split(/,/,$ids{$id});
               foreach my $uname (@curritems) {
                   my $uhom = $uhome;
                   if ($uhom eq '') {
                       $uhom=&homeserver($uname,$udom);
                   }
                   if ($uhom ne 'no_host') { 
                       $byid{$uhom}{$id} .= $uname.',';
                   }
               }
           }
       }
       if ($namespace eq 'clickers') {
           foreach my $server (keys(%byid)) {
               if (ref($byid{$server}) eq 'HASH') {
                   foreach my $id (keys(%{$byid{$server}})) {
                       $byid{$server}{$id} =~ s/,$//;
                       $servers{$server}.=&escape($id).'='.&escape($byid{$server}{$id}).'&';
                   }
             }              }
         }          }
     }      }
     foreach my $server (keys(%servers)) {      foreach my $server (keys(%servers)) {
         $result{$server} = &critical('iddel:'.$udom.':'.$servers{$server},$uhome);          $servers{$server} =~ s/\&$//;
           if ($namespace eq 'ids') {
               $result{$server} = &critical('iddel:'.$udom.':'.$servers{$server},$uhome);
           } elsif ($namespace eq 'clickers') {
               $result{$server} = &critical('updateclickers:'.$udom.':del:'.$servers{$server},$server);
           }
     }      }
     return %result;      return %result;
 }  }
   
   # ----- Update clicker ID-to-username look-ups in clickers.db on library server 
   
   sub updateclickers {
       my ($udom,$action,$idshashref,$uhome,$critical) = @_;
       my %clickers;
       if (ref($idshashref) eq 'HASH') {
           %clickers=%{$idshashref};
       } else {
           return;
       }
       my $items='';
       foreach my $item (keys(%clickers)) {
           $items.=&escape($item).'='.&escape($clickers{$item}).'&';
       }
       $items=~s/\&$//;
       my $request = "updateclickers:$udom:$action:$items";
       if ($critical) {
           return &critical($request,$uhome);
       } else {
           return &reply($request,$uhome);
       }
   }
   
 # ------------------------------dump from db file owned by domainconfig user  # ------------------------------dump from db file owned by domainconfig user
 sub dump_dom {  sub dump_dom {
     my ($namespace, $udom, $regexp) = @_;      my ($namespace, $udom, $regexp) = @_;
Line 1905  sub dump_dom { Line 1752  sub dump_dom {
 # ------------------------------------------ get items from domain db files     # ------------------------------------------ get items from domain db files   
   
 sub get_dom {  sub get_dom {
     my ($namespace,$storearr,$udom,$uhome,$encrypt)=@_;      my ($namespace,$storearr,$udom,$uhome)=@_;
     return if ($udom eq 'public');      return if ($udom eq 'public');
     my $items='';      my $items='';
     foreach my $item (@$storearr) {      foreach my $item (@$storearr) {
Line 1928  sub get_dom { Line 1775  sub get_dom {
         }          }
     }      }
     if ($udom && $uhome && ($uhome ne 'no_host')) {      if ($udom && $uhome && ($uhome ne 'no_host')) {
         my $rep;          my $rep=&reply("getdom:$udom:$namespace:$items",$uhome);
         if (grep { $_ eq $uhome } &current_machine_ids()) {  
             # domain information is hosted on this machine  
             $rep = &LONCAPA::Lond::get_dom("getdom:$udom:$namespace:$items");  
         } else {  
             if ($encrypt) {  
                 $rep=&reply("encrypt:egetdom:$udom:$namespace:$items",$uhome);  
             } else {  
                 $rep=&reply("getdom:$udom:$namespace:$items",$uhome);  
             }  
         }  
         my %returnhash;          my %returnhash;
         if ($rep eq '' || $rep =~ /^error: 2 /) {          if ($rep eq '' || $rep =~ /^error: 2 /) {
             return %returnhash;              return %returnhash;
Line 1961  sub get_dom { Line 1798  sub get_dom {
 # -------------------------------------------- put items in domain db files   # -------------------------------------------- put items in domain db files 
   
 sub put_dom {  sub put_dom {
     my ($namespace,$storehash,$udom,$uhome,$encrypt)=@_;      my ($namespace,$storehash,$udom,$uhome)=@_;
     if (!$udom) {      if (!$udom) {
         $udom=$env{'user.domain'};          $udom=$env{'user.domain'};
         if (defined(&domain($udom,'primary'))) {          if (defined(&domain($udom,'primary'))) {
Line 1982  sub put_dom { Line 1819  sub put_dom {
             $items.=&escape($item).'='.&freeze_escape($$storehash{$item}).'&';              $items.=&escape($item).'='.&freeze_escape($$storehash{$item}).'&';
         }          }
         $items=~s/\&$//;          $items=~s/\&$//;
         if ($encrypt) {          return &reply("putdom:$udom:$namespace:$items",$uhome);
             return &reply("encrypt:putdom:$udom:$namespace:$items",$uhome);  
         } else {  
             return &reply("putdom:$udom:$namespace:$items",$uhome);  
         }  
     } else {      } else {
         &logthis("put_dom failed - no homeserver and/or domain");          &logthis("put_dom failed - no homeserver and/or domain");
     }      }
Line 2020  sub del_dom { Line 1853  sub del_dom {
     }      }
 }  }
   
 sub store_dom {  
     my ($storehash,$id,$namespace,$dom,$home,$encrypt) = @_;  
     $$storehash{'ip'}=&get_requestor_ip();  
     $$storehash{'host'}=$perlvar{'lonHostID'};  
     my $namevalue='';  
     foreach my $key (keys(%{$storehash})) {  
         $namevalue.=&escape($key).'='.&freeze_escape($$storehash{$key}).'&';  
     }  
     $namevalue=~s/\&$//;  
     if (grep { $_ eq $home } current_machine_ids()) {  
         return LONCAPA::Lond::store_dom("storedom:$dom:$namespace:$id:$namevalue");  
     } else {  
         if ($namespace eq 'private') {  
             return 'refused';  
         } elsif ($encrypt) {  
             return reply("encrypt:storedom:$dom:$namespace:$id:$namevalue",$home);  
         } else {  
             return reply("storedom:$dom:$namespace:$id:$namevalue",$home);  
         }  
     }  
 }  
   
 sub restore_dom {  
     my ($id,$namespace,$dom,$home,$encrypt) = @_;  
     my $answer;  
     if (grep { $_ eq $home } current_machine_ids()) {  
         $answer = LONCAPA::Lond::restore_dom("restoredom:$dom:$namespace:$id");  
     } elsif ($namespace ne 'private') {  
         if ($encrypt) {  
             $answer=&reply("encrypt:restoredom:$dom:$namespace:$id",$home);  
         } else {  
             $answer=&reply("restoredom:$dom:$namespace:$id",$home);  
         }  
     }  
     my %returnhash=();  
     unless (($answer eq '') || ($answer eq 'con_lost') || ($answer eq 'refused') ||  
             ($answer eq 'unknown_cmd') || ($answer eq 'rejected')) {  
         foreach my $line (split(/\&/,$answer)) {  
             my ($name,$value)=split(/\=/,$line);  
             $returnhash{&unescape($name)}=&thaw_unescape($value);  
         }  
         my $version;  
         for ($version=1;$version<=$returnhash{'version'};$version++) {  
             foreach my $item (split(/\:/,$returnhash{$version.':keys'})) {  
                 $returnhash{$item}=$returnhash{$version.':'.$item};  
             }  
         }  
     }  
     return %returnhash;  
 }  
   
 # ----------------------------------construct domainconfig user for a domain   # ----------------------------------construct domainconfig user for a domain 
 sub get_domainconfiguser {  sub get_domainconfiguser {
     my ($udom) = @_;      my ($udom) = @_;
Line 2113  sub retrieve_inst_usertypes { Line 1895  sub retrieve_inst_usertypes {
   
 sub is_domainimage {  sub is_domainimage {
     my ($url) = @_;      my ($url) = @_;
     if ($url=~m-^/+res/+($match_domain)/+\1\-domainconfig/+(img|logo|domlogo|login)/+[^/]-) {      if ($url=~m-^/+res/+($match_domain)/+\1\-domainconfig/+(img|logo|domlogo)/+-) {
         if (&domain($1) ne '') {          if (&domain($1) ne '') {
             return '1';              return '1';
         }          }
Line 2128  sub inst_directory_query { Line 1910  sub inst_directory_query {
     my $homeserver = &domain($udom,'primary');      my $homeserver = &domain($udom,'primary');
     my $outcome;      my $outcome;
     if ($homeserver ne '') {      if ($homeserver ne '') {
         unless ($homeserver eq $perlvar{'lonHostID'}) {  
             if ($srch->{'srchby'} eq 'email') {  
                 my $lcrev = &get_server_loncaparev($udom,$homeserver);  
                 my ($major,$minor,$subver) = ($lcrev =~ /^\'?(\d+)\.(\d+)\.(\d+)[\w.\-]+\'?$/);  
                 if (($major eq '' && $minor eq '') || ($major < 2) ||  
                     (($major == 2) && ($minor < 11)) ||  
                     (($major == 2) && ($minor == 11) && ($subver < 3))) {  
                     return;  
                 }  
             }  
         }  
  my $queryid=&reply("querysend:instdirsearch:".   my $queryid=&reply("querysend:instdirsearch:".
    &escape($srch->{'srchby'}).':'.     &escape($srch->{'srchby'}).':'.
    &escape($srch->{'srchterm'}).':'.     &escape($srch->{'srchterm'}).':'.
    &escape($srch->{'srchtype'}),$homeserver);     &escape($srch->{'srchtype'}),$homeserver);
  my $host=&hostname($homeserver);   my $host=&hostname($homeserver);
  if ($queryid !~/^\Q$host\E\_/) {   if ($queryid !~/^\Q$host\E\_/) {
     &logthis('institutional directory search invalid queryid: '.$queryid.' for host: '.$homeserver.' in domain '.$udom);      &logthis('instituional directory search invalid queryid: '.$queryid.' for host: '.$homeserver.'in domain '.$udom);
     return;      return;
  }   }
  my $response = &get_query_reply($queryid);   my $response = &get_query_reply($queryid);
Line 2180  sub usersearch { Line 1951  sub usersearch {
     my $query = 'usersearch';      my $query = 'usersearch';
     foreach my $tryserver (keys(%libserv)) {      foreach my $tryserver (keys(%libserv)) {
         if (&host_domain($tryserver) eq $dom) {          if (&host_domain($tryserver) eq $dom) {
             unless ($tryserver eq $perlvar{'lonHostID'}) {  
                 if ($srch->{'srchby'} eq 'email') {  
                     my $lcrev = &get_server_loncaparev($dom,$tryserver);  
                     my ($major,$minor,$subver) = ($lcrev =~ /^\'?(\d+)\.(\d+)\.(\d+)[\w.\-]+\'?$/);  
                     next if (($major eq '' && $minor eq '') || ($major < 2) ||  
                              (($major == 2) && ($minor < 11)) ||  
                              (($major == 2) && ($minor == 11) && ($subver < 3)));  
                 }  
             }  
             my $host=&hostname($tryserver);              my $host=&hostname($tryserver);
             my $queryid=              my $queryid=
                 &reply("querysend:".&escape($query).':'.                  &reply("querysend:".&escape($query).':'.
Line 2278  sub get_multiple_instusers { Line 2040  sub get_multiple_instusers {
     my ($udom,$users,$caller) = @_;      my ($udom,$users,$caller) = @_;
     my ($outcome,$results);      my ($outcome,$results);
     if (ref($users) eq 'HASH') {      if (ref($users) eq 'HASH') {
         my $count = keys(%{$users});          my $count = keys(%{$users}); 
         my $requested = &freeze_escape($users);          my $requested = &freeze_escape($users);
         my $homeserver = &domain($udom,'primary');          my $homeserver = &domain($udom,'primary');
         if ($homeserver ne '') {          if ($homeserver ne '') {
Line 2322  sub get_multiple_instusers { Line 2084  sub get_multiple_instusers {
                 } else {                  } else {
                     ($outcome,my $userdata) = split(/=/,$response,2);                      ($outcome,my $userdata) = split(/=/,$response,2);
                     if ($outcome eq 'ok') {                      if ($outcome eq 'ok') {
                         $results = &thaw_unescape($userdata);                          $results = &thaw_unescape($userdata); 
                     }                      }
                 }                  }
             }              }
Line 2349  sub inst_rulecheck { Line 2111  sub inst_rulecheck {
                     $response=&unescape(&reply('instidrulecheck:'.&escape($udom).                      $response=&unescape(&reply('instidrulecheck:'.&escape($udom).
                                               ':'.&escape($id).':'.$rulestr,                                                ':'.&escape($id).':'.$rulestr,
                                               $homeserver));                                                $homeserver));
                 } elsif ($item eq 'unamemap') {  
                     $response=&unescape(&reply('instunamemapcheck:'.  
                                                &escape($udom).':'.&escape($uname).  
                                               ':'.$rulestr,$homeserver));  
                 } elsif ($item eq 'selfcreate') {                  } elsif ($item eq 'selfcreate') {
                     $response=&unescape(&reply('instselfcreatecheck:'.                      $response=&unescape(&reply('instselfcreatecheck:'.
                                                &escape($udom).':'.&escape($uname).                                                 &escape($udom).':'.&escape($uname).
Line 2386  sub inst_userrules { Line 2144  sub inst_userrules {
             } elsif ($check eq 'email') {              } elsif ($check eq 'email') {
                 $response=&reply('instemailrules:'.&escape($udom),                  $response=&reply('instemailrules:'.&escape($udom),
                                  $homeserver);                                   $homeserver);
             } elsif ($check eq 'unamemap') {  
                 $response=&reply('unamemaprules:'.&escape($udom),  
                                  $homeserver);  
             } else {              } else {
                 $response=&reply('instuserrules:'.&escape($udom),                  $response=&reply('instuserrules:'.&escape($udom),
                                  $homeserver);                                   $homeserver);
Line 2434  sub get_domain_defaults { Line 2189  sub get_domain_defaults {
                                   'requestcourses','inststatus',                                    'requestcourses','inststatus',
                                   'coursedefaults','usersessions',                                    'coursedefaults','usersessions',
                                   'requestauthor','selfenrollment',                                    'requestauthor','selfenrollment',
                                   'coursecategories','autoenroll',                                    'coursecategories'],$domain);
                                   'helpsettings','wafproxy','ltisec'],$domain);  
     my @coursetypes = ('official','unofficial','community','textbook');      my @coursetypes = ('official','unofficial','community','textbook');
     if (ref($domconfig{'defaults'}) eq 'HASH') {      if (ref($domconfig{'defaults'}) eq 'HASH') {
         $domdefaults{'lang_def'} = $domconfig{'defaults'}{'lang_def'};           $domdefaults{'lang_def'} = $domconfig{'defaults'}{'lang_def'}; 
Line 2444  sub get_domain_defaults { Line 2198  sub get_domain_defaults {
         $domdefaults{'timezone_def'} = $domconfig{'defaults'}{'timezone_def'};          $domdefaults{'timezone_def'} = $domconfig{'defaults'}{'timezone_def'};
         $domdefaults{'datelocale_def'} = $domconfig{'defaults'}{'datelocale_def'};          $domdefaults{'datelocale_def'} = $domconfig{'defaults'}{'datelocale_def'};
         $domdefaults{'portal_def'} = $domconfig{'defaults'}{'portal_def'};          $domdefaults{'portal_def'} = $domconfig{'defaults'}{'portal_def'};
         $domdefaults{'intauth_cost'} = $domconfig{'defaults'}{'intauth_cost'};  
         $domdefaults{'intauth_switch'} = $domconfig{'defaults'}{'intauth_switch'};  
         $domdefaults{'intauth_check'} = $domconfig{'defaults'}{'intauth_check'};  
         $domdefaults{'unamemap_rule'} = $domconfig{'defaults'}{'unamemap_rule'};  
     } else {      } else {
         $domdefaults{'lang_def'} = &domain($domain,'lang_def');          $domdefaults{'lang_def'} = &domain($domain,'lang_def');
         $domdefaults{'auth_def'} = &domain($domain,'auth_def');          $domdefaults{'auth_def'} = &domain($domain,'auth_def');
Line 2483  sub get_domain_defaults { Line 2233  sub get_domain_defaults {
         }          }
     }      }
     if (ref($domconfig{'coursedefaults'}) eq 'HASH') {      if (ref($domconfig{'coursedefaults'}) eq 'HASH') {
           $domdefaults{'canuse_pdfforms'} = $domconfig{'coursedefaults'}{'canuse_pdfforms'};
         $domdefaults{'usejsme'} = $domconfig{'coursedefaults'}{'usejsme'};          $domdefaults{'usejsme'} = $domconfig{'coursedefaults'}{'usejsme'};
         $domdefaults{'inline_chem'} = $domconfig{'coursedefaults'}{'inline_chem'};  
         $domdefaults{'uselcmath'} = $domconfig{'coursedefaults'}{'uselcmath'};          $domdefaults{'uselcmath'} = $domconfig{'coursedefaults'}{'uselcmath'};
         if (ref($domconfig{'coursedefaults'}{'postsubmit'}) eq 'HASH') {          if (ref($domconfig{'coursedefaults'}{'postsubmit'}) eq 'HASH') {
             $domdefaults{'postsubmit'} = $domconfig{'coursedefaults'}{'postsubmit'}{'client'};              $domdefaults{'postsubmit'} = $domconfig{'coursedefaults'}{'postsubmit'}{'client'};
Line 2500  sub get_domain_defaults { Line 2250  sub get_domain_defaults {
             }              }
             if ($domdefaults{'postsubmit'} eq 'on') {              if ($domdefaults{'postsubmit'} eq 'on') {
                 if (ref($domconfig{'coursedefaults'}{'postsubmit'}{'timeout'}) eq 'HASH') {                  if (ref($domconfig{'coursedefaults'}{'postsubmit'}{'timeout'}) eq 'HASH') {
                     $domdefaults{$type.'postsubtimeout'} =                      $domdefaults{$type.'postsubtimeout'} = 
                         $domconfig{'coursedefaults'}{'postsubmit'}{'timeout'}{$type};                          $domconfig{'coursedefaults'}{'postsubmit'}{'timeout'}{$type}; 
                 }                  }
             }              }
         }          }
Line 2515  sub get_domain_defaults { Line 2265  sub get_domain_defaults {
         } elsif ($domconfig{'coursedefaults'}{'canclone'}) {          } elsif ($domconfig{'coursedefaults'}{'canclone'}) {
             $domdefaults{'canclone'}=$domconfig{'coursedefaults'}{'canclone'};              $domdefaults{'canclone'}=$domconfig{'coursedefaults'}{'canclone'};
         }          }
         if ($domconfig{'coursedefaults'}{'texengine'}) {  
             $domdefaults{'texengine'} = $domconfig{'coursedefaults'}{'texengine'};  
         }  
         if (exists($domconfig{'coursedefaults'}{'ltiauth'})) {  
             $domdefaults{'crsltiauth'} = $domconfig{'coursedefaults'}{'ltiauth'};  
         }  
     }      }
     if (ref($domconfig{'usersessions'}) eq 'HASH') {      if (ref($domconfig{'usersessions'}) eq 'HASH') {
         if (ref($domconfig{'usersessions'}{'remote'}) eq 'HASH') {          if (ref($domconfig{'usersessions'}{'remote'}) eq 'HASH') {
Line 2532  sub get_domain_defaults { Line 2276  sub get_domain_defaults {
         if (ref($domconfig{'usersessions'}{'offloadnow'}) eq 'HASH') {          if (ref($domconfig{'usersessions'}{'offloadnow'}) eq 'HASH') {
             $domdefaults{'offloadnow'} = $domconfig{'usersessions'}{'offloadnow'};              $domdefaults{'offloadnow'} = $domconfig{'usersessions'}{'offloadnow'};
         }          }
         if (ref($domconfig{'usersessions'}{'offloadoth'}) eq 'HASH') {  
             $domdefaults{'offloadoth'} = $domconfig{'usersessions'}{'offloadoth'};  
         }  
     }      }
     if (ref($domconfig{'selfenrollment'}) eq 'HASH') {      if (ref($domconfig{'selfenrollment'}) eq 'HASH') {
         if (ref($domconfig{'selfenrollment'}{'admin'}) eq 'HASH') {          if (ref($domconfig{'selfenrollment'}{'admin'}) eq 'HASH') {
Line 2567  sub get_domain_defaults { Line 2308  sub get_domain_defaults {
     if (ref($domconfig{'coursecategories'}) eq 'HASH') {      if (ref($domconfig{'coursecategories'}) eq 'HASH') {
         $domdefaults{'catauth'} = 'std';          $domdefaults{'catauth'} = 'std';
         $domdefaults{'catunauth'} = 'std';          $domdefaults{'catunauth'} = 'std';
         if ($domconfig{'coursecategories'}{'auth'}) {          if ($domconfig{'coursecategories'}{'auth'}) { 
             $domdefaults{'catauth'} = $domconfig{'coursecategories'}{'auth'};              $domdefaults{'catauth'} = $domconfig{'coursecategories'}{'auth'};
         }          }
         if ($domconfig{'coursecategories'}{'unauth'}) {          if ($domconfig{'coursecategories'}{'unauth'}) {
             $domdefaults{'catunauth'} = $domconfig{'coursecategories'}{'unauth'};              $domdefaults{'catunauth'} = $domconfig{'coursecategories'}{'unauth'};
         }          }
     }      }
     if (ref($domconfig{'autoenroll'}) eq 'HASH') {  
         $domdefaults{'autofailsafe'} = $domconfig{'autoenroll'}{'autofailsafe'};  
         $domdefaults{'failsafe'} = $domconfig{'autoenroll'}{'failsafe'};  
     }  
     if (ref($domconfig{'helpsettings'}) eq 'HASH') {  
         $domdefaults{'submitbugs'} = $domconfig{'helpsettings'}{'submitbugs'};  
         if (ref($domconfig{'helpsettings'}{'adhoc'}) eq 'HASH') {  
             $domdefaults{'adhocroles'} = $domconfig{'helpsettings'}{'adhoc'};  
         }  
     }  
     if (ref($domconfig{'wafproxy'}) eq 'HASH') {  
         foreach my $item ('ipheader','trusted','vpnint','vpnext','sslopt') {  
             if ($domconfig{'wafproxy'}{$item}) {  
                 $domdefaults{'waf_'.$item} = $domconfig{'wafproxy'}{$item};  
             }  
         }  
     }  
     if (ref($domconfig{'ltisec'}) eq 'HASH') {  
         if (ref($domconfig{'ltisec'}{'encrypt'}) eq 'HASH') {  
             $domdefaults{'linkprotenc_crs'} = $domconfig{'ltisec'}{'encrypt'}{'crs'};  
             $domdefaults{'linkprotenc_dom'} = $domconfig{'ltisec'}{'encrypt'}{'dom'};  
             $domdefaults{'ltienc_consumers'} = $domconfig{'ltisec'}{'encrypt'}{'consumers'};  
         }  
         if (ref($domconfig{'ltisec'}{'private'}) eq 'HASH') {  
             if (ref($domconfig{'ltisec'}{'private'}{'keys'}) eq 'ARRAY') {  
                 $domdefaults{'privhosts'} = $domconfig{'ltisec'}{'private'}{'keys'};  
             }  
         }  
     }  
     &do_cache_new('domdefaults',$domain,\%domdefaults,$cachetime);      &do_cache_new('domdefaults',$domain,\%domdefaults,$cachetime);
     return %domdefaults;      return %domdefaults;
 }  }
   
 sub get_dom_cats {  
     my ($dom) = @_;  
     return unless (&domain($dom));  
     my ($cats,$cached)=&is_cached_new('cats',$dom);  
     unless (defined($cached)) {  
         my %domconfig = &get_dom('configuration',['coursecategories'],$dom);  
         if (ref($domconfig{'coursecategories'}) eq 'HASH') {  
             if (ref($domconfig{'coursecategories'}{'cats'}) eq 'HASH') {  
                 %{$cats} = %{$domconfig{'coursecategories'}{'cats'}};  
             } else {  
                 $cats = {};  
             }  
         } else {  
             $cats = {};  
         }  
         &Apache::lonnet::do_cache_new('cats',$dom,$cats,3600);  
     }  
     return $cats;  
 }  
   
 sub get_dom_instcats {  
     my ($dom) = @_;  
     return unless (&domain($dom));  
     my ($instcats,$cached)=&is_cached_new('instcats',$dom);  
     unless (defined($cached)) {  
         my (%coursecodes,%codes,@codetitles,%cat_titles,%cat_order);  
         my $totcodes = &retrieve_instcodes(\%coursecodes,$dom);  
         if ($totcodes > 0) {  
             my $caller = 'global';  
             if (&auto_instcode_format($caller,$dom,\%coursecodes,\%codes,  
                                       \@codetitles,\%cat_titles,\%cat_order) eq 'ok') {  
                 $instcats = {  
                                 codes => \%codes,  
                                 codetitles => \@codetitles,  
                                 cat_titles => \%cat_titles,  
                                 cat_order => \%cat_order,  
                             };  
                 &do_cache_new('instcats',$dom,$instcats,3600);  
             }  
         }  
     }  
     return $instcats;  
 }  
   
 sub retrieve_instcodes {  
     my ($coursecodes,$dom) = @_;  
     my $totcodes;  
     my %courses = &courseiddump($dom,'.',1,'.','.','.',undef,undef,'Course');  
     foreach my $course (keys(%courses)) {  
         if (ref($courses{$course}) eq 'HASH') {  
             if ($courses{$course}{'inst_code'} ne '') {  
                 $$coursecodes{$course} = $courses{$course}{'inst_code'};  
                 $totcodes ++;  
             }  
         }  
     }  
     return $totcodes;  
 }  
   
 # --------------------------------------------- Get domain config for passwords  
   
 sub get_passwdconf {  
     my ($dom) = @_;  
     my (%passwdconf,$gotconf,$lookup);  
     my ($result,$cached)=&is_cached_new('passwdconf',$dom);  
     if (defined($cached)) {  
         if (ref($result) eq 'HASH') {  
             %passwdconf = %{$result};  
             $gotconf = 1;  
         }  
     }  
     unless ($gotconf) {  
         my %domconfig = &get_dom('configuration',['passwords'],$dom);  
         if (ref($domconfig{'passwords'}) eq 'HASH') {  
             %passwdconf = %{$domconfig{'passwords'}};  
         }  
         my $cachetime = 24*60*60;  
         &do_cache_new('passwdconf',$dom,\%passwdconf,$cachetime);  
     }  
     return %passwdconf;  
 }  
   
 sub course_portal_url {  
     my ($cnum,$cdom,$r) = @_;  
     my $chome = &homeserver($cnum,$cdom);  
     my $hostname = &hostname($chome);  
     my $protocol = $protocol{$chome};  
     $protocol = 'http' if ($protocol ne 'https');  
     my %domdefaults = &get_domain_defaults($cdom);  
     my $firsturl;  
     if ($domdefaults{'portal_def'}) {  
         $firsturl = $domdefaults{'portal_def'};  
     } else {  
         my $alias = &Apache::lonnet::use_proxy_alias($r,$chome);  
         $hostname = $alias if ($alias ne '');  
         $firsturl = $protocol.'://'.$hostname;  
     }  
     return $firsturl;  
 }  
   
 # --------------------------------------------------- Assign a key to a student  # --------------------------------------------------- Assign a key to a student
   
 sub assign_access_key {  sub assign_access_key {
Line 2943  sub make_key { Line 2555  sub make_key {
 sub devalidate_cache_new {  sub devalidate_cache_new {
     my ($name,$id,$debug) = @_;      my ($name,$id,$debug) = @_;
     if ($debug) { &Apache::lonnet::logthis("deleting $name:$id"); }      if ($debug) { &Apache::lonnet::logthis("deleting $name:$id"); }
     my $remembered_id=$name.':'.$id;  
     $id=&make_key($name,$id);      $id=&make_key($name,$id);
     $memcache->delete($id);      $memcache->delete($id);
     delete($remembered{$remembered_id});      delete($remembered{$id});
     delete($accessed{$remembered_id});      delete($accessed{$id});
 }  }
   
 sub is_cached_new {  sub is_cached_new {
     my ($name,$id,$debug) = @_;      my ($name,$id,$debug) = @_;
     my $remembered_id=$name.':'.$id; # this is to avoid make_key (which is slow) for       $id=&make_key($name,$id);
                                      # keys in %remembered hash, which persists for      if (exists($remembered{$id})) {
                                      # duration of request (no restriction on key length).   if ($debug) { &Apache::lonnet::logthis("Early return $id of $remembered{$id} "); }
     if (exists($remembered{$remembered_id})) {   $accessed{$id}=[&gettimeofday()];
  if ($debug) { &Apache::lonnet::logthis("Early return $remembered_id of $remembered{$remembered_id} "); }  
  $accessed{$remembered_id}=[&gettimeofday()];  
  $hits++;   $hits++;
  return ($remembered{$remembered_id},1);   return ($remembered{$id},1);
     }      }
     $id=&make_key($name,$id);  
     my $value = $memcache->get($id);      my $value = $memcache->get($id);
     if (!(defined($value))) {      if (!(defined($value))) {
  if ($debug) { &Apache::lonnet::logthis("getting $id is not defined"); }   if ($debug) { &Apache::lonnet::logthis("getting $id is not defined"); }
Line 2971  sub is_cached_new { Line 2579  sub is_cached_new {
  if ($debug) { &Apache::lonnet::logthis("getting $id is __undef__"); }   if ($debug) { &Apache::lonnet::logthis("getting $id is __undef__"); }
  $value=undef;   $value=undef;
     }      }
     &make_room($remembered_id,$value,$debug);      &make_room($id,$value,$debug);
     if ($debug) { &Apache::lonnet::logthis("getting $id is $value"); }      if ($debug) { &Apache::lonnet::logthis("getting $id is $value"); }
     return ($value,1);      return ($value,1);
 }  }
   
 sub do_cache_new {  sub do_cache_new {
     my ($name,$id,$value,$time,$debug) = @_;      my ($name,$id,$value,$time,$debug) = @_;
     my $remembered_id=$name.':'.$id;  
     $id=&make_key($name,$id);      $id=&make_key($name,$id);
     my $setvalue=$value;      my $setvalue=$value;
     if (!defined($setvalue)) {      if (!defined($setvalue)) {
Line 2994  sub do_cache_new { Line 2601  sub do_cache_new {
  $memcache->disconnect_all();   $memcache->disconnect_all();
     }      }
     # need to make a copy of $value      # need to make a copy of $value
     &make_room($remembered_id,$value,$debug);      &make_room($id,$value,$debug);
     return $value;      return $value;
 }  }
   
 sub make_room {  sub make_room {
     my ($remembered_id,$value,$debug)=@_;      my ($id,$value,$debug)=@_;
   
     $remembered{$remembered_id}= (ref($value)) ? &Storable::dclone($value)      $remembered{$id}= (ref($value)) ? &Storable::dclone($value)
                                     : $value;                                      : $value;
     if ($to_remember<0) { return; }      if ($to_remember<0) { return; }
     $accessed{$remembered_id}=[&gettimeofday()];      $accessed{$id}=[&gettimeofday()];
     if (scalar(keys(%remembered)) <= $to_remember) { return; }      if (scalar(keys(%remembered)) <= $to_remember) { return; }
     my $to_kick;      my $to_kick;
     my $max_time=0;      my $max_time=0;
Line 3242  sub repcopy { Line 2849  sub repcopy {
     }      }
 }  }
   
 # ------------------------------------------------- Unsubscribe from a resource  
   
 sub unsubscribe {  
     my ($fname) = @_;  
     my $answer;  
     if ($fname=~/\/(aboutme|syllabus|bulletinboard|smppg)$/) { return $answer; }  
     $fname=~s/[\n\r]//g;  
     my $author=$fname;  
     $author=~s/\/home\/httpd\/html\/res\/([^\/]*)\/([^\/]*).*/$1\/$2/;  
     my ($udom,$uname)=split(/\//,$author);  
     my $home=homeserver($uname,$udom);  
     if ($home eq 'no_host') {  
         $answer = 'no_host';  
     } elsif (grep { $_ eq $home } &current_machine_ids()) {  
         $answer = 'home';  
     } else {  
         $answer = reply("unsub:$fname",$home);  
     }  
     return $answer;  
 }  
   
 # ------------------------------------------------ Get server side include body  # ------------------------------------------------ Get server side include body
 sub ssi_body {  sub ssi_body {
     my ($filelink,%form)=@_;      my ($filelink,%form)=@_;
Line 3291  sub ssi_body { Line 2877  sub ssi_body {
 # --------------------------------------------------------- Server Side Include  # --------------------------------------------------------- Server Side Include
   
 sub absolute_url {  sub absolute_url {
     my ($host_name,$unalias,$keep_proto) = @_;      my ($host_name) = @_;
     my $protocol = ($ENV{'SERVER_PORT'} == 443?'https://':'http://');      my $protocol = ($ENV{'SERVER_PORT'} == 443?'https://':'http://');
     if ($host_name eq '') {      if ($host_name eq '') {
  $host_name = $ENV{'SERVER_NAME'};   $host_name = $ENV{'SERVER_NAME'};
     }      }
     if ($unalias) {  
         my $alias = &get_proxy_alias();  
         if ($alias eq $host_name) {  
             my $lonhost = $perlvar{'lonHostID'};  
             my $hostname = &hostname($lonhost);  
             my $lcproto;  
             if (($keep_proto) || ($hostname eq '')) {  
                 $lcproto = $protocol;  
             } else {  
                 $lcproto = $protocol{$lonhost};  
                 $lcproto = 'http' if ($lcproto ne 'https');  
                 $lcproto .= '://';  
             }  
             unless ($hostname eq '') {  
                 return $lcproto.$hostname;  
             }  
         }  
     }   
     return $protocol.$host_name;      return $protocol.$host_name;
 }  }
   
Line 3330  sub absolute_url { Line 2898  sub absolute_url {
 sub ssi {  sub ssi {
   
     my ($fn,%form)=@_;      my ($fn,%form)=@_;
     my ($host,$request,$response);      my $ua=new LWP::UserAgent;
     $host = &absolute_url('',1);      my $request;
   
     $form{'no_update_last_known'}=1;      $form{'no_update_last_known'}=1;
     &Apache::lonenc::check_encrypt(\$fn);      &Apache::lonenc::check_encrypt(\$fn);
     if (%form) {      if (%form) {
       $request=new HTTP::Request('POST',$host.$fn);        $request=new HTTP::Request('POST',&absolute_url().$fn);
       $request->content(join('&',map {        $request->content(join('&',map { 
             my $name = escape($_);              my $name = escape($_);
             "$name=" . ( ref($form{$_}) eq 'ARRAY'              "$name=" . ( ref($form{$_}) eq 'ARRAY' 
             ? join("&$name=", map {escape($_) } @{$form{$_}})              ? join("&$name=", map {escape($_) } @{$form{$_}}) 
             : &escape($form{$_}) );              : &escape($form{$_}) );    
         } keys(%form)));          } keys(%form)));
     } else {      } else {
       $request=new HTTP::Request('GET',$host.$fn);        $request=new HTTP::Request('GET',&absolute_url().$fn);
     }      }
   
     $request->header(Cookie => $ENV{'HTTP_COOKIE'});      $request->header(Cookie => $ENV{'HTTP_COOKIE'});
       my $response= $ua->request($request);
       my $content = $response->content;
   
   
     if (($env{'request.course.id'}) &&  
         ($form{'grade_courseid'} eq $env{'request.course.id'}) &&  
         ($form{'grade_username'} ne '') && ($form{'grade_domain'} ne '') &&  
         ($form{'grade_symb'} ne '') &&  
         (&Apache::lonnet::allowed('mgr',$env{'request.course.id'}.  
                                  ($env{'request.course.sec'}?'/'.$env{'request.course.sec'}:'')))) {  
         if (LWP::UserAgent->VERSION >= 5.834) {  
             my $ua=new LWP::UserAgent;  
             $ua->local_address('127.0.0.1');  
             $response = $ua->request($request);  
         } else {  
             {  
                 require LWP::Protocol::http;  
                 local @LWP::Protocol::http::EXTRA_SOCK_OPTS = (LocalAddr => '127.0.0.1');  
                 my $ua=new LWP::UserAgent;  
                 $response = $ua->request($request);  
                 @LWP::Protocol::http::EXTRA_SOCK_OPTS = ();  
             }  
         }  
     } else {  
         my $ua=new LWP::UserAgent;  
         $response = $ua->request($request);  
     }  
     if (wantarray) {      if (wantarray) {
  return ($response->content, $response);   return ($content, $response);
     } else {      } else {
  return $response->content;   return $content;
     }      }
 }  }
   
Line 3391  sub externalssi { Line 2939  sub externalssi {
     }      }
 }  }
   
 # If the local copy of a replicated resource is outdated, trigger a  
 # connection from the homeserver to flush the delayed queue. If no update  
 # happens, remove local copies of outdated resource (and corresponding  
 # metadata file).  
   
 sub remove_stale_resfile {  
     my ($url) = @_;  
     my $removed;  
     if ($url=~m{^/res/($match_domain)/($match_username)/}) {  
         my $audom = $1;  
         my $auname = $2;  
         unless (($url =~ /\.\d+\.\w+$/) || ($url =~ m{^/res/lib/templates/})) {  
             my $homeserver = &homeserver($auname,$audom);  
             unless (($homeserver eq 'no_host') ||  
                     (grep { $_ eq $homeserver } &current_machine_ids())) {  
                 my $fname = &filelocation('',$url);  
                 if (-e $fname) {  
                     my $hostname = &hostname($homeserver);  
                     if ($hostname) {  
                         my $protocol = $protocol{$homeserver};  
                         $protocol = 'http' if ($protocol ne 'https');  
                         my $uri = $protocol.'://'.$hostname.'/raw/'.&declutter($url);  
                         my $ua=new LWP::UserAgent;  
                         $ua->timeout(5);  
                         my $request=new HTTP::Request('HEAD',$uri);  
                         my $response=$ua->request($request);  
                         if ($response->is_success()) {  
                             my $remmodtime = &HTTP::Date::str2time( $response->header('Last-modified') );  
                             my $locmodtime = (stat($fname))[9];  
                             if ($locmodtime < $remmodtime) {  
                                 my $stale;  
                                 my $answer = &reply('pong',$homeserver);  
                                 if ($answer eq $homeserver.':'.$perlvar{'lonHostID'}) {  
                                     sleep(0.2);  
                                     $locmodtime = (stat($fname))[9];  
                                     if ($locmodtime < $remmodtime) {  
                                         my $posstransfer = $fname.'.in.transfer';  
                                         if ((-e $posstransfer) && ($remmodtime < (stat($posstransfer))[9])) {  
                                             $removed = 1;  
                                         } else {  
                                             $stale = 1;  
                                         }  
                                     } else {  
                                         $removed = 1;  
                                     }  
                                 } else {  
                                     $stale = 1;  
                                 }  
                                 if ($stale) {  
                                     if (unlink($fname)) {  
                                         if ($uri!~/\.meta$/) {  
                                             if (-e $fname.'.meta') {  
                                                 unlink($fname.'.meta');  
                                             }  
                                         }  
                                         my $unsubresult = &unsubscribe($fname);  
                                         unless ($unsubresult eq 'ok') {  
                                             &logthis("no unsub of $fname from $homeserver, reason: $unsubresult");  
                                         }  
                                         $removed = 1;  
                                     }  
                                 }  
                             }  
                         }  
                     }  
                 }  
             }  
         }  
     }  
     return $removed;  
 }  
   
 # -------------------------------- Allow a /uploaded/ URI to be vouched for  # -------------------------------- Allow a /uploaded/ URI to be vouched for
   
 sub allowuploaded {  sub allowuploaded {
Line 3479  sub allowuploaded { Line 2955  sub allowuploaded {
 #  #
 # Determine if the current user should be able to edit a particular resource,  # Determine if the current user should be able to edit a particular resource,
 # when viewing in course context.  # when viewing in course context.
 # (a) When viewing resource used to determine if "Edit" item is included in  # (a) When viewing resource used to determine if "Edit" item is included in 
 #     Functions.  #     Functions.
 # (b) When displaying folder contents in course editor, used to determine if  # (b) When displaying folder contents in course editor, used to determine if
 #     "Edit" link will be displayed alongside resource.  #     "Edit" link will be displayed alongside resource.
Line 3487  sub allowuploaded { Line 2963  sub allowuploaded {
 #  input: six args -- filename (decluttered), course number, course domain,  #  input: six args -- filename (decluttered), course number, course domain,
 #                   url, symb (if registered) and group (if this is a group  #                   url, symb (if registered) and group (if this is a group
 #                   item -- e.g., bulletin board, group page etc.).  #                   item -- e.g., bulletin board, group page etc.).
 #  output: array of five scalars --  #  output: array of five scalars -- 
 #          $cfile -- url for file editing if editable on current server  #          $cfile -- url for file editing if editable on current server
 #          $home -- homeserver of resource (i.e., for author if published,  #          $home -- homeserver of resource (i.e., for author if published,
 #                                           or course if uploaded.).  #                                           or course if uploaded.).
 #          $switchserver --  1 if server switch will be needed.  #          $switchserver --  1 if server switch will be needed.
 #          $forceedit -- 1 if icon/link should be to go to edit mode  #          $forceedit -- 1 if icon/link should be to go to edit mode 
 #          $forceview -- 1 if icon/link should be to go to view mode  #          $forceview -- 1 if icon/link should be to go to view mode
 #  #
   
Line 3581  sub can_edit_resource { Line 3057  sub can_edit_resource {
                     $forceedit = 1;                      $forceedit = 1;
                 }                  }
                 $cfile = $resurl;                  $cfile = $resurl;
             } elsif (($resurl ne '') && (&is_on_map($resurl))) {              } elsif (($resurl ne '') && (&is_on_map($resurl))) { 
                 if ($resurl =~ m{^/adm/$match_domain/$match_username/\d+/smppg|bulletinboard$}) {                  if ($resurl =~ m{^/adm/$match_domain/$match_username/\d+/smppg|bulletinboard$}) {
                     $incourse = 1;                      $incourse = 1;
                     if ($env{'form.forceedit'}) {                      if ($env{'form.forceedit'}) {
Line 3601  sub can_edit_resource { Line 3077  sub can_edit_resource {
                         $forceedit = 1;                          $forceedit = 1;
                     }                      }
                     $cfile = $resurl;                      $cfile = $resurl;
                 } elsif (($resurl =~ m{^/ext/}) && ($symb ne '')) {                  } elsif ($resurl =~ m{^/adm/wrapper/adm/$cdom/$cnum/\d+/exttools?$}) {
                     my ($map,$id,$res) = &decode_symb($symb);  
                     if ($map =~ /\.page$/) {  
                         $incourse = 1;  
                         if ($env{'form.forceedit'}) {  
                             $forceview = 1;  
                             $cfile = $map;  
                         } else {  
                             $forceedit = 1;  
                             $cfile =  '/adm/wrapper'.$resurl;  
                         }  
                     }  
                 } elsif ($resurl =~ m{^/adm/wrapper/adm/$cdom/$cnum/\d+/ext\.tool$}) {  
                     $incourse = 1;                      $incourse = 1;
                     if ($env{'form.forceedit'}) {                      if ($env{'form.forceedit'}) {
                         $forceview = 1;                          $forceview = 1;
Line 3632  sub can_edit_resource { Line 3096  sub can_edit_resource {
                 }                  }
             } elsif ($resurl eq '/res/lib/templates/simpleproblem.problem/smpedit') {              } elsif ($resurl eq '/res/lib/templates/simpleproblem.problem/smpedit') {
                 my $template = '/res/lib/templates/simpleproblem.problem';                  my $template = '/res/lib/templates/simpleproblem.problem';
                 if (&is_on_map($template)) {                  if (&is_on_map($template)) { 
                     $incourse = 1;                      $incourse = 1;
                     $forceview = 1;                      $forceview = 1;
                     $cfile = $template;                      $cfile = $template;
                 }                  }
             } elsif (($resurl =~ m{^/adm/wrapper/ext/}) && ($env{'form.folderpath'} =~ /^supplemental/)) {              } elsif (($resurl =~ m{^/adm/wrapper/ext/}) && ($env{'form.folderpath'} =~ /^supplemental/)) {
                 $incourse = 1;                      $incourse = 1;
                 if ($env{'form.forceedit'}) {                      if ($env{'form.forceedit'}) {
                     $forceview = 1;                          $forceview = 1;
                 } else {                      } else {
                     $forceedit = 1;                          $forceedit = 1;
                 }                      }
                 $cfile = $resurl;                      $cfile = $resurl;
             } elsif (($resurl =~ m{^/adm/wrapper/adm/$cdom/$cnum/\d+/ext\.tool$}) && ($env{'form.folderpath'} =~ /^supplemental/)) {              } elsif (($resurl =~ m{^/adm/wrapper/adm/$cdom/$cnum/\d+/exttools?$}) && ($env{'form.folderpath'} =~ /^supplemental/)) {
                 $incourse = 1;                  $incourse = 1;
                 if ($env{'form.forceedit'}) {                  if ($env{'form.forceedit'}) {
                     $forceview = 1;                      $forceview = 1;
Line 3663  sub can_edit_resource { Line 3127  sub can_edit_resource {
                 } else {                  } else {
                     $cfile = $env{'form.suppurl'};                      $cfile = $env{'form.suppurl'};
                     my $escfile = &unescape($cfile);                      my $escfile = &unescape($cfile);
                     if ($escfile =~ m{^/adm/$cdom/$cnum/\d+/ext\.tool$}) {                      if ($escfile =~ m{^/adm/$cdom/$cnum/\d+/exttools?$}) {
                         $cfile = '/adm/wrapper'.$escfile;                          $cfile = '/adm/wrapper'.$escfile;
                     } else {                      } else {
                         $escfile =~ s{^http://}{};                          $escfile =~ s{^http://}{};
Line 3692  sub can_edit_resource { Line 3156  sub can_edit_resource {
                 $cfile=$file;                  $cfile=$file;
             }              }
         }          }
         if (($cfile ne '') && (!$incourse || $uploaded) &&          if (($cfile ne '') && (!$incourse || $uploaded) && 
             (($home ne '') && ($home ne 'no_host'))) {              (($home ne '') && ($home ne 'no_host'))) {
             my @ids=&current_machine_ids();              my @ids=&current_machine_ids();
             unless (grep(/^\Q$home\E$/,@ids)) {              unless (grep(/^\Q$home\E$/,@ids)) {
Line 3719  sub in_course { Line 3183  sub in_course {
     if ($hideprivileged) {      if ($hideprivileged) {
         my $skipuser;          my $skipuser;
         my %coursehash = &coursedescription($cdom.'_'.$cnum);          my %coursehash = &coursedescription($cdom.'_'.$cnum);
         my @possdoms = ($cdom);          my @possdoms = ($cdom);  
         if ($coursehash{'checkforpriv'}) {          if ($coursehash{'checkforpriv'}) { 
             push(@possdoms,split(/,/,$coursehash{'checkforpriv'}));              push(@possdoms,split(/,/,$coursehash{'checkforpriv'})); 
         }          }
         if (&privileged($uname,$udom,\@possdoms)) {          if (&privileged($uname,$udom,\@possdoms)) {
             $skipuser = 1;              $skipuser = 1;
Line 3824  sub process_coursefile { Line 3288  sub process_coursefile {
                                  $home);                                   $home);
             }              }
         } elsif ($action eq 'uploaddoc') {          } elsif ($action eq 'uploaddoc') {
             open(my $fh,'>',$filepath.'/'.$fname);              open(my $fh,'>'.$filepath.'/'.$fname);
             print $fh $env{'form.'.$source};              print $fh $env{'form.'.$source};
             close($fh);              close($fh);
             if ($parser eq 'parse') {              if ($parser eq 'parse') {
Line 3882  sub store_edited_file { Line 3346  sub store_edited_file {
     ($fpath,$fname) = ($file =~ m|^(.*)/([^/]+)$|);      ($fpath,$fname) = ($file =~ m|^(.*)/([^/]+)$|);
     $fpath=$docudom.'/'.$docuname.'/'.$fpath;      $fpath=$docudom.'/'.$docuname.'/'.$fpath;
     my $filepath = &build_filepath($fpath);      my $filepath = &build_filepath($fpath);
     open(my $fh,'>',$filepath.'/'.$fname);      open(my $fh,'>'.$filepath.'/'.$fname);
     print $fh $content;      print $fh $content;
     close($fh);      close($fh);
     my $home=&homeserver($docuname,$docudom);      my $home=&homeserver($docuname,$docudom);
Line 3907  sub clean_filename { Line 3371  sub clean_filename {
     }      }
 # Replace spaces by underscores  # Replace spaces by underscores
     $fname=~s/\s+/\_/g;      $fname=~s/\s+/\_/g;
 # Transliterate non-ascii text to ascii  
     my $lang = &Apache::lonlocal::current_language();  
     $fname = &LONCAPA::transliterate::fname_to_ascii($fname,$lang);  
 # Replace all other weird characters by nothing  # Replace all other weird characters by nothing
     $fname=~s{[^/\w\.\-]}{}g;      $fname=~s{[^/\w\.\-]}{}g;
 # Replace all .\d. sequences with _\d. so they no longer look like version  # Replace all .\d. sequences with _\d. so they no longer look like version
 # numbers  # numbers
     $fname=~s/\.(\d+)(?=\.)/_$1/g;      $fname=~s/\.(\d+)(?=\.)/_$1/g;
 # Replace three or more adjacent underscores with one for consistency  
 # with loncfile::filename_check() so complete url can be extracted by  
 # lonnet::decode_symb()  
     $fname=~s/_{3,}/_/g;  
     return $fname;      return $fname;
 }  }
   
 # This Function checks if an Image's dimensions exceed either $resizewidth (width)   # This Function checks if an Image's dimensions exceed either $resizewidth (width) 
 # or $resizeheight (height) - both pixels. If so, the image is scaled to produce an   # or $resizeheight (height) - both pixels. If so, the image is scaled to produce an 
 # image with the same aspect ratio as the original, but with dimensions which do   # image with the same aspect ratio as the original, but with dimensions which do 
Line 3964  sub resizeImage { Line 3420  sub resizeImage {
 # input: $formname - the contents of the file are in $env{"form.$formname"}  # input: $formname - the contents of the file are in $env{"form.$formname"}
 #                    the desired filename is in $env{"form.$formname.filename"}  #                    the desired filename is in $env{"form.$formname.filename"}
 #        $context - possible values: coursedoc, existingfile, overwrite,   #        $context - possible values: coursedoc, existingfile, overwrite, 
 #                                    canceloverwrite, scantron or ''.   #                                    canceloverwrite, or ''. 
 #                   if 'coursedoc': upload to the current course  #                   if 'coursedoc': upload to the current course
 #                   if 'existingfile': write file to tmp/overwrites directory   #                   if 'existingfile': write file to tmp/overwrites directory 
 #                   if 'canceloverwrite': delete file written to tmp/overwrites directory  #                   if 'canceloverwrite': delete file written to tmp/overwrites directory
 #                   $context is passed as argument to &finishuserfileupload  #                   $context is passed as argument to &finishuserfileupload
 #        $subdir - directory in userfile to store the file into  #        $subdir - directory in userfile to store the file into
 #        $parser - instruction to parse file for objects ($parser = parse) or  #        $parser - instruction to parse file for objects ($parser = parse)    
 #                  if context is 'scantron', $parser is hashref of csv column mapping  
 #                  (e.g.,{ PaperID => 0, LastName => 1, FirstName => 2, ID => 3,  
 #                          Section => 4, CODE => 5, FirstQuestion => 9 }).  
 #        $allfiles - reference to hash for embedded objects  #        $allfiles - reference to hash for embedded objects
 #        $codebase - reference to hash for codebase of java objects  #        $codebase - reference to hash for codebase of java objects
 #        $desuname - username for permanent storage of uploaded file  #        $desuname - username for permanent storage of uploaded file
Line 3996  sub userfileupload { Line 3449  sub userfileupload {
     $fname=&clean_filename($fname);      $fname=&clean_filename($fname);
     # See if there is anything left      # See if there is anything left
     unless ($fname) { return 'error: no uploaded file'; }      unless ($fname) { return 'error: no uploaded file'; }
     # If filename now begins with a . prepend unix timestamp _ milliseconds  
     if ($fname =~ /^\./) {  
         my ($s,$usec) = &gettimeofday();  
         while (length($usec) < 6) {  
             $usec = '0'.$usec;  
         }  
         $fname = $s.'_'.substr($usec,0,3).$fname;  
     }  
     # Files uploaded to help request form, or uploaded to "create course" page are handled differently      # Files uploaded to help request form, or uploaded to "create course" page are handled differently
     if ((($formname eq 'screenshot') && ($subdir eq 'helprequests')) ||      if ((($formname eq 'screenshot') && ($subdir eq 'helprequests')) ||
         (($formname eq 'coursecreatorxml') && ($subdir eq 'batchupload')) ||          (($formname eq 'coursecreatorxml') && ($subdir eq 'batchupload')) ||
Line 4017  sub userfileupload { Line 3462  sub userfileupload {
                          '_'.$env{'user.domain'}.'/pending';                           '_'.$env{'user.domain'}.'/pending';
         } elsif (($context eq 'existingfile') || ($context eq 'canceloverwrite')) {          } elsif (($context eq 'existingfile') || ($context eq 'canceloverwrite')) {
             my ($docuname,$docudom);              my ($docuname,$docudom);
             if ($destudom =~ /^$match_domain$/) {              if ($destudom) {
                 $docudom = $destudom;                  $docudom = $destudom;
             } else {              } else {
                 $docudom = $env{'user.domain'};                  $docudom = $env{'user.domain'};
             }              }
             if ($destuname =~ /^$match_username$/) {               if ($destuname) {
                 $docuname = $destuname;                  $docuname = $destuname;
             } else {              } else {
                 $docuname = $env{'user.name'};                  $docuname = $env{'user.name'};
Line 4052  sub userfileupload { Line 3497  sub userfileupload {
                 mkdir($fullpath,0777);                  mkdir($fullpath,0777);
             }              }
         }          }
         open(my $fh,'>',$fullpath.'/'.$fname);          open(my $fh,'>'.$fullpath.'/'.$fname);
         print $fh $env{'form.'.$formname};          print $fh $env{'form.'.$formname};
         close($fh);          close($fh);
         if ($context eq 'existingfile') {          if ($context eq 'existingfile') {
Line 4127  sub finishuserfileupload { Line 3572  sub finishuserfileupload {
   
 # Save the file  # Save the file
     {      {
  if (!open(FH,'>',$filepath.'/'.$file)) {   if (!open(FH,'>'.$filepath.'/'.$file)) {
     &logthis('Failed to create '.$filepath.'/'.$file);      &logthis('Failed to create '.$filepath.'/'.$file);
     print STDERR ('Failed to create '.$filepath.'/'.$file."\n");      print STDERR ('Failed to create '.$filepath.'/'.$file."\n");
     return '/adm/notfound.html';      return '/adm/notfound.html';
Line 4171  sub finishuserfileupload { Line 3616  sub finishuserfileupload {
             }              }
         }          }
     }      }
     if (($context ne 'scantron') && ($parser eq 'parse')) {      if ($parser eq 'parse') {
         if ((ref($mimetype)) && ($$mimetype eq 'text/html')) {          if ((ref($mimetype)) && ($$mimetype eq 'text/html')) {
             my $parse_result = &extract_embedded_items($filepath.'/'.$file,              my $parse_result = &extract_embedded_items($filepath.'/'.$file,
                                                        $allfiles,$codebase);                                                         $allfiles,$codebase);
Line 4180  sub finishuserfileupload { Line 3625  sub finishuserfileupload {
            ' for embedded media: '.$parse_result);              ' for embedded media: '.$parse_result); 
             }              }
         }          }
     } elsif (($context eq 'scantron') && (ref($parser) eq 'HASH')) {  
         my $format = $env{'form.scantron_format'};  
         &bubblesheet_converter($docudom,$filepath.'/'.$file,$parser,$format);  
     }      }
     if (($thumbwidth =~ /^\d+$/) && ($thumbheight =~ /^\d+$/)) {      if (($thumbwidth =~ /^\d+$/) && ($thumbheight =~ /^\d+$/)) {
         my $input = $filepath.'/'.$file;          my $input = $filepath.'/'.$file;
         my $output = $filepath.'/'.'tn-'.$file;          my $output = $filepath.'/'.'tn-'.$file;
         my $thumbsize = $thumbwidth.'x'.$thumbheight;          my $thumbsize = $thumbwidth.'x'.$thumbheight;
         my @args = ('convert','-sample',$thumbsize,$input,$output);          system("convert -sample $thumbsize $input $output");
         system({$args[0]} @args);  
         if (-e $filepath.'/'.'tn-'.$file) {          if (-e $filepath.'/'.'tn-'.$file) {
             $fetchthumb  = 1;               $fetchthumb  = 1; 
         }          }
Line 4248  sub extract_embedded_items { Line 3689  sub extract_embedded_items {
     }      }
     if (lc($tagname) eq 'a') {      if (lc($tagname) eq 'a') {
                 unless (($attr->{'href'} =~ /^#/) || ($attr->{'href'} eq '')) {                  unless (($attr->{'href'} =~ /^#/) || ($attr->{'href'} eq '')) {
     &add_filetype($allfiles,$attr->{'href'},'href');                      &add_filetype($allfiles,$attr->{'href'},'href');
                 }                  }
     }      }
             if (lc($tagname) eq 'script') {              if (lc($tagname) eq 'script') {
Line 4423  sub embedded_dependency { Line 3864  sub embedded_dependency {
     return;      return;
 }  }
   
 sub bubblesheet_converter {  
     my ($cdom,$fullpath,$config,$format) = @_;  
     if ((&domain($cdom) ne '') &&  
         ($fullpath =~ m{^\Q$perlvar{'lonDocRoot'}/userfiles/$cdom/\E$match_courseid/scantron_orig}) &&  
         (-e $fullpath) && (ref($config) eq 'HASH') && ($format ne '')) {  
         my (%csvcols,%csvoptions);  
         if (ref($config->{'fields'}) eq 'HASH') {  
             %csvcols = %{$config->{'fields'}};  
         }  
         if (ref($config->{'options'}) eq 'HASH') {  
             %csvoptions = %{$config->{'options'}};  
         }  
         my %csvbynum = reverse(%csvcols);  
         my %scantronconf = &get_scantron_config($format,$cdom);  
         if (keys(%scantronconf)) {  
             my %bynum = (  
                           $scantronconf{CODEstart} => 'CODEstart',  
                           $scantronconf{IDstart}   => 'IDstart',  
                           $scantronconf{PaperID}   => 'PaperID',  
                           $scantronconf{FirstName} => 'FirstName',  
                           $scantronconf{LastName}  => 'LastName',  
                           $scantronconf{Qstart}    => 'Qstart',  
                         );  
             my @ordered;  
             foreach my $item (sort { $a <=> $b } keys(%bynum)) {  
                 push(@ordered,$bynum{$item});  
             }  
             my %mapstart = (  
                               CODEstart => 'CODE',  
                               IDstart   => 'ID',  
                               PaperID   => 'PaperID',  
                               FirstName => 'FirstName',  
                               LastName  => 'LastName',  
                               Qstart    => 'FirstQuestion',  
                            );  
             my %maplength = (  
                               CODEstart => 'CODElength',  
                               IDstart   => 'IDlength',  
                               PaperID   => 'PaperIDlength',  
                               FirstName => 'FirstNamelength',  
                               LastName  => 'LastNamelength',  
             );  
             if (open(my $fh,'<',$fullpath)) {  
                 my $output;  
                 my %lettdig = &letter_to_digits();  
                 my %diglett = reverse(%lettdig);  
                 my $numletts = scalar(keys(%lettdig));  
                 my $num = 0;  
                 while (my $line=<$fh>) {  
                     $num ++;  
                     next if (($num == 1) && ($csvoptions{'hdr'} == 1));  
                     $line =~ s{[\r\n]+$}{};  
                     my %found;  
                     my @values = split(/,/,$line,-1);  
                     my ($qstart,$record);  
                     for (my $i=0; $i<@values; $i++) {  
                         if ((($qstart ne '') && ($i > $qstart)) ||  
                             ($csvbynum{$i} eq 'FirstQuestion')) {  
                             if ($values[$i] eq '') {  
                                 $values[$i] = $scantronconf{'Qoff'};  
                             } elsif ($scantronconf{'Qon'} eq 'number') {  
                                 if ($values[$i] =~ /^[A-Ja-j]$/) {  
                                     $values[$i] = $lettdig{uc($values[$i])};  
                                 }  
                             } elsif ($scantronconf{'Qon'} eq 'letter') {  
                                 if ($values[$i] =~ /^[0-9]$/) {  
                                     $values[$i] = $diglett{$values[$i]};  
                                 }  
                             } else {  
                                 if ($values[$i] =~ /^[0-9A-Ja-j]$/) {  
                                     my $digit;  
                                     if ($values[$i] =~ /^[A-Ja-j]$/) {  
                                         $digit = $lettdig{uc($values[$i])}-1;  
                                         if ($values[$i] eq 'J') {  
                                             $digit += $numletts;  
                                         }  
                                     } elsif ($values[$i] =~ /^[0-9]$/) {  
                                         $digit = $values[$i]-1;  
                                         if ($values[$i] eq '0') {  
                                             $digit += $numletts;  
                                         }  
                                     }  
                                     my $qval='';  
                                     for (my $j=0; $j<$scantronconf{'Qlength'}; $j++) {  
                                         if ($j == $digit) {  
                                             $qval .= $scantronconf{'Qon'};  
                                         } else {  
                                             $qval .= $scantronconf{'Qoff'};  
                                         }  
                                     }  
                                     $values[$i] = $qval;  
                                 }  
                             }  
                             if (length($values[$i]) > $scantronconf{'Qlength'}) {  
                                 $values[$i] = substr($values[$i],0,$scantronconf{'Qlength'});  
                             }  
                             my $numblank = $scantronconf{'Qlength'} - length($values[$i]);  
                             if ($numblank > 0) {  
                                  $values[$i] .= ($scantronconf{'Qoff'} x $numblank);  
                             }  
                             if ($csvbynum{$i} eq 'FirstQuestion') {  
                                 $qstart = $i;  
                                 $found{$csvbynum{$i}} = $values[$i];  
                             } else {  
                                 $found{'FirstQuestion'} .= $values[$i];  
                             }  
                         } elsif (exists($csvbynum{$i})) {  
                             if ($csvoptions{'rem'}) {  
                                 $values[$i] =~ s/^\s+//;  
                             }  
                             if (($csvbynum{$i} eq 'PaperID') && ($csvoptions{'pad'})) {  
                                 while (length($values[$i]) < $scantronconf{$maplength{$csvbynum{$i}}}) {  
                                     $values[$i] = '0'.$values[$i];  
                                 }  
                             }  
                             $found{$csvbynum{$i}} = $values[$i];  
                         }  
                     }  
                     foreach my $item (@ordered) {  
                         my $currlength = 1+length($record);  
                         my $numspaces = $scantronconf{$item} - $currlength;  
                         if ($numspaces > 0) {  
                             $record .= (' ' x $numspaces);  
                         }  
                         if (($mapstart{$item} ne '') && (exists($found{$mapstart{$item}}))) {  
                             unless ($item eq 'Qstart') {  
                                 if (length($found{$mapstart{$item}}) > $scantronconf{$maplength{$item}}) {  
                                     $found{$mapstart{$item}} = substr($found{$mapstart{$item}},0,$scantronconf{$maplength{$item}});  
                                 }  
                             }  
                             $record .= $found{$mapstart{$item}};  
                         }  
                     }  
                     $output .= "$record\n";  
                 }  
                 close($fh);  
                 if ($output) {  
                     if (open(my $fh,'>',$fullpath)) {  
                         print $fh $output;  
                         close($fh);  
                     }  
                 }  
             }  
         }  
         return;  
     }  
 }  
   
 sub letter_to_digits {  
     my %lettdig = (  
                     A => 1,  
                     B => 2,  
                     C => 3,  
                     D => 4,  
                     E => 5,  
                     F => 6,  
                     G => 7,  
                     H => 8,  
                     I => 9,  
                     J => 0,  
                   );  
     return %lettdig;  
 }  
   
 sub get_scantron_config {  
     my ($which,$cdom) = @_;  
     my @lines = &get_scantronformat_file($cdom);  
     my %config;  
     #FIXME probably should move to XML it has already gotten a bit much now  
     foreach my $line (@lines) {  
         my ($name,$descrip)=split(/:/,$line);  
         if ($name ne $which ) { next; }  
         chomp($line);  
         my @config=split(/:/,$line);  
         $config{'name'}=$config[0];  
         $config{'description'}=$config[1];  
         $config{'CODElocation'}=$config[2];  
         $config{'CODEstart'}=$config[3];  
         $config{'CODElength'}=$config[4];  
         $config{'IDstart'}=$config[5];  
         $config{'IDlength'}=$config[6];  
         $config{'Qstart'}=$config[7];  
         $config{'Qlength'}=$config[8];  
         $config{'Qoff'}=$config[9];  
         $config{'Qon'}=$config[10];  
         $config{'PaperID'}=$config[11];  
         $config{'PaperIDlength'}=$config[12];  
         $config{'FirstName'}=$config[13];  
         $config{'FirstNamelength'}=$config[14];  
         $config{'LastName'}=$config[15];  
         $config{'LastNamelength'}=$config[16];  
         $config{'BubblesPerRow'}=$config[17];  
         last;  
     }  
     return %config;  
 }  
   
 sub get_scantronformat_file {  
     my ($cdom) = @_;  
     if ($cdom eq '') {  
         $cdom= $env{'course.'.$env{'request.course.id'}.'.domain'};  
     }  
     my %domconfig = &get_dom('configuration',['scantron'],$cdom);  
     my $gottab = 0;  
     my @lines;  
     if (ref($domconfig{'scantron'}) eq 'HASH') {  
         if ($domconfig{'scantron'}{'scantronformat'} ne '') {  
             my $formatfile = &getfile($perlvar{'lonDocRoot'}.$domconfig{'scantron'}{'scantronformat'});  
             if ($formatfile ne '-1') {  
                 @lines = split("\n",$formatfile,-1);  
                 $gottab = 1;  
             }  
         }  
     }  
     if (!$gottab) {  
         my $confname = $cdom.'-domainconfig';  
         my $default = $perlvar{'lonDocRoot'}.'/res/'.$cdom.'/'.$confname.'/default.tab';  
         my $formatfile = &getfile($default);  
         if ($formatfile ne '-1') {  
             @lines = split("\n",$formatfile,-1);  
             $gottab = 1;  
         }  
     }  
     if (!$gottab) {  
         my @domains = &current_machine_domains();  
         if (grep(/^\Q$cdom\E$/,@domains)) {  
             if (open(my $fh,'<',$perlvar{'lonTabDir'}.'/scantronformat.tab')) {  
                 @lines = <$fh>;  
                 close($fh);  
             }  
         } else {  
             if (open(my $fh,'<',$perlvar{'lonTabDir'}.'/default_scantronformat.tab')) {  
                 @lines = <$fh>;  
                 close($fh);  
             }  
         }  
     }  
     return @lines;  
 }  
   
 sub removeuploadedurl {  sub removeuploadedurl {
     my ($url)=@_;      my ($url)=@_;
     my (undef,undef,$udom,$uname,$fname)=split('/',$url,5);          my (undef,undef,$udom,$uname,$fname)=split('/',$url,5);    
Line 4780  sub flushcourselogs { Line 3981  sub flushcourselogs {
             if (! defined($dom) || $dom eq '' ||               if (! defined($dom) || $dom eq '' || 
                 ! defined($name) || $name eq '') {                  ! defined($name) || $name eq '') {
                 my $cid = $env{'request.course.id'};                  my $cid = $env{'request.course.id'};
 #  
 # FIXME 11/29/2021  
 # Typo in rev. 1.458 (2003/12/09)??  
 # These should likely by $env{'course.'.$cid.'.domain'} and $env{'course.'.$cid.'.num'}  
 #  
 # While these ramain as  $env{'request.'.$cid.'.domain'} and $env{'request.'.$cid.'.num'}  
 # $dom and $name will always be null, so the &inc() call will default to storing this data  
 # in a nohist_accesscount.db file for the user rather than the course.  
 #  
 # That said there is a lot of noise in the data being stored.  
 # So counts for prtspool/  and adm/ etc. are recorded.  
 #  
 # A review of which items ending '___count' are written to %accesshash should likely be  
 # made before deciding whether to set these to 'course.' instead of 'request.'  
 #  
 # Under the current scheme each user receives a nohist_accesscount.db file listing  
 # accesses for things which are not published resources, regardless of course, and  
 # there is not a nohist_accesscount.db file in a course, which might log accesses from  
 # anyone in the course for things which are not published resources.  
 #  
 # For an author, nohist_accesscount.db ends up having records for other items  
 # mixed up with the legitimate access counts for the author's published resources.  
 #  
                 $dom  = $env{'request.'.$cid.'.domain'};                  $dom  = $env{'request.'.$cid.'.domain'};
                 $name = $env{'request.'.$cid.'.num'};                  $name = $env{'request.'.$cid.'.num'};
             }              }
Line 4836  sub flushcourselogs { Line 4014  sub flushcourselogs {
         }          }
     }      }
 #  #
 # Reverse lookup of domain roles (dc, ad, li, sc, dh, da, au)  # Reverse lookup of domain roles (dc, ad, li, sc, au)
 #  #
     my %domrolebuffer = ();      my %domrolebuffer = ();
     foreach my $entry (keys(%domainrolehash)) {      foreach my $entry (keys(%domainrolehash)) {
Line 4851  sub flushcourselogs { Line 4029  sub flushcourselogs {
         delete $domainrolehash{$entry};          delete $domainrolehash{$entry};
     }      }
     foreach my $dom (keys(%domrolebuffer)) {      foreach my $dom (keys(%domrolebuffer)) {
         my %servers;   my %servers = &get_servers($dom,'library');
         if (defined(&domain($dom,'primary'))) {  
             my $primary=&domain($dom,'primary');  
             my $hostname=&hostname($primary);  
             $servers{$primary} = $hostname;  
         } else {  
             %servers = &get_servers($dom,'library');  
         }  
  foreach my $tryserver (keys(%servers)) {   foreach my $tryserver (keys(%servers)) {
     if (&reply('domroleput:'.$dom.':'.      unless (&reply('domroleput:'.$dom.':'.
                $domrolebuffer{$dom},$tryserver) eq 'ok') {     $domrolebuffer{$dom},$tryserver) eq 'ok') {
         last;  
     } else {  
  &logthis('Put of domain roles failed for '.$dom.' and  '.$tryserver);   &logthis('Put of domain roles failed for '.$dom.' and  '.$tryserver);
     }      }
         }          }
Line 4912  sub courseacclog { Line 4081  sub courseacclog {
                 if ($formitem =~ /^HWFILE(?:SIZE|TOOBIG)/) {                  if ($formitem =~ /^HWFILE(?:SIZE|TOOBIG)/) {
                     $what.=':'.$formitem.'='.$env{$key};                      $what.=':'.$formitem.'='.$env{$key};
                 } elsif ($formitem !~ /^HWFILE(?:[^.]+)$/) {                  } elsif ($formitem !~ /^HWFILE(?:[^.]+)$/) {
                     if ($formitem eq 'proctorpassword') {                      $what.=':'.$formitem.'='.$env{$key};
                         $what.=':'.$formitem.'=' . '*' x length($env{$key});  
                     } else {  
                         $what.=':'.$formitem.'='.$env{$key};  
                     }  
                 }                  }
             }              }
         }          }
Line 4987  sub userrolelog { Line 4152  sub userrolelog {
          {$trole.':'.$username.':'.$domain.':'.$env{'user.name'}.':'.$env{'user.domain'}.':'}           {$trole.':'.$username.':'.$domain.':'.$env{'user.name'}.':'.$env{'user.domain'}.':'}
                     =$tend.':'.$tstart;                      =$tend.':'.$tstart;
     }      }
     if ($trole =~ /^(dc|ad|li|au|dg|sc|dh|da)/ ) {      if ($trole =~ /^(dc|ad|li|au|dg|sc)/ ) {
        my (undef,$rudom,$runame,$rsec)=split(/\//,$area);         my (undef,$rudom,$runame,$rsec)=split(/\//,$area);
        $domainrolehash         $domainrolehash
          {$trole.':'.$username.':'.$domain.':'.$runame.':'.$rudom.':'.$rsec}           {$trole.':'.$username.':'.$domain.':'.$runame.':'.$rudom.':'.$rsec}
Line 5195  sub get_my_roles { Line 4360  sub get_my_roles {
             } else {              } else {
                 my $possdoms = [$domain];                  my $possdoms = [$domain];
                 if (ref($roledoms) eq 'ARRAY') {                  if (ref($roledoms) eq 'ARRAY') {
                    push(@{$possdoms},@{$roledoms});                     push(@{$possdoms},@{$roledoms}); 
                 }                  }
                 if (&privileged($username,$domain,$possdoms,\@privroles)) {                  if (&privileged($username,$domain,$possdoms,\@privroles)) {
                     if (!$nothide{$username.':'.$domain}) {                      if (!$nothide{$username.':'.$domain}) {
Line 5214  sub get_my_roles { Line 4379  sub get_my_roles {
     return %returnhash;      return %returnhash;
 }  }
   
 sub get_all_adhocroles {  
     my ($dom) = @_;  
     my @roles_by_num = ();  
     my %domdefaults = &get_domain_defaults($dom);  
     my (%description,%access_in_dom,%access_info);  
     if (ref($domdefaults{'adhocroles'}) eq 'HASH') {  
         my $count = 0;  
         my %domcurrent = %{$domdefaults{'adhocroles'}};  
         my %ordered;  
         foreach my $role (sort(keys(%domcurrent))) {  
             my ($order,$desc,$access_in_dom);  
             if (ref($domcurrent{$role}) eq 'HASH') {  
                 $order = $domcurrent{$role}{'order'};  
                 $desc = $domcurrent{$role}{'desc'};  
                 $access_in_dom{$role} = $domcurrent{$role}{'access'};  
                 $access_info{$role} = $domcurrent{$role}{$access_in_dom{$role}};  
             }  
             if ($order eq '') {  
                 $order = $count;  
             }  
             $ordered{$order} = $role;  
             if ($desc ne '') {  
                 $description{$role} = $desc;  
             } else {  
                 $description{$role}= $role;  
             }  
             $count++;  
         }  
         foreach my $item (sort {$a <=> $b } (keys(%ordered))) {  
             push(@roles_by_num,$ordered{$item});  
         }  
     }  
     return (\@roles_by_num,\%description,\%access_in_dom,\%access_info);  
 }  
   
 sub get_my_adhocroles {  
     my ($cid,$checkreg) = @_;  
     my ($cdom,$cnum,%info,@possroles,$description,$roles_by_num);  
     if ($env{'request.course.id'} eq $cid) {  
         $cdom = $env{'course.'.$cid.'.domain'};  
         $cnum = $env{'course.'.$cid.'.num'};  
         $info{'internal.coursecode'} = $env{'course.'.$cid.'.internal.coursecode'};  
     } elsif ($cid =~ /^($match_domain)_($match_courseid)$/) {  
         $cdom = $1;  
         $cnum = $2;  
         %info = &Apache::lonnet::get('environment',['internal.coursecode'],  
                                      $cdom,$cnum);  
     }  
     if (($info{'internal.coursecode'} ne '') && ($checkreg)) {  
         my $user = $env{'user.name'}.':'.$env{'user.domain'};  
         my %rosterhash = &get('classlist',[$user],$cdom,$cnum);  
         if ($rosterhash{$user} ne '') {  
             my $type = (split(/:/,$rosterhash{$user}))[5];  
             return ([],{}) if ($type eq 'auto');  
         }  
     }  
     if (($cdom ne '') && ($cnum ne ''))  {  
         if (($env{"user.role.dh./$cdom/"}) || ($env{"user.role.da./$cdom/"})) {  
             my $then=$env{'user.login.time'};  
             my $update=$env{'user.update.time'};  
             if (!$update) {  
                 $update = $then;  
             }  
             my @liveroles;  
             foreach my $role ('dh','da') {  
                 if ($env{"user.role.$role./$cdom/"}) {  
                     my ($tstart,$tend)=split(/\./,$env{"user.role.$role./$cdom/"});  
                     my $limit = $update;  
                     if ($env{'request.role'} eq "$role./$cdom/") {  
                         $limit = $then;  
                     }  
                     my $activerole = 1;  
                     if ($tstart && $tstart>$limit) { $activerole = 0; }  
                     if ($tend   && $tend  <$limit) { $activerole = 0; }  
                     if ($activerole) {  
                         push(@liveroles,$role);  
                     }  
                 }  
             }  
             if (@liveroles) {  
                 if (&homeserver($cnum,$cdom) ne 'no_host') {  
                     my ($accessref,$accessinfo,%access_in_dom);  
                     ($roles_by_num,$description,$accessref,$accessinfo) = &get_all_adhocroles($cdom);  
                     if (ref($roles_by_num) eq 'ARRAY') {  
                         if (@{$roles_by_num}) {  
                             my %settings;  
                             if ($env{'request.course.id'} eq $cid) {  
                                 foreach my $envkey (keys(%env)) {  
                                     if ($envkey =~ /^\Qcourse.$cid.\E(internal\.adhoc.+)$/) {  
                                         $settings{$1} = $env{$envkey};  
                                     }  
                                 }  
                             } else {  
                                 %settings = &dump('environment',$cdom,$cnum,'internal\.adhoc');  
                             }  
                             my %setincrs;  
                             if ($settings{'internal.adhocaccess'}) {  
                                 map { $setincrs{$_} = 1; } split(/,/,$settings{'internal.adhocaccess'});  
                             }  
                             my @statuses;  
                             if ($env{'environment.inststatus'}) {  
                                 @statuses = split(/,/,$env{'environment.inststatus'});  
                             }  
                             my $user = $env{'user.name'}.':'.$env{'user.domain'};  
                             if (ref($accessref) eq 'HASH') {  
                                 %access_in_dom = %{$accessref};  
                             }  
                             foreach my $role (@{$roles_by_num}) {  
                                 my ($curraccess,@okstatus,@personnel);  
                                 if ($setincrs{$role}) {  
                                     ($curraccess,my $rest) = split(/=/,$settings{'internal.adhoc.'.$role});  
                                     if ($curraccess eq 'status') {  
                                         @okstatus = split(/\&/,$rest);  
                                     } elsif (($curraccess eq 'exc') || ($curraccess eq 'inc')) {  
                                         @personnel = split(/\&/,$rest);  
                                     }  
                                 } else {  
                                     $curraccess = $access_in_dom{$role};  
                                     if (ref($accessinfo) eq 'HASH') {  
                                         if ($curraccess eq 'status') {  
                                             if (ref($accessinfo->{$role}) eq 'ARRAY') {  
                                                 @okstatus = @{$accessinfo->{$role}};  
                                             }  
                                         } elsif (($curraccess eq 'exc') || ($curraccess eq 'inc')) {  
                                             if (ref($accessinfo->{$role}) eq 'ARRAY') {  
                                                 @personnel = @{$accessinfo->{$role}};  
                                             }  
                                         }  
                                     }  
                                 }  
                                 if ($curraccess eq 'none') {  
                                     next;  
                                 } elsif ($curraccess eq 'all') {  
                                     push(@possroles,$role);  
                                 } elsif ($curraccess eq 'dh') {  
                                     if (grep(/^dh$/,@liveroles)) {  
                                         push(@possroles,$role);  
                                     } else {  
                                         next;  
                                     }  
                                 } elsif ($curraccess eq 'da') {  
                                     if (grep(/^da$/,@liveroles)) {  
                                         push(@possroles,$role);  
                                     } else {  
                                         next;  
                                     }  
                                 } elsif ($curraccess eq 'status') {  
                                     if (@okstatus) {  
                                         if (!@statuses) {  
                                             if (grep(/^default$/,@okstatus)) {  
                                                 push(@possroles,$role);  
                                             }  
                                         } else {  
                                             foreach my $status (@okstatus) {  
                                                 if (grep(/^\Q$status\E$/,@statuses)) {  
                                                     push(@possroles,$role);  
                                                     last;  
                                                 }  
                                             }  
                                         }  
                                     }  
                                 } elsif (($curraccess eq 'exc') || ($curraccess eq 'inc')) {  
                                     if (grep(/^\Q$user\E$/,@personnel)) {  
                                         if ($curraccess eq 'exc') {  
                                             push(@possroles,$role);  
                                         }  
                                     } elsif ($curraccess eq 'inc') {  
                                         push(@possroles,$role);  
                                     }  
                                 }  
                             }  
                         }  
                     }  
                 }  
             }  
         }  
     }  
     unless (ref($description) eq 'HASH') {  
         if (ref($roles_by_num) eq 'ARRAY') {  
             my %desc;  
             map { $desc{$_} = $_; } (@{$roles_by_num});  
             $description = \%desc;  
         } else {  
             $description = {};  
         }  
     }  
     return (\@possroles,$description);  
 }  
   
 # ----------------------------------------------------- Frontpage Announcements  # ----------------------------------------------------- Frontpage Announcements
 #  #
 #  #
Line 5416  sub postannounce { Line 4392  sub postannounce {
   
 sub getannounce {  sub getannounce {
   
     if (open(my $fh,"<",$perlvar{'lonDocRoot'}.'/announcement.txt')) {      if (open(my $fh,$perlvar{'lonDocRoot'}.'/announcement.txt')) {
  my $announcement='';   my $announcement='';
  while (my $line = <$fh>) { $announcement .= $line; }   while (my $line = <$fh>) { $announcement .= $line; }
  close($fh);   close($fh);
Line 5492  sub courseiddump { Line 4468  sub courseiddump {
     if (($domfilter eq '') ||      if (($domfilter eq '') ||
  (&host_domain($tryserver) eq $domfilter)) {   (&host_domain($tryserver) eq $domfilter)) {
                 my $rep;                  my $rep;
                 if (grep { $_ eq $tryserver } &current_machine_ids()) {                  if (grep { $_ eq $tryserver } current_machine_ids()) {
                     $rep = &LONCAPA::Lond::dump_course_id_handler(                      $rep = LONCAPA::Lond::dump_course_id_handler(
                         join(":", (&host_domain($tryserver), $sincefilter,                          join(":", (&host_domain($tryserver), $sincefilter, 
                                 &escape($descfilter), &escape($instcodefilter),                                  &escape($descfilter), &escape($instcodefilter), 
                                 &escape($ownerfilter), &escape($coursefilter),                                  &escape($ownerfilter), &escape($coursefilter),
                                 &escape($typefilter), &escape($regexp_ok),                                  &escape($typefilter), &escape($regexp_ok), 
                                 $as_hash, &escape($selfenrollonly),                                  $as_hash, &escape($selfenrollonly), 
                                 &escape($catfilter), $showhidden, $caller,                                  &escape($catfilter), $showhidden, $caller, 
                                 &escape($cloner), &escape($cc_clone), $cloneonly,                                  &escape($cloner), &escape($cc_clone), $cloneonly, 
                                 &escape($createdbefore), &escape($createdafter),                                  &escape($createdbefore), &escape($createdafter), 
                                 &escape($creationcontext),$domcloner,$hasuniquecode,                                  &escape($creationcontext),$domcloner,$hasuniquecode,
                                 $reqcrsdom,&escape($reqinstcode))));                                  $reqcrsdom,&escape($reqinstcode))));
                 } else {                  } else {
Line 5517  sub courseiddump { Line 4493  sub courseiddump {
                              &escape($creationcontext).':'.$domcloner.':'.$hasuniquecode.                               &escape($creationcontext).':'.$domcloner.':'.$hasuniquecode.
                              ':'.$reqcrsdom.':'.&escape($reqinstcode),$tryserver);                               ':'.$reqcrsdom.':'.&escape($reqinstcode),$tryserver);
                 }                  }
                        
                 my @pairs=split(/\&/,$rep);                  my @pairs=split(/\&/,$rep);
                 foreach my $item (@pairs) {                  foreach my $item (@pairs) {
                     my ($key,$value)=split(/\=/,$item,2);                      my ($key,$value)=split(/\=/,$item,2);
Line 5643  sub get_domain_roles { Line 4619  sub get_domain_roles {
     return %personnel;      return %personnel;
 }  }
   
 sub get_active_domroles {  
     my ($dom,$roles) = @_;  
     return () unless (ref($roles) eq 'ARRAY');  
     my $now = time;  
     my %dompersonnel = &get_domain_roles($dom,$roles,$now,$now);  
     my %domroles;  
     foreach my $server (keys(%dompersonnel)) {  
         foreach my $user (sort(keys(%{$dompersonnel{$server}}))) {  
             my ($trole,$uname,$udom,$runame,$rudom,$rsec) = split(/:/,$user);  
             $domroles{$uname.':'.$udom} = $dompersonnel{$server}{$user};  
         }  
     }  
     return %domroles;  
 }  
   
 # ----------------------------------------------------------- Interval timing   # ----------------------------------------------------------- Interval timing 
   
 {  {
Line 5672  my %cachedtimes=(); Line 4633  my %cachedtimes=();
 my $cachedtime='';  my $cachedtime='';
   
 sub load_all_first_access {  sub load_all_first_access {
     my ($uname,$udom,$ignorecache)=@_;      my ($uname,$udom)=@_;
     if (($cachedkey eq $uname.':'.$udom) &&      if (($cachedkey eq $uname.':'.$udom) &&
         (abs($cachedtime-time)<5) && (!$env{'form.markaccess'}) &&          (abs($cachedtime-time)<5) && (!$env{'form.markaccess'})) {
         (!$ignorecache)) {  
         return;          return;
     }      }
     $cachedtime=time;      $cachedtime=time;
Line 5684  sub load_all_first_access { Line 4644  sub load_all_first_access {
 }  }
   
 sub get_first_access {  sub get_first_access {
     my ($type,$argsymb,$argmap,$ignorecache)=@_;      my ($type,$argsymb,$argmap)=@_;
     my ($symb,$courseid,$udom,$uname)=&whichuser();      my ($symb,$courseid,$udom,$uname)=&whichuser();
     if ($argsymb) { $symb=$argsymb; }      if ($argsymb) { $symb=$argsymb; }
     my ($map,$id,$res)=&decode_symb($symb);      my ($map,$id,$res)=&decode_symb($symb);
Line 5696  sub get_first_access { Line 4656  sub get_first_access {
     } else {      } else {
  $res=$symb;   $res=$symb;
     }      }
     &load_all_first_access($uname,$udom,$ignorecache);      &load_all_first_access($uname,$udom);
     return $cachedtimes{"$courseid\0$res"};      return $cachedtimes{"$courseid\0$res"};
 }  }
   
Line 5713  sub set_first_access { Line 4673  sub set_first_access {
     }      }
     $cachedkey='';      $cachedkey='';
     my $firstaccess=&get_first_access($type,$symb,$map);      my $firstaccess=&get_first_access($type,$symb,$map);
     if ($firstaccess) {      if (!$firstaccess) {
         &logthis("First access time already set ($firstaccess) when attempting ".  
                  "to set new value (type: $type, extent: $res) for $uname:$udom ".  
                  "in $courseid");  
         return 'already_set';  
     } else {  
         my $start = time;          my $start = time;
  my $putres = &put('firstaccesstimes',{"$courseid\0$res"=>$start},   my $putres = &put('firstaccesstimes',{"$courseid\0$res"=>$start},
                           $udom,$uname);                            $udom,$uname);
Line 5731  sub set_first_access { Line 4686  sub set_first_access {
                         'course.'.$courseid.'.timerinterval.'.$res => $interval,                          'course.'.$courseid.'.timerinterval.'.$res => $interval,
                      }                       }
                   );                    );
             if (($cachedtime) && (abs($start-$cachedtime) < 5)) {  
                 $cachedtimes{"$courseid\0$res"} = $start;  
             }  
         } elsif ($putres ne 'refused') {  
             &logthis("Result: $putres when attempting to set first access time ".  
                      "(type: $type, extent: $res) for $uname:$udom in $courseid");  
         }          }
         return $putres;          return $putres;
     }      }
Line 5744  sub set_first_access { Line 4693  sub set_first_access {
 }  }
 }  }
   
 sub checkout {  
     my ($symb,$tuname,$tudom,$tcrsid)=@_;  
     my $now=time;  
     my $lonhost=$perlvar{'lonHostID'};  
     my $ip = &get_requestor_ip();  
     my $infostr=&escape(  
                  'CHECKOUTTOKEN&'.  
                  $tuname.'&'.  
                  $tudom.'&'.  
                  $tcrsid.'&'.  
                  $symb.'&'.  
                  $now.'&'.$ip);  
     my $token=&reply('tmpput:'.$infostr,$lonhost);  
     if ($token=~/^error\:/) {  
         &logthis("<font color=\"blue\">WARNING: ".  
                 "Checkout tmpput failed ".$tudom.' - '.$tuname.' - '.$symb.  
                  "</font>");  
         return '';  
     }  
   
     $token=~s/^(\d+)\_.*\_(\d+)$/$1\*$2\*$lonhost/;  
     $token=~tr/a-z/A-Z/;  
   
     my %infohash=('resource.0.outtoken' => $token,  
                   'resource.0.checkouttime' => $now,  
                   'resource.0.outremote' => $ip);  
   
     unless (&cstore(\%infohash,$symb,$tcrsid,$tudom,$tuname) eq 'ok') {  
        return '';  
     } else {  
         &logthis("<font color=\"blue\">WARNING: ".  
                 "Checkout cstore failed ".$tudom.' - '.$tuname.' - '.$symb.  
                  "</font>");  
     }  
   
     if (&log($tudom,$tuname,&homeserver($tuname,$tudom),  
                          &escape('Checkout '.$infostr.' - '.  
                                                  $token)) ne 'ok') {  
         return '';  
     } else {  
         &logthis("<font color=\"blue\">WARNING: ".  
                 "Checkout log failed ".$tudom.' - '.$tuname.' - '.$symb.  
                  "</font>");  
     }  
     return $token;  
 }  
   
 # ------------------------------------------------------------ Check in an item  
   
 sub checkin {  
     my $token=shift;  
     my $now=time;  
     my ($ta,$tb,$lonhost)=split(/\*/,$token);  
     $lonhost=~tr/A-Z/a-z/;  
     my $dtoken=$ta.'_'.&hostname($lonhost).'_'.$tb;  
     $dtoken=~s/\W/\_/g;  
     my $ip = &get_requestor_ip();  
     my ($dummy,$tuname,$tudom,$tcrsid,$symb,$chtim,$rmaddr)=  
                  split(/\&/,&unescape(&reply('tmpget:'.$dtoken,$lonhost)));  
   
     unless (($tuname) && ($tudom)) {  
         &logthis('Check in '.$token.' ('.$dtoken.') failed');  
         return '';  
     }  
   
     unless (&allowed('mgr',$tcrsid)) {  
         &logthis('Check in '.$token.' ('.$dtoken.') unauthorized: '.  
                  $env{'user.name'}.' - '.$env{'user.domain'});  
         return '';  
     }  
   
     my %infohash=('resource.0.intoken' => $token,  
                   'resource.0.checkintime' => $now,  
                   'resource.0.inremote' => $ip);  
   
     unless (&cstore(\%infohash,$symb,$tcrsid,$tudom,$tuname) eq 'ok') {  
        return '';  
     }  
   
     if (&log($tudom,$tuname,&homeserver($tuname,$tudom),  
                          &escape('Checkin - '.$token)) ne 'ok') {  
         return '';  
     }  
   
     return ($symb,$tuname,$tudom,$tcrsid);  
 }  
   
 # --------------------------------------------- Set Expire Date for Spreadsheet  # --------------------------------------------- Set Expire Date for Spreadsheet
   
 sub expirespread {  sub expirespread {
Line 6085  sub tmpreset { Line 4947  sub tmpreset {
   if (!$domain) { $domain=$env{'user.domain'}; }    if (!$domain) { $domain=$env{'user.domain'}; }
   if (!$stuname) { $stuname=$env{'user.name'}; }    if (!$stuname) { $stuname=$env{'user.name'}; }
   if ($domain eq 'public' && $stuname eq 'public') {    if ($domain eq 'public' && $stuname eq 'public') {
       $stuname=&get_requestor_ip();        $stuname=$ENV{'REMOTE_ADDR'};
   }    }
   my $path=LONCAPA::tempdir();    my $path=LONCAPA::tempdir();
   my %hash;    my %hash;
Line 6122  sub tmpstore { Line 4984  sub tmpstore {
   if (!$domain) { $domain=$env{'user.domain'}; }    if (!$domain) { $domain=$env{'user.domain'}; }
   if (!$stuname) { $stuname=$env{'user.name'}; }    if (!$stuname) { $stuname=$env{'user.name'}; }
   if ($domain eq 'public' && $stuname eq 'public') {    if ($domain eq 'public' && $stuname eq 'public') {
       $stuname=&get_requestor_ip();        $stuname=$ENV{'REMOTE_ADDR'};
   }    }
   my $now=time;    my $now=time;
   my %hash;    my %hash;
Line 6166  sub tmprestore { Line 5028  sub tmprestore {
   if (!$domain) { $domain=$env{'user.domain'}; }    if (!$domain) { $domain=$env{'user.domain'}; }
   if (!$stuname) { $stuname=$env{'user.name'}; }    if (!$stuname) { $stuname=$env{'user.name'}; }
   if ($domain eq 'public' && $stuname eq 'public') {    if ($domain eq 'public' && $stuname eq 'public') {
       $stuname=&get_requestor_ip();        $stuname=$ENV{'REMOTE_ADDR'};
   }    }
   my %returnhash;    my %returnhash;
   $namespace=~s/\//\_/g;    $namespace=~s/\//\_/g;
Line 6222  sub store { Line 5084  sub store {
     }      }
     if (!$home) { $home=$env{'user.home'}; }      if (!$home) { $home=$env{'user.home'}; }
   
     $$storehash{'ip'}=&get_requestor_ip();      $$storehash{'ip'}=$ENV{'REMOTE_ADDR'};
     $$storehash{'host'}=$perlvar{'lonHostID'};      $$storehash{'host'}=$perlvar{'lonHostID'};
   
     my $namevalue='';      my $namevalue='';
Line 6258  sub cstore { Line 5120  sub cstore {
     }      }
     if (!$home) { $home=$env{'user.home'}; }      if (!$home) { $home=$env{'user.home'}; }
   
     $$storehash{'ip'}=&get_requestor_ip();      $$storehash{'ip'}=$ENV{'REMOTE_ADDR'};
     $$storehash{'host'}=$perlvar{'lonHostID'};      $$storehash{'host'}=$perlvar{'lonHostID'};
   
     my $namevalue='';      my $namevalue='';
Line 6424  sub privileged { Line 5286  sub privileged {
     my $now = time;      my $now = time;
     my $roles;      my $roles;
     if (ref($possroles) eq 'ARRAY') {      if (ref($possroles) eq 'ARRAY') {
         $roles = $possroles;          $roles = $possroles; 
     } else {      } else {
         $roles = ['dc','su'];          $roles = ['dc','su'];
     }      }
Line 6451  sub privileged { Line 5313  sub privileged {
         for my $role (@rolesdump{grep { ! /^rolesdef_/ } keys(%rolesdump)}) {          for my $role (@rolesdump{grep { ! /^rolesdef_/ } keys(%rolesdump)}) {
             my ($trole, $tend, $tstart) = split(/_/, $role);              my ($trole, $tend, $tstart) = split(/_/, $role);
             if (grep(/^\Q$trole\E$/,@{$roles})) {              if (grep(/^\Q$trole\E$/,@{$roles})) {
                 return 1 unless ($tend && $tend < $now)                  return 1 unless ($tend && $tend < $now) 
                         or ($tstart && $tstart > $now);                          or ($tstart && $tstart > $now);
             }              }
         }          }
Line 6489  sub privileged_by_domain { Line 5351  sub privileged_by_domain {
                         my ($trole,$uname,$udom,$rest) = split(/:/,$item,4);                          my ($trole,$uname,$udom,$rest) = split(/:/,$item,4);
                         my ($end,$start) = split(/:/,$dompersonnel{$server}{$item});                          my ($end,$start) = split(/:/,$dompersonnel{$server}{$item});
                         next if ($end && $end < $now);                          next if ($end && $end < $now);
                         $privileged{$dom}{$trole}{$uname.':'.$udom} =                          $privileged{$dom}{$trole}{$uname.':'.$udom} = 
                             $dompersonnel{$server}{$item};                              $dompersonnel{$server}{$item};
                     }                      }
                 }                  }
Line 6610  sub rolesinit { Line 5472  sub rolesinit {
         }          }
     }      }
   
     @userroles{'user.author','user.adv','user.rar'} = &set_userprivs(\%userroles,      @userroles{'user.author', 'user.adv'} = &set_userprivs(\%userroles,
                                                           \%allroles, \%allgroups);          \%allroles, \%allgroups);
     $env{'user.adv'} = $userroles{'user.adv'};      $env{'user.adv'} = $userroles{'user.adv'};
     $env{'user.rar'} = $userroles{'user.rar'};  
   
     return (\%userroles,\%firstaccenv,\%timerintenv);      return (\%userroles,\%firstaccenv,\%timerintenv);
 }  }
Line 6649  sub custom_roleprivs { Line 5510  sub custom_roleprivs {
                     $$allroles{$spec.'./'.$tdomain.'/'}.=':'.$dompriv;                      $$allroles{$spec.'./'.$tdomain.'/'}.=':'.$dompriv;
                 }                  }
                 if (($trest ne '') && (defined($coursepriv))) {                  if (($trest ne '') && (defined($coursepriv))) {
                     if ($trole =~ m{^cr/$tdomain/$tdomain\Q-domainconfig\E/([^/]+)$}) {  
                         my $rolename = $1;  
                         $coursepriv = &course_adhocrole_privs($rolename,$tdomain,$trest,$coursepriv);  
                     }  
                     $$allroles{'cm.'.$area}.=':'.$coursepriv;                      $$allroles{'cm.'.$area}.=':'.$coursepriv;
                     $$allroles{$spec.'.'.$area}.=':'.$coursepriv;                      $$allroles{$spec.'.'.$area}.=':'.$coursepriv;
                 }                  }
Line 6661  sub custom_roleprivs { Line 5518  sub custom_roleprivs {
     }      }
 }  }
   
 sub course_adhocrole_privs {  
     my ($rolename,$cdom,$cnum,$coursepriv) = @_;  
     my %overrides = &get('environment',["internal.adhocpriv.$rolename"],$cdom,$cnum);  
     if ($overrides{"internal.adhocpriv.$rolename"}) {  
         my (%currprivs,%storeprivs);  
         foreach my $item (split(/:/,$coursepriv)) {  
             my ($priv,$restrict) = split(/\&/,$item);  
             $currprivs{$priv} = $restrict;  
         }  
         my (%possadd,%possremove,%full);  
         foreach my $item (split(/\:/,$Apache::lonnet::pr{'cr:c'})) {  
             my ($priv,$restrict)=split(/\&/,$item);  
             $full{$priv} = $restrict;  
         }  
         foreach my $item (split(/,/,$overrides{"internal.adhocpriv.$rolename"})) {  
             next if ($item eq '');  
             my ($rule,$rest) = split(/=/,$item);  
             next unless (($rule eq 'off') || ($rule eq 'on'));  
             foreach my $priv (split(/:/,$rest)) {  
                 if ($priv ne '') {  
                     if ($rule eq 'off') {  
                         $possremove{$priv} = 1;  
                     } else {  
                         $possadd{$priv} = 1;  
                     }  
                 }  
             }  
         }  
         foreach my $priv (sort(keys(%full))) {  
             if (exists($currprivs{$priv})) {  
                 unless (exists($possremove{$priv})) {  
                     $storeprivs{$priv} = $currprivs{$priv};  
                 }  
             } elsif (exists($possadd{$priv})) {  
                 $storeprivs{$priv} = $full{$priv};  
             }  
         }  
         $coursepriv = ':'.join(':',map { $_.'&'.$storeprivs{$_}; } sort(keys(%storeprivs)));  
     }  
     return $coursepriv;  
 }  
   
 sub group_roleprivs {  sub group_roleprivs {
     my ($allgroups,$area,$group_privs,$tend,$tstart) = @_;      my ($allgroups,$area,$group_privs,$tend,$tstart) = @_;
     my $access = 1;      my $access = 1;
Line 6737  sub set_userprivs { Line 5552  sub set_userprivs {
     my ($userroles,$allroles,$allgroups,$groups_roles) = @_;       my ($userroles,$allroles,$allgroups,$groups_roles) = @_; 
     my $author=0;      my $author=0;
     my $adv=0;      my $adv=0;
     my $rar=0;  
     my %grouproles = ();      my %grouproles = ();
     if (keys(%{$allgroups}) > 0) {      if (keys(%{$allgroups}) > 0) {
         my @groupkeys;           my @groupkeys; 
Line 6785  sub set_userprivs { Line 5599  sub set_userprivs {
                     $thesepriv{$privilege}.=$restrictions;                      $thesepriv{$privilege}.=$restrictions;
                 }                  }
                 if ($thesepriv{'adv'} eq 'F') { $adv=1; }                  if ($thesepriv{'adv'} eq 'F') { $adv=1; }
                 if ($thesepriv{'rar'} eq 'F') { $rar=1; }  
             }              }
         }          }
         my $thesestr='';          my $thesestr='';
Line 6794  sub set_userprivs { Line 5607  sub set_userprivs {
  }   }
         $userroles->{'user.priv.'.$role} = $thesestr;          $userroles->{'user.priv.'.$role} = $thesestr;
     }      }
     return ($author,$adv,$rar);      return ($author,$adv);
 }  }
   
 sub role_status {  sub role_status {
Line 6839  sub role_status { Line 5652  sub role_status {
                                 push(@rolecodes,$$role);                                  push(@rolecodes,$$role);
                                 &standard_roleprivs(\%allroles,$$role,$tdomain,$spec,$trest,$$where);                                  &standard_roleprivs(\%allroles,$$role,$tdomain,$spec,$trest,$$where);
                             }                              }
                             my ($author,$adv,$rar)= &set_userprivs(\%userroles,\%allroles,\%allgroups,                              my ($author,$adv)= &set_userprivs(\%userroles,\%allroles,\%allgroups,\%groups_roles);
                                                                    \%groups_roles);  
                             &appenv(\%userroles,\@rolecodes);                              &appenv(\%userroles,\@rolecodes);
                             &log($env{'user.domain'},$env{'user.name'},$env{'user.home'},"Role ".$spec);                              &log($env{'user.domain'},$env{'user.name'},$env{'user.home'},"Role ".$role);
                         }                          }
                     }                      }
                     $$tstatus = 'is';                      $$tstatus = 'is';
Line 6918  sub delete_env_groupprivs { Line 5730  sub delete_env_groupprivs {
 }  }
   
 sub check_adhoc_privs {  sub check_adhoc_privs {
     my ($cdom,$cnum,$update,$refresh,$now,$checkrole,$caller,$sec) = @_;      my ($cdom,$cnum,$update,$refresh,$now,$checkrole,$caller) = @_;
     my $cckey = 'user.role.'.$checkrole.'./'.$cdom.'/'.$cnum;      my $cckey = 'user.role.'.$checkrole.'./'.$cdom.'/'.$cnum;
     if ($sec) {  
         $cckey .= '/'.$sec;  
     }  
     my $setprivs;      my $setprivs;
     if ($env{$cckey}) {      if ($env{$cckey}) {
         my ($role,$where,$trolecode,$tstart,$tend,$tremark,$tstatus,$tpstart,$tpend);          my ($role,$where,$trolecode,$tstart,$tend,$tremark,$tstatus,$tpstart,$tpend);
         &role_status($cckey,$update,$refresh,$now,\$role,\$where,\$trolecode,\$tstatus,\$tstart,\$tend);          &role_status($cckey,$update,$refresh,$now,\$role,\$where,\$trolecode,\$tstatus,\$tstart,\$tend);
         unless (($tstatus eq 'is') || ($tstatus eq 'will_not')) {          unless (($tstatus eq 'is') || ($tstatus eq 'will_not')) {
             &set_adhoc_privileges($cdom,$cnum,$checkrole,$caller,$sec);              &set_adhoc_privileges($cdom,$cnum,$checkrole,$caller);
             $setprivs = 1;              $setprivs = 1;
         }          }
     } else {      } else {
         &set_adhoc_privileges($cdom,$cnum,$checkrole,$caller,$sec);          &set_adhoc_privileges($cdom,$cnum,$checkrole,$caller);
         $setprivs = 1;          $setprivs = 1;
     }      }
     return $setprivs;      return $setprivs;
 }  }
   
 sub set_adhoc_privileges {  sub set_adhoc_privileges {
 # role can be cc, ca, or cr/<dom>/<dom>-domainconfig/role  # role can be cc or ca
     my ($dcdom,$pickedcourse,$role,$caller,$sec) = @_;      my ($dcdom,$pickedcourse,$role,$caller) = @_;
     my $area = '/'.$dcdom.'/'.$pickedcourse;      my $area = '/'.$dcdom.'/'.$pickedcourse;
     if ($sec ne '') {  
         $area .= '/'.$sec;  
     }  
     my $spec = $role.'.'.$area;      my $spec = $role.'.'.$area;
     my %userroles = &set_arearole($role,$area,'','',$env{'user.domain'},      my %userroles = &set_arearole($role,$area,'','',$env{'user.domain'},
                                   $env{'user.name'},1);                                    $env{'user.name'},1);
     my %rolehash = ();      my %ccrole = ();
     if ($role =~ m{^\Qcr/$dcdom/$dcdom\E\-domainconfig/(\w+)$}) {      &standard_roleprivs(\%ccrole,$role,$dcdom,$spec,$pickedcourse,$area);
         my $rolename = $1;      my ($author,$adv)= &set_userprivs(\%userroles,\%ccrole);
         &custom_roleprivs(\%rolehash,$role,$dcdom,$pickedcourse,$spec,$area);  
         my %domdef = &get_domain_defaults($dcdom);  
         if (ref($domdef{'adhocroles'}) eq 'HASH') {  
             if (ref($domdef{'adhocroles'}{$rolename}) eq 'HASH') {  
                 &appenv({'request.role.desc' => $domdef{'adhocroles'}{$rolename}{'desc'},});  
             }  
         }  
     } else {  
         &standard_roleprivs(\%rolehash,$role,$dcdom,$spec,$pickedcourse,$area);  
     }  
     my ($author,$adv,$rar)= &set_userprivs(\%userroles,\%rolehash);  
     &appenv(\%userroles,[$role,'cm']);      &appenv(\%userroles,[$role,'cm']);
     &log($env{'user.domain'},$env{'user.name'},$env{'user.home'},"Role ".$spec);      &log($env{'user.domain'},$env{'user.name'},$env{'user.home'},"Role ".$role);
     unless (($caller eq 'constructaccess' && $env{'request.course.id'}) ||      unless ($caller eq 'constructaccess' && $env{'request.course.id'}) {
             ($caller eq 'tiny')) {  
         &appenv( {'request.role'        => $spec,          &appenv( {'request.role'        => $spec,
                   'request.role.domain' => $dcdom,                    'request.role.domain' => $dcdom,
                   'request.course.sec'  => $sec,                     'request.course.sec'  => ''
                  }                   }
                );                 );
         my $tadv=0;          my $tadv=0;
Line 7028  sub unserialize { Line 5822  sub unserialize {
     return {} if $rep =~ /^error/;      return {} if $rep =~ /^error/;
   
     my %returnhash=();      my %returnhash=();
     foreach my $item (split(/\&/,$rep)) {   foreach my $item (split(/\&/,$rep)) {
         my ($key, $value) = split(/=/, $item, 2);      my ($key, $value) = split(/=/, $item, 2);
         $key = unescape($key) unless $escapedkeys;      $key = unescape($key) unless $escapedkeys;
         next if $key =~ /^error: 2 /;      next if $key =~ /^error: 2 /;
         $returnhash{$key} = &thaw_unescape($value);      $returnhash{$key} = &thaw_unescape($value);
     }   }
       #return %returnhash;
     return \%returnhash;      return \%returnhash;
 }  }        
   
 # see Lond::dump_with_regexp  # see Lond::dump_with_regexp
 # if $escapedkeys hash keys won't get unescaped.  # if $escapedkeys hash keys won't get unescaped.
 sub dump {  sub dump {
     my ($namespace,$udomain,$uname,$regexp,$range,$escapedkeys,$encrypt)=@_;      my ($namespace,$udomain,$uname,$regexp,$range,$escapedkeys)=@_;
     if (!$udomain) { $udomain=$env{'user.domain'}; }      if (!$udomain) { $udomain=$env{'user.domain'}; }
     if (!$uname) { $uname=$env{'user.name'}; }      if (!$uname) { $uname=$env{'user.name'}; }
     my $uhome=&homeserver($uname,$udomain);      my $uhome=&homeserver($uname,$udomain);
Line 7050  sub dump { Line 5845  sub dump {
     } else {      } else {
         $regexp='.';          $regexp='.';
     }      }
     if (grep { $_ eq $uhome } &current_machine_ids()) {      if (grep { $_ eq $uhome } current_machine_ids()) {
         # user is hosted on this machine          # user is hosted on this machine
         my $reply = LONCAPA::Lond::dump_with_regexp(join(':', ($udomain,          my $reply = LONCAPA::Lond::dump_with_regexp(join(":", ($udomain,
                     $uname, $namespace, $regexp, $range)), $perlvar{'lonVersion'});                      $uname, $namespace, $regexp, $range)), $perlvar{'lonVersion'});
         return %{&unserialize($reply, $escapedkeys)};          return %{unserialize($reply, $escapedkeys)};
     }  
     my $rep;  
     if ($encrypt) {  
         $rep=&reply("encrypt:edump:$udomain:$uname:$namespace:$regexp:$range",$uhome);  
     } else {  
         $rep=&reply("dump:$udomain:$uname:$namespace:$regexp:$range",$uhome);  
     }      }
       my $rep=&reply("dump:$udomain:$uname:$namespace:$regexp:$range",$uhome);
     my @pairs=split(/\&/,$rep);      my @pairs=split(/\&/,$rep);
     my %returnhash=();      my %returnhash=();
     if (!($rep =~ /^error/ )) {      if (!($rep =~ /^error/ )) {
  foreach my $item (@pairs) {   foreach my $item (@pairs) {
     my ($key,$value)=split(/=/,$item,2);      my ($key,$value)=split(/=/,$item,2);
             $key = &unescape($key) unless ($escapedkeys);          $key = unescape($key) unless $escapedkeys;
           #$key = &unescape($key);
     next if ($key =~ /^error: 2 /);      next if ($key =~ /^error: 2 /);
     $returnhash{$key}=&thaw_unescape($value);      $returnhash{$key}=&thaw_unescape($value);
  }   }
Line 7111  sub currentdump { Line 5902  sub currentdump {
    my $rep;     my $rep;
   
    if (grep { $_ eq $uhome } current_machine_ids()) {     if (grep { $_ eq $uhome } current_machine_ids()) {
        $rep = LONCAPA::Lond::dump_profile_database(join(":", ($sdom, $sname,         $rep = LONCAPA::Lond::dump_profile_database(join(":", ($sdom, $sname, 
                    $courseid)));                     $courseid)));
    } else {     } else {
        $rep = reply('currentdump:'.$sdom.':'.$sname.':'.$courseid,$uhome);         $rep = reply('currentdump:'.$sdom.':'.$sname.':'.$courseid,$uhome);
Line 7207  sub inc { Line 5998  sub inc {
 # --------------------------------------------------------------- put interface  # --------------------------------------------------------------- put interface
   
 sub put {  sub put {
    my ($namespace,$storehash,$udomain,$uname,$encrypt)=@_;     my ($namespace,$storehash,$udomain,$uname)=@_;
    if (!$udomain) { $udomain=$env{'user.domain'}; }     if (!$udomain) { $udomain=$env{'user.domain'}; }
    if (!$uname) { $uname=$env{'user.name'}; }     if (!$uname) { $uname=$env{'user.name'}; }
    my $uhome=&homeserver($uname,$udomain);     my $uhome=&homeserver($uname,$udomain);
Line 7216  sub put { Line 6007  sub put {
        $items.=&escape($item).'='.&freeze_escape($$storehash{$item}).'&';         $items.=&escape($item).'='.&freeze_escape($$storehash{$item}).'&';
    }     }
    $items=~s/\&$//;     $items=~s/\&$//;
    if ($encrypt) {     return &reply("put:$udomain:$uname:$namespace:$items",$uhome);
        return &reply("encrypt:put:$udomain:$uname:$namespace:$items",$uhome);  
    } else {  
        return &reply("put:$udomain:$uname:$namespace:$items",$uhome);  
    }  
 }  }
   
 # ------------------------------------------------------------ newput interface  # ------------------------------------------------------------ newput interface
Line 7260  sub putstore { Line 6047  sub putstore {
        foreach my $key (keys(%{$storehash})) {         foreach my $key (keys(%{$storehash})) {
            $namevalue.=&escape($key).'='.&freeze_escape($storehash->{$key}).'&';             $namevalue.=&escape($key).'='.&freeze_escape($storehash->{$key}).'&';
        }         }
        my $ip = &get_requestor_ip();         $namevalue .= 'ip='.&escape($ENV{'REMOTE_ADDR'}).
        $namevalue .= 'ip='.&escape($ip).  
                      '&host='.&escape($perlvar{'lonHostID'}).                       '&host='.&escape($perlvar{'lonHostID'}).
                      '&version='.$esc_v.                       '&version='.$esc_v.
                      '&by='.&escape($env{'user.name'}.':'.$env{'user.domain'});                       '&by='.&escape($env{'user.name'}.':'.$env{'user.domain'});
Line 7360  sub tmpget { Line 6146  sub tmpget {
     if (!defined($server)) { $server = $perlvar{'lonHostID'}; }      if (!defined($server)) { $server = $perlvar{'lonHostID'}; }
     my $rep=&reply("tmpget:$token",$server);      my $rep=&reply("tmpget:$token",$server);
     my %returnhash;      my %returnhash;
     if ($rep =~ /^(con_lost|error|no_such_host)/i) {  
         return %returnhash;  
     }  
     foreach my $item (split(/\&/,$rep)) {      foreach my $item (split(/\&/,$rep)) {
  my ($key,$value)=split(/=/,$item);   my ($key,$value)=split(/=/,$item);
           next if ($key =~ /^error: 2 /);
  $returnhash{&unescape($key)}=&thaw_unescape($value);   $returnhash{&unescape($key)}=&thaw_unescape($value);
     }      }
     return %returnhash;      return %returnhash;
Line 7377  sub tmpdel { Line 6161  sub tmpdel {
     return &reply("tmpdel:$token",$server);      return &reply("tmpdel:$token",$server);
 }  }
   
 # ------------------------------------------------------------ get_timebased_id  # ------------------------------------------------------------ get_timebased_id 
   
 sub get_timebased_id {  sub get_timebased_id {
     my ($prefix,$keyid,$namespace,$cdom,$cnum,$idtype,$who,$locktries,      my ($prefix,$keyid,$namespace,$cdom,$cnum,$idtype,$who,$locktries,
         $maxtries) = @_;          $maxtries) = @_;
     my ($newid,$error,$dellock);      my ($newid,$error,$dellock);
     unless (($prefix =~ /^\w+$/) && ($keyid =~ /^\w+$/) && ($namespace ne '')) {      unless (($prefix =~ /^\w+$/) && ($keyid =~ /^\w+$/) && ($namespace ne '')) {  
         return ('','ok','invalid call to get suffix');          return ('','ok','invalid call to get suffix');
     }      }
   
Line 7397  sub get_timebased_id { Line 6181  sub get_timebased_id {
     if (!$maxtries) {      if (!$maxtries) {
         $maxtries = 10;          $maxtries = 10;
     }      }
       
     if (($cdom eq '') || ($cnum eq '')) {      if (($cdom eq '') || ($cnum eq '')) {
         if ($env{'request.course.id'}) {          if ($env{'request.course.id'}) {
             $cdom = $env{'course.'.$env{'request.course.id'}.'.domain'};              $cdom = $env{'course.'.$env{'request.course.id'}.'.domain'};
Line 7485  sub portfolio_access { Line 6269  sub portfolio_access {
     if ($result) {      if ($result) {
         my %setters;          my %setters;
         if ($env{'user.name'} eq 'public' && $env{'user.domain'} eq 'public') {          if ($env{'user.name'} eq 'public' && $env{'user.domain'} eq 'public') {
             my ($startblock,$endblock,$triggerblock,$by_ip,$blockdom) =              my ($startblock,$endblock) =
                 &Apache::loncommon::blockcheck(\%setters,'port',$clientip,$unum,$udom);                  &Apache::loncommon::blockcheck(\%setters,'port',$unum,$udom);
             if (($startblock && $endblock) || ($by_ip))  {              if ($startblock && $endblock) {
                 return 'B';                  return 'B';
             }              }
         } else {          } else {
             my ($startblock,$endblock,$triggerblock,$by_ip,$blockdo) =              my ($startblock,$endblock) =
                 &Apache::loncommon::blockcheck(\%setters,'port',$clientip);                  &Apache::loncommon::blockcheck(\%setters,'port');
             if (($startblock && $endblock) || ($by_ip)) {              if ($startblock && $endblock) {
                 return 'B';                  return 'B';
             }              }
         }          }
Line 7552  sub get_portfolio_access { Line 6336  sub get_portfolio_access {
                 if (ref($access_hash->{$ipkey}{'ip'}) eq 'ARRAY') {                  if (ref($access_hash->{$ipkey}{'ip'}) eq 'ARRAY') {
                     if (&Apache::loncommon::check_ip_acc(join(',',@{$access_hash->{$ipkey}{'ip'}}),$clientip)) {                      if (&Apache::loncommon::check_ip_acc(join(',',@{$access_hash->{$ipkey}{'ip'}}),$clientip)) {
                         $allowed = 1;                          $allowed = 1;
                         last;                          last; 
                     }                      }
                 }                  }
             }              }
Line 7757  sub usertools_access { Line 6541  sub usertools_access {
                       blog      => 1,                        blog      => 1,
                       webdav    => 1,                        webdav    => 1,
                       portfolio => 1,                        portfolio => 1,
                       timezone  => 1,  
                  );                   );
     }      }
     return if (!defined($tools{$tool}));      return if (!defined($tools{$tool}));
Line 7781  sub usertools_access { Line 6564  sub usertools_access {
   
     my ($toolstatus,$inststatus,$envkey);      my ($toolstatus,$inststatus,$envkey);
     if ($context eq 'requestauthor') {      if ($context eq 'requestauthor') {
         $envkey = $context;          $envkey = $context; 
     } else {      } else {
         $envkey = $context.'.'.$tool;          $envkey = $context.'.'.$tool;
     }      }
Line 8043  sub customaccess { Line 6826  sub customaccess {
 # ------------------------------------------------- Check for a user privilege  # ------------------------------------------------- Check for a user privilege
   
 sub allowed {  sub allowed {
     my ($priv,$uri,$symb,$role,$clientip,$noblockcheck,$ignorecache,$nodeeplinkcheck,$nodeeplinkout)=@_;      my ($priv,$uri,$symb,$role,$clientip,$noblockcheck)=@_;
     my $ver_orguri=$uri;      my $ver_orguri=$uri;
     $uri=&deversion($uri);      $uri=&deversion($uri);
     my $orguri=$uri;      my $orguri=$uri;
     $uri=&declutter($uri);      $uri=&declutter($uri);
   
     if ($priv eq 'evb') {      if ($priv eq 'evb') {
 # Evade communication block restrictions for specified role in a course or domain  # Evade communication block restrictions for specified role in a course
         if ($env{'user.priv.'.$role} =~/evb\&([^\:]*)/) {          if ($env{'user.priv.'.$role} =~/evb\&([^\:]*)/) {
             return $1;              return $1;
         } else {          } else {
Line 8060  sub allowed { Line 6843  sub allowed {
   
     if (defined($env{'allowed.'.$priv})) { return $env{'allowed.'.$priv}; }      if (defined($env{'allowed.'.$priv})) { return $env{'allowed.'.$priv}; }
 # Free bre access to adm and meta resources  # Free bre access to adm and meta resources
     if (((($uri=~/^adm\//) && ($uri !~ m{/(?:smppg|bulletinboard|viewclasslist|aboutme|ext\.tool)$}))       if (((($uri=~/^adm\//) && ($uri !~ m{/(?:smppg|bulletinboard)$})) 
  || (($uri=~/\.meta$/) && ($uri!~m|^uploaded/|) ))    || (($uri=~/\.meta$/) && ($uri!~m|^uploaded/|) )) 
  && ($priv eq 'bre')) {   && ($priv eq 'bre')) {
  return 'F';   return 'F';
Line 8071  sub allowed { Line 6854  sub allowed {
     if (($space=~/^(uploaded|editupload)$/) && ($env{'user.name'} eq $name) &&       if (($space=~/^(uploaded|editupload)$/) && ($env{'user.name'} eq $name) && 
  ($env{'user.domain'} eq $domain) && ('portfolio' eq $dir[0])) {   ($env{'user.domain'} eq $domain) && ('portfolio' eq $dir[0])) {
         my %setters;          my %setters;
         my ($startblock,$endblock,$triggerblock,$by_ip,$blockdom) =           my ($startblock,$endblock) = 
             &Apache::loncommon::blockcheck(\%setters,'port',$clientip);              &Apache::loncommon::blockcheck(\%setters,'port');
         if (($startblock && $endblock) || ($by_ip)) {          if ($startblock && $endblock) {
             return 'B';              return 'B';
         } else {          } else {
             return 'F';              return 'F';
Line 8108  sub allowed { Line 6891  sub allowed {
 # Free bre to public access  # Free bre to public access
   
     if ($priv eq 'bre') {      if ($priv eq 'bre') {
         my $copyright;          my $copyright=&metadata($uri,'copyright');
         unless ($uri =~ /ext\.tool/) {  
             $copyright=&metadata($uri,'copyright');  
         }  
  if (($copyright eq 'public') && (!$env{'request.course.id'})) {    if (($copyright eq 'public') && (!$env{'request.course.id'})) { 
            return 'F';              return 'F'; 
         }          }
Line 8169  sub allowed { Line 6949  sub allowed {
                         my $adom = $1;                          my $adom = $1;
                         foreach my $key (keys(%env)) {                          foreach my $key (keys(%env)) {
                             if ($key =~ m{^user\.role\.(ca|aa)/\Q$adom\E}) {                              if ($key =~ m{^user\.role\.(ca|aa)/\Q$adom\E}) {
                                 my ($start,$end) = split(/\./,$env{$key});                                  my ($start,$end) = split('.',$env{$key});
                                 if (($now >= $start) && (!$end || $end > $now)) {                                  if (($now >= $start) && (!$end || $end < $now)) {
                                     $ownaccess = 1;                                      $ownaccess = 1;
                                     last;                                      last;
                                 }                                  }
Line 8182  sub allowed { Line 6962  sub allowed {
                         foreach my $role ('ca','aa') {                           foreach my $role ('ca','aa') { 
                             if ($env{"user.role.$role./$adom/$aname"}) {                              if ($env{"user.role.$role./$adom/$aname"}) {
                                 my ($start,$end) =                                  my ($start,$end) =
                                     split(/\./,$env{"user.role.$role./$adom/$aname"});                                      split('.',$env{"user.role.$role./$adom/$aname"});
                                 if (($now >= $start) && (!$end || $end > $now)) {                                  if (($now >= $start) && (!$end || $end < $now)) {
                                     $ownaccess = 1;                                      $ownaccess = 1;
                                     last;                                      last;
                                 }                                  }
Line 8228  sub allowed { Line 7008  sub allowed {
   
     if ($env{'user.priv.'.$env{'request.role'}.'.'.$courseuri}      if ($env{'user.priv.'.$env{'request.role'}.'.'.$courseuri}
        =~/\Q$priv\E\&([^\:]*)/) {         =~/\Q$priv\E\&([^\:]*)/) {
         if ($priv eq 'mip') {          unless (($priv eq 'bro') && (!$ownaccess)) {
             my $rem = $1;              $thisallowed.=$1;
             if (($uri ne '') && ($env{'request.course.id'} eq $uri) &&  
                 ($env{'course.'.$env{'request.course.id'}.'.internal.courseowner'} eq $env{'user.name'}.':'.$env{'user.domain'})) {  
                 my $cdom = $env{'course.'.$env{'request.course.id'}.'.domain'};  
                 if ($cdom ne '') {  
                     my %passwdconf = &get_passwdconf($cdom);  
                     if (ref($passwdconf{'crsownerchg'}) eq 'HASH') {  
                         if (ref($passwdconf{'crsownerchg'}{'by'}) eq 'ARRAY') {  
                             if (@{$passwdconf{'crsownerchg'}{'by'}}) {  
                                 my @inststatuses = split(':',$env{'environment.inststatus'});  
                                 unless (@inststatuses) {  
                                     @inststatuses = ('default');  
                                 }  
                                 foreach my $status (@inststatuses) {  
                                     if (grep(/^\Q$status\E$/,@{$passwdconf{'crsownerchg'}{'by'}})) {  
                                         $thisallowed.=$rem;  
                                     }  
                                 }  
                             }  
                         }  
                     }  
                 }  
             }  
         } else {  
             unless (($priv eq 'bro') && (!$ownaccess)) {  
                 $thisallowed.=$1;  
             }  
         }          }
     }      }
   
Line 8268  sub allowed { Line 7022  sub allowed {
             if ($env{'user.priv.'.$env{'request.role'}.'./'}              if ($env{'user.priv.'.$env{'request.role'}.'./'}
                   =~/\Q$priv\E\&([^\:]*)/) {                    =~/\Q$priv\E\&([^\:]*)/) {
                 my $value = $1;                  my $value = $1;
                 my $deeplinkblock;                  if ($noblockcheck) {
                 unless ($nodeeplinkcheck) {  
                     $deeplinkblock = &deeplink_check($priv,$symb,$uri);  
                 }  
                 if ($deeplinkblock) {  
                     $thisallowed='D';  
                 } elsif ($noblockcheck) {  
                     $thisallowed.=$value;                      $thisallowed.=$value;
                 } else {                  } else {
                     my @blockers = &has_comm_blocking($priv,$symb,$uri,$ignorecache);                      my @blockers = &has_comm_blocking($priv,$symb,$uri);
                     if (@blockers > 0) {                      if (@blockers > 0) {
                         $thisallowed = 'B';                          $thisallowed = 'B';
                     } else {                      } else {
Line 8294  sub allowed { Line 7042  sub allowed {
                     $refuri=&declutter($refuri);                      $refuri=&declutter($refuri);
                     my ($match) = &is_on_map($refuri);                      my ($match) = &is_on_map($refuri);
                     if ($match) {                      if ($match) {
                         my $deeplinkblock;                          if ($noblockcheck) {
                         unless ($nodeeplinkcheck) {  
                             $deeplinkblock = &deeplink_check($priv,$symb,$refuri);  
                         }  
                         if ($deeplinkblock) {  
                             $thisallowed='D';  
                         } elsif ($noblockcheck) {  
                             $thisallowed='F';                              $thisallowed='F';
                         } else {                          } else {
                             my @blockers = &has_comm_blocking($priv,'',$refuri,'',1);                              my @blockers = &has_comm_blocking($priv,$symb,$refuri);
                             if (@blockers > 0) {                              if (@blockers > 0) {
                                 $thisallowed = 'B';                                  $thisallowed = 'B';
                             } else {                              } else {
Line 8322  sub allowed { Line 7064  sub allowed {
  && &is_portfolio_url($uri)) {   && &is_portfolio_url($uri)) {
  $thisallowed = &portfolio_access($uri,$clientip);   $thisallowed = &portfolio_access($uri,$clientip);
     }      }
       
 # Full access at system, domain or course-wide level? Exit.  # Full access at system, domain or course-wide level? Exit.
     if ($thisallowed=~/F/) {      if ($thisallowed=~/F/) {
  return 'F';   return 'F';
Line 8350  sub allowed { Line 7092  sub allowed {
   
     if ($env{'request.course.id'}) {      if ($env{'request.course.id'}) {
   
 # If this is modifying password (internal auth) domains must match for user and user's role.  
   
         if ($priv eq 'mip') {  
             if ($env{'user.domain'} eq $env{'request.role.domain'}) {  
                 return $thisallowed;  
             } else {  
                 return '';  
             }  
         }  
   
        $courseprivid=$env{'request.course.id'};         $courseprivid=$env{'request.course.id'};
        if ($env{'request.course.sec'}) {         if ($env{'request.course.sec'}) {
           $courseprivid.='/'.$env{'request.course.sec'};            $courseprivid.='/'.$env{'request.course.sec'};
Line 8373  sub allowed { Line 7105  sub allowed {
                =~/\Q$priv\E\&([^\:]*)/) {                 =~/\Q$priv\E\&([^\:]*)/) {
                my $value = $1;                 my $value = $1;
                if ($priv eq 'bre') {                 if ($priv eq 'bre') {
                    my $deeplinkblock;                     if ($noblockcheck) {
                    unless ($nodeeplinkcheck) {  
                        $deeplinkblock = &deeplink_check($priv,$symb,$uri);  
                    }  
                    if ($deeplinkblock) {  
                        $thisallowed = 'D';  
                    } elsif ($noblockcheck) {  
                        $thisallowed.=$value;                         $thisallowed.=$value;
                    } else {                     } else {
                        my @blockers = &has_comm_blocking($priv,$symb,$uri,$ignorecache);                         my @blockers = &has_comm_blocking($priv,$symb,$uri);
                        if (@blockers > 0) {                         if (@blockers > 0) {
                            $thisallowed = 'B';                             $thisallowed = 'B';
                        } else {                         } else {
Line 8395  sub allowed { Line 7121  sub allowed {
                $checkreferer=0;                 $checkreferer=0;
            }             }
        }         }
          
        if ($checkreferer) {         if ($checkreferer) {
   my $refuri=$env{'httpref.'.$orguri};    my $refuri=$env{'httpref.'.$orguri};
             unless ($refuri) {              unless ($refuri) {
Line 8421  sub allowed { Line 7147  sub allowed {
                   =~/\Q$priv\E\&([^\:]*)/) {                    =~/\Q$priv\E\&([^\:]*)/) {
                   my $value = $1;                    my $value = $1;
                   if ($priv eq 'bre') {                    if ($priv eq 'bre') {
                       my $deeplinkblock;                        if ($noblockcheck) {
                       unless ($nodeeplinkcheck) {  
                           $deeplinkblock = &deeplink_check($priv,$symb,$refuri);  
                       }  
                       if ($deeplinkblock) {  
                           $thisallowed = 'D';  
                       } elsif ($noblockcheck) {  
                           $thisallowed.=$value;                            $thisallowed.=$value;
                       } else {                        } else {
                           my @blockers = &has_comm_blocking($priv,'',$refuri,'',1);                            my @blockers = &has_comm_blocking($priv,$symb,$refuri);
                           if (@blockers > 0) {                            if (@blockers > 0) {
                               $thisallowed = 'B';                                $thisallowed = 'B';
                           } else {                            } else {
Line 8472  sub allowed { Line 7192  sub allowed {
 #  #
   
 # Possibly locked functionality, check all courses  # Possibly locked functionality, check all courses
 # In roles.tab, L (unless locked) available for bre, pch, plc, pac and sma.  
 # Locks might take effect only after 10 minutes cache expiration for other  # Locks might take effect only after 10 minutes cache expiration for other
 # courses, and 2 minutes for current course, in which user has st or ta role  # courses, and 2 minutes for current course
 # which is neither expired nor a future role (unless current course).  
   
     my ($needlockcheck,$now,$crsonly);      my $envkey;
     if ($thisallowed=~/L/) {      if ($thisallowed=~/L/) {
         $now = time;          foreach $envkey (keys(%env)) {
         if ($priv eq 'bre') {  
             if ($uri ne '') {  
                 if ($orguri =~ m{^/+res/}) {  
                     if ($uri =~ m{^lib/templates/}) {  
                         if ($env{'request.course.id'}) {  
                             $crsonly = 1;  
                             $needlockcheck = 1;  
                         }  
                     } else {  
                         $needlockcheck = 1;  
                     }  
                 } elsif ($env{'request.course.id'}) {  
                     my ($crsdom,$crsnum) = split('_',$env{'request.course.id'});  
                     if (($uri =~ m{^(adm|uploaded|public)/$crsdom/$crsnum/}) ||  
                         ($uri =~ m{^adm/$match_domain/$match_username/\d+/(smppg|bulletinboard)$})) {  
                         $crsonly = 1;  
                     }  
                     $needlockcheck = 1;  
                 }  
             }  
         } elsif (($priv eq 'pch') || ($priv eq 'plc') || ($priv eq 'pac') || ($priv eq 'sma')) {  
             $needlockcheck = 1;  
         }  
     }  
     if ($needlockcheck) {  
         foreach my $envkey (keys(%env)) {  
            if ($envkey=~/^user\.role\.(st|ta)\.([^\.]*)/) {             if ($envkey=~/^user\.role\.(st|ta)\.([^\.]*)/) {
                my $courseid=$2;                 my $courseid=$2;
                my $roleid=$1.'.'.$2;                 my $roleid=$1.'.'.$2;
                $courseid=~s/^\///;                 $courseid=~s/^\///;
                unless ($env{'request.role'} eq $roleid) {  
                    my ($start,$end) = split(/\./,$env{$envkey});  
                    next unless (($now >= $start) && (!$end || $end > $now));  
                }  
                my $expiretime=600;                 my $expiretime=600;
                if ($env{'request.role'} eq $roleid) {                 if ($env{'request.role'} eq $roleid) {
   $expiretime=120;    $expiretime=120;
Line 8536  sub allowed { Line 7224  sub allowed {
                }                 }
                if (($env{$prefix.'priv.'.$priv.'.lock.sections'}=~/\,\Q$csec\E\,/)                 if (($env{$prefix.'priv.'.$priv.'.lock.sections'}=~/\,\Q$csec\E\,/)
                 || ($env{$prefix.'priv.'.$priv.'.lock.sections'} eq 'all')) {                  || ($env{$prefix.'priv.'.$priv.'.lock.sections'} eq 'all')) {
    if ($env{$prefix.'priv.'.$priv.'.lock.expire'}>time) {     if ($env{'priv.'.$priv.'.lock.expire'}>time) {
                        &log($env{'user.domain'},$env{'user.name'},                         &log($env{'user.domain'},$env{'user.name'},
                             $env{'user.home'},                              $env{'user.home'},
                             'Locked by priv: '.$priv.' for '.$uri.' due to '.                              'Locked by priv: '.$priv.' for '.$uri.' due to '.
Line 8548  sub allowed { Line 7236  sub allowed {
    }     }
        }         }
     }      }
      
 #  #
 # Rest of the restrictions depend on selected course  # Rest of the restrictions depend on selected course
 #  #
Line 8607  sub allowed { Line 7295  sub allowed {
        }         }
    }     }
   
 # Restricted for deeplinked session?  
   
     if ($env{'request.deeplink.login'}) {  
         if ($env{'acc.deeplinkout'} && !$nodeeplinkout) {  
             if (!$symb) { $symb=&symbread($uri,1); }  
             if (($symb) && ($env{'acc.deeplinkout'}=~/\&\Q$symb\E\&/)) {  
                 return '';  
             }  
         }  
     }  
   
 # Restricted by state or randomout?  # Restricted by state or randomout?
   
    if ($thisallowed=~/X/) {     if ($thisallowed=~/X/) {
Line 8638  sub allowed { Line 7315  sub allowed {
  return 'A';   return 'A';
     } elsif ($thisallowed eq 'B') {      } elsif ($thisallowed eq 'B') {
         return 'B';          return 'B';
     } elsif ($thisallowed eq 'D') {  
         return 'D';  
     }      }
    return 'F';     return 'F';
 }  }
Line 8656  sub constructaccess { Line 7331  sub constructaccess {
     my ($ownername,$ownerdomain,$ownerhome);      my ($ownername,$ownerdomain,$ownerhome);
   
     ($ownerdomain,$ownername) =      ($ownerdomain,$ownername) =
         ($url=~ m{^(?:\Q$perlvar{'lonDocRoot'}\E|)/priv/($match_domain)/($match_username)(?:/|$)});          ($url=~ m{^(?:\Q$perlvar{'lonDocRoot'}\E|)(?:/daxepage|/daxeopen)?/priv/($match_domain)/($match_username)/});
   
 # The URL does not really point to any authorspace, forget it  # The URL does not really point to any authorspace, forget it
     unless (($ownername) && ($ownerdomain)) { return ''; }      unless (($ownername) && ($ownerdomain)) { return ''; }
Line 8719  sub constructaccess { Line 7394  sub constructaccess {
 #  #
 # User for whom data are being temporarily cached.  # User for whom data are being temporarily cached.
 my $cacheduser='';  my $cacheduser='';
 # Course for which data are being temporarily cached.  # Cached blockers for this user (a hash of blocking items). 
 my $cachedcid='';  
 # Cached blockers for this user (a hash of blocking items).  
 my %cachedblockers=();  my %cachedblockers=();
 # When the data were last cached.  # When the data were last cached.
 my $cachedlast='';  my $cachedlast='';
   
 sub load_all_blockers {  sub load_all_blockers {
     my ($uname,$udom)=@_;      my ($uname,$udom,$blocks)=@_;
     if (($uname ne '') && ($udom ne '')) {      if (($uname ne '') && ($udom ne '')) { 
         if (($cacheduser eq $uname.':'.$udom) &&          if (($cacheduser eq $uname.':'.$udom) &&
             ($cachedcid eq $env{'request.course.id'}) &&  
             (abs($cachedlast-time)<5)) {              (abs($cachedlast-time)<5)) {
             return;              return;
         }          }
     }      }
     $cachedlast=time;      $cachedlast=time;
     $cacheduser=$uname.':'.$udom;      $cacheduser=$uname.':'.$udom;
     $cachedcid=$env{'request.course.id'};      %cachedblockers = &get_commblock_resources($blocks);
     %cachedblockers = &get_commblock_resources();  
     return;  
 }  }
   
 sub get_comm_blocks {  sub get_comm_blocks {
Line 8766  sub get_commblock_resources { Line 7436  sub get_commblock_resources {
     my ($blocks) = @_;      my ($blocks) = @_;
     my %blockers = ();      my %blockers = ();
     return %blockers unless ($env{'request.course.id'});      return %blockers unless ($env{'request.course.id'});
     my $courseurl = &courseid_to_courseurl($env{'request.course.id'});      return %blockers if ($env{'user.priv.'.$env{'request.role'}} =~/evb\&([^\:]*)/);
     if ($env{'request.course.sec'}) {  
         $courseurl .= '/'.$env{'request.course.sec'};  
     }  
     return %blockers if ($env{'user.priv.'.$env{'request.role'}.'.'.$courseurl} =~/evb\&([^\:]*)/);  
     my %commblocks;      my %commblocks;
     if (ref($blocks) eq 'HASH') {      if (ref($blocks) eq 'HASH') {
         %commblocks = %{$blocks};          %commblocks = %{$blocks};
     } else {      } else {
         %commblocks = &get_comm_blocks();          %commblocks = &get_comm_blocks();
     }      }
     return %blockers unless (keys(%commblocks) > 0);      return %blockers unless (keys(%commblocks) > 0); 
     my $navmap = Apache::lonnavmaps::navmap->new();      my $navmap = Apache::lonnavmaps::navmap->new();
     return %blockers unless (ref($navmap));      return %blockers unless (ref($navmap));
     my $now = time;      my $now = time;
Line 8789  sub get_commblock_resources { Line 7455  sub get_commblock_resources {
                     if (ref($commblocks{$block}{'blocks'}{'docs'}) eq 'HASH') {                      if (ref($commblocks{$block}{'blocks'}{'docs'}) eq 'HASH') {
                         if (ref($commblocks{$block}{'blocks'}{'docs'}{'maps'}) eq 'HASH') {                          if (ref($commblocks{$block}{'blocks'}{'docs'}{'maps'}) eq 'HASH') {
                             if (keys(%{$commblocks{$block}{'blocks'}{'docs'}{'maps'}})) {                              if (keys(%{$commblocks{$block}{'blocks'}{'docs'}{'maps'}})) {
                                 $blockers{$block}{maps} = $commblocks{$block}{'blocks'}{'docs'}{'maps'};                                  $blockers{$block}{maps} = $commblocks{$block}{'blocks'}{'docs'}{'maps'}; 
                             }                              }
                         }                          }
                         if (ref($commblocks{$block}{'blocks'}{'docs'}{'resources'}) eq 'HASH') {                          if (ref($commblocks{$block}{'blocks'}{'docs'}{'resources'}) eq 'HASH') {
Line 8802  sub get_commblock_resources { Line 7468  sub get_commblock_resources {
             }              }
         } elsif ($block =~ /^firstaccess____(.+)$/) {          } elsif ($block =~ /^firstaccess____(.+)$/) {
             my $item = $1;              my $item = $1;
               my @to_test;
             if (ref($commblocks{$block}{'blocks'}) eq 'HASH') {              if (ref($commblocks{$block}{'blocks'}) eq 'HASH') {
                 if (ref($commblocks{$block}{'blocks'}{'docs'}) eq 'HASH') {                  if (ref($commblocks{$block}{'blocks'}{'docs'}) eq 'HASH') {
                     my (@interval,$mapname);                      my @interval;
                     my $type = 'map';                      my $type = 'map';
                     if ($item eq 'course') {                      if ($item eq 'course') {
                         $type = 'course';                          $type = 'course';
Line 8813  sub get_commblock_resources { Line 7480  sub get_commblock_resources {
                         if ($item =~ /___\d+___/) {                          if ($item =~ /___\d+___/) {
                             $type = 'resource';                              $type = 'resource';
                             @interval=&EXT("resource.0.interval",$item);                              @interval=&EXT("resource.0.interval",$item);
                               if (ref($navmap)) {                        
                                   my $res = $navmap->getBySymb($item); 
                                   push(@to_test,$res);
                               }
                         } else {                          } else {
                             $mapname = &deversion($item);                              my $mapsymb = &symbread($item,1);
                             if (ref($navmap)) {                              if ($mapsymb) {
                                 my $timelimit = $navmap->get_mapparam(undef,$mapname,'0.interval');                                  if (ref($navmap)) {
                                 @interval = ($timelimit,'map');                                      my $mapres = $navmap->getBySymb($mapsymb);
                                       @to_test = $mapres->retrieveResources($mapres,undef,0,0,0,1);
                                       foreach my $res (@to_test) {
                                           my $symb = $res->symb();
                                           next if ($symb eq $mapsymb);
                                           if ($symb ne '') {
                                               @interval=&EXT("resource.0.interval",$symb);
                                               if ($interval[1] eq 'map') {
                                                   last;
                                               }
                                           }
                                       }
                                   }
                             }                              }
                         }                          }
                     }                      }
                     if ($interval[0] =~ /^(\d+)/) {                      if ($interval[0] =~ /^\d+/) {
                         my $timelimit = $1;                          my ($timelimit) = split(/_/,$interval[0]);
                         my $first_access;                          my $first_access;
                         if ($type eq 'resource') {                          if ($type eq 'resource') {
                             $first_access=&get_first_access($interval[1],$item);                              $first_access=&get_first_access($interval[1],$item);
Line 8835  sub get_commblock_resources { Line 7518  sub get_commblock_resources {
                             my $timesup = $first_access+$timelimit;                              my $timesup = $first_access+$timelimit;
                             if ($timesup > $now) {                              if ($timesup > $now) {
                                 my $activeblock;                                  my $activeblock;
                                 if ($type eq 'resource') {                                  foreach my $res (@to_test) {
                                     if (ref($navmap)) {                                      if ($res->answerable()) {
                                         my $res = $navmap->getBySymb($item);                                          $activeblock = 1;
                                         if ($res->answerable()) {                                          last;
                                             $activeblock = 1;  
                                         }  
                                     }  
                                 } elsif ($type eq 'map') {  
                                     my $mapsymb = &symbread($mapname,1);  
                                     if (($mapsymb) && (ref($navmap))) {  
                                         my $mapres = $navmap->getBySymb($mapsymb);  
                                         if (ref($mapres)) {  
                                             my $first = $mapres->map_start();  
                                             my $finish = $mapres->map_finish();  
                                             my $it = $navmap->getIterator($first,$finish,undef,0,0);  
                                             if (ref($it)) {  
                                                 my $res;  
                                                 while ($res = $it->next(undef,1)) {  
                                                     next unless (ref($res));  
                                                     my $symb = $res->symb();  
                                                     next if (($symb eq $mapsymb) || ($symb eq ''));  
                                                     @interval=&EXT("resource.0.interval",$symb);  
                                                     if ($interval[1] eq 'map') {  
                                                         if ($res->answerable()) {  
                                                             $activeblock = 1;  
                                                             last;  
                                                         }  
                                                     }  
                                                 }  
                                             }  
                                         }  
                                     }                                      }
                                 }                                  }
                                 if ($activeblock) {                                  if ($activeblock) {
Line 8891  sub get_commblock_resources { Line 7547  sub get_commblock_resources {
 }  }
   
 sub has_comm_blocking {  sub has_comm_blocking {
     my ($priv,$symb,$uri,$ignoresymbdb,$noenccheck,$blocked,$blocks) = @_;      my ($priv,$symb,$uri,$blocks) = @_;
     my @blockers;      my @blockers;
     return unless ($env{'request.course.id'});      return unless ($env{'request.course.id'});
     return unless ($priv eq 'bre');      return unless ($priv eq 'bre');
       return if ($env{'user.priv.'.$env{'request.role'}} =~/evb\&([^\:]*)/);
     return if ($env{'request.state'} eq 'construct');      return if ($env{'request.state'} eq 'construct');
     my $courseurl = &courseid_to_courseurl($env{'request.course.id'});      &load_all_blockers($env{'user.name'},$env{'user.domain'},$blocks);
     if ($env{'request.course.sec'}) {      return unless (keys(%cachedblockers) > 0);
         $courseurl .= '/'.$env{'request.course.sec'};  
     }  
     return if ($env{'user.priv.'.$env{'request.role'}.'.'.$courseurl} =~/evb\&([^\:]*)/);  
     my %blockinfo;  
     if (ref($blocks) eq 'HASH') {  
         %blockinfo = &get_commblock_resources($blocks);  
     } else {  
         &load_all_blockers($env{'user.name'},$env{'user.domain'});  
         %blockinfo = %cachedblockers;  
     }  
     return unless (keys(%blockinfo) > 0);  
     my (%possibles,@symbs);      my (%possibles,@symbs);
     if (!$symb) {      if (!$symb) {
         $symb = &symbread($uri,1,1,1,\%possibles,$ignoresymbdb,$noenccheck);          $symb = &symbread($uri,1,1,1,\%possibles);
     }      }
     if ($symb) {      if ($symb) {
         @symbs = ($symb);          @symbs = ($symb);
     } elsif (keys(%possibles)) {      } elsif (keys(%possibles)) { 
         @symbs = keys(%possibles);          @symbs = keys(%possibles);
     }      }
     my $noblock;      my $noblock;
     foreach my $symb (@symbs) {      foreach my $symb (@symbs) {
         last if ($noblock);          last if ($noblock);
         my ($map,$resid,$resurl)=&decode_symb($symb);          my ($map,$resid,$resurl)=&decode_symb($symb);
         foreach my $block (keys(%blockinfo)) {          foreach my $block (keys(%cachedblockers)) {
             if ($block =~ /^firstaccess____(.+)$/) {              if ($block =~ /^firstaccess____(.+)$/) {
                 my $item = $1;                  my $item = $1;
                 unless ($blocked) {                  if (($item eq $map) || ($item eq $symb)) {
                     if (($item eq $map) || ($item eq $symb)) {                      $noblock = 1;
                         $noblock = 1;                      last;
                         last;  
                     }  
                 }                  }
             }              }
             if (ref($blockinfo{$block}) eq 'HASH') {              if (ref($cachedblockers{$block}) eq 'HASH') {
                 if (ref($blockinfo{$block}{'resources'}) eq 'HASH') {                  if (ref($cachedblockers{$block}{'resources'}) eq 'HASH') {
                     if ($blockinfo{$block}{'resources'}{$symb}) {                      if ($cachedblockers{$block}{'resources'}{$symb}) {
                         unless (grep(/^\Q$block\E$/,@blockers)) {  
                             push(@blockers,$block);  
                         }  
                     }  
                 }  
                 if (ref($blockinfo{$block}{'maps'}) eq 'HASH') {  
                     if ($blockinfo{$block}{'maps'}{$map}) {  
                         unless (grep(/^\Q$block\E$/,@blockers)) {                          unless (grep(/^\Q$block\E$/,@blockers)) {
                             push(@blockers,$block);                              push(@blockers,$block);
                         }                          }
                     }                      }
                 }                  }
             }              }
         }              if (ref($cachedblockers{$block}{'maps'}) eq 'HASH') {
     }                  if ($cachedblockers{$block}{'maps'}{$map}) {
     unless ($noblock) {                      unless (grep(/^\Q$block\E$/,@blockers)) {
         return @blockers;                          push(@blockers,$block);
     }  
     return;  
 }  
 }  
   
 sub deeplink_check {  
     my ($priv,$symb,$uri) = @_;  
     return unless ($env{'request.course.id'});  
     return unless ($priv eq 'bre');  
     return if ($env{'request.state'} eq 'construct');  
     return if ($env{'request.role.adv'});  
     my $cdom = $env{'course.'.$env{'request.course.id'}.'.domain'};  
     my $cnum = $env{'course.'.$env{'request.course.id'}.'.num'};  
     my (%possibles,@symbs);  
     if (!$symb) {  
         $symb = &symbread($uri,1,1,1,\%possibles);  
     }  
     if ($symb) {  
         @symbs = ($symb);  
     } elsif (keys(%possibles)) {  
         @symbs = keys(%possibles);  
     }  
   
     my ($deeplink_symb,$allow);  
     if ($env{'request.deeplink.login'}) {  
         $deeplink_symb = &Apache::loncommon::deeplink_login_symb($cnum,$cdom);  
     }  
     foreach my $symb (@symbs) {  
         last if ($allow);  
         my $deeplink = &EXT("resource.0.deeplink",$symb);  
         if ($deeplink eq '') {  
             $allow = 1;  
         } else {  
             my ($state,$others,$listed,$scope,$protect) = split(/,/,$deeplink);  
             if ($state ne 'only') {  
                 $allow = 1;  
             } else {  
                 my $check_deeplink_entry;  
                 if ($protect ne 'none') {  
                     my ($acctype,$item) = split(/:/,$protect);  
                     if (($acctype eq 'ltic') && ($env{'user.linkprotector'})) {  
                         if (grep(/^\Q$item\Ec$/,split(/,/,$env{'user.linkprotector'}))) {  
                             $check_deeplink_entry = 1  
                         }  
                     } elsif (($acctype eq 'ltid') && ($env{'user.linkprotector'})) {  
                         if (grep(/^\Q$item\Ed$/,split(/,/,$env{'user.linkprotector'}))) {  
                             $check_deeplink_entry = 1;  
                         }  
                     } elsif (($acctype eq 'key') && ($env{'user.deeplinkkey'})) {  
                         if (grep(/^\Q$item\E$/,split(/,/,$env{'user.deeplinkkey'}))) {  
                             $check_deeplink_entry = 1;  
                         }  
                     }  
                 }  
                 if (($protect eq 'none') || ($check_deeplink_entry)) {  
                     if ($scope eq 'res') {  
                         if ($symb eq $deeplink_symb) {  
                             $allow = 1;  
                         }  
                     } elsif (($scope eq 'map') || ($scope eq 'rec')) {  
                         my ($map_from_symb,$map_from_login);  
                         $map_from_symb = &deversion((&decode_symb($symb))[0]);  
                         if ($deeplink_symb =~ /\.(page|sequence)$/) {  
                             $map_from_login = &deversion((&decode_symb($deeplink_symb))[2]);  
                         } else {  
                             $map_from_login = &deversion((&decode_symb($deeplink_symb))[0]);  
                         }  
                         if (($map_from_symb) && ($map_from_login)) {  
                             if ($map_from_symb eq $map_from_login) {  
                                 $allow = 1;  
                             } elsif ($scope eq 'rec') {  
                                 my @recurseup = &get_map_hierarchy($map_from_symb,$env{'request.course.id'});  
                                 if (grep(/^\Q$map_from_login\E$/,@recurseup)) {  
                                     $allow = 1;  
                                 }  
                             }  
                         }  
                     }                      }
                 }                  }
             }              }
         }          }
     }      }
     return if ($allow);      return if ($noblock);
     return 1;      return @blockers;
   }
 }  }
   
 # -------------------------------- Deversion and split uri into path an filename  # -------------------------------- Deversion and split uri into path an filename   
   
 #  #
 #   Removes the version from a URI and  #   Removes the version from a URI and
Line 9109  sub get_symb_from_alias { Line 7670  sub get_symb_from_alias {
   
 sub definerole {  sub definerole {
   if (allowed('mcr','/')) {    if (allowed('mcr','/')) {
     my ($rolename,$sysrole,$domrole,$courole,$uname,$udom)=@_;      my ($rolename,$sysrole,$domrole,$courole)=@_;
     foreach my $role (split(':',$sysrole)) {      foreach my $role (split(':',$sysrole)) {
  my ($crole,$cqual)=split(/\&/,$role);   my ($crole,$cqual)=split(/\&/,$role);
         if ($pr{'cr:s'}!~/\Q$crole\E/) { return "refused:s:$crole"; }          if ($pr{'cr:s'}!~/\Q$crole\E/) { return "refused:s:$crole"; }
Line 9137  sub definerole { Line 7698  sub definerole {
             }              }
         }          }
     }      }
     my $uhome;  
     if (($uname ne '') && ($udom ne '')) {  
         $uhome = &homeserver($uname,$udom);  
         return $uhome if ($uhome eq 'no_host');  
     } else {  
         $uname = $env{'user.name'};  
         $udom = $env{'user.domain'};  
         $uhome = $env{'user.home'};  
     }  
     my $command="encrypt:rolesput:$env{'user.domain'}:$env{'user.name'}:".      my $command="encrypt:rolesput:$env{'user.domain'}:$env{'user.name'}:".
                 "$udom:$uname:rolesdef_$rolename=".                  "$env{'user.domain'}:$env{'user.name'}:".
           "rolesdef_$rolename=".
                 escape($sysrole.'_'.$domrole.'_'.$courole);                  escape($sysrole.'_'.$domrole.'_'.$courole);
     return reply($command,$uhome);      return reply($command,$env{'user.home'});
   } else {    } else {
     return 'refused';      return 'refused';
   }    }
Line 9164  sub metadata_query { Line 7717  sub metadata_query {
     my @server_list = (defined($server_array) ? @$server_array      my @server_list = (defined($server_array) ? @$server_array
                                               : keys(%libserv) );                                                : keys(%libserv) );
     for my $server (@server_list) {      for my $server (@server_list) {
         my $domains = '';          my $domains = ''; 
         if (ref($domains_hash) eq 'HASH') {          if (ref($domains_hash) eq 'HASH') {
             $domains = $domains_hash->{$server};                  $domains = $domains_hash->{$server}; 
         }          }
  unless ($custom or $customshow) {   unless ($custom or $customshow) {
     my $reply=&reply("querysend:".&escape($query).':::'.&escape($domains),$server);      my $reply=&reply("querysend:".&escape($query).':::'.&escape($domains),$server);
Line 9231  sub update_allusers_table { Line 7784  sub update_allusers_table {
   
 sub fetch_enrollment_query {  sub fetch_enrollment_query {
     my ($context,$affiliatesref,$replyref,$dom,$cnum) = @_;      my ($context,$affiliatesref,$replyref,$dom,$cnum) = @_;
     my ($homeserver,$sleep,$loopmax);      my $homeserver;
     my $maxtries = 1;      my $maxtries = 1;
     if ($context eq 'automated') {      if ($context eq 'automated') {
         $homeserver = $perlvar{'lonHostID'};          $homeserver = $perlvar{'lonHostID'};
         $sleep = 2;  
         $loopmax = 100;  
         $maxtries = 10; # will wait for up to 2000s for retrieval of classlist data before timeout          $maxtries = 10; # will wait for up to 2000s for retrieval of classlist data before timeout
     } else {      } else {
         $homeserver = &homeserver($cnum,$dom);          $homeserver = &homeserver($cnum,$dom);
Line 9254  sub fetch_enrollment_query { Line 7805  sub fetch_enrollment_query {
         &logthis('fetch_enrollment_query: invalid queryid: '.$queryid.' for host: '.$host.' and homeserver: '.$homeserver.' context: '.$context.' '.$cnum);           &logthis('fetch_enrollment_query: invalid queryid: '.$queryid.' for host: '.$host.' and homeserver: '.$homeserver.' context: '.$context.' '.$cnum); 
         return 'error: '.$queryid;          return 'error: '.$queryid;
     }      }
     my $reply = &get_query_reply($queryid,$sleep,$loopmax);      my $reply = &get_query_reply($queryid);
     my $tries = 1;      my $tries = 1;
     while (($reply=~/^timeout/) && ($tries < $maxtries)) {      while (($reply=~/^timeout/) && ($tries < $maxtries)) {
         $reply = &get_query_reply($queryid,$sleep,$loopmax);          $reply = &get_query_reply($queryid);
         $tries ++;          $tries ++;
     }      }
     if ( ($reply =~/^timeout/) || ($reply =~/^error/) ) {      if ( ($reply =~/^timeout/) || ($reply =~/^error/) ) {
         &logthis('fetch_enrollment_query error: '.$reply.' for '.$dom.' '.$env{'user.name'}.' for '.$queryid.' context: '.$context.' '.$cnum.' maxtries: '.$maxtries.' tries: '.$tries);          &logthis('fetch_enrollment_query error: '.$reply.' for '.$dom.' '.$env{'user.name'}.' for '.$queryid.' context: '.$context.' '.$cnum.' maxtries: '.$maxtries.' tries: '.$tries);
     } else {      } else {
         my @responses = split(/:/,$reply);          my @responses = split(/:/,$reply);
         if (grep { $_ eq $homeserver } &current_machine_ids()) {          if ($homeserver eq $perlvar{'lonHostID'}) {
             foreach my $line (@responses) {              foreach my $line (@responses) {
                 my ($key,$value) = split(/=/,$line,2);                  my ($key,$value) = split(/=/,$line,2);
                 $$replyref{$key} = $value;                  $$replyref{$key} = $value;
Line 9282  sub fetch_enrollment_query { Line 7833  sub fetch_enrollment_query {
                         if ($xml_classlist =~ /^error/) {                          if ($xml_classlist =~ /^error/) {
                             &logthis('fetch_enrollment_query - autoretrieve error: '.$xml_classlist.' for '.$filename.' from server: '.$homeserver.' '.$context.' '.$cnum);                              &logthis('fetch_enrollment_query - autoretrieve error: '.$xml_classlist.' for '.$filename.' from server: '.$homeserver.' '.$context.' '.$cnum);
                         } else {                          } else {
                             if ( open(FILE,">",$destname) ) {                              if ( open(FILE,">$destname") ) {
                                 print FILE &unescape($xml_classlist);                                  print FILE &unescape($xml_classlist);
                                 close(FILE);                                  close(FILE);
                             } else {                              } else {
Line 9299  sub fetch_enrollment_query { Line 7850  sub fetch_enrollment_query {
 }  }
   
 sub get_query_reply {  sub get_query_reply {
     my ($queryid,$sleep,$loopmax) = @_;      my $queryid=shift;
     if (($sleep eq '') || ($sleep !~ /^\d+\.?\d*$/)) {  
         $sleep = 0.2;  
     }  
     if (($loopmax eq '') || ($loopmax =~ /\D/)) {  
         $loopmax = 100;  
     }  
     my $replyfile=LONCAPA::tempdir().$queryid;      my $replyfile=LONCAPA::tempdir().$queryid;
     my $reply='';      my $reply='';
     for (1..$loopmax) {      for (1..100) {
  sleep($sleep);   sleep(0.2);
         if (-e $replyfile.'.end') {          if (-e $replyfile.'.end') {
     if (open(my $fh,"<",$replyfile)) {      if (open(my $fh,$replyfile)) {
  $reply = join('',<$fh>);   $reply = join('',<$fh>);
  close($fh);   close($fh);
    } else { return 'error: reply_file_error'; }     } else { return 'error: reply_file_error'; }
Line 9432  sub auto_validate_instcode { Line 7977  sub auto_validate_instcode {
     return ($outcome,$description,$defaultcredits);      return ($outcome,$description,$defaultcredits);
 }  }
   
 sub auto_validate_inst_crosslist {  
     my ($cnum,$cdom,$instcode,$inst_xlist,$coowner) = @_;  
     my ($homeserver,$response);  
     if (($cdom =~ /^$match_domain$/) && ($cnum =~ /^$match_courseid$/)) {  
         $homeserver = &homeserver($cnum,$cdom);  
     }  
     if (!defined($homeserver)) {  
         if ($cdom =~ /^$match_domain$/) {  
             $homeserver = &domain($cdom,'primary');  
         }  
     }  
     unless (($homeserver eq '') || ($homeserver eq 'no_host')) {  
         $response=&reply('autovalidateinstcrosslist:'.$cdom.':'.  
                          &escape($instcode).':'.&escape($inst_xlist).':'.  
                          &escape($coowner),$homeserver);  
     }  
     return $response;  
 }  
   
 sub auto_create_password {  sub auto_create_password {
     my ($cnum,$cdom,$authparam,$udom) = @_;      my ($cnum,$cdom,$authparam,$udom) = @_;
     my ($homeserver,$response);      my ($homeserver,$response);
Line 9722  sub auto_validate_class_sec { Line 8248  sub auto_validate_class_sec {
     return $response;      return $response;
 }  }
   
 sub auto_instsec_reformat {  
     my ($cdom,$action,$instsecref) = @_;  
     return unless(($action eq 'clutter') || ($action eq 'declutter'));  
     my @homeservers;  
     if (defined(&domain($cdom,'primary'))) {  
         push(@homeservers,&domain($cdom,'primary'));  
     } else {  
         my %servers = &get_servers($cdom,'library');  
         foreach my $tryserver (keys(%servers)) {  
             if (!grep(/^\Q$tryserver\E$/,@homeservers)) {  
                 push(@homeservers,$tryserver);  
             }  
         }  
     }  
     my $response;  
     my %reformatted = %{$instsecref};  
     foreach my $server (@homeservers) {  
         if (ref($instsecref) eq 'HASH') {  
             my $info = &freeze_escape($instsecref);  
             my $response=&reply('autoinstsecreformat:'.$cdom.':'.  
                                 $action.':'.$info,$server);  
             next if ($response =~ /(con_lost|error|no_such_host|refused|unknown_command)/);  
             my @items = split(/&/,$response);  
             foreach my $item (@items) {  
                 my ($key,$value) = split(/=/,$item);  
                 $reformatted{&unescape($key)} = &thaw_unescape($value);  
             }  
         }  
     }  
     return %reformatted;  
 }  
   
 sub auto_validate_instclasses {  
     my ($cdom,$cnum,$owners,$classesref) = @_;  
     my ($homeserver,%validations);  
     $homeserver = &homeserver($cnum,$cdom);  
     unless ($homeserver eq 'no_host') {  
         my $ownerlist;  
         if (ref($owners) eq 'ARRAY') {  
             $ownerlist = join(',',@{$owners});  
         } else {  
             $ownerlist = $owners;  
         }  
         if (ref($classesref) eq 'HASH') {  
             my $classes = &freeze_escape($classesref);  
             my $response=&reply('autovalidateinstclasses:'.&escape($ownerlist).  
                                 ':'.$cdom.':'.$classes,$homeserver);  
             unless ($response =~ /(con_lost|error|no_such_host|refused)/) {  
                 my @items = split(/&/,$response);  
                 foreach my $item (@items) {  
                     my ($key,$value) = split('=',$item);  
                     $validations{&unescape($key)} = &thaw_unescape($value);  
                 }  
             }  
         }  
     }  
     return %validations;  
 }  
   
 sub auto_crsreq_update {  sub auto_crsreq_update {
     my ($cdom,$cnum,$crstype,$action,$ownername,$ownerdomain,$fullname,$title,      my ($cdom,$cnum,$crstype,$action,$ownername,$ownerdomain,$fullname,$title,
         $code,$accessstart,$accessend,$inbound) = @_;          $code,$accessstart,$accessend,$inbound) = @_;
Line 9797  sub auto_crsreq_update { Line 8264  sub auto_crsreq_update {
                             ':'.&escape($action).':'.&escape($ownername).':'.                              ':'.&escape($action).':'.&escape($ownername).':'.
                             &escape($ownerdomain).':'.&escape($fullname).':'.                              &escape($ownerdomain).':'.&escape($fullname).':'.
                             &escape($title).':'.&escape($code).':'.                              &escape($title).':'.&escape($code).':'.
                             &escape($accessstart).':'.&escape($accessend).':'.$info,$homeserver);                              &escape($accessstart).':'.&escape($accessend).':'.$info,
                               $homeserver);
         unless ($response =~ /(con_lost|error|no_such_host|refused)/) {          unless ($response =~ /(con_lost|error|no_such_host|refused)/) {
             my @items = split(/&/,$response);              my @items = split(/&/,$response);
             foreach my $item (@items) {              foreach my $item (@items) {
Line 9809  sub auto_crsreq_update { Line 8277  sub auto_crsreq_update {
     return \%crsreqresponse;      return \%crsreqresponse;
 }  }
   
 sub auto_export_grades {  
     my ($cdom,$cnum,$inforef,$gradesref) = @_;  
     my ($homeserver,%exportresponse);  
     if ($cdom =~ /^$match_domain$/) {  
         $homeserver = &domain($cdom,'primary');  
     }  
     unless (($homeserver eq 'no_host') || ($homeserver eq '')) {  
         my $info;  
         if (ref($inforef) eq 'HASH') {  
             $info = &freeze_escape($inforef);  
         }  
         if (ref($gradesref) eq 'HASH') {  
             my $grades = &freeze_escape($gradesref);  
             my $response=&reply('encrypt:autoexportgrades:'.$cdom.':'.$cnum.':'.  
                                 $info.':'.$grades,$homeserver);  
             unless ($response =~ /(con_lost|error|no_such_host|refused|unknown_command)/) {  
                 my @items = split(/&/,$response);  
                 foreach my $item (@items) {  
                     my ($key,$value) = split('=',$item);  
                     $exportresponse{&unescape($key)} = &thaw_unescape($value);  
                 }  
             }  
         }  
     }  
     return \%exportresponse;  
 }  
   
 sub check_instcode_cloning {  sub check_instcode_cloning {
     my ($codedefaults,$code_order,$cloner,$clonefromcode,$clonetocode) = @_;      my ($codedefaults,$code_order,$cloner,$clonefromcode,$clonetocode) = @_;
     unless ((ref($codedefaults) eq 'HASH') && (ref($code_order) eq 'ARRAY')) {      unless ((ref($codedefaults) eq 'HASH') && (ref($code_order) eq 'ARRAY')) {
Line 10178  sub assignrole { Line 8619  sub assignrole {
                         }                          }
                     }                      }
                 } elsif ($context eq 'requestauthor') {                  } elsif ($context eq 'requestauthor') {
                     if (($udom eq $env{'user.domain'}) && ($uname eq $env{'user.name'}) &&                      if (($udom eq $env{'user.domain'}) && ($uname eq $env{'user.name'}) && 
                         ($url eq '/'.$udom.'/') && ($role eq 'au')) {                          ($url eq '/'.$udom.'/') && ($role eq 'au')) {
                         if ($env{'environment.requestauthor'} eq 'automatic') {                          if ($env{'environment.requestauthor'} eq 'automatic') {
                             $refused = '';                              $refused = '';
Line 10186  sub assignrole { Line 8627  sub assignrole {
                             my %domdefaults = &get_domain_defaults($udom);                              my %domdefaults = &get_domain_defaults($udom);
                             if (ref($domdefaults{'requestauthor'}) eq 'HASH') {                              if (ref($domdefaults{'requestauthor'}) eq 'HASH') {
                                 my $checkbystatus;                                  my $checkbystatus;
                                 if ($env{'user.adv'}) {                                  if ($env{'user.adv'}) { 
                                     my $disposition = $domdefaults{'requestauthor'}{'_LC_adv'};                                      my $disposition = $domdefaults{'requestauthor'}{'_LC_adv'};
                                     if ($disposition eq 'automatic') {                                      if ($disposition eq 'automatic') {
                                         $refused = '';                                          $refused = '';
                                     } elsif ($disposition eq '') {                                      } elsif ($disposition eq '') {
                                         $checkbystatus = 1;                                          $checkbystatus = 1;
                                     }                                      } 
                                 } else {                                  } else {
                                     $checkbystatus = 1;                                      $checkbystatus = 1;
                                 }                                  }
Line 10274  sub assignrole { Line 8715  sub assignrole {
             &courserolelog($role,$uname,$udom,$url,$origstart,$origend,$delflag,              &courserolelog($role,$uname,$udom,$url,$origstart,$origend,$delflag,
                            $selfenroll,$context);                             $selfenroll,$context);
         } elsif (($role eq 'li') || ($role eq 'dg') || ($role eq 'sc') ||          } elsif (($role eq 'li') || ($role eq 'dg') || ($role eq 'sc') ||
                  ($role eq 'au') || ($role eq 'dc') || ($role eq 'dh') ||                   ($role eq 'au') || ($role eq 'dc')) {
                  ($role eq 'da')) {  
             &domainrolelog($role,$uname,$udom,$url,$origstart,$origend,$delflag,              &domainrolelog($role,$uname,$udom,$url,$origstart,$origend,$delflag,
                            $context);                             $context);
         } elsif (($role eq 'ca') || ($role eq 'aa')) {          } elsif (($role eq 'ca') || ($role eq 'aa')) {
             &coauthorrolelog($role,$uname,$udom,$url,$origstart,$origend,$delflag,              &coauthorrolelog($role,$uname,$udom,$url,$origstart,$origend,$delflag,
                              $context);                               $context); 
         }          }
         if ($role eq 'cc') {          if ($role eq 'cc') {
             &autoupdate_coowners($url,$end,$start,$uname,$udom);              &autoupdate_coowners($url,$end,$start,$uname,$udom);
Line 10298  sub autoupdate_coowners { Line 8738  sub autoupdate_coowners {
         if ($domdesign{$cdom.'.autoassign.co-owners'}) {          if ($domdesign{$cdom.'.autoassign.co-owners'}) {
             my %coursehash = &coursedescription($cdom.'_'.$cnum);              my %coursehash = &coursedescription($cdom.'_'.$cnum);
             my $instcode = $coursehash{'internal.coursecode'};              my $instcode = $coursehash{'internal.coursecode'};
             my $xlists = $coursehash{'internal.crosslistings'};  
             if ($instcode ne '') {              if ($instcode ne '') {
                 if (($start && $start <= $now) && ($end == 0) || ($end > $now)) {                  if (($start && $start <= $now) && ($end == 0) || ($end > $now)) {
                     unless ($coursehash{'internal.courseowner'} eq $uname.':'.$udom) {                      unless ($coursehash{'internal.courseowner'} eq $uname.':'.$udom) {
                         my ($delcoowners,@newcoowners,$putresult,$delresult,$coowners);                          my ($delcoowners,@newcoowners,$putresult,$delresult,$coowners);
                         my ($result,$desc) = &auto_validate_instcode($cnum,$cdom,$instcode,$uname.':'.$udom);                          my ($result,$desc) = &auto_validate_instcode($cnum,$cdom,$instcode,$uname.':'.$udom);
                         unless ($result eq 'valid') {  
                             if ($xlists ne '') {  
                                 foreach my $xlist (split(',',$xlists)) {  
                                     my ($inst_crosslist,$lcsec) = split(':',$xlist);  
                                     $result =  
                                         &auto_validate_inst_crosslist($cnum,$cdom,$instcode,  
                                                                       $inst_crosslist,$uname.':'.$udom);  
                                     last if ($result eq 'valid');  
                                 }  
                             }  
                         }  
                         if ($result eq 'valid') {                          if ($result eq 'valid') {
                             if ($coursehash{'internal.co-owners'}) {                              if ($coursehash{'internal.co-owners'}) {
                                 foreach my $coowner (split(',',$coursehash{'internal.co-owners'})) {                                  foreach my $coowner (split(',',$coursehash{'internal.co-owners'})) {
Line 10327  sub autoupdate_coowners { Line 8755  sub autoupdate_coowners {
                             } else {                              } else {
                                 push(@newcoowners,$uname.':'.$udom);                                  push(@newcoowners,$uname.':'.$udom);
                             }                              }
                         } elsif ($coursehash{'internal.co-owners'}) {                          } else {
                             foreach my $coowner (split(',',$coursehash{'internal.co-owners'})) {                              if ($coursehash{'internal.co-owners'}) {
                                 unless ($coowner eq $uname.':'.$udom) {                                  foreach my $coowner (split(',',$coursehash{'internal.co-owners'})) {
                                     push(@newcoowners,$coowner);                                      unless ($coowner eq $uname.':'.$udom) {
                                           push(@newcoowners,$coowner);
                                       }
                                   }
                                   unless (@newcoowners > 0) {
                                       $delcoowners = 1;
                                       $coowners = '';
                                 }                                  }
                             }  
                             unless (@newcoowners > 0) {  
                                 $delcoowners = 1;  
                                 $coowners = '';  
                             }                              }
                         }                          }
                         if (@newcoowners || $delcoowners) {                          if (@newcoowners || $delcoowners) {
Line 10389  sub store_coowners { Line 8819  sub store_coowners {
 sub modifyuserauth {  sub modifyuserauth {
     my ($udom,$uname,$umode,$upass)=@_;      my ($udom,$uname,$umode,$upass)=@_;
     my $uhome=&homeserver($uname,$udom);      my $uhome=&homeserver($uname,$udom);
     my $allowed;      unless (&allowed('mau',$udom)) { return 'refused'; }
     if (&allowed('mau',$udom)) {  
         $allowed = 1;  
     } elsif (($umode eq 'internal') && ($udom eq $env{'user.domain'}) &&  
              ($env{'request.course.id'}) && (&allowed('mip',$env{'request.course.id'})) &&  
              (!$env{'course.'.$env{'request.course.id'}.'.internal.nopasswdchg'})) {  
         my $cdom = $env{'course.'.$env{'request.course.id'}.'.domain'};  
         my $cnum = $env{'course.'.$env{'request.course.id'}.'.num'};  
         if (($cdom ne '') && ($cnum ne '')) {  
             my $is_owner = &is_course_owner($cdom,$cnum);  
             if ($is_owner) {  
                 $allowed = 1;  
             }  
         }  
     }  
     unless ($allowed) { return 'refused'; }  
     &logthis('Call to modify user authentication '.$udom.', '.$uname.', '.      &logthis('Call to modify user authentication '.$udom.', '.$uname.', '.
              $umode.' by '.$env{'user.name'}.' at '.$env{'user.domain'}.               $umode.' by '.$env{'user.name'}.' at '.$env{'user.domain'}.
              ' in domain '.$env{'request.role.domain'});                 ' in domain '.$env{'request.role.domain'});  
     my $reply=&reply('encrypt:changeuserauth:'.$udom.':'.$uname.':'.$umode.':'.      my $reply=&reply('encrypt:changeuserauth:'.$udom.':'.$uname.':'.$umode.':'.
      &escape($upass),$uhome);       &escape($upass),$uhome);
     my $ip = &get_requestor_ip();  
     &log($env{'user.domain'},$env{'user.name'},$env{'user.home'},      &log($env{'user.domain'},$env{'user.name'},$env{'user.home'},
         'Authentication changed for '.$udom.', '.$uname.', '.$umode.          'Authentication changed for '.$udom.', '.$uname.', '.$umode.
          '(Remote '.$ip.'): '.$reply);           '(Remote '.$ENV{'REMOTE_ADDR'}.'): '.$reply);
     &log($udom,,$uname,$uhome,      &log($udom,,$uname,$uhome,
         'Authentication changed by '.$env{'user.domain'}.', '.          'Authentication changed by '.$env{'user.domain'}.', '.
                                      $env{'user.name'}.', '.$umode.                                       $env{'user.name'}.', '.$umode.
          '(Remote '.$ip.'): '.$reply);           '(Remote '.$ENV{'REMOTE_ADDR'}.'): '.$reply);
     unless ($reply eq 'ok') {      unless ($reply eq 'ok') {
         &logthis('Authentication mode error: '.$reply);          &logthis('Authentication mode error: '.$reply);
  return 'error: '.$reply;   return 'error: '.$reply;
Line 10496  sub modifyuser { Line 8910  sub modifyuser {
                   'current user id "'.$uidhash{$uname}.'".';                    'current user id "'.$uidhash{$uname}.'".';
           }            }
        } else {         } else {
   &idput($udom,($uname => $uid));    &idput($udom,{$uname => $uid},$uhome,'ids');
        }         }
     }      }
 # -------------------------------------------------------------- Add names, etc  # -------------------------------------------------------------- Add names, etc
Line 10606  sub modifyuser { Line 9020  sub modifyuser {
 sub modifystudent {  sub modifystudent {
     my ($udom,$uname,$uid,$umode,$upass,$first,$middle,$last,$gene,$usec,      my ($udom,$uname,$uid,$umode,$upass,$first,$middle,$last,$gene,$usec,
         $end,$start,$forceid,$desiredhome,$email,$type,$locktype,$cid,          $end,$start,$forceid,$desiredhome,$email,$type,$locktype,$cid,
         $selfenroll,$context,$inststatus,$credits,$instsec)=@_;          $selfenroll,$context,$inststatus,$credits)=@_;
     if (!$cid) {      if (!$cid) {
  unless ($cid=$env{'request.course.id'}) {   unless ($cid=$env{'request.course.id'}) {
     return 'not_in_class';      return 'not_in_class';
Line 10621  sub modifystudent { Line 9035  sub modifystudent {
     # student's environment      # student's environment
     $uid = undef if (!$forceid);      $uid = undef if (!$forceid);
     $reply = &modify_student_enrollment($udom,$uname,$uid,$first,$middle,$last,      $reply = &modify_student_enrollment($udom,$uname,$uid,$first,$middle,$last,
  $gene,$usec,$end,$start,$type,$locktype,                                          $gene,$usec,$end,$start,$type,$locktype,
                                         $cid,$selfenroll,$context,$credits,$instsec);                                          $cid,$selfenroll,$context,$credits);
     return $reply;      return $reply;
 }  }
   
 sub modify_student_enrollment {  sub modify_student_enrollment {
     my ($udom,$uname,$uid,$first,$middle,$last,$gene,$usec,$end,$start,$type,      my ($udom,$uname,$uid,$first,$middle,$last,$gene,$usec,$end,$start,$type,
         $locktype,$cid,$selfenroll,$context,$credits,$instsec) = @_;          $locktype,$cid,$selfenroll,$context,$credits) = @_;
     my ($cdom,$cnum,$chome);      my ($cdom,$cnum,$chome);
     if (!$cid) {      if (!$cid) {
  unless ($cid=$env{'request.course.id'}) {   unless ($cid=$env{'request.course.id'}) {
Line 10675  sub modify_student_enrollment { Line 9089  sub modify_student_enrollment {
     my %old_entry = &Apache::lonnet::get('classlist',[$user],$cdom,$cnum);      my %old_entry = &Apache::lonnet::get('classlist',[$user],$cdom,$cnum);
     my $reply=cput('classlist',      my $reply=cput('classlist',
    {$user =>      {$user => 
  join(':',$end,$start,$uid,$usec,$fullname,$type,$locktype,$credits,$instsec) },   join(':',$end,$start,$uid,$usec,$fullname,$type,$locktype,$credits) },
    $cdom,$cnum);     $cdom,$cnum);
     if (($reply eq 'ok') || ($reply eq 'delayed')) {      if (($reply eq 'ok') || ($reply eq 'delayed')) {
         &devalidate_getsection_cache($udom,$uname,$cid);          &devalidate_getsection_cache($udom,$uname,$cid);
Line 10742  sub writecoursepref { Line 9156  sub writecoursepref {
   
 sub createcourse {  sub createcourse {
     my ($udom,$description,$url,$course_server,$nonstandard,$inst_code,      my ($udom,$description,$url,$course_server,$nonstandard,$inst_code,
         $course_owner,$crstype,$cnum,$context,$category,$callercontext)=@_;          $course_owner,$crstype,$cnum,$context,$category)=@_;
     $url=&declutter($url);      $url=&declutter($url);
     my $cid='';      my $cid='';
     if ($context eq 'requestcourses') {      if ($context eq 'requestcourses') {
         my $can_create = 0;          my $can_create = 0;
         my ($ownername,$ownerdom) = split(':',$course_owner);          my ($ownername,$ownerdom) = split(':',$course_owner);
         if ($udom eq $ownerdom) {          if ($udom eq $ownerdom) {
             my $reload;              if (&usertools_access($ownername,$ownerdom,$category,undef,
             if (($callercontext eq 'auto') &&  
                ($ownerdom eq $env{'user.domain'}) && ($ownername eq $env{'user.name'})) {  
                 $reload = 'reload';  
             }  
             if (&usertools_access($ownername,$ownerdom,$category,$reload,  
                                   $context)) {                                    $context)) {
                 $can_create = 1;                  $can_create = 1;
             }              }
Line 10903  sub generate_coursenum { Line 9312  sub generate_coursenum {
 sub is_course {  sub is_course {
     my ($cdom, $cnum) = scalar(@_) == 1 ?       my ($cdom, $cnum) = scalar(@_) == 1 ? 
          ($_[0] =~ /^($match_domain)_($match_courseid)$/)  :  @_;           ($_[0] =~ /^($match_domain)_($match_courseid)$/)  :  @_;
     return unless (($cdom =~ /^$match_domain$/) && ($cnum =~ /^$match_courseid$/));  
     my $uhome=&homeserver($cnum,$cdom);      return unless $cdom and $cnum;
     my $iscourse;  
     if (grep { $_ eq $uhome } current_machine_ids()) {      my %courses = &courseiddump($cdom, '.', 1, '.', '.', $cnum, undef, undef,
         $iscourse = &LONCAPA::Lond::is_course($cdom,$cnum);          '.');
     } else {  
         my $hashid = $cdom.':'.$cnum;      return unless(exists($courses{$cdom.'_'.$cnum}));
         ($iscourse,my $cached) = &is_cached_new('iscourse',$hashid);  
         unless (defined($cached)) {  
             my %courses = &courseiddump($cdom, '.', 1, '.', '.',  
                                         $cnum,undef,undef,'.');  
             $iscourse = 0;  
             if (exists($courses{$cdom.'_'.$cnum})) {  
                 $iscourse = 1;  
             }  
             &do_cache_new('iscourse',$hashid,$iscourse,3600);  
         }  
     }  
     return unless($iscourse);  
     return wantarray ? ($cdom, $cnum) : $cdom.'_'.$cnum;      return wantarray ? ($cdom, $cnum) : $cdom.'_'.$cnum;
 }  }
   
Line 10938  sub store_userdata { Line 9335  sub store_userdata {
             if (($uhome eq '') || ($uhome eq 'no_host')) {              if (($uhome eq '') || ($uhome eq 'no_host')) {
                 $result = 'error: no_host';                  $result = 'error: no_host';
             } else {              } else {
                 $storehash->{'ip'} = &get_requestor_ip();                  $storehash->{'ip'} = $ENV{'REMOTE_ADDR'};
                 $storehash->{'host'} = $perlvar{'lonHostID'};                  $storehash->{'host'} = $perlvar{'lonHostID'};
   
                 my $namevalue='';                  my $namevalue='';
Line 11057  sub save_selected_files { Line 9454  sub save_selected_files {
     my ($user, $path, @files) = @_;      my ($user, $path, @files) = @_;
     my $filename = $user."savedfiles";      my $filename = $user."savedfiles";
     my @other_files = &files_not_in_path($user, $path);      my @other_files = &files_not_in_path($user, $path);
     open (OUT,'>',LONCAPA::tempdir().$filename);      open (OUT, '>'.$tmpdir.$filename);
     foreach my $file (@files) {      foreach my $file (@files) {
         print (OUT $env{'form.currentpath'}.$file."\n");          print (OUT $env{'form.currentpath'}.$file."\n");
     }      }
Line 11071  sub save_selected_files { Line 9468  sub save_selected_files {
 sub clear_selected_files {  sub clear_selected_files {
     my ($user) = @_;      my ($user) = @_;
     my $filename = $user."savedfiles";      my $filename = $user."savedfiles";
     open (OUT,'>',LONCAPA::tempdir().$filename);      open (OUT, '>'.LONCAPA::tempdir().$filename);
     print (OUT undef);      print (OUT undef);
     close (OUT);      close (OUT);
     return ("ok");          return ("ok");    
Line 11081  sub files_in_path { Line 9478  sub files_in_path {
     my ($user, $path) = @_;      my ($user, $path) = @_;
     my $filename = $user."savedfiles";      my $filename = $user."savedfiles";
     my %return_files;      my %return_files;
     open (IN,'<',LONCAPA::tempdir().$filename);      open (IN, '<'.LONCAPA::tempdir().$filename);
     while (my $line_in = <IN>) {      while (my $line_in = <IN>) {
         chomp ($line_in);          chomp ($line_in);
         my @paths_and_file = split (m!/!, $line_in);          my @paths_and_file = split (m!/!, $line_in);
Line 11103  sub files_not_in_path { Line 9500  sub files_not_in_path {
     my $filename = $user."savedfiles";      my $filename = $user."savedfiles";
     my @return_files;      my @return_files;
     my $path_part;      my $path_part;
     open(IN, '<',LONCAPA::tempdir().$filename);      open(IN, '<'.LONCAPA::.$filename);
     while (my $line = <IN>) {      while (my $line = <IN>) {
         #ok, I know it's clunky, but I want it to work          #ok, I know it's clunky, but I want it to work
         my @paths_and_file = split(m|/|, $line);          my @paths_and_file = split(m|/|, $line);
Line 11120  sub files_not_in_path { Line 9517  sub files_not_in_path {
     return (@return_files);      return (@return_files);
 }  }
   
   #------------------------------Submitted/Handedback Portfolio Files Versioning
    
   sub portfiles_versioning {
       my ($symb,$domain,$stu_name,$portfiles,$versioned_portfiles) = @_;
       my $portfolio_root = '/userfiles/portfolio';
       return unless ((ref($portfiles) eq 'ARRAY') && (ref($versioned_portfiles) eq 'ARRAY'));
       foreach my $file (@{$portfiles}) {
           &unmark_as_readonly($domain,$stu_name,[$symb,$env{'request.course.id'}],$file);
           my ($directory,$answer_file) =($file =~ /^(.*?)([^\/]*)$/);
           my ($answer_name,$answer_ver,$answer_ext) = &file_name_version_ext($answer_file);
           my $getpropath = 1;
           my ($dir_list,$listerror) = &dirlist($portfolio_root.$directory,$domain,
                                                $stu_name,$getpropath);
           my $version = &get_next_version($answer_name,$answer_ext,$dir_list);
           my $new_answer = 
               &version_selected_portfile($domain,$stu_name,$directory,$answer_file,$version);
           if ($new_answer ne 'problem getting file') {
               push(@{$versioned_portfiles}, $directory.$new_answer);
               &mark_as_readonly($domain,$stu_name,[$directory.$new_answer],
                                 [$symb,$env{'request.course.id'},'graded']);
           }
       }
   }
   
   sub get_next_version {
       my ($answer_name, $answer_ext, $dir_list) = @_;
       my $version;
       if (ref($dir_list) eq 'ARRAY') {
           foreach my $row (@{$dir_list}) {
               my ($file) = split(/\&/,$row,2);
               my ($file_name,$file_version,$file_ext) =
                   &file_name_version_ext($file);
               if (($file_name eq $answer_name) &&
                   ($file_ext eq $answer_ext)) {
                        # gets here if filename and extension match,
                        # regardless of version
                   if ($file_version ne '') {
                       # a versioned file is found  so save it for later
                       if ($file_version > $version) {
                           $version = $file_version;
                       }
                   }
               }
           }
       }
       $version ++;
       return($version);
   }
   
   sub version_selected_portfile {
       my ($domain,$stu_name,$directory,$file_name,$version) = @_;
       my ($answer_name,$answer_ver,$answer_ext) =
           &file_name_version_ext($file_name);
       my $new_answer;
       $env{'form.copy'} =
           &getfile("/uploaded/$domain/$stu_name/portfolio$directory$file_name");
       if($env{'form.copy'} eq '-1') {
           $new_answer = 'problem getting file';
       } else {
           $new_answer = $answer_name.'.'.$version.'.'.$answer_ext;
           my $copy_result = 
               &finishuserfileupload($stu_name,$domain,'copy',
                                     '/portfolio'.$directory.$new_answer);
       }
       undef($env{'form.copy'});
       return ($new_answer);
   }
   
   sub file_name_version_ext {
       my ($file)=@_;
       my @file_parts = split(/\./, $file);
       my ($name,$version,$ext);
       if (@file_parts > 1) {
           $ext=pop(@file_parts);
           if (@file_parts > 1 && $file_parts[-1] =~ /^\d+$/) {
               $version=pop(@file_parts);
           }
           $name=join('.',@file_parts);
       } else {
           $name=join('.',@file_parts);
       }
       return($name,$version,$ext);
   }
   
 #----------------------------------------------Get portfolio file permissions  #----------------------------------------------Get portfolio file permissions
   
 sub get_portfile_permissions {  sub get_portfile_permissions {
Line 11264  sub modify_access_controls { Line 9745  sub modify_access_controls {
 }  }
   
 sub make_public_indefinitely {  sub make_public_indefinitely {
     my ($requrl) = @_;      my (@requrl) = @_;
       return &automated_portfile_access('public',\@requrl);
   }
   
   sub automated_portfile_access {
       my ($accesstype,$addsref,$delsref,$info) = @_;
       unless (($accesstype eq 'public') || ($accesstype eq 'ip')) {
           return 'invalid';
       }
       my %urls;
       if (ref($addsref) eq 'ARRAY') {
           foreach my $requrl (@{$addsref}) {
               if (&is_portfolio_url($requrl)) {
                   unless (exists($urls{$requrl})) {
                       $urls{$requrl} = 'add';
                   }
               }
           }
       }
       if (ref($delsref) eq 'ARRAY') {
           foreach my $requrl (@{$delsref}) { 
               if (&is_portfolio_url($requrl)) {
                   unless (exists($urls{$requrl})) {
                       $urls{$requrl} = 'delete'; 
                   }
               }
           }
       }
       unless (keys(%urls)) {
           return 'invalid';
       }
       my $ip;
       if ($accesstype eq 'ip') {
           if (ref($info) eq 'HASH') {
               if ($info->{'ip'} ne '') {
                   $ip = $info->{'ip'};
               }
           }
           if ($ip eq '') {
               return 'invalid';
           }
       }
       my $errors;
     my $now = time;      my $now = time;
     my $action = 'activate';      my %current_perms;
     my $aclnum = 0;      foreach my $requrl (sort(keys(%urls))) {
     if (&is_portfolio_url($requrl)) {          my $action;
           if ($urls{$requrl} eq 'add') {
               $action = 'activate';
           } else {
               $action = 'none';
           }
           my $aclnum = 0;
         my (undef,$udom,$unum,$file_name,$group) =          my (undef,$udom,$unum,$file_name,$group) =
             &parse_portfolio_url($requrl);              &parse_portfolio_url($requrl);
         my $current_perms = &get_portfile_permissions($udom,$unum);          unless (exists($current_perms{$unum.':'.$udom})) {
         my %access_controls = &get_access_controls($current_perms,              $current_perms{$unum.':'.$udom} = &get_portfile_permissions($udom,$unum);
           }
           my %access_controls = &get_access_controls($current_perms{$unum.':'.$udom},
                                                    $group,$file_name);                                                     $group,$file_name);
         foreach my $key (keys(%{$access_controls{$file_name}})) {          foreach my $key (keys(%{$access_controls{$file_name}})) {
             my ($num,$scope,$end,$start) =               my ($num,$scope,$end,$start) = 
                 ($key =~ /^([^:]+):([a-z]+)_(\d*)_?(\d*)$/);                  ($key =~ /^([^:]+):([a-z]+)_(\d*)_?(\d*)$/);
             if ($scope eq 'public') {              if ($scope eq $accesstype) {
                 if ($start <= $now && $end == 0) {                  if (($start <= $now) && ($end == 0)) {
                     $action = 'none';                      if ($accesstype eq 'ip') {
                 } else {                          if (ref($access_controls{$file_name}{$key}) eq 'HASH') {
                               if (ref($access_controls{$file_name}{$key}{'ip'}) eq 'ARRAY') {
                                   if (grep(/^\Q$ip\E$/,@{$access_controls{$file_name}{$key}{'ip'}})) {
                                       if ($urls{$requrl} eq 'add') {
                                           $action = 'none';
                                           last;
                                       } else {
                                           $action = 'delete';
                                           $aclnum = $num;
                                           last;
                                       }
                                   }
                               }
                           }
                       } elsif ($accesstype eq 'public') {
                           if ($urls{$requrl} eq 'add') {
                               $action = 'none';
                               last;
                           } else {
                               $action = 'delete';
                               $aclnum = $num;
                               last;
                           }
                       }
                   } elsif ($accesstype eq 'public') {
                     $action = 'update';                      $action = 'update';
                     $aclnum = $num;                      $aclnum = $num;
                       last;
                 }                  }
                 last;  
             }              }
         }          }
         if ($action eq 'none') {          if ($action eq 'none') {
              return 'ok';              next;
         } else {          } else {
             my %changes;              my %changes;
             my $newend = 0;              my $newend = 0;
             my $newstart = $now;              my $newstart = $now;
             my $newkey = $aclnum.':public_'.$newend.'_'.$newstart;              my $newkey = $aclnum.':'.$accesstype.'_'.$newend.'_'.$newstart;
             $changes{$action}{$newkey} = {              $changes{$action}{$newkey} = {
                 type => 'public',                  type => $accesstype,
                 time => {                  time => {
                     start => $newstart,                      start => $newstart,
                     end   => $newend,                      end   => $newend,
                 },                  },
             };              };
               if ($accesstype eq 'ip') {
                   $changes{$action}{$newkey}{'ip'} = [$ip];
               }
             my ($outcome,$deloutcome,$new_values,$translation) =              my ($outcome,$deloutcome,$new_values,$translation) =
                 &modify_access_controls($file_name,\%changes,$udom,$unum);                  &modify_access_controls($file_name,\%changes,$udom,$unum);
             return $outcome;              unless ($outcome eq 'ok') {
                   $errors .= $outcome.' ';
               }
         }          }
       }
       if ($errors) {
           $errors =~ s/\s$//;
           return $errors;
     } else {      } else {
         return 'invalid';          return 'ok';
     }      }
 }  }
   
Line 11511  sub dirlist { Line 10075  sub dirlist {
             foreach my $user (sort(keys(%allusers))) {              foreach my $user (sort(keys(%allusers))) {
                 push(@alluserslist,$user.'&user');                  push(@alluserslist,$user.'&user');
             }              }
             if (!%listerror) {              return (\@alluserslist);
                 # no errors  
                 return (\@alluserslist);  
             } elsif (scalar(keys(%servers)) == 1) {  
                 # one library server, one error  
                 my ($key) = keys(%listerror);  
                 return (\@alluserslist, $listerror{$key});  
             } elsif ( grep { $_ eq 'con_lost' } values(%listerror) ) {  
                 # con_lost indicates that we might miss data from at least one  
                 # library server  
                 return (\@alluserslist, 'con_lost');  
             } else {  
                 # multiple library servers and no con_lost -> data should be  
                 # complete.  
                 return (\@alluserslist);  
             }  
   
         } else {          } else {
             return ([],'missing username');              return ([],'missing username');
         }          }
Line 11789  sub resdata { Line 10337  sub resdata {
     return undef;      return undef;
 }  }
   
 sub get_domain_lti {  sub get_domain_ltitools {
     my ($cdom,$context) = @_;      my ($cdom) = @_;
     my ($name,$cachename,%lti);      my %ltitools;
     if ($context eq 'consumer') {      my ($result,$cached)=&is_cached_new('ltitools',$cdom);
         $name = 'ltitools';  
     } elsif ($context eq 'provider') {  
         $name = 'lti';  
     } elsif ($context eq 'linkprot') {  
         $name = 'ltisec';  
     } else {  
         return %lti;  
     }  
   
     if ($context eq 'linkprot') {  
         $cachename = $context;  
     } else {  
         $cachename = $name;  
     }  
   
     my ($result,$cached)=&is_cached_new($cachename,$cdom);  
     if (defined($cached)) {      if (defined($cached)) {
         if (ref($result) eq 'HASH') {          if (ref($result) eq 'HASH') {
             %lti = %{$result};              %ltitools = %{$result};
         }          }
     } else {      } else {
         my %domconfig = &get_dom('configuration',[$name],$cdom);          my %domconfig = &get_dom('configuration',['ltitools'],$cdom);
         if (ref($domconfig{$name}) eq 'HASH') {          if (ref($domconfig{'ltitools'}) eq 'HASH') {
             if ($context eq 'linkprot') {              %ltitools = %{$domconfig{'ltitools'}};
                 if (ref($domconfig{$name}{'linkprot'}) eq 'HASH') {  
                     %lti = %{$domconfig{$name}{'linkprot'}};  
                 }  
             } else {  
                 %lti = %{$domconfig{$name}};  
             }  
             if (($context eq 'consumer') && (keys(%lti))) {  
                 my %encdomconfig = &get_dom('encconfig',[$name],$cdom,undef,1);  
                 if (ref($encdomconfig{$name}) eq 'HASH') {  
                     foreach my $id (keys(%lti)) {  
                         if (ref($encdomconfig{$name}{$id}) eq 'HASH') {  
                             foreach my $item ('key','secret') {  
                                 $lti{$id}{$item} = $encdomconfig{$name}{$id}{$item};  
                             }  
                         }  
                     }  
                 }  
             }  
         }          }
         my $cachetime = 24*60*60;          my $cachetime = 24*60*60;
         &do_cache_new($cachename,$cdom,\%lti,$cachetime);          &do_cache_new('ltitools',$cdom,\%ltitools,$cachetime);
     }      }
     return %lti;      return %ltitools;
 }  
   
 sub get_course_lti {  
     my ($cnum,$cdom) = @_;  
     my $hashid=$cdom.'_'.$cnum;  
     my %courselti;  
     my ($result,$cached)=&is_cached_new('courselti',$hashid);  
     if (defined($cached)) {  
         if (ref($result) eq 'HASH') {  
             %courselti = %{$result};  
         }  
     } else {  
         %courselti = &dump('lti',$cdom,$cnum,undef,undef,undef,1);  
         my $cachetime = 24*60*60;  
         &do_cache_new('courselti',$hashid,\%courselti,$cachetime);  
     }  
     return %courselti;  
 }  
   
 sub courselti_itemid {  
     my ($cnum,$cdom,$url,$method,$params,$context) = @_;  
     my ($chome,$itemid);  
     $chome = &homeserver($cnum,$cdom);  
     return if ($chome eq 'no_host');  
     if (ref($params) eq 'HASH') {  
         my $items = &freeze_escape($params);  
         my $rep;  
         if (grep { $_ eq $chome } current_machine_ids()) {  
             $rep = LONCAPA::Lond::crslti_itemid($cdom,$cnum,$url,$method,$params,$perlvar{'lonVersion'});  
         } else {  
             my $escurl = &escape($url);  
             my $escmethod = &escape($method);  
             my $items = &freeze_escape($params);  
             $rep = &reply("encrypt:lti:$cdom:$cnum:$context:$escurl:$escmethod:$items",$chome);  
         }  
         unless (($rep=~/^(refused|rejected|error)/) || ($rep eq 'con_lost') ||  
                 ($rep eq 'unknown_cmd')) {  
             $itemid = $rep;  
         }  
     }  
     return $itemid;  
 }  
   
 sub domainlti_itemid {  
     my ($cdom,$url,$method,$params,$context) = @_;  
     my ($primary_id,$itemid);  
     $primary_id = &domain($cdom,'primary');  
     return if ($primary_id eq '');  
     if (ref($params) eq 'HASH') {  
         my $items = &freeze_escape($params);  
         my $rep;  
         if (grep { $_ eq $primary_id } current_machine_ids()) {  
             $rep = LONCAPA::Lond::domlti_itemid($cdom,$context,$url,$method,$params,$perlvar{'lonVersion'});  
         } else {  
             my $cnum = '';  
             my $escurl = &escape($url);  
             my $escmethod = &escape($method);  
             my $items = &freeze_escape($params);  
             $rep = &reply("encrypt:lti:$cdom:$cnum:$context:$escurl:$escmethod:$items",$primary_id);  
         }  
         unless (($rep=~/^(refused|rejected|error)/) || ($rep eq 'con_lost') ||  
                 ($rep eq 'unknown_cmd')) {  
             $itemid = $rep;  
         }  
     }  
     return $itemid;  
 }  }
   
 sub get_numsuppfiles {  sub get_numsuppfiles {
Line 11920  sub get_numsuppfiles { Line 10368  sub get_numsuppfiles {
         unless ($chome eq 'no_host') {          unless ($chome eq 'no_host') {
             ($suppcount,my $errors) = (0,0);              ($suppcount,my $errors) = (0,0);
             my $suppmap = 'supplemental.sequence';              my $suppmap = 'supplemental.sequence';
             ($suppcount,$errors) =              ($suppcount,$errors) = 
                 &Apache::loncommon::recurse_supplemental($cnum,$cdom,$suppmap,$suppcount,$errors);                  &Apache::loncommon::recurse_supplemental($cnum,$cdom,$suppmap,$suppcount,$errors);
         }          }
         &do_cache_new('suppcount',$hashid,$suppcount,600);          &do_cache_new('suppcount',$hashid,$suppcount,600);
Line 11932  sub get_numsuppfiles { Line 10380  sub get_numsuppfiles {
 # EXT resource caching routines  # EXT resource caching routines
 #  #
   
 {  
 # Cache (5 seconds) of map hierarchy for speedup of navmaps display  
 #  
 # The course for which we cache  
 my $cachedmapkey='';  
 # The cached recursive maps for this course  
 my %cachedmaps=();  
 # When this was last done  
 my $cachedmaptime='';  
   
 sub clear_EXT_cache_status {  sub clear_EXT_cache_status {
     &delenv('cache.EXT.');      &delenv('cache.EXT.');
 }  }
Line 11998  sub EXT { Line 10436  sub EXT {
     if ( (defined($Apache::lonhomework::parsing_a_problem)      if ( (defined($Apache::lonhomework::parsing_a_problem)
   || defined($Apache::lonhomework::parsing_a_task))    || defined($Apache::lonhomework::parsing_a_task))
  &&   &&
  ($symbparm eq &symbread()) ) {   ($symbparm eq &symbread()) ) {
  # if we are in the middle of processing the resource the   # if we are in the middle of processing the resource the
  # get the value we are planning on committing   # get the value we are planning on committing
                 if (defined($Apache::lonhomework::results{$qualifierrest})) {                  if (defined($Apache::lonhomework::results{$qualifierrest})) {
Line 12125  sub EXT { Line 10563  sub EXT {
             $courseid = $cid;              $courseid = $cid;
         }          }
  if (($symbparm && $courseid) &&    if (($symbparm && $courseid) && 
     (($courseid eq $env{'request.course.id'}) || ($courseid eq $cid))) {      (($courseid eq $env{'request.course.id'}) || ($courseid eq $cid)))  {
   
     #print '<br>'.$space.' - '.$qualifier.' - '.$spacequalifierrest;      #print '<br>'.$space.' - '.$qualifier.' - '.$spacequalifierrest;
   
Line 12255  sub EXT { Line 10693  sub EXT {
  if ($space eq 'name') {   if ($space eq 'name') {
     return $ENV{'SERVER_NAME'};      return $ENV{'SERVER_NAME'};
         }          }
     } elsif ($realm eq 'client') {  
         if ($space eq 'remote_addr') {  
             return &get_requestor_ip();  
         }  
     }      }
     return '';      return '';
 }  }
Line 12292  sub check_group_parms { Line 10726  sub check_group_parms {
     return $coursereply;      return $coursereply;
 }  }
   
 sub get_map_hierarchy {  
     my ($mapname,$courseid) = @_;  
     my @recurseup = ();  
     if ($mapname) {  
         if (($cachedmapkey eq $courseid) &&  
             (abs($cachedmaptime-time)<5)) {  
             if (ref($cachedmaps{$mapname}) eq 'ARRAY') {  
                 return @{$cachedmaps{$mapname}};  
             }  
         }  
         my $navmap = Apache::lonnavmaps::navmap->new();  
         if (ref($navmap)) {  
             @recurseup = $navmap->recurseup_maps($mapname);  
             undef($navmap);  
             $cachedmaps{$mapname} = \@recurseup;  
             $cachedmaptime=time;  
             $cachedmapkey=$courseid;  
         }  
     }  
     return @recurseup;  
 }  
   
 }  
   
 sub sort_course_groups { # Sort groups based on defined rankings. Default is sort().  sub sort_course_groups { # Sort groups based on defined rankings. Default is sort().
     my ($courseid,@groups) = @_;      my ($courseid,@groups) = @_;
     @groups = sort(@groups);      @groups = sort(@groups);
Line 12394  sub add_prefix_and_part { Line 10804  sub add_prefix_and_part {
   
 my %metaentry;  my %metaentry;
 my %importedpartids;  my %importedpartids;
 my %importedrespids;  
 sub metadata {  sub metadata {
     my ($uri,$what,$liburi,$prefix,$depthcount)=@_;      my ($uri,$what,$liburi,$prefix,$depthcount)=@_;
     $uri=&declutter($uri);      $uri=&declutter($uri);
     # if it is a non metadata possible uri return quickly      # if it is a non metadata possible uri return quickly
     if (($uri eq '') ||       if (($uri eq '') || 
  (($uri =~ m|^/*adm/|) &&    (($uri =~ m|^/*adm/|) && 
      ($uri !~ m|^adm/includes|) && ($uri !~ m{/(smppg|bulletinboard|ext\.tool)$})) ||       ($uri !~ m|^adm/includes|) && ($uri !~ m{/(smppg|bulletinboard|exttools?)$})) ||
         ($uri =~ m|/$|) || ($uri =~ m|/.meta$|) || ($uri =~ m{^/*uploaded/.+\.sequence$})) {          ($uri =~ m|/$|) || ($uri =~ m|/.meta$|) || ($uri =~ m{^/*uploaded/.+\.sequence$})) {
  return undef;   return undef;
     }      }
Line 12422  sub metadata { Line 10831  sub metadata {
     }      }
     {      {
 # Imported parts would go here  # Imported parts would go here
         my @origfiletagids=();          my %importedids=();
           my @origfileimportpartids=();
         my $importedparts=0;          my $importedparts=0;
   
 # Imported responseids would go here  
         my $importedresponses=0;  
 #  #
 # Is this a recursive call for a library?  # Is this a recursive call for a library?
 #  #
Line 12521  sub metadata { Line 10928  sub metadata {
                         my $dir=$filename;                          my $dir=$filename;
                         $dir=~s|[^/]*$||;                          $dir=~s|[^/]*$||;
                         $location=&filelocation($dir,$location);                          $location=&filelocation($dir,$location);
                          
                         my $importid=$token->[2]->{'id'};  
                         my $importmode=$token->[2]->{'importmode'};                          my $importmode=$token->[2]->{'importmode'};
 #  
 # Check metadata for imported file to  
 # see if it contained response items  
 #  
                         my %currmetaentry = %metaentry;  
                         my $libresponseorder = &metadata($location,'responseorder');  
                         my $origfile;  
                         if ($libresponseorder ne '') {  
                             if ($#origfiletagids<0) {  
                                 undef(%importedrespids);  
                                 undef(%importedpartids);  
                             }  
                             @{$importedrespids{$importid}} = split(/\s*,\s*/,$libresponseorder);  
                             if (@{$importedrespids{$importid}} > 0) {  
                                 $importedresponses = 1;  
 # We need to get the original file and the imported file to get the response order correct  
 # Load and inspect original file  
                                 if ($#origfiletagids<0) {  
                                     my $origfilelocation=$perlvar{'lonDocRoot'}.&clutter($uri);  
                                     $origfile=&getfile($origfilelocation);  
                                     @origfiletagids=($origfile=~/<((?:\w+)response|import|part)[^>]*id\s*=\s*[\"\']([^\"\']+)[\"\'][^>]*>/gs);  
                                 }  
                             }  
                         }  
 # Do not overwrite contents of %metaentry hash for resource itself with   
 # hash populated for imported library file  
                         %metaentry = %currmetaentry;  
                         undef(%currmetaentry);  
                         if ($importmode eq 'problem') {                          if ($importmode eq 'problem') {
 # Import as problem/response  # Import as problem/response
                            $unikey=&add_prefix_and_part($prefix,$token->[2]->{'part'});                             $unikey=&add_prefix_and_part($prefix,$token->[2]->{'part'});
Line 12560  sub metadata { Line 10938  sub metadata {
                            $importedparts=1;                             $importedparts=1;
 # We need to get the original file and the imported file to get the part order correct  # We need to get the original file and the imported file to get the part order correct
 # Good news: we do not need to worry about nested libraries, since parts cannot be nested  # Good news: we do not need to worry about nested libraries, since parts cannot be nested
 # Load and inspect original file if we didn't do that already  # Load and inspect original file
                            if ($#origfiletagids<0) {                             if ($#origfileimportpartids<0) {
                                undef(%importedrespids);                                undef(%importedpartids);
                                undef(%importedpartids);                                my $origfilelocation=$perlvar{'lonDocRoot'}.&clutter($uri);
                                if ($origfile eq '') {                                my $origfile=&getfile($origfilelocation);
                                    my $origfilelocation=$perlvar{'lonDocRoot'}.&clutter($uri);                                @origfileimportpartids=($origfile=~/<(part|import)[^>]*id\s*=\s*[\"\']([^\"\']+)[\"\'][^>]*>/gs);
                                    $origfile=&getfile($origfilelocation);  
                                    @origfiletagids=($origfile=~/<(part|import)[^>]*id\s*=\s*[\"\']([^\"\']+)[\"\'][^>]*>/gs);  
                                }  
                            }                             }
   
 # Load and inspect imported file  # Load and inspect imported file
Line 12682  sub metadata { Line 11057  sub metadata {
     grep { ! $seen{$_} ++ } (split(',',$metaentry{':packages'}));      grep { ! $seen{$_} ++ } (split(',',$metaentry{':packages'}));
  $metaentry{':packages'} = join(',',@uniq_packages);   $metaentry{':packages'} = join(',',@uniq_packages);
   
         if (($importedresponses) || ($importedparts)) {          if ($importedparts) {
             if ($importedparts) {  
 # We had imported parts and need to rebuild partorder  # We had imported parts and need to rebuild partorder
                 $metaentry{':partorder'}='';             $metaentry{':partorder'}='';
                 $metathesekeys{'partorder'}=1;             $metathesekeys{'partorder'}=1;
             }             for (my $index=0;$index<$#origfileimportpartids;$index+=2) {
             if ($importedresponses) {                 if ($origfileimportpartids[$index] eq 'part') {
 # We had imported responses and need to rebuild responseorder  # original part, part of the problem
                 $metaentry{':responseorder'}='';                    $metaentry{':partorder'}.=','.$origfileimportpartids[$index+1];
                 $metathesekeys{'responseorder'}=1;                 } else {
             }  # we have imported parts at this position
             for (my $index=0;$index<$#origfiletagids;$index+=2) {                    $metaentry{':partorder'}.=','.$importedpartids{$origfileimportpartids[$index+1]};
                 my $origid = $origfiletagids[$index+1];                 }
                 if ($origfiletagids[$index] eq 'part') {             }
 # Original part, part of the problem             $metaentry{':partorder'}=~s/^\,//;
                     if ($importedparts) {  
                         $metaentry{':partorder'}.=','.$origid;  
                     }  
                 } elsif ($origfiletagids[$index] eq 'import') {  
                     if ($importedparts) {  
 # We have imported parts at this position  
                         $metaentry{':partorder'}.=','.$importedpartids{$origid};  
                     }  
                     if ($importedresponses) {  
 # We have imported responses at this position  
                         if (ref($importedrespids{$origid}) eq 'ARRAY') {  
                             $metaentry{':responseorder'}.=','.join(',',map { $origid.'_'.$_ } @{$importedrespids{$origid}});  
                         }  
                     }  
                 } else {  
 # Original response item, part of the problem  
                     if ($importedresponses) {  
                         $metaentry{':responseorder'}.=','.$origid;  
                     }  
                 }  
             }  
             if ($importedparts) {  
                 $metaentry{':partorder'}=~s/^\,//;  
             }  
             if ($importedresponses) {  
                 $metaentry{':responseorder'}=~s/^\,//;  
             }  
         }          }
   
  $metaentry{':keys'} = join(',',keys(%metathesekeys));   $metaentry{':keys'} = join(',',keys(%metathesekeys));
Line 12988  sub symbverify { Line 11335  sub symbverify {
   
     if (tie(%bighash,'GDBM_File',$env{'request.course.fn'}.'.db',      if (tie(%bighash,'GDBM_File',$env{'request.course.fn'}.'.db',
                             &GDBM_READER(),0640)) {                              &GDBM_READER(),0640)) {
           my $noclutter;
         if (($thisurl =~ m{^/adm/wrapper/ext/}) || ($thisurl =~ m{^ext/})) {          if (($thisurl =~ m{^/adm/wrapper/ext/}) || ($thisurl =~ m{^ext/})) {
             $thisurl =~ s/\?.+$//;              $thisurl =~ s/\?.+$//;
             if ($map =~ m{^uploaded/.+\.page$}) {              if ($map =~ m{^uploaded/.+\.page$}) {
                 $thisurl =~ s{^(/adm/wrapper|)/ext/}{http://};                  $thisurl =~ s{^(/adm/wrapper|)/ext/}{http://};
                 $thisurl =~ s{^\Qhttp://https://\E}{https://};                  $thisurl =~ s{^\Qhttp://https://\E}{https://};
                   $noclutter = 1;
             }              }
         }          }
         my $ids;          my $ids;
         if ($map =~ m{^uploaded/.+\.page$}) {          if ($noclutter) {
             $ids=$bighash{'ids_'.&clutter_with_no_wrapper($thisurl)};              $ids=$bighash{'ids_'.$thisurl};
         } else {          } else {
             $ids=$bighash{'ids_'.&clutter($thisurl)};              $ids=$bighash{'ids_'.&clutter($thisurl)};
         }          }
         unless ($ids) {          unless ($ids) {
             my $idkey = 'ids_'.($thisurl =~ m{^/}? '' : '/').$thisurl;              my $idkey = 'ids_'.($thisurl =~ m{^/}? '' : '/').$thisurl;  
             $ids=$bighash{$idkey};              $ids=$bighash{$idkey};
         }          }
         if ($ids) {          if ($ids) {
Line 13018  sub symbverify { Line 11367  sub symbverify {
                    if (ref($encstate)) {                     if (ref($encstate)) {
                        $$encstate = $bighash{'encrypted_'.$id};                         $$encstate = $bighash{'encrypted_'.$id};
                    }                     }
                    if (($env{'request.role.adv'}) ||     if (($env{'request.role.adv'}) ||
                        ($bighash{'encrypted_'.$id} eq $env{'request.enc'}) ||         ($bighash{'encrypted_'.$id} eq $env{'request.enc'}) ||
                        ($thisurl eq '/adm/navmaps')) {                         ($thisurl eq '/adm/navmaps')) {
                        $okay=1;         $okay=1;
                        last;                         last;
                    }     }
                }         }
            }     }
         }          }
  untie(%bighash);   untie(%bighash);
     }      }
Line 13097  sub deversion { Line 11446  sub deversion {
 # ------------------------------------------------------ Return symb list entry  # ------------------------------------------------------ Return symb list entry
   
 sub symbread {  sub symbread {
     my ($thisfn,$donotrecurse,$ignorecachednull,$checkforblock,$possibles,      my ($thisfn,$donotrecurse,$ignorecachednull,$checkforblock,$possibles)=@_;
         $ignoresymbdb,$noenccheck)=@_;  
     my $cache_str='request.symbread.cached.'.$thisfn;      my $cache_str='request.symbread.cached.'.$thisfn;
     if (defined($env{$cache_str})) {      if (defined($env{$cache_str})) {
         unless (ref($possibles) eq 'HASH') {          if ($ignorecachednull) {
             if ($ignorecachednull) {              return $env{$cache_str} unless ($env{$cache_str} eq '');
                 return $env{$cache_str} unless ($env{$cache_str} eq '');          } else {
             } else {              return $env{$cache_str};
                 return $env{$cache_str};  
             }  
         }          }
     }      }
 # no filename provided? try from environment  # no filename provided? try from environment
     unless ($thisfn) {      unless ($thisfn) {
         if ($env{'request.symb'}) {          if ($env{'request.symb'}) {
             return $env{$cache_str}=&symbclean($env{'request.symb'});      return $env{$cache_str}=&symbclean($env{'request.symb'});
         }   }
         $thisfn=$env{'request.filename'};   $thisfn=$env{'request.filename'};
     }      }
     if ($thisfn=~m|^/enc/|) { $thisfn=&Apache::lonenc::unencrypted($thisfn); }      if ($thisfn=~m|^/enc/|) { $thisfn=&Apache::lonenc::unencrypted($thisfn); }
 # is that filename actually a symb? Verify, clean, and return  # is that filename actually a symb? Verify, clean, and return
Line 13135  sub symbread { Line 11481  sub symbread {
  if ($targetfn =~ m|^adm/wrapper/(ext/.*)|) {   if ($targetfn =~ m|^adm/wrapper/(ext/.*)|) {
     $targetfn=$1;      $targetfn=$1;
  }   }
         unless ($ignoresymbdb) {          if (tie(%hash,'GDBM_File',$env{'request.course.fn'}.'_symb.db',
             if (tie(%hash,'GDBM_File',$env{'request.course.fn'}.'_symb.db',                        &GDBM_READER(),0640)) {
                           &GDBM_READER(),0640)) {      $syval=$hash{$targetfn};
         $syval=$hash{$targetfn};              untie(%hash);
                 untie(%hash);  
             }  
             if ($syval && $checkforblock) {  
                 my @blockers = &has_comm_blocking('bre',$syval,$thisfn,$ignoresymbdb,$noenccheck);  
                 if (@blockers) {  
                     $syval='';  
                 }  
             }  
         }          }
 # ---------------------------------------------------------- There was an entry  # ---------------------------------------------------------- There was an entry
         if ($syval) {          if ($syval) {
Line 13179  sub symbread { Line 11517  sub symbread {
      $syval=&encode_symb($bighash{'map_id_'.$mapid},       $syval=&encode_symb($bighash{'map_id_'.$mapid},
     $resid,$thisfn);      $resid,$thisfn);
                      if (ref($possibles) eq 'HASH') {                       if (ref($possibles) eq 'HASH') {
                          unless ($bighash{'randomout_'.$ids} || $env{'request.role.adv'}) {                           $possibles->{$syval} = 1;    
                              $possibles->{$syval} = 1;  
                          }  
                      }                       }
                      if ($checkforblock) {                       if ($checkforblock) {
                          unless ($bighash{'randomout_'.$ids} || $env{'request.role.adv'}) {                           my @blockers = &has_comm_blocking('bre',$syval,$bighash{'src_'.$ids});
                              my @blockers = &has_comm_blocking('bre',$syval,$bighash{'src_'.$ids},'',$noenccheck);                           if (@blockers) {
                              if (@blockers) {                               $syval = '';
                                  $syval = '';                               return;
                                  untie(%bighash);  
                                  return $env{$cache_str}='';  
                              }  
                          }                           }
                      }                       }
                  } elsif ((!$donotrecurse) || ($checkforblock) || (ref($possibles) eq 'HASH')) {                   } elsif ((!$donotrecurse) || ($checkforblock) || (ref($possibles) eq 'HASH')) { 
 # ------------------------------------------ There is more than one possibility  # ------------------------------------------ There is more than one possibility
                      my $realpossible=0;                       my $realpossible=0;
                      foreach my $id (@possibilities) {                       foreach my $id (@possibilities) {
Line 13201  sub symbread { Line 11534  sub symbread {
                          my $canaccess;                           my $canaccess;
                          if (($donotrecurse) || ($checkforblock) || (ref($possibles) eq 'HASH')) {                           if (($donotrecurse) || ($checkforblock) || (ref($possibles) eq 'HASH')) {
                              $canaccess = 1;                               $canaccess = 1;
                          } else {                           } else { 
                              $canaccess = &allowed('bre',$file);                               $canaccess = &allowed('bre',$file);
                          }                           }
                          if ($canaccess) {                           if ($canaccess) {
               my ($mapid,$resid)=split(/\./,$id);                my ($mapid,$resid)=split(/\./,$id);
                              if ($bighash{'map_type_'.$mapid} ne 'page') {                               if ($bighash{'map_type_'.$mapid} ne 'page') {
                                  my $poss_syval=&encode_symb($bighash{'map_id_'.$mapid},                                   my $poss_syval=&encode_symb($bighash{'map_id_'.$mapid},
                                                              $resid,$thisfn);               $resid,$thisfn);
                                  next if ($bighash{'randomout_'.$id} && !$env{'request.role.adv'});                                   if (ref($possibles) eq 'HASH') {
                                  next unless (($noenccheck) || ($bighash{'encrypted_'.$id} eq $env{'request.enc'}));                                       $possibles->{$syval} = 1;
                                    }
                                  if ($checkforblock) {                                   if ($checkforblock) {
                                      my @blockers = &has_comm_blocking('bre',$poss_syval,$file,'',$noenccheck);                                       my @blockers = &has_comm_blocking('bre',$poss_syval,$file);
                                      if (@blockers > 0) {                                       unless (@blockers > 0) {
                                          $syval = '';  
                                      } else {  
                                          $syval = $poss_syval;                                           $syval = $poss_syval;
                                          $realpossible++;                                           $realpossible++;
                                      }                                       }
Line 13223  sub symbread { Line 11555  sub symbread {
                                      $syval = $poss_syval;                                       $syval = $poss_syval;
                                      $realpossible++;                                       $realpossible++;
                                  }                                   }
                                  if ($syval) {  
                                      if (ref($possibles) eq 'HASH') {  
                                          $possibles->{$syval} = 1;  
                                      }  
                                  }  
                              }                               }
  }   }
                      }                       }
Line 13389  sub rndseed { Line 11716  sub rndseed {
  $which =&get_rand_alg($courseid);   $which =&get_rand_alg($courseid);
     }      }
     if (defined(&getCODE())) {      if (defined(&getCODE())) {
   
  if ($which eq '64bit5') {   if ($which eq '64bit5') {
     return &rndseed_CODE_64bit5($symb,$courseid,$domain,$username);      return &rndseed_CODE_64bit5($symb,$courseid,$domain,$username);
  } elsif ($which eq '64bit4') {   } elsif ($which eq '64bit4') {
Line 13574  sub rndseed_CODE_64bit5 { Line 11902  sub rndseed_CODE_64bit5 {
 sub setup_random_from_rndseed {  sub setup_random_from_rndseed {
     my ($rndseed)=@_;      my ($rndseed)=@_;
     if ($rndseed =~/([,:])/) {      if ($rndseed =~/([,:])/) {
  my ($num1,$num2) = map { abs($_); } (split(/[,:]/,$rndseed));          my ($num1,$num2) = map { abs($_); } (split(/[,:]/,$rndseed));
         if ((!$num1) || (!$num2) || ($num1 > 2147483562) || ($num2 > 2147483398)) {          if ((!$num1) || (!$num2) || ($num1 > 2147483562) || ($num2 > 2147483398)) {
             &Math::Random::random_set_seed_from_phrase($rndseed);              &Math::Random::random_set_seed_from_phrase($rndseed);
         } else {          } else {
Line 13765  sub repcopy_userfile { Line 12093  sub repcopy_userfile {
     my $request;      my $request;
     $uri=~s/^\///;      $uri=~s/^\///;
     my $homeserver = &homeserver($cnum,$cdom);      my $homeserver = &homeserver($cnum,$cdom);
     my $hostname = &hostname($homeserver);  
     my $protocol = $protocol{$homeserver};      my $protocol = $protocol{$homeserver};
     $protocol = 'http' if ($protocol ne 'https');      $protocol = 'http' if ($protocol ne 'https');
     $request=new HTTP::Request('GET',$protocol.'://'.$hostname.'/raw/'.$uri);      $request=new HTTP::Request('GET',$protocol.'://'.&hostname($homeserver).'/raw/'.$uri);
     my $response=$ua->request($request,$transferfile);      my $response=$ua->request($request,$transferfile);
 # did it work?  # did it work?
     if ($response->is_error()) {      if ($response->is_error()) {
Line 13792  sub tokenwrapper { Line 12119  sub tokenwrapper {
  $file=~s|(\?\.*)*$||;   $file=~s|(\?\.*)*$||;
         &appenv({"userfile.$udom/$uname/$file" => $env{'request.course.id'}});          &appenv({"userfile.$udom/$uname/$file" => $env{'request.course.id'}});
         my $homeserver = &homeserver($uname,$udom);          my $homeserver = &homeserver($uname,$udom);
         my $hostname = &hostname($homeserver);  
         my $protocol = $protocol{$homeserver};          my $protocol = $protocol{$homeserver};
         $protocol = 'http' if ($protocol ne 'https');          $protocol = 'http' if ($protocol ne 'https');
         return $protocol.'://'.$hostname.'/'.$uri.          return $protocol.'://'.&hostname($homeserver).'/'.$uri.
                (($uri=~/\?/)?'&':'?').'token='.$token.                 (($uri=~/\?/)?'&':'?').'token='.$token.
                                '&tokenissued='.$perlvar{'lonHostID'};                                 '&tokenissued='.$perlvar{'lonHostID'};
     } else {      } else {
Line 13811  sub getuploaded { Line 12137  sub getuploaded {
     my ($reqtype,$uri,$cdom,$cnum,$info,$rtncode) = @_;      my ($reqtype,$uri,$cdom,$cnum,$info,$rtncode) = @_;
     $uri=~s/^\///;      $uri=~s/^\///;
     my $homeserver = &homeserver($cnum,$cdom);      my $homeserver = &homeserver($cnum,$cdom);
     my $hostname = &hostname($homeserver);  
     my $protocol = $protocol{$homeserver};      my $protocol = $protocol{$homeserver};
     $protocol = 'http' if ($protocol ne 'https');      $protocol = 'http' if ($protocol ne 'https');
     $uri = $protocol.'://'.$hostname.'/raw/'.$uri;      $uri = $protocol.'://'.&hostname($homeserver).'/raw/'.$uri;
     my $ua=new LWP::UserAgent;      my $ua=new LWP::UserAgent;
     my $request=new HTTP::Request($reqtype,$uri);      my $request=new HTTP::Request($reqtype,$uri);
     my $response=$ua->request($request);      my $response=$ua->request($request);
Line 13834  sub readfile { Line 12159  sub readfile {
     my $file = shift;      my $file = shift;
     if ( (! -e $file ) || ($file eq '') ) { return -1; };      if ( (! -e $file ) || ($file eq '') ) { return -1; };
     my $fh;      my $fh;
     open($fh,"<",$file);      open($fh,"<$file");
     my $a='';      my $a='';
     while (my $line = <$fh>) { $a .= $line; }      while (my $line = <$fh>) { $a .= $line; }
     return $a;      return $a;
Line 13947  sub machine_ids { Line 12272  sub machine_ids {
   
 sub additional_machine_domains {  sub additional_machine_domains {
     my @domains;      my @domains;
     if (-e "$perlvar{'lonTabDir'}/expected_domains.tab") {      open(my $fh,"<$perlvar{'lonTabDir'}/expected_domains.tab");
         if (open(my $fh,"<","$perlvar{'lonTabDir'}/expected_domains.tab")) {      while( my $line = <$fh>) {
             while( my $line = <$fh>) {          $line =~ s/\s//g;
                 chomp($line);          push(@domains,$line);
                 $line =~ s/\s//g;  
                 push(@domains,$line);  
             }  
             close($fh);  
         }  
     }      }
     return @domains;      return @domains;
 }  }
Line 13973  sub default_login_domain { Line 12293  sub default_login_domain {
     return $domain;      return $domain;
 }  }
   
 sub shared_institution {  
     my ($dom,$lonhost) = @_;  
     if ($lonhost eq '') {  
         $lonhost = $perlvar{'lonHostID'};  
     }  
     my $same_intdom;  
     my $hostintdom = &internet_dom($lonhost);  
     if ($hostintdom ne '') {  
         my %iphost = &get_iphost();  
         my $primary_id = &domain($dom,'primary');  
         my $primary_ip = &get_host_ip($primary_id);  
         if (ref($iphost{$primary_ip}) eq 'ARRAY') {  
             foreach my $id (@{$iphost{$primary_ip}}) {  
                 my $intdom = &internet_dom($id);  
                 if ($intdom eq $hostintdom) {  
                     $same_intdom = 1;  
                     last;  
                 }  
             }  
         }  
     }  
     return $same_intdom;  
 }  
   
 sub uses_sts {  
     my ($ignore_cache) = @_;  
     my $lonhost = $perlvar{'lonHostID'};  
     my $hostname = &hostname($lonhost);  
     my $sts_on;  
     if ($protocol{$lonhost} eq 'https') {  
         my $cachetime = 12*3600;  
         if (!$ignore_cache) {  
             ($sts_on,my $cached)=&is_cached_new('stspolicy',$lonhost);  
             if (defined($cached)) {  
                 return $sts_on;  
             }  
         }  
         my $ua=new LWP::UserAgent;  
         my $url = $protocol{$lonhost}.'://'.$hostname.'/index.html';  
         my $request=new HTTP::Request('HEAD',$url);  
         my $response=$ua->request($request);  
         if ($response->is_success) {  
             my $has_sts = $response->header('Strict-Transport-Security');  
             if ($has_sts eq '') {  
                 $sts_on = 0;  
             } else {  
                 if ($has_sts =~ /\Qmax-age=\E(\d+)/) {  
                     my $maxage = $1;  
                     if ($maxage) {  
                         $sts_on = 1;  
                     } else {  
                         $sts_on = 0;  
                     }  
                 } else {  
                     $sts_on = 0;  
                 }  
             }  
             return &do_cache_new('stspolicy',$lonhost,$sts_on,$cachetime);  
         }  
     }  
     return;  
 }  
   
 sub waf_allssl {  
     my ($host_name) = @_;  
     my $alias = &get_proxy_alias();  
     if ($host_name eq '') {  
         $host_name = $ENV{'SERVER_NAME'};  
     }  
     if (($host_name ne '') && ($alias eq $host_name)) {  
         my $serverhomedom = &host_domain($perlvar{'lonHostID'});  
         my %defdomdefaults = &get_domain_defaults($serverhomedom);  
         if ($defdomdefaults{'waf_sslopt'}) {  
             return $defdomdefaults{'waf_sslopt'};  
         }  
     }  
     return;  
 }  
   
 sub get_requestor_ip {  
     my ($r,$nolookup,$noproxy) = @_;  
     my $from_ip;  
     if (ref($r)) {  
         if ($r->can('useragent_ip')) {  
             if ($noproxy && $r->can('client_ip')) {  
                 $from_ip = $r->client_ip();  
             } else {  
                 $from_ip = $r->useragent_ip();  
             }  
         } elsif ($r->connection->can('remote_ip')) {  
             $from_ip = $r->connection->remote_ip();  
         } else {  
             $from_ip = $r->get_remote_host($nolookup);  
         }  
     } else {  
         $from_ip = $ENV{'REMOTE_ADDR'};  
     }  
     return $from_ip if ($noproxy);  
    # Who controls proxy settings for server  
     my $dom_in_use = $Apache::lonnet::perlvar{'lonDefDomain'};  
     my $proxyinfo = &get_proxy_settings($dom_in_use);  
     if ((ref($proxyinfo) eq 'HASH') && ($from_ip)) {  
         if ($proxyinfo->{'vpnint'}) {  
             if (&ip_match($from_ip,$proxyinfo->{'vpnint'})) {  
                 return $from_ip;  
             }  
         }  
         if ($proxyinfo->{'trusted'}) {  
             if (&ip_match($from_ip,$proxyinfo->{'trusted'})) {  
                 my $ipheader = $proxyinfo->{'ipheader'};  
                 my ($ip,$xfor);  
                 if (ref($r)) {  
                     if ($ipheader) {  
                         $ip = $r->headers_in->{$ipheader};  
                     }  
                     $xfor = $r->headers_in->{'X-Forwarded-For'};  
                 } else {  
                     if ($ipheader) {  
                         $ip = $ENV{'HTTP_'.uc($ipheader)};  
                     }  
                     $xfor = $ENV{'HTTP_X_FORWARDED_FOR'};  
                 }  
                 if (($ip eq '') && ($xfor ne '')) {  
                     foreach my $poss_ip (reverse(split(/\s*,\s*/,$xfor))) {  
                         unless (&ip_match($poss_ip,$proxyinfo->{'trusted'})) {  
                             $ip = $poss_ip;  
                             last;  
                         }  
                     }  
                 }  
                 if ($ip ne '') {  
                     return $ip;  
                 }  
             }  
         }  
     }  
     return $from_ip;  
 }  
   
 sub get_proxy_settings {  
     my ($dom_in_use) = @_;  
     my %domdefaults = &Apache::lonnet::get_domain_defaults($dom_in_use);  
     my $proxyinfo = {  
                        ipheader => $domdefaults{'waf_ipheader'},  
                        trusted  => $domdefaults{'waf_trusted'},  
                        vpnint   => $domdefaults{'waf_vpnint'},  
                        vpnext   => $domdefaults{'waf_vpnext'},  
                        sslopt   => $domdefaults{'waf_sslopt'},  
                     };  
     return $proxyinfo;  
 }  
   
 sub ip_match {  
     my ($ip,$pattern_str) = @_;  
     $ip=Net::CIDR::cidrvalidate($ip);  
     if ($ip) {  
         return Net::CIDR::cidrlookup($ip,split(/\s*,\s*/,$pattern_str));  
     }  
     return;  
 }  
   
 sub get_proxy_alias {  
     my ($lonid) = @_;  
     if ($lonid eq '') {  
         $lonid = $perlvar{'lonHostID'};  
     }  
     if (!defined(&hostname($lonid))) {  
         return;  
     }  
     if ($lonid ne '') {  
         my ($alias,$cached) = &is_cached_new('proxyalias',$lonid);  
         if ($cached) {  
             return $alias;  
         }  
         my $dom = &Apache::lonnet::host_domain($lonid);  
         if ($dom ne '') {  
             my $cachetime = 60*60*24;  
             my %domconfig =  
                 &Apache::lonnet::get_dom('configuration',['wafproxy'],$dom);  
             if (ref($domconfig{'wafproxy'}) eq 'HASH') {  
                 if (ref($domconfig{'wafproxy'}{'alias'}) eq 'HASH') {  
                     $alias = $domconfig{'wafproxy'}{'alias'}{$lonid};  
                 }  
             }  
             return &do_cache_new('proxyalias',$lonid,$alias,$cachetime);  
         }  
     }  
     return;  
 }  
   
 sub use_proxy_alias {  
     my ($r,$lonid) = @_;  
     my $alias = &get_proxy_alias($lonid);  
     if ($alias) {  
         my $dom = &host_domain($lonid);  
         if ($dom ne '') {  
             my $proxyinfo = &get_proxy_settings($dom);  
             my ($vpnint,$remote_ip);  
             if (ref($proxyinfo) eq 'HASH') {  
                 $vpnint = $proxyinfo->{'vpnint'};  
                 if ($vpnint) {  
                     $remote_ip = &get_requestor_ip($r,1,1);  
                 }  
             }  
             unless ($vpnint && &ip_match($remote_ip,$vpnint)) {  
                 return $alias;  
             }  
         }  
     }  
     return;  
 }  
   
 sub alias_sso {  
     my ($lonid) = @_;  
     if ($lonid eq '') {  
         $lonid = $perlvar{'lonHostID'};  
     }  
     if (!defined(&hostname($lonid))) {  
         return;  
     }  
     if ($lonid ne '') {  
         my ($use_alias,$cached) = &is_cached_new('proxysaml',$lonid);  
         if ($cached) {  
             return $use_alias;  
         }  
         my $dom = &Apache::lonnet::host_domain($lonid);  
         if ($dom ne '') {  
             my $cachetime = 60*60*24;  
             my %domconfig =  
                 &Apache::lonnet::get_dom('configuration',['wafproxy'],$dom);  
             if (ref($domconfig{'wafproxy'}) eq 'HASH') {  
                 if (ref($domconfig{'wafproxy'}{'saml'}) eq 'HASH') {  
                     $use_alias = $domconfig{'wafproxy'}{'saml'}{$lonid};  
                 }  
             }  
             return &do_cache_new('proxysaml',$lonid,$use_alias,$cachetime);  
         }  
     }  
     return;  
 }  
   
 sub get_saml_landing {  
     my ($lonid) = @_;  
     if ($lonid eq '') {  
         my $defdom = &default_login_domain();  
         my @hosts = &current_machine_ids();  
         if (@hosts > 1) {  
             foreach my $hostid (@hosts) {  
                 if (&host_domain($hostid) eq $defdom) {  
                     $lonid = $hostid;  
                     last;  
                 }  
             }  
         } else {  
             $lonid = $perlvar{'lonHostID'};  
         }  
         if ($lonid) {  
             unless (&Apache::lonnet::host_domain($lonid) eq $defdom) {  
                 return;  
             }  
         } else {  
             return;  
         }  
     } elsif (!defined(&hostname($lonid))) {  
         return;  
     }  
     my ($landing,$cached) = &is_cached_new('samllanding',$lonid);  
     if ($cached) {  
         return $landing;  
     }  
     my $dom = &Apache::lonnet::host_domain($lonid);  
     if ($dom ne '') {  
         my $cachetime = 60*60*24;  
         my %domconfig =  
             &Apache::lonnet::get_dom('configuration',['login'],$dom);  
         if (ref($domconfig{'login'}) eq 'HASH') {  
             if (ref($domconfig{'login'}{'saml'}) eq 'HASH') {  
                 if (ref($domconfig{'login'}{'saml'}{$lonid}) eq 'HASH') {  
                     $landing = 1;  
                 }  
             }  
         }  
         return &do_cache_new('samllanding',$lonid,$landing,$cachetime);  
     }  
     return;  
 }  
   
 # ------------------------------------------------------------- Declutters URLs  # ------------------------------------------------------------- Declutters URLs
   
 sub declutter {  sub declutter {
Line 14310  sub clutter { Line 12343  sub clutter {
 # &logthis("Got a blank emb style");  # &logthis("Got a blank emb style");
     }      }
  }   }
     } elsif ($thisfn =~ m{^/adm/$match_domain/$match_courseid/\d+/ext\.tool$}) {      } elsif ($thisfn =~ m{^/adm/$match_domain/$match_courseid/\d+/exttools?$}) {
         $thisfn='/adm/wrapper'.$thisfn;          $thisfn='/adm/wrapper'.$thisfn;
     }      }
     return $thisfn;      return $thisfn;
Line 14385  sub get_dns { Line 12418  sub get_dns {
     }      }
   
     my %alldns;      my %alldns;
     if (open(my $config,"<","$perlvar{'lonTabDir'}/hosts.tab")) {      open(my $config,"<$perlvar{'lonTabDir'}/hosts.tab");
         foreach my $dns (<$config>) {      foreach my $dns (<$config>) {
     next if ($dns !~ /^\^(\S*)/x);   next if ($dns !~ /^\^(\S*)/x);
             my $line = $1;          my $line = $1;
             my ($host,$protocol) = split(/:/,$line);          my ($host,$protocol) = split(/:/,$line);
             if ($protocol ne 'https') {          if ($protocol ne 'https') {
                 $protocol = 'http';              $protocol = 'http';
             }  
     $alldns{$host} = $protocol;  
         }          }
         close($config);   $alldns{$host} = $protocol;
     }      }
     while (%alldns) {      while (%alldns) {
  my ($dns) = sort { $b cmp $a } keys(%alldns);   my ($dns) = sort { $b cmp $a } keys(%alldns);
         my @content;   my $ua=new LWP::UserAgent;
         if ($dns eq Sys::Hostname::FQDN::fqdn()) {          $ua->timeout(30);
             my $command = (split('/',$url))[3];   my $request=new HTTP::Request('GET',"$alldns{$dns}://$dns$url");
             my ($dir,$file) = &parse_getdns_url($command,$url);   my $response=$ua->request($request);
             delete($alldns{$dns});          delete($alldns{$dns});
             next if (($dir eq '') || ($file eq ''));   next if ($response->is_error());
             if (open(my $config,'<',"$dir/$file")) {   my @content = split("\n",$response->content);
                 @content = <$config>;   unless ($nocache) {
                 close($config);  
             }  
         } else {  
     my $ua=new LWP::UserAgent;  
             $ua->timeout(30);  
     my $request=new HTTP::Request('GET',"$alldns{$dns}://$dns$url");  
     my $response=$ua->request($request);  
             delete($alldns{$dns});  
     next if ($response->is_error());  
     @content = split("\n",$response->content);  
         }  
         unless ($nocache) {  
     &do_cache_new('dns',$url,\@content,30*24*60*60);      &do_cache_new('dns',$url,\@content,30*24*60*60);
         }   }
  &$func(\@content,$hashref);   &$func(\@content,$hashref);
  return;   return;
     }      }
       close($config);
     my $which = (split('/',$url))[3];      my $which = (split('/',$url))[3];
     &logthis("unable to contact DNS defaulting to on disk file dns_$which.tab\n");      &logthis("unable to contact DNS defaulting to on disk file dns_$which.tab\n");
     if (open(my $config,"<","$perlvar{'lonTabDir'}/dns_$which.tab")) {      open($config,"<$perlvar{'lonTabDir'}/dns_$which.tab");
         my @content = <$config>;      my @content = <$config>;
         &$func(\@content,$hashref);      &$func(\@content,$hashref);
     }  
     return;      return;
 }  }
   
Line 14457  sub parse_dns_checksums_tab { Line 12476  sub parse_dns_checksums_tab {
     if (ref($lines) eq 'ARRAY') {      if (ref($lines) eq 'ARRAY') {
         chomp(@{$lines});          chomp(@{$lines});
         my $version = shift(@{$lines});          my $version = shift(@{$lines});
         if ($version eq $release) {          if ($version eq $release) {  
             foreach my $line (@{$lines}) {              foreach my $line (@{$lines}) {
                 my ($file,$version,$shasum) = split(/,/,$line);                  my ($file,$version,$shasum) = split(/,/,$line);
                 if ($file =~ m{^/etc/httpd/conf}) {                  if ($file =~ m{^/etc/httpd/conf}) {
Line 14489  sub fetch_dns_checksums { Line 12508  sub fetch_dns_checksums {
     return \%checksums;      return \%checksums;
 }  }
   
 sub parse_getdns_url {  
     my ($command,$url) = @_;  
     my $dir = $perlvar{'lonTabDir'};  
     my $file;  
     if ($command eq 'hosts') {  
         $file = 'dns_hosts.tab';  
     } elsif ($command eq 'domain') {  
         $file = 'dns_domain.tab';  
     } elsif ($command eq 'checksums') {  
         my $version = (split('/',$url))[4];  
         $file = "dns_checksums/$version.tab",  
     }  
     return ($dir,$file);  
 }  
   
 # ------------------------------------------------------------ Read domain file  # ------------------------------------------------------------ Read domain file
 {  {
     my $loaded;      my $loaded;
Line 14535  sub parse_getdns_url { Line 12539  sub parse_getdns_url {
  my ($ignore_cache,$nocache) = @_;   my ($ignore_cache,$nocache) = @_;
  &get_dns('/adm/dns/domain',\&parse_domain_tab,$ignore_cache,$nocache);   &get_dns('/adm/dns/domain',\&parse_domain_tab,$ignore_cache,$nocache);
  my $fh;   my $fh;
  if (open($fh,"<",$perlvar{'lonTabDir'}.'/domain.tab')) {   if (open($fh,"<".$perlvar{'lonTabDir'}.'/domain.tab')) {
     my @lines = <$fh>;      my @lines = <$fh>;
     &parse_domain_tab(\@lines);      &parse_domain_tab(\@lines);
  }   }
Line 14587  sub parse_getdns_url { Line 12591  sub parse_getdns_url {
     my ($id,$domain,$role,$name,$protocol,$intdom)=split(/:/,$configline);      my ($id,$domain,$role,$name,$protocol,$intdom)=split(/:/,$configline);
     $name=~s/\s//g;      $name=~s/\s//g;
     if ($id && $domain && $role && $name) {      if ($id && $domain && $role && $name) {
                 if ((exists($hostname{$id})) && ($hostname{$id} ne '')) {  
                     my $curr = $hostname{$id};  
                     my $skip;  
                     if (ref($name_to_host{$curr}) eq 'ARRAY') {  
                         if (($curr eq $name) && (@{$name_to_host{$curr}} == 1)) {  
                             $skip = 1;  
                         } else {  
                             @{$name_to_host{$curr}} = grep { $_ ne $id } @{$name_to_host{$curr}};  
                         }  
                     }  
                     unless ($skip) {  
                         push(@{$name_to_host{$name}},$id);  
                     }  
                 } else {  
                     push(@{$name_to_host{$name}},$id);  
                 }  
  $hostname{$id}=$name;   $hostname{$id}=$name;
    push(@{$name_to_host{$name}}, $id);
  $hostdom{$id}=$domain;   $hostdom{$id}=$domain;
  if ($role eq 'library') { $libserv{$id}=$name; }   if ($role eq 'library') { $libserv{$id}=$name; }
                 if (defined($protocol)) {                  if (defined($protocol)) {
Line 14636  sub parse_getdns_url { Line 12625  sub parse_getdns_url {
     sub load_hosts_tab {      sub load_hosts_tab {
  my ($ignore_cache,$nocache) = @_;   my ($ignore_cache,$nocache) = @_;
  &get_dns('/adm/dns/hosts',\&parse_hosts_tab,$ignore_cache,$nocache);   &get_dns('/adm/dns/hosts',\&parse_hosts_tab,$ignore_cache,$nocache);
  open(my $config,"<","$perlvar{'lonTabDir'}/hosts.tab");   open(my $config,"<$perlvar{'lonTabDir'}/hosts.tab");
  my @config = <$config>;   my @config = <$config>;
  &parse_hosts_tab(\@config);   &parse_hosts_tab(\@config);
  close($config);   close($config);
Line 14898  sub all_loncaparevs { Line 12887  sub all_loncaparevs {
     return qw(1.1 1.2 1.3 2.0 2.1 2.2 2.3 2.4 2.5 2.6 2.7 2.8 2.9 2.10 2.11);      return qw(1.1 1.2 1.3 2.0 2.1 2.2 2.3 2.4 2.5 2.6 2.7 2.8 2.9 2.10 2.11);
 }  }
   
 # ------------------------------------------------------- Read loncaparev table  # ---------------------------------------------------------- Read loncaparev table
 {  {
     sub load_loncaparevs {      sub load_loncaparevs { 
         if (-e "$perlvar{'lonTabDir'}/loncaparevs.tab") {          if (-e "$perlvar{'lonTabDir'}/loncaparevs.tab") {
             if (open(my $config,"<","$perlvar{'lonTabDir'}/loncaparevs.tab")) {              if (open(my $config,"<$perlvar{'lonTabDir'}/loncaparevs.tab")) {
                 while (my $configline=<$config>) {                  while (my $configline=<$config>) {
                     chomp($configline);                      chomp($configline);
                     my ($hostid,$loncaparev)=split(/:/,$configline);                      my ($hostid,$loncaparev)=split(/:/,$configline);
Line 14914  sub all_loncaparevs { Line 12903  sub all_loncaparevs {
     }      }
 }  }
   
 # ----------------------------------------------------- Read serverhostID table  # ---------------------------------------------------------- Read serverhostID table
 {  {
     sub load_serverhomeIDs {      sub load_serverhomeIDs {
         if (-e "$perlvar{'lonTabDir'}/serverhomeIDs.tab") {          if (-e "$perlvar{'lonTabDir'}/serverhomeIDs.tab") {
             if (open(my $config,"<","$perlvar{'lonTabDir'}/serverhomeIDs.tab")) {              if (open(my $config,"<$perlvar{'lonTabDir'}/serverhomeIDs.tab")) {
                 while (my $configline=<$config>) {                  while (my $configline=<$config>) {
                     chomp($configline);                      chomp($configline);
                     my ($name,$id)=split(/:/,$configline);                      my ($name,$id)=split(/:/,$configline);
Line 14943  BEGIN { Line 12932  BEGIN {
   
 # ------------------------------------------------------ Read spare server file  # ------------------------------------------------------ Read spare server file
 {  {
     open(my $config,"<","$perlvar{'lonTabDir'}/spare.tab");      open(my $config,"<$perlvar{'lonTabDir'}/spare.tab");
   
     while (my $configline=<$config>) {      while (my $configline=<$config>) {
        chomp($configline);         chomp($configline);
Line 14957  BEGIN { Line 12946  BEGIN {
 }  }
 # ------------------------------------------------------------ Read permissions  # ------------------------------------------------------------ Read permissions
 {  {
     open(my $config,"<","$perlvar{'lonTabDir'}/roles.tab");      open(my $config,"<$perlvar{'lonTabDir'}/roles.tab");
   
     while (my $configline=<$config>) {      while (my $configline=<$config>) {
  chomp($configline);   chomp($configline);
Line 14971  BEGIN { Line 12960  BEGIN {
   
 # -------------------------------------------- Read plain texts for permissions  # -------------------------------------------- Read plain texts for permissions
 {  {
     open(my $config,"<","$perlvar{'lonTabDir'}/rolesplain.tab");      open(my $config,"<$perlvar{'lonTabDir'}/rolesplain.tab");
   
     while (my $configline=<$config>) {      while (my $configline=<$config>) {
  chomp($configline);   chomp($configline);
Line 14991  BEGIN { Line 12980  BEGIN {
   
 # ---------------------------------------------------------- Read package table  # ---------------------------------------------------------- Read package table
 {  {
     open(my $config,"<","$perlvar{'lonTabDir'}/packages.tab");      open(my $config,"<$perlvar{'lonTabDir'}/packages.tab");
   
     while (my $configline=<$config>) {      while (my $configline=<$config>) {
  if ($configline !~ /\S/ || $configline=~/^#/) { next; }   if ($configline !~ /\S/ || $configline=~/^#/) { next; }
Line 15006  BEGIN { Line 12995  BEGIN {
     close($config);      close($config);
 }  }
   
 # --------------------------------------------------------- Read loncaparev table  # ---------------------------------------------------------- Read loncaparev table
   
 &load_loncaparevs();  &load_loncaparevs();
   
 # ------------------------------------------------------- Read serverhostID table  # ---------------------------------------------------------- Read serverhostID table
   
 &load_serverhomeIDs();  &load_serverhomeIDs();
   
Line 15024  BEGIN { Line 13013  BEGIN {
                 my $item = $token->[1];                  my $item = $token->[1];
                 my $name = $token->[2]{'name'};                  my $name = $token->[2]{'name'};
                 my $value = $token->[2]{'value'};                  my $value = $token->[2]{'value'};
                 if ($item ne '' && $name ne '' && $value ne '') {                  my $valuematch = $token->[2]{'valuematch'};
                   if ($item ne '' && $name ne '' && ($value ne '' || $valuematch ne '')) {
                     my $release = $parser->get_text();                      my $release = $parser->get_text();
                     $release =~ s/(^\s*|\s*$ )//gx;                      $release =~ s/(^\s*|\s*$ )//gx;
                     $needsrelease{$item.':'.$name.':'.$value} = $release;                      $needsrelease{$item.':'.$name.':'.$value.':'.$valuematch} = $release;
                 }                  }
             }              }
         }          }
Line 15037  BEGIN { Line 13027  BEGIN {
 # ---------------------------------------------------------- Read managers table  # ---------------------------------------------------------- Read managers table
 {  {
     if (-e "$perlvar{'lonTabDir'}/managers.tab") {      if (-e "$perlvar{'lonTabDir'}/managers.tab") {
         if (open(my $config,"<","$perlvar{'lonTabDir'}/managers.tab")) {          if (open(my $config,"<$perlvar{'lonTabDir'}/managers.tab")) {
             while (my $configline=<$config>) {              while (my $configline=<$config>) {
                 chomp($configline);                  chomp($configline);
                 next if ($configline =~ /^\#/);                  next if ($configline =~ /^\#/);
Line 15056  BEGIN { Line 13046  BEGIN {
   
 }  }
   
 # ------------- set default texengine (domain default overrides this)  
 {  
     $deftex = LONCAPA::texengine();  
 }  
   
 # ------------- set default minimum length for passwords for internal auth users  
 {  
     $passwdmin = LONCAPA::passwd_min();  
 }  
   
 $memcache=new Cache::Memcached({'servers'           => ['127.0.0.1:11211'],  $memcache=new Cache::Memcached({'servers'           => ['127.0.0.1:11211'],
  'compress_threshold'=> 20_000,   'compress_threshold'=> 20_000,
          });           });
Line 15307  the answer, and also caches if there is Line 13287  the answer, and also caches if there is
   
 =item *  =item *
 X<idget()>  X<idget()>
 B<idget($udom,@ids)>: find the usernames behind a list of IDs  B<idget($udom,$idsref,$namespace)>: find the usernames behind either 
 (IDs are a unique resource in a domain, there must be only 1 ID per  a list of student/employee IDs or clicker IDs
 username, and only 1 username per ID in a specific domain) (returns  (student/employee IDs are a unique resource in a domain, there must be 
 hash: id=>name,id=>name)  only 1 ID per username, and only 1 username per ID in a specific domain).
   clickerIDs are not necessarily unique, as students might share clickers.
   (returns hash: id=>name,id=>name)
   
 =item *  =item *
 X<idrget()>  X<idrget()>
Line 15319  usernames (returns hash: name=>id,name=> Line 13301  usernames (returns hash: name=>id,name=>
   
 =item *  =item *
 X<idput()>  X<idput()>
 B<idput($udom,%ids)>: store away a list of names and associated IDs  B<idput($udom,$idsref,$uhome,$namespace)>: store away a list of 
   names and associated student/employee IDs or clicker IDs.
   
   =item *
   X<iddel()>
   B<iddel($udom,$idshashref,$uhome,$namespace)>: delete unwanted 
   student/employee ID or clicker ID username look-ups from domain.
   The homeserver ($uhome) and namespace ($namespace) are optional.
   If no $uhome is provided, it will be determined usig &homeserver()
   for each user.  If no $namespace is provided, the default is ids.
   
   =item *
   X<updateclickers()>
   B<updateclickers($udom,$action,$idshashref,$uhome,$critical)>: update 
   clicker ID-to-username look-ups in clickers.db on library server.
   Permitted actions are add or del (i.e., add or delete). The 
   clickers.db contains clickerID as keys (escaped), and each corresponding
   value is an escaped comma-separated list of usernames (for whom the
   library server is the homeserver), who registered that particular ID.
   If $critical is true, the update will be sent via &critical, otherwise
   &reply() will be used.
   
 =item *  =item *
 X<rolesinit()>  X<rolesinit()>
Line 15367  The first argument is required, all othe Line 13369  The first argument is required, all othe
   
 $priv is the privilege being checked.  $priv is the privilege being checked.
 $uri contains additional information about what is being checked for access (e.g.,  $uri contains additional information about what is being checked for access (e.g.,
 URL, course ID etc.).  URL, course ID etc.). 
 $symb is the unique resource instance identifier in a course; if needed,  $symb is the unique resource instance identifier in a course; if needed,
 but not provided, it will be retrieved via a call to &symbread().  but not provided, it will be retrieved via a call to &symbread(). 
 $role is the role for which a priv is being checked (only used if priv is evb).  $role is the role for which a priv is being checked (only used if priv is evb). 
 $clientip is the user's IP address (only used when checking for access to portfolio  $clientip is the user's IP address (only used when checking for access to portfolio 
 files).  files).
 $noblockcheck, if true, skips calls to &has_comm_blocking() for the bre priv. This  $noblockcheck, if true, skips calls to &has_comm_blocking() for the bre priv. This 
 prevents recursive calls to &allowed.  prevents recursive calls to &allowed.
   
  F: full access   F: full access
Line 15383  prevents recursive calls to &allowed. Line 13385  prevents recursive calls to &allowed.
  2: browse allowed   2: browse allowed
  A: passphrase authentication needed   A: passphrase authentication needed
  B: access temporarily blocked because of a blocking event in a course.   B: access temporarily blocked because of a blocking event in a course.
  D: access blocked because access is required via session initiated via deep-link  
   
 =item *  =item *
   
Line 15402  in which case the null string is returne Line 13403  in which case the null string is returne
   
 =item *  =item *
   
 definerole($rolename,$sysrole,$domrole,$courole,$uname,$udom) : define role;  definerole($rolename,$sysrole,$domrole,$courole) : define role; define a custom
 define a custom role rolename set privileges in format of lonTabs/roles.tab  role rolename set privileges in format of lonTabs/roles.tab for system, domain,
 for system, domain, and course level. $uname and $udom are optional (current  and course level
 user's username and domain will be used when either of $uname or $udom are absent.  
   
 =item *  =item *
   
Line 15436  provided for types, will default to retu Line 13436  provided for types, will default to retu
 =item *  =item *
   
 in_course($udom,$uname,$cdom,$cnum,$type,$hideprivileged) : determine if  in_course($udom,$uname,$cdom,$cnum,$type,$hideprivileged) : determine if
 user: $uname:$udom has a role in the course: $cdom_$cnum.  user: $uname:$udom has a role in the course: $cdom_$cnum. 
   
 Additional optional arguments are: $type (if role checking is to be restricted  Additional optional arguments are: $type (if role checking is to be restricted 
 to certain user status types -- previous (expired roles), active (currently  to certain user status types -- previous (expired roles), active (currently
 available roles) or future (roles available in the future), and  available roles) or future (roles available in the future), and
 $hideprivileged -- if true will not report course roles for users who  $hideprivileged -- if true will not report course roles for users who
Line 15609  Inputs: Line 13609  Inputs:
   
 =item $credits, number of credits student will earn from this class  =item $credits, number of credits student will earn from this class
   
 =item $instsec, institutional course section code for student  
   
 =back  =back
   
   
Line 15677  values that are the resource value.  I b Line 13675  values that are the resource value.  I b
 versions are also returned.  versions are also returned.
   
 get_numsuppfiles($cnum,$cdom) : retrieve number of files in a course's  get_numsuppfiles($cnum,$cdom) : retrieve number of files in a course's
 supplemental content area. This routine caches the number of files for  supplemental content area. This routine caches the number of files for 
 10 minutes.  10 minutes.
   
 =back  =back
Line 15714  Returns: Line 13712  Returns:
   
 =back  =back
   
 =head2 Bubblesheet Configuration  
   
 =over 4  
   
 =item *  
   
 get_scantron_config($which)  
   
 $which - the name of the configuration to parse from the file.  
   
 Parses and returns the bubblesheet configuration line selected as a  
 hash of configuration file fields.  
   
   
 Returns:  
     If the named configuration is not in the file, an empty  
     hash is returned.  
   
     a hash with the fields  
       name         - internal name for the this configuration setup  
       description  - text to display to operator that describes this config  
       CODElocation - if 0 or the string 'none'  
                           - no CODE exists for this config  
                      if -1 || the string 'letter'  
                           - a CODE exists for this config and is  
                             a string of letters  
                      Unsupported value (but planned for future support)  
                           if a positive integer  
                                - The CODE exists as the first n items from  
                                  the question section of the form  
                           if the string 'number'  
                                - The CODE exists for this config and is  
                                  a string of numbers  
       CODEstart   - (only matter if a CODE exists) column in the line where  
                      the CODE starts  
       CODElength  - length of the CODE  
       IDstart     - column where the student/employee ID starts  
       IDlength    - length of the student/employee ID info  
       Qstart      - column where the information from the bubbled  
                     'questions' start  
       Qlength     - number of columns comprising a single bubble line from  
                     the sheet. (usually either 1 or 10)  
       Qon         - either a single character representing the character used  
                     to signal a bubble was chosen in the positional setup, or  
                     the string 'letter' if the letter of the chosen bubble is  
                     in the final, or 'number' if a number representing the  
                     chosen bubble is in the file (1->A 0->J)  
       Qoff        - the character used to represent that a bubble was  
                     left blank  
       PaperID     - if the scanning process generates a unique number for each  
                     sheet scanned the column that this ID number starts in  
       PaperIDlength - number of columns that comprise the unique ID number  
                       for the sheet of paper  
       FirstName   - column that the first name starts in  
       FirstNameLength - number of columns that the first name spans  
       LastName    - column that the last name starts in  
       LastNameLength - number of columns that the last name spans  
       BubblesPerRow - number of bubbles available in each row used to  
                       bubble an answer. (If not specified, 10 assumed).  
   
   
 =item *  
   
 get_scantronformat_file($cdom)  
   
 $cdom - the course's domain (optional); if not supplied, uses  
 domain for current $env{'request.course.id'}.  
   
 Returns an array containing lines from the scantron format file for  
 the domain of the course.  
   
 If a url for a custom.tab file is listed in domain's configuration.db,  
 lines are from this file.  
   
 Otherwise, if a default.tab has been published in RES space by the  
 domainconfig user, lines are from this file.  
   
 Otherwise, fall back to getting lines from the legacy file on the  
 local server:  /home/httpd/lonTabs/default_scantronformat.tab  
   
 =back  
   
 =head2 Resource Subroutines  =head2 Resource Subroutines
   
 =over 4  =over 4
Line 15862  will be stored for query Line 13778  will be stored for query
   
 =item *  =item *
   
 symbread($filename,$donotrecurse,$ignorecachednull,$checkforblock,$possibles) :  symbread($filename,$donotrecurse,$ignorecachednull,$checkforblock,$possibles) : 
 return symbolic list entry (all arguments optional).  return symbolic list entry (all arguments optional). 
   
 Args: filename is the filename (including path) for the file for which a symb  Args: filename is the filename (including path) for the file for which a symb 
 is required; donotrecurse, if true will prevent calls to allowed() being made  is required; donotrecurse, if true will prevent calls to allowed() being made 
 to check access status if more than one resource was found in the bighash  to check access status if more than one resource was found in the bighash 
 (see rev. 1.249) to avoid an infinite loop if an ambiguous resource is part of  (see rev. 1.249) to avoid an infinite loop if an ambiguous resource is part of 
 a randompick); ignorecachednull, if true will prevent a symb of '' being  a randompick); ignorecachednull, if true will prevent a symb of '' being 
 returned if $env{$cache_str} is defined as ''; checkforblock if true will  returned if $env{$cache_str} is defined as ''; checkforblock if true will
 cause possible symbs to be checked to determine if they are subject to content  cause possible symbs to be checked to determine if they are subject to content
 blocking, if so they will not be included as possible symbs; possibles is a  blocking, if so they will not be included as possible symbs; possibles is a
 ref to a hash, which, as a side effect, will be populated with all possible  ref to a hash, which, as a side effect, will be populated with all possible 
 symbs (content blocking not tested).  symbs (content blocking not tested).
    
 returns the data handle  returns the data handle
   
 =item *  =item *
Line 15885  and is a possible symb for the URL in $t Line 13801  and is a possible symb for the URL in $t
 resource that the user accessed using /enc/ returns a 1 on success, 0  resource that the user accessed using /enc/ returns a 1 on success, 0
 on failure, user must be in a course, as it assumes the existence of  on failure, user must be in a course, as it assumes the existence of
 the course initial hash, and uses $env('request.course.id'}.  The third  the course initial hash, and uses $env('request.course.id'}.  The third
 arg is an optional reference to a scalar.  If this arg is passed in the  arg is an optional reference to a scalar.  If this arg is passed in the 
 call to symbverify, it will be set to 1 if the symb has been set to be   call to symbverify, it will be set to 1 if the symb has been set to be 
 encrypted; otherwise it will be null.  encrypted; otherwise it will be null.  
   
 =item *  =item *
   
Line 15940  expirespread($uname,$udom,$stype,$usymb) Line 13856  expirespread($uname,$udom,$stype,$usymb)
 devalidate($symb) : devalidate temporary spreadsheet calculations,  devalidate($symb) : devalidate temporary spreadsheet calculations,
 forcing spreadsheet to reevaluate the resource scores next time.  forcing spreadsheet to reevaluate the resource scores next time.
   
 =item *  =item * 
   
 can_edit_resource($file,$cnum,$cdom,$resurl,$symb,$group) : determine if current user can edit a particular resource,  can_edit_resource($file,$cnum,$cdom,$resurl,$symb,$group) : determine if current user can edit a particular resource,
 when viewing in course context.  when viewing in course context.
   
  input: six args -- filename (decluttered), course number, course domain,   input: six args -- filename (decluttered), course number, course domain,
                     url, symb (if registered) and group (if this is a                      url, symb (if registered) and group (if this is a 
                     group item -- e.g., bulletin board, group page etc.).                      group item -- e.g., bulletin board, group page etc.).
   
  output: array of five scalars --   output: array of five scalars --
Line 15954  when viewing in course context. Line 13870  when viewing in course context.
          $home -- homeserver of resource (i.e., for author if published,           $home -- homeserver of resource (i.e., for author if published,
                                           or course if uploaded.).                                            or course if uploaded.).
          $switchserver --  1 if server switch will be needed.           $switchserver --  1 if server switch will be needed.
          $forceedit -- 1 if icon/link should be to go to edit mode           $forceedit -- 1 if icon/link should be to go to edit mode 
          $forceview -- 1 if icon/link should be to go to view mode           $forceview -- 1 if icon/link should be to go to view mode
   
 =item *  =item *
   
 is_course_upload($file,$cnum,$cdom)  is_course_upload($file,$cnum,$cdom)
   
 Used in course context to determine if current file was uploaded to  Used in course context to determine if current file was uploaded to 
 the course (i.e., would be found in /userfiles/docs on the course's  the course (i.e., would be found in /userfiles/docs on the course's 
 homeserver.  homeserver.
   
   input: 3 args -- filename (decluttered), course number and course domain.    input: 3 args -- filename (decluttered), course number and course domain.
Line 15976  homeserver. Line 13892  homeserver.
   
 =item *  =item *
   
 store($storehash,$symb,$namespace,$udom,$uname,$laststore) : stores hash   store($storehash,$symb,$namespace,$udom,$uname,$laststore) : stores hash
 permanently for this url; hashref needs to be given and should be a \%hashname;  permanently for this url; hashref needs to be given and should be a \%hashname;
 the remaining args aren't required and if they aren't passed or are '' they will  the remaining args aren't required and if they aren't passed or are '' they will
 be derived from the env (with the exception of $laststore, which is an  be derived from the env (with the exception of $laststore, which is an 
 optional arg used when a user's submission is stored in grading).  optional arg used when a user's submission is stored in grading).
 $laststore is $version=$timestamp, where $version is the most recent version  $laststore is $version=$timestamp, where $version is the most recent version
 number retrieved for the corresponding $symb in the $namespace db file, and  number retrieved for the corresponding $symb in the $namespace db file, and
 $timestamp is the timestamp for that transaction (UNIX time).  $timestamp is the timestamp for that transaction (UNIX time).
 $laststore is currently only passed when cstore() is called by  $laststore is currently only passed when cstore() is called by 
 structuretags::finalize_storage().  structuretags::finalize_storage().
   
 =item *  =item *
   
 cstore($storehash,$symb,$namespace,$udom,$uname,$laststore) : same as store   cstore($storehash,$symb,$namespace,$udom,$uname,$laststore) : same as store
 but uses critical subroutine  but uses critical subroutine
   
 =item *  =item *
Line 16127  server ($udom and $uhome are optional) Line 14043  server ($udom and $uhome are optional)
   
 =item *   =item * 
   
 get_domain_defaults($target_domain,$ignore_cache) : returns hash with defaults  get_domain_defaults($target_domain,$ignore_cache) : returns hash with defaults 
 for: authentication, language, quotas, timezone, date locale, and portal URL in  for: authentication, language, quotas, timezone, date locale, and portal URL in
 the target domain.  the target domain.
   
Line 16182  for course's uploaded content. Line 14098  for course's uploaded content.
 =over  =over
   
 =item  =item
 canuse_pdfforms, officialcredits, unofficialcredits, textbookcredits, officialquota, unofficialquota,  canuse_pdfforms, officialcredits, unofficialcredits, textbookcredits, officialquota, unofficialquota, 
 communityquota, textbookquota  communityquota, textbookquota
   
 =back  =back
Line 16193  on your servers. Line 14109  on your servers.
   
 =over  =over
   
 =item  =item 
 remotesessions, hostedsessions  remotesessions, hostedsessions
   
 =back  =back
Line 16201  remotesessions, hostedsessions Line 14117  remotesessions, hostedsessions
 =back  =back
   
 In cases where a domain coordinator has never used the "Set Domain Configuration"  In cases where a domain coordinator has never used the "Set Domain Configuration"
 utility to create a configuration.db file on a domain's primary library server  utility to create a configuration.db file on a domain's primary library server 
 only the following domain defaults: auth_def, auth_arg_def, lang_def  only the following domain defaults: auth_def, auth_arg_def, lang_def
 -- corresponding values are authentication type (internal, krb4, krb5,  -- corresponding values are authentication type (internal, krb4, krb5,
 or localauth), initial password or a kerberos realm, language (e.g., en-us) --  or localauth), initial password or a kerberos realm, language (e.g., en-us) -- 
 will be available. Values are retrieved from cache (if current), unless the  will be available. Values are retrieved from cache (if current), unless the
 optional $ignore_cache arg is true, or from domain's configuration.db (if available),  optional $ignore_cache arg is true, or from domain's configuration.db (if available),
 or lastly from values in lonTabs/dns_domain,tab, or lonTabs/domain.tab.  or lastly from values in lonTabs/dns_domain,tab, or lonTabs/domain.tab.
Line 16487  userspace, probably shouldn't be called Line 14403  userspace, probably shouldn't be called
   formname: same as for userfileupload()    formname: same as for userfileupload()
   fname: filename (including subdirectories) for the file    fname: filename (including subdirectories) for the file
   parser: if 'parse', will parse (html) file to extract references to objects, links etc.    parser: if 'parse', will parse (html) file to extract references to objects, links etc.
           if hashref, and context is scantron, will convert csv format to standard format  
   allfiles: reference to hash used to store objects found by parser    allfiles: reference to hash used to store objects found by parser
   codebase: reference to hash used for codebases of java objects found by parser    codebase: reference to hash used for codebases of java objects found by parser
   thumbwidth: width (pixels) of thumbnail to be created for uploaded image    thumbwidth: width (pixels) of thumbnail to be created for uploaded image
Line 16633  Returns: Line 14548  Returns:
   
 get_timebased_id():  get_timebased_id():
   
 Attempts to get a unique timestamp-based suffix for use with items added to a  Attempts to get a unique timestamp-based suffix for use with items added to a 
 course via the Course Editor (e.g., folders, composite pages,  course via the Course Editor (e.g., folders, composite pages, 
 group bulletin boards).  group bulletin boards).
   
 Args: (first three required; six others optional)  Args: (first three required; six others optional)
Line 16645  Args: (first three required; six others Line 14560  Args: (first three required; six others
 2. keyid (alphanumeric): name of temporary locking key in hash,  2. keyid (alphanumeric): name of temporary locking key in hash,
    e.g., num, boardids     e.g., num, boardids
   
 3. namespace: name of gdbm file used to store suffixes already assigned;  3. namespace: name of gdbm file used to store suffixes already assigned;  
    file will be named nohist_namespace.db     file will be named nohist_namespace.db
   
 4. cdom: domain of course; default is current course domain from %env  4. cdom: domain of course; default is current course domain from %env
   
 5. cnum: course number; default is current course number from %env  5. cnum: course number; default is current course number from %env
   
 6. idtype: set to concat if an additional digit is to be appended to the  6. idtype: set to concat if an additional digit is to be appended to the 
    unix timestamp to form the suffix, if the plain timestamp is already     unix timestamp to form the suffix, if the plain timestamp is already
    in use.  Default is to not do this, but simply increment the unix     in use.  Default is to not do this, but simply increment the unix 
    timestamp by 1 until a unique key is obtained.     timestamp by 1 until a unique key is obtained.
   
 7. who: holder of locking key; defaults to user:domain for user.  7. who: holder of locking key; defaults to user:domain for user.
   
 8. locktries: number of attempts to obtain a lock (sleep of 1s before  8. locktries: number of attempts to obtain a lock (sleep of 1s before 
    retrying); default is 3.     retrying); default is 3.
   
 9. maxtries: number of attempts to obtain a unique suffix; default is 20.  9. maxtries: number of attempts to obtain a unique suffix; default is 20.  
   
 Returns:  Returns:
   

Removed from v.1.1172.2.146.2.6  
changed lines
  Added in v.1.1300


FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>