[BACK]Return to lonnet.pm CVS log [TXT] [DIR] Up to [LON-CAPA] / loncom / lonnet / perl

Diff for /loncom/lonnet/perl/lonnet.pm between versions 1.1172.2.144 and 1.1180

version 1.1172.2.144, 2021/12/24 21:13:15 version 1.1180, 2012/07/17 14:49:32
Line 74  use strict; Line 74  use strict;
 use LWP::UserAgent();  use LWP::UserAgent();
 use HTTP::Date;  use HTTP::Date;
 use Image::Magick;  use Image::Magick;
 use CGI::Cookie;  
   
 use vars qw(%perlvar %spareid %pr %prp $memcache %packagetab $tmpdir $deftex  use Encode;
   
   use vars qw(%perlvar %spareid %pr %prp $memcache %packagetab $tmpdir
             $_64bit %env %protocol %loncaparevs %serverhomeIDs %needsrelease              $_64bit %env %protocol %loncaparevs %serverhomeIDs %needsrelease
             %managerstab $passwdmin);              %managerstab);
   
 my (%badServerCache, $memcache, %courselogs, %accesshash, %domainrolehash,  my (%badServerCache, $memcache, %courselogs, %accesshash, %domainrolehash,
     %userrolehash, $processmarker, $dumpcount, %coursedombuf,      %userrolehash, $processmarker, $dumpcount, %coursedombuf,
Line 90  use GDBM_File; Line 91  use GDBM_File;
 use HTML::LCParser;  use HTML::LCParser;
 use Fcntl qw(:flock);  use Fcntl qw(:flock);
 use Storable qw(thaw nfreeze);  use Storable qw(thaw nfreeze);
 use Time::HiRes qw( sleep gettimeofday tv_interval );  use Time::HiRes qw( gettimeofday tv_interval );
 use Cache::Memcached;  use Cache::Memcached;
 use Digest::MD5;  use Digest::MD5;
 use Math::Random;  use Math::Random;
 use File::MMagic;  use File::MMagic;
 use Net::CIDR;  
 use Sys::Hostname::FQDN();  
 use LONCAPA qw(:DEFAULT :match);  use LONCAPA qw(:DEFAULT :match);
 use LONCAPA::Configuration;  use LONCAPA::Configuration;
 use LONCAPA::lonmetadata;  use LONCAPA::lonmetadata;
 use LONCAPA::Lond;  use LONCAPA::Lond;
 use LONCAPA::transliterate;  
   
 use File::Copy;  use File::Copy;
   
 my $readit;  my $readit;
 my $max_connection_retries = 20;     # Or some such value.  my $max_connection_retries = 10;     # Or some such value.
   
 require Exporter;  require Exporter;
   
 our @ISA = qw (Exporter);  our @ISA = qw (Exporter);
 our @EXPORT = qw(%env);  our @EXPORT = qw(%env);
   
 # ------------------------------------ Logging (parameters, docs, slots, roles)  
   # --------------------------------------------------------------------- Logging
 {  {
     my $logid;      my $logid;
     sub write_log {      sub instructor_log {
  my ($context,$hash_name,$storehash,$delflag,$uname,$udom,$cnum,$cdom)=@_;   my ($hash_name,$storehash,$delflag,$uname,$udom,$cnum,$cdom)=@_;
         if ($context eq 'course') {          if (($cnum eq '') || ($cdom eq '')) {
             if (($cnum eq '') || ($cdom eq '')) {              $cnum = $env{'course.'.$env{'request.course.id'}.'.num'};
                 $cnum = $env{'course.'.$env{'request.course.id'}.'.num'};              $cdom = $env{'course.'.$env{'request.course.id'}.'.domain'};
                 $cdom = $env{'course.'.$env{'request.course.id'}.'.domain'};  
             }  
         }          }
  $logid ++;   $logid++;
         my $now = time();          my $now = time();
  my $id=$now.'00000'.$$.'00000'.$logid;   my $id=$now.'00000'.$$.'00000'.$logid;
         my $ip = &get_requestor_ip();     return &Apache::lonnet::put('nohist_'.$hash_name,
         my $logentry = {      { $id => {
                          $id => {   'exe_uname' => $env{'user.name'},
                                   'exe_uname' => $env{'user.name'},   'exe_udom'  => $env{'user.domain'},
                                   'exe_udom'  => $env{'user.domain'},   'exe_time'  => $now,
                                   'exe_time'  => $now,   'exe_ip'    => $ENV{'REMOTE_ADDR'},
                                   'exe_ip'    => $ip,   'delflag'   => $delflag,
                                   'delflag'   => $delflag,   'logentry'  => $storehash,
                                   'logentry'  => $storehash,   'uname'     => $uname,
                                   'uname'     => $uname,   'udom'      => $udom,
                                   'udom'      => $udom,      }
                                 }    },$cdom,$cnum);
                        };  
         return &put('nohist_'.$hash_name,$logentry,$cdom,$cnum);  
     }      }
 }  }
   
 sub logtouch {  sub logtouch {
     my $execdir=$perlvar{'lonDaemons'};      my $execdir=$perlvar{'lonDaemons'};
     unless (-e "$execdir/logs/lonnet.log") {      unless (-e "$execdir/logs/lonnet.log") {
  open(my $fh,">>","$execdir/logs/lonnet.log");   open(my $fh,">>$execdir/logs/lonnet.log");
  close $fh;   close $fh;
     }      }
     my ($wwwuid,$wwwgid)=(getpwnam('www'))[2,3];      my ($wwwuid,$wwwgid)=(getpwnam('www'))[2,3];
Line 159  sub logthis { Line 154  sub logthis {
     my $execdir=$perlvar{'lonDaemons'};      my $execdir=$perlvar{'lonDaemons'};
     my $now=time;      my $now=time;
     my $local=localtime($now);      my $local=localtime($now);
     if (open(my $fh,">>","$execdir/logs/lonnet.log")) {      if (open(my $fh,">>$execdir/logs/lonnet.log")) {
  my $logstring = $local. " ($$): ".$message."\n"; # Keep any \'s in string.   my $logstring = $local. " ($$): ".$message."\n"; # Keep any \'s in string.
  print $fh $logstring;   print $fh $logstring;
  close($fh);   close($fh);
Line 172  sub logperm { Line 167  sub logperm {
     my $execdir=$perlvar{'lonDaemons'};      my $execdir=$perlvar{'lonDaemons'};
     my $now=time;      my $now=time;
     my $local=localtime($now);      my $local=localtime($now);
     if (open(my $fh,">>","$execdir/logs/lonnet.perm.log")) {      if (open(my $fh,">>$execdir/logs/lonnet.perm.log")) {
  print $fh "$now:$message:$local\n";   print $fh "$now:$message:$local\n";
  close($fh);   close($fh);
     }      }
Line 266  sub get_server_loncaparev { Line 261  sub get_server_loncaparev {
                 if ($caller eq 'loncron') {                  if ($caller eq 'loncron') {
                     my $ua=new LWP::UserAgent;                      my $ua=new LWP::UserAgent;
                     $ua->timeout(4);                      $ua->timeout(4);
                     my $hostname = &hostname($lonhost);  
                     my $protocol = $protocol{$lonhost};                      my $protocol = $protocol{$lonhost};
                     $protocol = 'http' if ($protocol ne 'https');                      $protocol = 'http' if ($protocol ne 'https');
                     my $url = $protocol.'://'.$hostname.'/adm/about.html';                      my $url = $protocol.'://'.&hostname($lonhost).'/adm/about.html';
                     my $request=new HTTP::Request('GET',$url);                      my $request=new HTTP::Request('GET',$url);
                     my $response=$ua->request($request);                      my $response=$ua->request($request);
                     unless ($response->is_error()) {                      unless ($response->is_error()) {
Line 358  sub get_remote_globals { Line 352  sub get_remote_globals {
 }  }
   
 sub remote_devalidate_cache {  sub remote_devalidate_cache {
     my ($lonhost,$cachekeys) = @_;      my ($lonhost,$name,$id) = @_;
     my $items;      my $response = &reply('devalidatecache:'.&escape($name).':'.&escape($id),$lonhost);
     return unless (ref($cachekeys) eq 'ARRAY');      return $response;
     my $cachestr = join('&',@{$cachekeys});  
     return &reply('devalidatecache:'.&escape($cachestr),$lonhost);  
 }  }
   
 # -------------------------------------------------- Non-critical communication  # -------------------------------------------------- Non-critical communication
Line 376  sub subreply { Line 368  sub subreply {
   
     my $lockfile=$peerfile.".lock";      my $lockfile=$peerfile.".lock";
     while (-e $lockfile) { # Need to wait for the lockfile to disappear.      while (-e $lockfile) { # Need to wait for the lockfile to disappear.
  sleep(0.1);   sleep(1);
     }      }
     # At this point, either a loncnew parent is listening or an old lonc      # At this point, either a loncnew parent is listening or an old lonc
     # or loncnew child is listening so we can connect or everything's dead.      # or loncnew child is listening so we can connect or everything's dead.
Line 394  sub subreply { Line 386  sub subreply {
  } else {   } else {
     &create_connection(&hostname($server),$server);      &create_connection(&hostname($server),$server);
  }   }
         sleep(0.1); # Try again later if failed connection.          sleep(1); # Try again later if failed connection.
     }      }
     my $answer;      my $answer;
     if ($client) {      if ($client) {
Line 413  sub reply { Line 405  sub reply {
     unless (defined(&hostname($server))) { return 'no_such_host'; }      unless (defined(&hostname($server))) { return 'no_such_host'; }
     my $answer=subreply($cmd,$server);      my $answer=subreply($cmd,$server);
     if (($answer=~/^refused/) || ($answer=~/^rejected/)) {      if (($answer=~/^refused/) || ($answer=~/^rejected/)) {
         my $logged = $cmd;         &logthis("<font color=\"blue\">WARNING:".
         if ($cmd =~ /^encrypt:([^:]+):/) {                  " $cmd to $server returned $answer</font>");
             my $subcmd = $1;  
             if (($subcmd eq 'auth') || ($subcmd eq 'passwd') ||  
                 ($subcmd eq 'changeuserauth') || ($subcmd eq 'makeuser') ||  
                 ($subcmd eq 'putdom') || ($subcmd eq 'autoexportgrades')) {  
                 (undef,undef,my @rest) = split(/:/,$cmd);  
                 if (($subcmd eq 'auth') || ($subcmd eq 'putdom')) {  
                     splice(@rest,2,1,'Hidden');  
                 } elsif ($subcmd eq 'passwd') {  
                     splice(@rest,2,2,('Hidden','Hidden'));  
                 } elsif (($subcmd eq 'changeuserauth') || ($subcmd eq 'makeuser') ||  
                          ($subcmd eq 'autoexportgrades')) {  
                     splice(@rest,3,1,'Hidden');  
                 }  
                 $logged = join(':',('encrypt:'.$subcmd,@rest));  
             }  
         }  
         &logthis("<font color=\"blue\">WARNING:".  
                  " $logged to $server returned $answer</font>");  
     }      }
     return $answer;      return $answer;
 }  }
Line 441  sub reply { Line 415  sub reply {
   
 sub reconlonc {  sub reconlonc {
     my ($lonid) = @_;      my ($lonid) = @_;
       my $hostname = &hostname($lonid);
     if ($lonid) {      if ($lonid) {
         my $hostname = &hostname($lonid);  
  my $peerfile="$perlvar{'lonSockDir'}/$hostname";   my $peerfile="$perlvar{'lonSockDir'}/$hostname";
  if ($hostname && -e $peerfile) {   if ($hostname && -e $peerfile) {
     &logthis("Trying to reconnect lonc for $lonid ($hostname)");      &logthis("Trying to reconnect lonc for $lonid ($hostname)");
Line 460  sub reconlonc { Line 434  sub reconlonc {
   
     &logthis("Trying to reconnect lonc");      &logthis("Trying to reconnect lonc");
     my $loncfile="$perlvar{'lonDaemons'}/logs/lonc.pid";      my $loncfile="$perlvar{'lonDaemons'}/logs/lonc.pid";
     if (open(my $fh,"<",$loncfile)) {      if (open(my $fh,"<$loncfile")) {
  my $loncpid=<$fh>;   my $loncpid=<$fh>;
         chomp($loncpid);          chomp($loncpid);
         if (kill 0 => $loncpid) {          if (kill 0 => $loncpid) {
Line 488  sub critical { Line 462  sub critical {
     }      }
     my $answer=reply($cmd,$server);      my $answer=reply($cmd,$server);
     if ($answer eq 'con_lost') {      if ($answer eq 'con_lost') {
  &reconlonc($server);   &reconlonc("$perlvar{'lonSockDir'}/$server");
  my $answer=reply($cmd,$server);   my $answer=reply($cmd,$server);
         if ($answer eq 'con_lost') {          if ($answer eq 'con_lost') {
             my $now=time;              my $now=time;
Line 500  sub critical { Line 474  sub critical {
             $dumpcount++;              $dumpcount++;
             {              {
  my $dfh;   my $dfh;
  if (open($dfh,">",$dfilename)) {   if (open($dfh,">$dfilename")) {
     print $dfh "$cmd\n";       print $dfh "$cmd\n"; 
     close($dfh);      close($dfh);
  }   }
             }              }
             sleep 1;              sleep 2;
             my $wcmd='';              my $wcmd='';
             {              {
  my $dfh;   my $dfh;
  if (open($dfh,"<",$dfilename)) {   if (open($dfh,"<$dfilename")) {
     $wcmd=<$dfh>;       $wcmd=<$dfh>; 
     close($dfh);      close($dfh);
  }   }
Line 625  sub transfer_profile_to_env { Line 599  sub transfer_profile_to_env {
   
 # ---------------------------------------------------- Check for valid session   # ---------------------------------------------------- Check for valid session 
 sub check_for_valid_session {  sub check_for_valid_session {
     my ($r,$name,$userhashref,$domref) = @_;      my ($r,$name) = @_;
     my %cookies=CGI::Cookie->parse($r->header_in('Cookie'));      my %cookies=CGI::Cookie->parse($r->header_in('Cookie'));
     my ($lonidsdir,$linkname,$pubname,$secure,$lonid);      if ($name eq '') {
     if ($name eq 'lonDAV') {          $name = 'lonID';
         $lonidsdir=$r->dir_config('lonDAVsessDir');  
     } else {  
         $lonidsdir=$r->dir_config('lonIDsDir');  
         if ($name eq '') {  
             $name = 'lonID';  
         }  
     }  
     if ($name eq 'lonID') {  
         $secure = 'lonSID';  
         $linkname = 'lonLinkID';  
         $pubname = 'lonPubID';  
         if (exists($cookies{$secure})) {  
             $lonid=$cookies{$secure};  
         } elsif (exists($cookies{$name})) {  
             $lonid=$cookies{$name};  
         } elsif ((exists($cookies{$linkname})) && ($ENV{'SERVER_PORT'} != 443)) {  
             $lonid=$cookies{$linkname};  
         } elsif (exists($cookies{$pubname})) {  
             $lonid=$cookies{$pubname};  
         }  
     } else {  
         $lonid=$cookies{$name};  
     }      }
       my $lonid=$cookies{$name};
     return undef if (!$lonid);      return undef if (!$lonid);
   
     my $handle=&LONCAPA::clean_handle($lonid->value);      my $handle=&LONCAPA::clean_handle($lonid->value);
     if (-l "$lonidsdir/$handle.id") {      my $lonidsdir;
         my $link = readlink("$lonidsdir/$handle.id");      if ($name eq 'lonDAV') {
         if ((-e $link) && ($link =~ m{^\Q$lonidsdir\E/(.+)\.id$})) {          $lonidsdir=$r->dir_config('lonDAVsessDir');
             $handle = $1;      } else {
         }          $lonidsdir=$r->dir_config('lonIDsDir');
     }  
     if (!-e "$lonidsdir/$handle.id") {  
         if ((ref($domref)) && ($name eq 'lonID') &&  
             ($handle =~ /^($match_username)\_\d+\_($match_domain)\_(.+)$/)) {  
             my ($possuname,$possudom,$possuhome) = ($1,$2,$3);  
             if ((&domain($possudom) ne '') && (&homeserver($possuname,$possudom) eq $possuhome)) {  
                 $$domref = $possudom;  
             }  
         }  
         return undef;  
     }      }
       return undef if (!-e "$lonidsdir/$handle.id");
   
     my $opened = open(my $idf,'+<',"$lonidsdir/$handle.id");      my $opened = open(my $idf,'+<',"$lonidsdir/$handle.id");
     return undef if (!$opened);      return undef if (!$opened);
Line 684  sub check_for_valid_session { Line 628  sub check_for_valid_session {
   
     if (!defined($disk_env{'user.name'})      if (!defined($disk_env{'user.name'})
  || !defined($disk_env{'user.domain'})) {   || !defined($disk_env{'user.domain'})) {
         untie(%disk_env);  
  return undef;   return undef;
     }      }
   
     if (ref($userhashref) eq 'HASH') {  
         $userhashref->{'name'} = $disk_env{'user.name'};  
         $userhashref->{'domain'} = $disk_env{'user.domain'};  
         if ($disk_env{'request.role'}) {  
             $userhashref->{'role'} = $disk_env{'request.role'};  
         }  
     }  
     untie(%disk_env);  
   
     return $handle;      return $handle;
 }  }
   
Line 720  sub timed_flock { Line 653  sub timed_flock {
     }      }
 }  }
   
 sub get_sessionfile_vars {  
     my ($handle,$lonidsdir,$storearr) = @_;  
     my %returnhash;  
     unless (ref($storearr) eq 'ARRAY') {  
         return %returnhash;  
     }  
     if (-l "$lonidsdir/$handle.id") {  
         my $link = readlink("$lonidsdir/$handle.id");  
         if ((-e $link) && ($link =~ m{^\Q$lonidsdir\E/(.+)\.id$})) {  
             $handle = $1;  
         }  
     }  
     if ((-e "$lonidsdir/$handle.id") &&  
         ($handle =~ /^($match_username)\_\d+\_($match_domain)\_(.+)$/)) {  
         my ($possuname,$possudom,$possuhome) = ($1,$2,$3);  
         if ((&domain($possudom) ne '') && (&homeserver($possuname,$possudom) eq $possuhome)) {  
             if (open(my $idf,'+<',"$lonidsdir/$handle.id")) {  
                 flock($idf,LOCK_SH);  
                 if (tie(my %disk_env,'GDBM_File',"$lonidsdir/$handle.id",  
                         &GDBM_READER(),0640)) {  
                     foreach my $item (@{$storearr}) {  
                         $returnhash{$item} = $disk_env{$item};  
                     }  
                     untie(%disk_env);  
                 }  
             }  
         }  
     }  
     return %returnhash;  
 }  
   
 # ---------------------------------------------------------- Append Environment  # ---------------------------------------------------------- Append Environment
   
 sub appenv {  sub appenv {
Line 761  sub appenv { Line 663  sub appenv {
     if (($key =~ /^user\.role/) || ($key =~ /^user\.priv/)) {      if (($key =~ /^user\.role/) || ($key =~ /^user\.priv/)) {
                 $refused = 1;                  $refused = 1;
                 if (ref($roles) eq 'ARRAY') {                  if (ref($roles) eq 'ARRAY') {
                     my ($type,$role) = ($key =~ m{^user\.(role|priv)\.(.+?)\./});                      my ($type,$role) = ($key =~ /^user\.(role|priv)\.([^.]+)\./);
                     if (grep(/^\Q$role\E$/,@{$roles})) {                      if (grep(/^\Q$role\E$/,@{$roles})) {
                         $refused = 0;                          $refused = 0;
                     }                      }
Line 776  sub appenv { Line 678  sub appenv {
                 $env{$key}=$newenv->{$key};                  $env{$key}=$newenv->{$key};
             }              }
         }          }
         my $lonids = $perlvar{'lonIDsDir'};          my $opened = open(my $env_file,'+<',$env{'user.environment'});
         if ($env{'user.environment'} =~ m{^\Q$lonids/\E$match_username\_\d+\_$match_domain\_[\w\-.]+\.id$}) {          if ($opened
             my $opened = open(my $env_file,'+<',$env{'user.environment'});      && &timed_flock($env_file,LOCK_EX)
             if ($opened      &&
         && &timed_flock($env_file,LOCK_EX)      tie(my %disk_env,'GDBM_File',$env{'user.environment'},
         &&          (&GDBM_WRITER()|&GDBM_NOLOCK()),0640)) {
         tie(my %disk_env,'GDBM_File',$env{'user.environment'},      while (my ($key,$value) = each(%{$newenv})) {
             (&GDBM_WRITER()|&GDBM_NOLOCK()),0640)) {          $disk_env{$key} = $value;
         while (my ($key,$value) = each(%{$newenv})) {      }
             $disk_env{$key} = $value;      untie(%disk_env);
         }  
         untie(%disk_env);  
             }  
         }          }
     }      }
     return 'ok';      return 'ok';
Line 904  sub userload { Line 803  sub userload {
  while ($filename=readdir(LONIDS)) {   while ($filename=readdir(LONIDS)) {
     next if ($filename eq '.' || $filename eq '..');      next if ($filename eq '.' || $filename eq '..');
     next if ($filename =~ /publicuser_\d+\.id/);      next if ($filename =~ /publicuser_\d+\.id/);
             next if ($filename =~ /^[a-f0-9]+_linked\.id$/);  
     my ($mtime)=(stat($perlvar{'lonIDsDir'}.'/'.$filename))[9];      my ($mtime)=(stat($perlvar{'lonIDsDir'}.'/'.$filename))[9];
     if ($curtime-$mtime < 1800) { $numusers++; }      if ($curtime-$mtime < 1800) { $numusers++; }
  }   }
Line 922  sub userload { Line 820  sub userload {
 # ------------------------------ Find server with least workload from spare.tab  # ------------------------------ Find server with least workload from spare.tab
   
 sub spareserver {  sub spareserver {
     my ($r,$loadpercent,$userloadpercent,$want_server_name,$udom) = @_;      my ($loadpercent,$userloadpercent,$want_server_name,$udom) = @_;
     my $spare_server;      my $spare_server;
     if ($userloadpercent !~ /\d/) { $userloadpercent=0; }      if ($userloadpercent !~ /\d/) { $userloadpercent=0; }
     my $lowest_load=($loadpercent > $userloadpercent) ? $loadpercent       my $lowest_load=($loadpercent > $userloadpercent) ? $loadpercent 
Line 938  sub spareserver { Line 836  sub spareserver {
     if (ref($spareshash) eq 'HASH') {      if (ref($spareshash) eq 'HASH') {
         if (ref($spareshash->{'primary'}) eq 'ARRAY') {          if (ref($spareshash->{'primary'}) eq 'ARRAY') {
             foreach my $try_server (@{ $spareshash->{'primary'} }) {              foreach my $try_server (@{ $spareshash->{'primary'} }) {
                 next unless (&spare_can_host($udom,$uint_dom,$remotesessions,                  if ($uint_dom) {
                                              $try_server));                      next unless (&spare_can_host($udom,$uint_dom,$remotesessions,
                                                    $try_server));
                   }
         ($spare_server, $lowest_load) =          ($spare_server, $lowest_load) =
             &compare_server_load($try_server, $spare_server, $lowest_load);              &compare_server_load($try_server, $spare_server, $lowest_load);
             }              }
Line 950  sub spareserver { Line 850  sub spareserver {
         if (!$found_server) {          if (!$found_server) {
             if (ref($spareshash->{'default'}) eq 'ARRAY') {               if (ref($spareshash->{'default'}) eq 'ARRAY') { 
         foreach my $try_server (@{ $spareshash->{'default'} }) {          foreach my $try_server (@{ $spareshash->{'default'} }) {
                     next unless (&spare_can_host($udom,$uint_dom,                      if ($uint_dom) {
                                                  $remotesessions,$try_server));                          next unless (&spare_can_host($udom,$uint_dom,
                                                        $remotesessions,$try_server));
                       }
             ($spare_server, $lowest_load) =              ($spare_server, $lowest_load) =
         &compare_server_load($try_server, $spare_server, $lowest_load);          &compare_server_load($try_server, $spare_server, $lowest_load);
                 }                  }
Line 960  sub spareserver { Line 862  sub spareserver {
     }      }
   
     if (!$want_server_name) {      if (!$want_server_name) {
           my $protocol = 'http';
           if ($protocol{$spare_server} eq 'https') {
               $protocol = $protocol{$spare_server};
           }
         if (defined($spare_server)) {          if (defined($spare_server)) {
             my $hostname = &hostname($spare_server);              my $hostname = &hostname($spare_server);
             if (defined($hostname)) {              if (defined($hostname)) {
                 my $protocol = 'http';  
                 if ($protocol{$spare_server} eq 'https') {  
                     $protocol = $protocol{$spare_server};  
                 }  
                 my $alias = &Apache::lonnet::use_proxy_alias($r,$spare_server);  
                 $hostname = $alias if ($alias ne '');  
         $spare_server = $protocol.'://'.$hostname;          $spare_server = $protocol.'://'.$hostname;
             }              }
         }          }
Line 977  sub spareserver { Line 877  sub spareserver {
 }  }
   
 sub compare_server_load {  sub compare_server_load {
     my ($try_server, $spare_server, $lowest_load, $required) = @_;      my ($try_server, $spare_server, $lowest_load) = @_;
   
     if ($required) {  
         my ($reqdmajor,$reqdminor) = ($required =~ /^(\d+)\.(\d+)$/);  
         my $remoterev = &get_server_loncaparev(undef,$try_server);  
         my ($major,$minor) = ($remoterev =~ /^\'?(\d+)\.(\d+)\.[\w.\-]+\'?$/);  
         if (($major eq '' && $minor eq '') ||  
             (($reqdmajor > $major) || (($reqdmajor == $major) && ($reqdminor > $minor)))) {  
             return ($spare_server,$lowest_load);  
         }  
     }  
   
     my $loadans     = &reply('load',    $try_server);      my $loadans     = &reply('load',    $try_server);
     my $userloadans = &reply('userload',$try_server);      my $userloadans = &reply('userload',$try_server);
Line 1035  sub find_existing_session { Line 925  sub find_existing_session {
     return;      return;
 }  }
   
 # check if user's browser sent load balancer cookie and server still has session  
 # and is not overloaded.  
 sub check_for_balancer_cookie {  
     my ($r,$update_mtime) = @_;  
     my ($otherserver,$cookie);  
     my %cookies=CGI::Cookie->parse($r->header_in('Cookie'));  
     if (exists($cookies{'balanceID'})) {  
         my $balid = $cookies{'balanceID'};  
         $cookie=&LONCAPA::clean_handle($balid->value);  
         my $balancedir=$r->dir_config('lonBalanceDir');  
         if ((-d $balancedir) && (-e "$balancedir/$cookie.id")) {  
             if ($cookie =~ /^($match_domain)_($match_username)_[a-f0-9]+$/) {  
                 my ($possudom,$possuname) = ($1,$2);  
                 my $has_session = 0;  
                 if ((&domain($possudom) ne '') &&  
                     (&homeserver($possuname,$possudom) ne 'no_host')) {  
                     my $try_server;  
                     my $opened = open(my $idf,'+<',"$balancedir/$cookie.id");  
                     if ($opened) {  
                         flock($idf,LOCK_SH);  
                         while (my $line = <$idf>) {  
                             chomp($line);  
                             if (&hostname($line) ne '') {  
                                 $try_server = $line;  
                                 last;  
                             }  
                         }  
                         close($idf);  
                         if (($try_server) &&  
                             (&has_user_session($try_server,$possudom,$possuname))) {  
                             my $lowest_load = 30000;  
                             ($otherserver,$lowest_load) =  
                                 &compare_server_load($try_server,undef,$lowest_load);  
                             if ($otherserver ne '' && $lowest_load < 100) {  
                                 $has_session = 1;  
                             } else {  
                                 undef($otherserver);  
                             }  
                         }  
                     }  
                 }  
                 if ($has_session) {  
                     if ($update_mtime) {  
                         my $atime = my $mtime = time;  
                         utime($atime,$mtime,"$balancedir/$cookie.id");  
                     }  
                 } else {  
                     unlink("$balancedir/$cookie.id");  
                 }  
             }  
         }  
     }  
     return ($otherserver,$cookie);  
 }  
   
 sub updatebalcookie {  
     my ($cookie,$balancer,$lastentry)=@_;  
     if ($cookie =~ /^($match_domain)\_($match_username)\_[a-f0-9]{32}$/) {  
         my ($udom,$uname) = ($1,$2);  
         my $uprimary_id = &domain($udom,'primary');  
         my $uintdom = &internet_dom($uprimary_id);  
         my $intdom = &internet_dom($balancer);  
         my $serverhomedom = &host_domain($balancer);  
         if (($uintdom ne '') && ($uintdom eq $intdom)) {  
             return &reply('updatebalcookie:'.&escape($cookie).':'.&escape($lastentry),$balancer);  
         }  
     }  
     return;  
 }  
   
 sub delbalcookie {  
     my ($cookie,$balancer) =@_;  
     if ($cookie =~ /^($match_domain)\_($match_username)\_[a-f0-9]{32}$/) {  
         my ($udom,$uname) = ($1,$2);  
         my $uprimary_id = &domain($udom,'primary');  
         my $uintdom = &internet_dom($uprimary_id);  
         my $intdom = &internet_dom($balancer);  
         my $serverhomedom = &host_domain($balancer);  
         if (($uintdom ne '') && ($uintdom eq $intdom)) {  
             return &reply('delbalcookie:'.&escape($cookie),$balancer);  
         }  
     }  
 }  
   
 # -------------------------------- ask if server already has a session for user  # -------------------------------- ask if server already has a session for user
 sub has_user_session {  sub has_user_session {
     my ($lonid,$udom,$uname) = @_;      my ($lonid,$udom,$uname) = @_;
Line 1132  sub has_user_session { Line 938  sub has_user_session {
 # --------- determine least loaded server in a user's domain which allows login  # --------- determine least loaded server in a user's domain which allows login
   
 sub choose_server {  sub choose_server {
     my ($udom,$checkloginvia,$required,$skiploadbal) = @_;      my ($udom,$checkloginvia) = @_;
     my %domconfhash = &Apache::loncommon::get_domainconf($udom);      my %domconfhash = &Apache::loncommon::get_domainconf($udom);
     my %servers = &get_servers($udom);      my %servers = &get_servers($udom);
     my $lowest_load = 30000;      my $lowest_load = 30000;
     my ($login_host,$hostname,$portal_path,$isredirect,$balancers);      my ($login_host,$hostname,$portal_path,$isredirect);
     if ($skiploadbal) {  
         ($balancers,my $cached)=&is_cached_new('loadbalancing',$udom);  
         unless (defined($cached)) {  
             my $cachetime = 60*60*24;  
             my %domconfig =  
                 &Apache::lonnet::get_dom('configuration',['loadbalancing'],$udom);  
             if (ref($domconfig{'loadbalancing'}) eq 'HASH') {  
                 $balancers = &do_cache_new('loadbalancing',$udom,$domconfig{'loadbalancing'},  
                                            $cachetime);  
             }  
         }  
     }  
     foreach my $lonhost (keys(%servers)) {      foreach my $lonhost (keys(%servers)) {
         my $loginvia;          my $loginvia;
         if ($skiploadbal) {  
             if (ref($balancers) eq 'HASH') {  
                 next if (exists($balancers->{$lonhost}));  
             }  
         }  
         if ($checkloginvia) {          if ($checkloginvia) {
             $loginvia = $domconfhash{$udom.'.login.loginvia_'.$lonhost};              $loginvia = $domconfhash{$udom.'.login.loginvia_'.$lonhost};
             if ($loginvia) {              if ($loginvia) {
                 my ($server,$path) = split(/:/,$loginvia);                  my ($server,$path) = split(/:/,$loginvia);
                 ($login_host, $lowest_load) =                  ($login_host, $lowest_load) =
                     &compare_server_load($server, $login_host, $lowest_load, $required);                      &compare_server_load($server, $login_host, $lowest_load);
                 if ($login_host eq $server) {                  if ($login_host eq $server) {
                     $portal_path = $path;                      $portal_path = $path;
                     $isredirect = 1;                      $isredirect = 1;
                 }                  }
             } else {              } else {
                 ($login_host, $lowest_load) =                  ($login_host, $lowest_load) =
                     &compare_server_load($lonhost, $login_host, $lowest_load, $required);                      &compare_server_load($lonhost, $login_host, $lowest_load);
                 if ($login_host eq $lonhost) {                  if ($login_host eq $lonhost) {
                     $portal_path = '';                      $portal_path = '';
                     $isredirect = '';                       $isredirect = ''; 
Line 1176  sub choose_server { Line 965  sub choose_server {
             }              }
         } else {          } else {
             ($login_host, $lowest_load) =              ($login_host, $lowest_load) =
                 &compare_server_load($lonhost, $login_host, $lowest_load, $required);                  &compare_server_load($lonhost, $login_host, $lowest_load);
         }          }
     }      }
     if ($login_host ne '') {      if ($login_host ne '') {
         $hostname = &hostname($login_host);          $hostname = &hostname($login_host);
     }      }
     return ($login_host,$hostname,$portal_path,$isredirect,$lowest_load);      return ($login_host,$hostname,$portal_path,$isredirect);
 }  
   
 sub get_course_sessions {  
     my ($cnum,$cdom,$lastactivity) = @_;  
     my %servers = &internet_dom_servers($cdom);  
     my %returnhash;  
     foreach my $server (sort(keys(%servers))) {  
         my $rep = &reply("coursesessions:$cdom:$cnum:$lastactivity",$server);  
         my @pairs=split(/\&/,$rep);  
         unless (($rep eq 'unknown_cmd') || ($rep =~ /^error/)) {  
             foreach my $item (@pairs) {  
                 my ($key,$value)=split(/=/,$item,2);  
                 $key = &unescape($key);  
                 next if ($key =~ /^error: 2 /);  
                 if (exists($returnhash{$key})) {  
                     next if ($value < $returnhash{$key});  
                 }  
                 $returnhash{$key}=$value;  
             }  
         }  
     }  
     return %returnhash;  
 }  }
   
 # --------------------------------------------- Try to change a user's password  # --------------------------------------------- Try to change a user's password
Line 1242  sub changepass { Line 1009  sub changepass {
     } elsif ($answer =~ "invalid_client") {      } elsif ($answer =~ "invalid_client") {
         &logthis("$server refused to change $uname in $udom password because ".          &logthis("$server refused to change $uname in $udom password because ".
                  "it was a reset by e-mail originating from an invalid server.");                   "it was a reset by e-mail originating from an invalid server.");
     } elsif ($answer =~ "^prioruse") {  
        &logthis("$server refused to change $uname in $udom password because ".  
                 "the password had been used before");  
     }      }
     return $answer;      return $answer;
 }  }
Line 1374  sub can_host_session { Line 1138  sub can_host_session {
 sub spare_can_host {  sub spare_can_host {
     my ($udom,$uint_dom,$remotesessions,$try_server)=@_;      my ($udom,$uint_dom,$remotesessions,$try_server)=@_;
     my $canhost=1;      my $canhost=1;
     my $try_server_hostname = &hostname($try_server);      my @intdoms;
     my $serverhomeID = &get_server_homeID($try_server_hostname);      my $internet_names = &Apache::lonnet::get_internet_names($try_server);
     my $serverhomedom = &host_domain($serverhomeID);      if (ref($internet_names) eq 'ARRAY') {
     my %defdomdefaults = &get_domain_defaults($serverhomedom);          @intdoms = @{$internet_names};
     if (ref($defdomdefaults{'offloadnow'}) eq 'HASH') {      }
         if ($defdomdefaults{'offloadnow'}{$try_server}) {      unless (grep(/^\Q$uint_dom\E$/,@intdoms)) {
             $canhost = 0;          my $serverhomeID = &Apache::lonnet::get_server_homeID($try_server);
         }          my $serverhomedom = &Apache::lonnet::host_domain($serverhomeID);
     }          my %defdomdefaults = &Apache::lonnet::get_domain_defaults($serverhomedom);
     if ($canhost) {          my $remoterev = &Apache::lonnet::get_server_loncaparev(undef,$try_server);
         if (ref($defdomdefaults{'offloadoth'}) eq 'HASH') {          $canhost = &can_host_session($udom,$try_server,$remoterev,
             if ($defdomdefaults{'offloadoth'}{$try_server}) {                                       $remotesessions,
                 unless (&shared_institution($udom,$try_server)) {                                       $defdomdefaults{'hostedsessions'});
                     $canhost = 0;  
                 }  
             }  
         }  
     }  
     if (($canhost) && ($uint_dom)) {  
         my @intdoms;  
         my $internet_names = &get_internet_names($try_server);  
         if (ref($internet_names) eq 'ARRAY') {  
             @intdoms = @{$internet_names};  
         }  
         unless (grep(/^\Q$uint_dom\E$/,@intdoms)) {  
             my $remoterev = &get_server_loncaparev(undef,$try_server);  
             $canhost = &can_host_session($udom,$try_server,$remoterev,  
                                          $remotesessions,  
                                          $defdomdefaults{'hostedsessions'});  
         }  
     }      }
     return $canhost;      return $canhost;
 }  }
Line 1488  sub get_lonbalancer_config { Line 1235  sub get_lonbalancer_config {
 }  }
   
 sub check_loadbalancing {  sub check_loadbalancing {
     my ($uname,$udom,$caller) = @_;      my ($uname,$udom) = @_;
     my ($is_balancer,$currtargets,$currrules,$dom_in_use,$homeintdom,      my ($is_balancer,$dom_in_use,$homeintdom,$rule_in_effect,
         $rule_in_effect,$offloadto,$otherserver,$setcookie);          $offloadto,$otherserver);
     my $lonhost = $perlvar{'lonHostID'};      my $lonhost = $perlvar{'lonHostID'};
     my @hosts = &current_machine_ids();      my @hosts = &current_machine_ids();
     my $uprimary_id = &Apache::lonnet::domain($udom,'primary');      my $uprimary_id = &Apache::lonnet::domain($udom,'primary');
     my $uintdom = &Apache::lonnet::internet_dom($uprimary_id);      my $uintdom = &Apache::lonnet::internet_dom($uprimary_id);
     my $intdom = &Apache::lonnet::internet_dom($lonhost);      my $intdom = &Apache::lonnet::internet_dom($lonhost);
     my $serverhomedom = &host_domain($lonhost);      my $serverhomedom = &host_domain($lonhost);
     my $domneedscache;   
     my $cachetime = 60*60*24;      my $cachetime = 60*60*24;
   
     if (($uintdom ne '') && ($uintdom eq $intdom)) {      if (($uintdom ne '') && ($uintdom eq $intdom)) {
Line 1512  sub check_loadbalancing { Line 1259  sub check_loadbalancing {
             &Apache::lonnet::get_dom('configuration',['loadbalancing'],$dom_in_use);              &Apache::lonnet::get_dom('configuration',['loadbalancing'],$dom_in_use);
         if (ref($domconfig{'loadbalancing'}) eq 'HASH') {          if (ref($domconfig{'loadbalancing'}) eq 'HASH') {
             $result = &do_cache_new('loadbalancing',$dom_in_use,$domconfig{'loadbalancing'},$cachetime);              $result = &do_cache_new('loadbalancing',$dom_in_use,$domconfig{'loadbalancing'},$cachetime);
         } else {  
             $domneedscache = $dom_in_use;  
         }          }
     }      }
     if (ref($result) eq 'HASH') {      if (ref($result) eq 'HASH') {
         ($is_balancer,$currtargets,$currrules,$setcookie) =          my $currbalancer = $result->{'lonhost'};
             &check_balancer_result($result,@hosts);          my $currtargets = $result->{'targets'};
           my $currrules = $result->{'rules'};
           if ($currbalancer ne '') {
               if (grep(/^\Q$currbalancer\E$/,@hosts)) {
                   $is_balancer = 1;
               }
           }
         if ($is_balancer) {          if ($is_balancer) {
             if (ref($currrules) eq 'HASH') {              if (ref($currrules) eq 'HASH') {
                 if ($homeintdom) {                  if ($homeintdom) {
Line 1567  sub check_loadbalancing { Line 1318  sub check_loadbalancing {
             }              }
         }          }
     } elsif (($homeintdom) && ($udom ne $serverhomedom)) {      } elsif (($homeintdom) && ($udom ne $serverhomedom)) {
         ($result,$cached)=&is_cached_new('loadbalancing',$serverhomedom);          my ($result,$cached)=&is_cached_new('loadbalancing',$serverhomedom);
         unless (defined($cached)) {          unless (defined($cached)) {
             my %domconfig =              my %domconfig =
                 &Apache::lonnet::get_dom('configuration',['loadbalancing'],$serverhomedom);                  &Apache::lonnet::get_dom('configuration',['loadbalancing'],$serverhomedom);
             if (ref($domconfig{'loadbalancing'}) eq 'HASH') {              if (ref($domconfig{'loadbalancing'}) eq 'HASH') {
                 $result = &do_cache_new('loadbalancing',$serverhomedom,$domconfig{'loadbalancing'},$cachetime);                  $result = &do_cache_new('loadbalancing',$dom_in_use,$domconfig{'loadbalancing'},$cachetime);
             } else {  
                 $domneedscache = $serverhomedom;  
             }              }
         }          }
         if (ref($result) eq 'HASH') {          if (ref($result) eq 'HASH') {
             ($is_balancer,$currtargets,$currrules,$setcookie) =              my $currbalancer = $result->{'lonhost'};
                 &check_balancer_result($result,@hosts);              my $currtargets = $result->{'targets'};
             if ($is_balancer) {              my $currrules = $result->{'rules'};
   
               if ($currbalancer eq $lonhost) {
                   $is_balancer = 1;
                 if (ref($currrules) eq 'HASH') {                  if (ref($currrules) eq 'HASH') {
                     if ($currrules->{'_LC_internetdom'} ne '') {                      if ($currrules->{'_LC_internetdom'} ne '') {
                         $rule_in_effect = $currrules->{'_LC_internetdom'};                          $rule_in_effect = $currrules->{'_LC_internetdom'};
Line 1594  sub check_loadbalancing { Line 1346  sub check_loadbalancing {
                 $is_balancer = 1;                  $is_balancer = 1;
                 $offloadto = &this_host_spares($dom_in_use);                  $offloadto = &this_host_spares($dom_in_use);
             }              }
             unless (defined($cached)) {  
                 $domneedscache = $serverhomedom;  
             }  
         }          }
     } else {      } else {
         if ($perlvar{'lonBalancer'} eq 'yes') {          if ($perlvar{'lonBalancer'} eq 'yes') {
             $is_balancer = 1;              $is_balancer = 1;
             $offloadto = &this_host_spares($dom_in_use);              $offloadto = &this_host_spares($dom_in_use);
         }          }
         unless (defined($cached)) {  
             $domneedscache = $serverhomedom;  
         }  
     }  
     if ($domneedscache) {  
         &do_cache_new('loadbalancing',$domneedscache,$is_balancer,$cachetime);  
     }      }
     if (($is_balancer) && ($caller ne 'switchserver')) {      if ($is_balancer) {
         my $lowest_load = 30000;          my $lowest_load = 30000;
         if (ref($offloadto) eq 'HASH') {          if (ref($offloadto) eq 'HASH') {
             if (ref($offloadto->{'primary'}) eq 'ARRAY') {              if (ref($offloadto->{'primary'}) eq 'ARRAY') {
Line 1639  sub check_loadbalancing { Line 1382  sub check_loadbalancing {
                 }                  }
             }              }
         }          }
         unless ($caller eq 'login') {          if (($otherserver ne '') && (grep(/^\Q$otherserver\E$/,@hosts))) {
             if (($otherserver ne '') && (grep(/^\Q$otherserver\E$/,@hosts))) {              $is_balancer = 0;
                 $is_balancer = 0;              if ($uname ne '' && $udom ne '') {
                 if ($uname ne '' && $udom ne '') {                  if (($env{'user.name'} eq $uname) && ($env{'user.domain'} eq $udom)) {
                     if (($env{'user.name'} eq $uname) && ($env{'user.domain'} eq $udom)) {                      
                         &appenv({'user.loadbalexempt'     => $lonhost,                      &appenv({'user.loadbalexempt'     => $lonhost,  
                                  'user.loadbalcheck.time' => time});                               'user.loadbalcheck.time' => time});
                     }  
                 }                  }
             }              }
         }          }
     }      }
     if (($is_balancer) && (!$homeintdom)) {      return ($is_balancer,$otherserver);
         undef($setcookie);  
     }  
     return ($is_balancer,$otherserver,$setcookie);  
 }  
   
 sub check_balancer_result {  
     my ($result,@hosts) = @_;  
     my ($is_balancer,$currtargets,$currrules,$setcookie);  
     if (ref($result) eq 'HASH') {  
         if ($result->{'lonhost'} ne '') {  
             my $currbalancer = $result->{'lonhost'};  
             if (grep(/^\Q$currbalancer\E$/,@hosts)) {  
                 $is_balancer = 1;  
                 $currtargets = $result->{'targets'};  
                 $currrules = $result->{'rules'};  
             }  
         } else {  
             foreach my $key (keys(%{$result})) {  
                 if (($key ne '') && (grep(/^\Q$key\E$/,@hosts)) &&  
                     (ref($result->{$key}) eq 'HASH')) {  
                     $is_balancer = 1;  
                     $currrules = $result->{$key}{'rules'};  
                     $currtargets = $result->{$key}{'targets'};  
                     $setcookie = $result->{$key}{'cookie'};  
                     last;  
                 }  
             }  
         }  
     }  
     return ($is_balancer,$currtargets,$currrules,$setcookie);  
 }  }
   
 sub get_loadbalancer_targets {  sub get_loadbalancer_targets {
Line 1786  sub idget { Line 1498  sub idget {
           
     my %servers = &get_servers($udom,'library');      my %servers = &get_servers($udom,'library');
     foreach my $tryserver (keys(%servers)) {      foreach my $tryserver (keys(%servers)) {
  my $idlist=join('&', map { &escape($_); } @ids);   my $idlist=join('&',@ids);
  $idlist=~tr/A-Z/a-z/;    $idlist=~tr/A-Z/a-z/; 
  my $reply=&reply("idget:$udom:".$idlist,$tryserver);   my $reply=&reply("idget:$udom:".$idlist,$tryserver);
  my @answer=();   my @answer=();
Line 1796  sub idget { Line 1508  sub idget {
  my $i;   my $i;
  for ($i=0;$i<=$#ids;$i++) {   for ($i=0;$i<=$#ids;$i++) {
     if ($answer[$i]) {      if ($answer[$i]) {
  $returnhash{$ids[$i]}=&unescape($answer[$i]);   $returnhash{$ids[$i]}=$answer[$i];
     }       } 
  }   }
     }       } 
Line 1838  sub idput { Line 1550  sub idput {
     }      }
 }  }
   
 # ---------------------------------------- Delete unwanted IDs from ids.db file  
   
 sub iddel {  
     my ($udom,$idshashref,$uhome)=@_;  
     my %result=();  
     unless (ref($idshashref) eq 'HASH') {  
         return %result;  
     }  
     my %servers=();  
     while (my ($id,$uname) = each(%{$idshashref})) {  
         my $uhom;  
         if ($uhome) {  
             $uhom = $uhome;  
         } else {  
             $uhom=&homeserver($uname,$udom);  
         }  
         if ($uhom ne 'no_host') {  
             if ($servers{$uhom}) {  
                 $servers{$uhom}.='&'.&escape($id);  
             } else {  
                 $servers{$uhom}=&escape($id);  
             }  
         }  
     }  
     foreach my $server (keys(%servers)) {  
         $result{$server} = &critical('iddel:'.$udom.':'.$servers{$server},$uhome);  
     }  
     return %result;  
 }  
   
 # ------------------------------dump from db file owned by domainconfig user  # ------------------------------dump from db file owned by domainconfig user
 sub dump_dom {  sub dump_dom {
     my ($namespace, $udom, $regexp) = @_;      my ($namespace, $udom, $regexp) = @_;
Line 1883  sub dump_dom { Line 1565  sub dump_dom {
   
 sub get_dom {  sub get_dom {
     my ($namespace,$storearr,$udom,$uhome)=@_;      my ($namespace,$storearr,$udom,$uhome)=@_;
     return if ($udom eq 'public');  
     my $items='';      my $items='';
     foreach my $item (@$storearr) {      foreach my $item (@$storearr) {
         $items.=&escape($item).'&';          $items.=&escape($item).'&';
Line 1891  sub get_dom { Line 1572  sub get_dom {
     $items=~s/\&$//;      $items=~s/\&$//;
     if (!$udom) {      if (!$udom) {
         $udom=$env{'user.domain'};          $udom=$env{'user.domain'};
         return if ($udom eq 'public');  
         if (defined(&domain($udom,'primary'))) {          if (defined(&domain($udom,'primary'))) {
             $uhome=&domain($udom,'primary');              $uhome=&domain($udom,'primary');
         } else {          } else {
Line 1905  sub get_dom { Line 1585  sub get_dom {
         }          }
     }      }
     if ($udom && $uhome && ($uhome ne 'no_host')) {      if ($udom && $uhome && ($uhome ne 'no_host')) {
         my $rep;          my $rep=&reply("getdom:$udom:$namespace:$items",$uhome);
         if (grep { $_ eq $uhome } &current_machine_ids()) {  
             # domain information is hosted on this machine  
             $rep = &LONCAPA::Lond::get_dom("getdom:$udom:$namespace:$items");  
         } else {          
             $rep=&reply("getdom:$udom:$namespace:$items",$uhome);  
         }  
         my %returnhash;          my %returnhash;
         if ($rep eq '' || $rep =~ /^error: 2 /) {          if ($rep eq '' || $rep =~ /^error: 2 /) {
             return %returnhash;              return %returnhash;
Line 2001  sub retrieve_inst_usertypes { Line 1675  sub retrieve_inst_usertypes {
     my %domdefs = &Apache::lonnet::get_domain_defaults($udom);      my %domdefs = &Apache::lonnet::get_domain_defaults($udom);
     if ((ref($domdefs{'inststatustypes'}) eq 'HASH') &&       if ((ref($domdefs{'inststatustypes'}) eq 'HASH') && 
         (ref($domdefs{'inststatusorder'}) eq 'ARRAY')) {          (ref($domdefs{'inststatusorder'}) eq 'ARRAY')) {
         return ($domdefs{'inststatustypes'},$domdefs{'inststatusorder'});          %returnhash = %{$domdefs{'inststatustypes'}};
           @order = @{$domdefs{'inststatusorder'}};
     } else {      } else {
         if (defined(&domain($udom,'primary'))) {          if (defined(&domain($udom,'primary'))) {
             my $uhome=&domain($udom,'primary');              my $uhome=&domain($udom,'primary');
             my $rep=&reply("inst_usertypes:$udom",$uhome);              my $rep=&reply("inst_usertypes:$udom",$uhome);
             if ($rep =~ /^(con_lost|error|no_such_host|refused)/) {              if ($rep =~ /^(con_lost|error|no_such_host|refused)/) {
                 &logthis("retrieve_inst_usertypes failed - $rep returned from $uhome in domain: $udom");                  &logthis("get_dom failed - $rep returned from $uhome in domain: $udom");
                 return (\%returnhash,\@order);                  return (\%returnhash,\@order);
             }              }
             my ($hashitems,$orderitems) = split(/:/,$rep);               my ($hashitems,$orderitems) = split(/:/,$rep); 
Line 2023  sub retrieve_inst_usertypes { Line 1698  sub retrieve_inst_usertypes {
                 push(@order,&unescape($item));                  push(@order,&unescape($item));
             }              }
         } else {          } else {
             &logthis("retrieve_inst_usertypes failed - no primary domain server for $udom");              &logthis("get_dom failed - no primary domain server for $udom");
         }          }
         return (\%returnhash,\@order);  
     }      }
       return (\%returnhash,\@order);
 }  }
   
 sub is_domainimage {  sub is_domainimage {
     my ($url) = @_;      my ($url) = @_;
     if ($url=~m-^/+res/+($match_domain)/+\1\-domainconfig/+(img|logo|domlogo|login)/+[^/]-) {      if ($url=~m-^/+res/+($match_domain)/+\1\-domainconfig/+(img|logo|domlogo)/+-) {
         if (&domain($1) ne '') {          if (&domain($1) ne '') {
             return '1';              return '1';
         }          }
Line 2046  sub inst_directory_query { Line 1721  sub inst_directory_query {
     my $homeserver = &domain($udom,'primary');      my $homeserver = &domain($udom,'primary');
     my $outcome;      my $outcome;
     if ($homeserver ne '') {      if ($homeserver ne '') {
         unless ($homeserver eq $perlvar{'lonHostID'}) {  
             if ($srch->{'srchby'} eq 'email') {  
                 my $lcrev = &get_server_loncaparev($udom,$homeserver);  
                 my ($major,$minor,$subver) = ($lcrev =~ /^\'?(\d+)\.(\d+)\.(\d+)[\w.\-]+\'?$/);  
                 if (($major eq '' && $minor eq '') || ($major < 2) ||  
                     (($major == 2) && ($minor < 11)) ||  
                     (($major == 2) && ($minor == 11) && ($subver < 3))) {  
                     return;  
                 }  
             }  
         }  
  my $queryid=&reply("querysend:instdirsearch:".   my $queryid=&reply("querysend:instdirsearch:".
    &escape($srch->{'srchby'}).':'.     &escape($srch->{'srchby'}).':'.
    &escape($srch->{'srchterm'}).':'.     &escape($srch->{'srchterm'}).':'.
    &escape($srch->{'srchtype'}),$homeserver);     &escape($srch->{'srchtype'}),$homeserver);
  my $host=&hostname($homeserver);   my $host=&hostname($homeserver);
  if ($queryid !~/^\Q$host\E\_/) {   if ($queryid !~/^\Q$host\E\_/) {
     &logthis('institutional directory search invalid queryid: '.$queryid.' for host: '.$homeserver.' in domain '.$udom);      &logthis('instituional directory search invalid queryid: '.$queryid.' for host: '.$homeserver.'in domain '.$udom);
     return;      return;
  }   }
  my $response = &get_query_reply($queryid);   my $response = &get_query_reply($queryid);
Line 2098  sub usersearch { Line 1762  sub usersearch {
     my $query = 'usersearch';      my $query = 'usersearch';
     foreach my $tryserver (keys(%libserv)) {      foreach my $tryserver (keys(%libserv)) {
         if (&host_domain($tryserver) eq $dom) {          if (&host_domain($tryserver) eq $dom) {
             unless ($tryserver eq $perlvar{'lonHostID'}) {  
                 if ($srch->{'srchby'} eq 'email') {  
                     my $lcrev = &get_server_loncaparev($dom,$tryserver);  
                     my ($major,$minor,$subver) = ($lcrev =~ /^\'?(\d+)\.(\d+)\.(\d+)[\w.\-]+\'?$/);  
                     next if (($major eq '' && $minor eq '') || ($major < 2) ||  
                              (($major == 2) && ($minor < 11)) ||  
                              (($major == 2) && ($minor == 11) && ($subver < 3)));  
                 }  
             }  
             my $host=&hostname($tryserver);              my $host=&hostname($tryserver);
             my $queryid=              my $queryid=
                 &reply("querysend:".&escape($query).':'.                  &reply("querysend:".&escape($query).':'.
Line 2192  sub get_instuser { Line 1847  sub get_instuser {
     return ($outcome,%userinfo);      return ($outcome,%userinfo);
 }  }
   
 sub get_multiple_instusers {  
     my ($udom,$users,$caller) = @_;  
     my ($outcome,$results);  
     if (ref($users) eq 'HASH') {  
         my $count = keys(%{$users});  
         my $requested = &freeze_escape($users);  
         my $homeserver = &domain($udom,'primary');  
         if ($homeserver ne '') {  
             my $queryid=&reply('querysend:getmultinstusers:::'.$caller.'='.$requested,$homeserver);  
             my $host=&hostname($homeserver);  
             if ($queryid !~/^\Q$host\E\_/) {  
                 &logthis('get_multiple_instusers invalid queryid: '.$queryid.  
                          ' for host: '.$homeserver.'in domain '.$udom);  
                 return ($outcome,$results);  
             }  
             my $response = &get_query_reply($queryid);  
             my $maxtries = 5;  
             if ($count > 100) {  
                 $maxtries = 1+int($count/20);  
             }  
             my $tries = 1;  
             while (($response=~/^timeout/) && ($tries <= $maxtries)) {  
                 $response = &get_query_reply($queryid);  
                 $tries ++;  
             }  
             if ($response eq '') {  
                 $results = {};  
                 foreach my $key (keys(%{$users})) {  
                     my ($uname,$id);  
                     if ($caller eq 'id') {  
                         $id = $key;  
                     } else {  
                         $uname = $key;  
                     }  
                     my ($resp,%info) = &get_instuser($udom,$uname,$id);  
                     $outcome = $resp;  
                     if ($resp eq 'ok') {  
                         %{$results} = (%{$results}, %info);  
                     } else {  
                         last;  
                     }  
                 }  
             } elsif(!&error($response) && ($response ne 'refused')) {  
                 if (($response eq 'unavailable') || ($response eq 'invalid') || ($response eq 'timeout')) {  
                     $outcome = $response;  
                 } else {  
                     ($outcome,my $userdata) = split(/=/,$response,2);  
                     if ($outcome eq 'ok') {  
                         $results = &thaw_unescape($userdata);  
                     }  
                 }  
             }  
         }  
     }  
     return ($outcome,$results);  
 }  
   
 sub inst_rulecheck {  sub inst_rulecheck {
     my ($udom,$uname,$id,$item,$rules) = @_;      my ($udom,$uname,$id,$item,$rules) = @_;
     my %returnhash;      my %returnhash;
Line 2328  sub inst_userrules { Line 1926  sub inst_userrules {
 # ------------- Get Authentication, Language and User Tools Defaults for Domain  # ------------- Get Authentication, Language and User Tools Defaults for Domain
   
 sub get_domain_defaults {  sub get_domain_defaults {
     my ($domain,$ignore_cache) = @_;      my ($domain) = @_;
     return if (($domain eq '') || ($domain eq 'public'));  
     my $cachetime = 60*60*24;      my $cachetime = 60*60*24;
     unless ($ignore_cache) {      my ($result,$cached)=&is_cached_new('domdefaults',$domain);
         my ($result,$cached)=&is_cached_new('domdefaults',$domain);      if (defined($cached)) {
         if (defined($cached)) {          if (ref($result) eq 'HASH') {
             if (ref($result) eq 'HASH') {              return %{$result};
                 return %{$result};  
             }  
         }          }
     }      }
     my %domdefaults;      my %domdefaults;
     my %domconfig =      my %domconfig =
          &Apache::lonnet::get_dom('configuration',['defaults','quotas',           &Apache::lonnet::get_dom('configuration',['defaults','quotas',
                                   'requestcourses','inststatus',                                    'requestcourses','inststatus',
                                   'coursedefaults','usersessions',                                    'coursedefaults','usersessions'],$domain);
                                   'requestauthor','selfenrollment',  
                                   'coursecategories','autoenroll',  
                                   'helpsettings'],$domain);  
     my @coursetypes = ('official','unofficial','community','textbook');  
     if (ref($domconfig{'defaults'}) eq 'HASH') {      if (ref($domconfig{'defaults'}) eq 'HASH') {
         $domdefaults{'lang_def'} = $domconfig{'defaults'}{'lang_def'};           $domdefaults{'lang_def'} = $domconfig{'defaults'}{'lang_def'}; 
         $domdefaults{'auth_def'} = $domconfig{'defaults'}{'auth_def'};          $domdefaults{'auth_def'} = $domconfig{'defaults'}{'auth_def'};
Line 2355  sub get_domain_defaults { Line 1946  sub get_domain_defaults {
         $domdefaults{'timezone_def'} = $domconfig{'defaults'}{'timezone_def'};          $domdefaults{'timezone_def'} = $domconfig{'defaults'}{'timezone_def'};
         $domdefaults{'datelocale_def'} = $domconfig{'defaults'}{'datelocale_def'};          $domdefaults{'datelocale_def'} = $domconfig{'defaults'}{'datelocale_def'};
         $domdefaults{'portal_def'} = $domconfig{'defaults'}{'portal_def'};          $domdefaults{'portal_def'} = $domconfig{'defaults'}{'portal_def'};
         $domdefaults{'intauth_cost'} = $domconfig{'defaults'}{'intauth_cost'};  
         $domdefaults{'intauth_switch'} = $domconfig{'defaults'}{'intauth_switch'};  
         $domdefaults{'intauth_check'} = $domconfig{'defaults'}{'intauth_check'};  
     } else {      } else {
         $domdefaults{'lang_def'} = &domain($domain,'lang_def');          $domdefaults{'lang_def'} = &domain($domain,'lang_def');
         $domdefaults{'auth_def'} = &domain($domain,'auth_def');          $domdefaults{'auth_def'} = &domain($domain,'auth_def');
Line 2368  sub get_domain_defaults { Line 1956  sub get_domain_defaults {
             $domdefaults{'defaultquota'} = $domconfig{'quotas'}{'defaultquota'};              $domdefaults{'defaultquota'} = $domconfig{'quotas'}{'defaultquota'};
         } else {          } else {
             $domdefaults{'defaultquota'} = $domconfig{'quotas'};              $domdefaults{'defaultquota'} = $domconfig{'quotas'};
         }          } 
         my @usertools = ('aboutme','blog','webdav','portfolio');          my @usertools = ('aboutme','blog','webdav','portfolio');
         foreach my $item (@usertools) {          foreach my $item (@usertools) {
             if (ref($domconfig{'quotas'}{$item}) eq 'HASH') {              if (ref($domconfig{'quotas'}{$item}) eq 'HASH') {
                 $domdefaults{$item} = $domconfig{'quotas'}{$item};                  $domdefaults{$item} = $domconfig{'quotas'}{$item};
             }              }
         }          }
         if (ref($domconfig{'quotas'}{'authorquota'}) eq 'HASH') {  
             $domdefaults{'authorquota'} = $domconfig{'quotas'}{'authorquota'};  
         }  
     }      }
     if (ref($domconfig{'requestcourses'}) eq 'HASH') {      if (ref($domconfig{'requestcourses'}) eq 'HASH') {
         foreach my $item ('official','unofficial','community','textbook') {          foreach my $item ('official','unofficial','community') {
             $domdefaults{$item} = $domconfig{'requestcourses'}{$item};              $domdefaults{$item} = $domconfig{'requestcourses'}{$item};
         }          }
     }      }
     if (ref($domconfig{'requestauthor'}) eq 'HASH') {  
         $domdefaults{'requestauthor'} = $domconfig{'requestauthor'};  
     }  
     if (ref($domconfig{'inststatus'}) eq 'HASH') {      if (ref($domconfig{'inststatus'}) eq 'HASH') {
         foreach my $item ('inststatustypes','inststatusorder','inststatusguest') {          foreach my $item ('inststatustypes','inststatusorder') {
             $domdefaults{$item} = $domconfig{'inststatus'}{$item};              $domdefaults{$item} = $domconfig{'inststatus'}{$item};
         }          }
     }      }
     if (ref($domconfig{'coursedefaults'}) eq 'HASH') {      if (ref($domconfig{'coursedefaults'}) eq 'HASH') {
         $domdefaults{'usejsme'} = $domconfig{'coursedefaults'}{'usejsme'};          foreach my $item ('canuse_pdfforms') {
         $domdefaults{'inline_chem'} = $domconfig{'coursedefaults'}{'inline_chem'};              $domdefaults{$item} = $domconfig{'coursedefaults'}{$item};
         $domdefaults{'uselcmath'} = $domconfig{'coursedefaults'}{'uselcmath'};  
         if (ref($domconfig{'coursedefaults'}{'postsubmit'}) eq 'HASH') {  
             $domdefaults{'postsubmit'} = $domconfig{'coursedefaults'}{'postsubmit'}{'client'};  
         }  
         foreach my $type (@coursetypes) {  
             if (ref($domconfig{'coursedefaults'}{'coursecredits'}) eq 'HASH') {  
                 unless ($type eq 'community') {  
                     $domdefaults{$type.'credits'} = $domconfig{'coursedefaults'}{'coursecredits'}{$type};  
                 }  
             }  
             if (ref($domconfig{'coursedefaults'}{'uploadquota'}) eq 'HASH') {  
                 $domdefaults{$type.'quota'} = $domconfig{'coursedefaults'}{'uploadquota'}{$type};  
             }  
             if ($domdefaults{'postsubmit'} eq 'on') {  
                 if (ref($domconfig{'coursedefaults'}{'postsubmit'}{'timeout'}) eq 'HASH') {  
                     $domdefaults{$type.'postsubtimeout'} =  
                         $domconfig{'coursedefaults'}{'postsubmit'}{'timeout'}{$type};  
                 }  
             }  
         }  
         if (ref($domconfig{'coursedefaults'}{'canclone'}) eq 'HASH') {  
             if (ref($domconfig{'coursedefaults'}{'canclone'}{'instcode'}) eq 'ARRAY') {  
                 my @clonecodes = @{$domconfig{'coursedefaults'}{'canclone'}{'instcode'}};  
                 if (@clonecodes) {  
                     $domdefaults{'canclone'} = join('+',@clonecodes);  
                 }  
             }  
         } elsif ($domconfig{'coursedefaults'}{'canclone'}) {  
             $domdefaults{'canclone'}=$domconfig{'coursedefaults'}{'canclone'};  
         }  
         if ($domconfig{'coursedefaults'}{'texengine'}) {  
             $domdefaults{'texengine'} = $domconfig{'coursedefaults'}{'texengine'};  
         }          }
     }      }
     if (ref($domconfig{'usersessions'}) eq 'HASH') {      if (ref($domconfig{'usersessions'}) eq 'HASH') {
Line 2436  sub get_domain_defaults { Line 1986  sub get_domain_defaults {
         if (ref($domconfig{'usersessions'}{'hosted'}) eq 'HASH') {          if (ref($domconfig{'usersessions'}{'hosted'}) eq 'HASH') {
             $domdefaults{'hostedsessions'} = $domconfig{'usersessions'}{'hosted'};              $domdefaults{'hostedsessions'} = $domconfig{'usersessions'}{'hosted'};
         }          }
         if (ref($domconfig{'usersessions'}{'offloadnow'}) eq 'HASH') {  
             $domdefaults{'offloadnow'} = $domconfig{'usersessions'}{'offloadnow'};  
         }  
         if (ref($domconfig{'usersessions'}{'offloadoth'}) eq 'HASH') {  
             $domdefaults{'offloadoth'} = $domconfig{'usersessions'}{'offloadoth'};  
         }  
     }  
     if (ref($domconfig{'selfenrollment'}) eq 'HASH') {  
         if (ref($domconfig{'selfenrollment'}{'admin'}) eq 'HASH') {  
             my @settings = ('types','registered','enroll_dates','access_dates','section',  
                             'approval','limit');  
             foreach my $type (@coursetypes) {  
                 if (ref($domconfig{'selfenrollment'}{'admin'}{$type}) eq 'HASH') {  
                     my @mgrdc = ();  
                     foreach my $item (@settings) {  
                         if ($domconfig{'selfenrollment'}{'admin'}{$type}{$item} eq '0') {  
                             push(@mgrdc,$item);  
                         }  
                     }  
                     if (@mgrdc) {  
                         $domdefaults{$type.'selfenrolladmdc'} = join(',',@mgrdc);  
                     }  
                 }  
             }  
         }  
         if (ref($domconfig{'selfenrollment'}{'default'}) eq 'HASH') {  
             foreach my $type (@coursetypes) {  
                 if (ref($domconfig{'selfenrollment'}{'default'}{$type}) eq 'HASH') {  
                     foreach my $item (keys(%{$domconfig{'selfenrollment'}{'default'}{$type}})) {  
                         $domdefaults{$type.'selfenroll'.$item} = $domconfig{'selfenrollment'}{'default'}{$type}{$item};  
                     }  
                 }  
             }  
         }  
     }      }
     if (ref($domconfig{'coursecategories'}) eq 'HASH') {      &Apache::lonnet::do_cache_new('domdefaults',$domain,\%domdefaults,
         $domdefaults{'catauth'} = 'std';                                    $cachetime);
         $domdefaults{'catunauth'} = 'std';  
         if ($domconfig{'coursecategories'}{'auth'}) {  
             $domdefaults{'catauth'} = $domconfig{'coursecategories'}{'auth'};  
         }  
         if ($domconfig{'coursecategories'}{'unauth'}) {  
             $domdefaults{'catunauth'} = $domconfig{'coursecategories'}{'unauth'};  
         }  
     }  
     if (ref($domconfig{'autoenroll'}) eq 'HASH') {  
         $domdefaults{'autofailsafe'} = $domconfig{'autoenroll'}{'autofailsafe'};  
     }  
     if (ref($domconfig{'helpsettings'}) eq 'HASH') {  
         $domdefaults{'submitbugs'} = $domconfig{'helpsettings'}{'submitbugs'};  
         if (ref($domconfig{'helpsettings'}{'adhoc'}) eq 'HASH') {  
             $domdefaults{'adhocroles'} = $domconfig{'helpsettings'}{'adhoc'};  
         }  
     }  
     if (ref($domconfig{'wafproxy'}) eq 'HASH') {  
         foreach my $item ('ipheader','trusted','vpnint','vpnext','sslopt') {  
             if ($domconfig{'wafproxy'}{$item}) {  
                 $domdefaults{'waf_'.$item} = $domconfig{'wafproxy'}{$item};  
             }  
         }  
     }  
     &do_cache_new('domdefaults',$domain,\%domdefaults,$cachetime);  
     return %domdefaults;      return %domdefaults;
 }  }
   
 sub get_dom_cats {  
     my ($dom) = @_;  
     return unless (&domain($dom));  
     my ($cats,$cached)=&is_cached_new('cats',$dom);  
     unless (defined($cached)) {  
         my %domconfig = &get_dom('configuration',['coursecategories'],$dom);  
         if (ref($domconfig{'coursecategories'}) eq 'HASH') {  
             if (ref($domconfig{'coursecategories'}{'cats'}) eq 'HASH') {  
                 %{$cats} = %{$domconfig{'coursecategories'}{'cats'}};  
             } else {  
                 $cats = {};  
             }  
         } else {  
             $cats = {};  
         }  
         &Apache::lonnet::do_cache_new('cats',$dom,$cats,3600);  
     }  
     return $cats;  
 }  
   
 sub get_dom_instcats {  
     my ($dom) = @_;  
     return unless (&domain($dom));  
     my ($instcats,$cached)=&is_cached_new('instcats',$dom);  
     unless (defined($cached)) {  
         my (%coursecodes,%codes,@codetitles,%cat_titles,%cat_order);  
         my $totcodes = &retrieve_instcodes(\%coursecodes,$dom);  
         if ($totcodes > 0) {  
             my $caller = 'global';  
             if (&auto_instcode_format($caller,$dom,\%coursecodes,\%codes,  
                                       \@codetitles,\%cat_titles,\%cat_order) eq 'ok') {  
                 $instcats = {  
                                 codes => \%codes,  
                                 codetitles => \@codetitles,  
                                 cat_titles => \%cat_titles,  
                                 cat_order => \%cat_order,  
                             };  
                 &do_cache_new('instcats',$dom,$instcats,3600);  
             }  
         }  
     }  
     return $instcats;  
 }  
   
 sub retrieve_instcodes {  
     my ($coursecodes,$dom) = @_;  
     my $totcodes;  
     my %courses = &courseiddump($dom,'.',1,'.','.','.',undef,undef,'Course');  
     foreach my $course (keys(%courses)) {  
         if (ref($courses{$course}) eq 'HASH') {  
             if ($courses{$course}{'inst_code'} ne '') {  
                 $$coursecodes{$course} = $courses{$course}{'inst_code'};  
                 $totcodes ++;  
             }  
         }  
     }  
     return $totcodes;  
 }  
   
 # --------------------------------------------- Get domain config for passwords  
   
 sub get_passwdconf {  
     my ($dom) = @_;  
     my (%passwdconf,$gotconf,$lookup);  
     my ($result,$cached)=&is_cached_new('passwdconf',$dom);  
     if (defined($cached)) {  
         if (ref($result) eq 'HASH') {  
             %passwdconf = %{$result};  
             $gotconf = 1;  
         }  
     }  
     unless ($gotconf) {  
         my %domconfig = &get_dom('configuration',['passwords'],$dom);  
         if (ref($domconfig{'passwords'}) eq 'HASH') {  
             %passwdconf = %{$domconfig{'passwords'}};  
         }  
         my $cachetime = 24*60*60;  
         &do_cache_new('passwdconf',$dom,\%passwdconf,$cachetime);  
     }  
     return %passwdconf;  
 }  
   
 # --------------------------------------------------- Assign a key to a student  # --------------------------------------------------- Assign a key to a student
   
 sub assign_access_key {  sub assign_access_key {
Line 2819  sub make_key { Line 2228  sub make_key {
 sub devalidate_cache_new {  sub devalidate_cache_new {
     my ($name,$id,$debug) = @_;      my ($name,$id,$debug) = @_;
     if ($debug) { &Apache::lonnet::logthis("deleting $name:$id"); }      if ($debug) { &Apache::lonnet::logthis("deleting $name:$id"); }
     my $remembered_id=$name.':'.$id;  
     $id=&make_key($name,$id);      $id=&make_key($name,$id);
     $memcache->delete($id);      $memcache->delete($id);
     delete($remembered{$remembered_id});      delete($remembered{$id});
     delete($accessed{$remembered_id});      delete($accessed{$id});
 }  }
   
 sub is_cached_new {  sub is_cached_new {
     my ($name,$id,$debug) = @_;      my ($name,$id,$debug) = @_;
     my $remembered_id=$name.':'.$id; # this is to avoid make_key (which is slow) for       $id=&make_key($name,$id);
                                      # keys in %remembered hash, which persists for      if (exists($remembered{$id})) {
                                      # duration of request (no restriction on key length).   if ($debug) { &Apache::lonnet::logthis("Early return $id of $remembered{$id} "); }
     if (exists($remembered{$remembered_id})) {   $accessed{$id}=[&gettimeofday()];
  if ($debug) { &Apache::lonnet::logthis("Early return $remembered_id of $remembered{$remembered_id} "); }  
  $accessed{$remembered_id}=[&gettimeofday()];  
  $hits++;   $hits++;
  return ($remembered{$remembered_id},1);   return ($remembered{$id},1);
     }      }
     $id=&make_key($name,$id);  
     my $value = $memcache->get($id);      my $value = $memcache->get($id);
     if (!(defined($value))) {      if (!(defined($value))) {
  if ($debug) { &Apache::lonnet::logthis("getting $id is not defined"); }   if ($debug) { &Apache::lonnet::logthis("getting $id is not defined"); }
Line 2847  sub is_cached_new { Line 2252  sub is_cached_new {
  if ($debug) { &Apache::lonnet::logthis("getting $id is __undef__"); }   if ($debug) { &Apache::lonnet::logthis("getting $id is __undef__"); }
  $value=undef;   $value=undef;
     }      }
     &make_room($remembered_id,$value,$debug);      &make_room($id,$value,$debug);
     if ($debug) { &Apache::lonnet::logthis("getting $id is $value"); }      if ($debug) { &Apache::lonnet::logthis("getting $id is $value"); }
     return ($value,1);      return ($value,1);
 }  }
   
 sub do_cache_new {  sub do_cache_new {
     my ($name,$id,$value,$time,$debug) = @_;      my ($name,$id,$value,$time,$debug) = @_;
     my $remembered_id=$name.':'.$id;  
     $id=&make_key($name,$id);      $id=&make_key($name,$id);
     my $setvalue=$value;      my $setvalue=$value;
     if (!defined($setvalue)) {      if (!defined($setvalue)) {
Line 2870  sub do_cache_new { Line 2274  sub do_cache_new {
  $memcache->disconnect_all();   $memcache->disconnect_all();
     }      }
     # need to make a copy of $value      # need to make a copy of $value
     &make_room($remembered_id,$value,$debug);      &make_room($id,$value,$debug);
     return $value;      return $value;
 }  }
   
 sub make_room {  sub make_room {
     my ($remembered_id,$value,$debug)=@_;      my ($id,$value,$debug)=@_;
   
     $remembered{$remembered_id}= (ref($value)) ? &Storable::dclone($value)      $remembered{$id}= (ref($value)) ? &Storable::dclone($value)
                                     : $value;                                      : $value;
     if ($to_remember<0) { return; }      if ($to_remember<0) { return; }
     $accessed{$remembered_id}=[&gettimeofday()];      $accessed{$id}=[&gettimeofday()];
     if (scalar(keys(%remembered)) <= $to_remember) { return; }      if (scalar(keys(%remembered)) <= $to_remember) { return; }
     my $to_kick;      my $to_kick;
     my $max_time=0;      my $max_time=0;
Line 2994  sub chatsend { Line 2398  sub chatsend {
   
 sub getversion {  sub getversion {
     my $fname=&clutter(shift);      my $fname=&clutter(shift);
     unless ($fname=~m{^(/adm/wrapper|)/res/}) { return -1; }      unless ($fname=~/^\/res\//) { return -1; }
     return &currentversion(&filelocation('',$fname));      return &currentversion(&filelocation('',$fname));
 }  }
   
Line 3118  sub repcopy { Line 2522  sub repcopy {
     }      }
 }  }
   
 # ------------------------------------------------- Unsubscribe from a resource  
   
 sub unsubscribe {  
     my ($fname) = @_;  
     my $answer;  
     if ($fname=~/\/(aboutme|syllabus|bulletinboard|smppg)$/) { return $answer; }  
     $fname=~s/[\n\r]//g;  
     my $author=$fname;  
     $author=~s/\/home\/httpd\/html\/res\/([^\/]*)\/([^\/]*).*/$1\/$2/;  
     my ($udom,$uname)=split(/\//,$author);  
     my $home=homeserver($uname,$udom);  
     if ($home eq 'no_host') {  
         $answer = 'no_host';  
     } elsif (grep { $_ eq $home } &current_machine_ids()) {  
         $answer = 'home';  
     } else {  
         $answer = reply("unsub:$fname",$home);  
     }  
     return $answer;  
 }  
   
 # ------------------------------------------------ Get server side include body  # ------------------------------------------------ Get server side include body
 sub ssi_body {  sub ssi_body {
     my ($filelink,%form)=@_;      my ($filelink,%form)=@_;
Line 3188  sub absolute_url { Line 2571  sub absolute_url {
 sub ssi {  sub ssi {
   
     my ($fn,%form)=@_;      my ($fn,%form)=@_;
     my ($request,$response);      my $ua=new LWP::UserAgent;
       my $request;
   
     $form{'no_update_last_known'}=1;      $form{'no_update_last_known'}=1;
     &Apache::lonenc::check_encrypt(\$fn);      &Apache::lonenc::check_encrypt(\$fn);
     if (%form) {      if (%form) {
       $request=new HTTP::Request('POST',&absolute_url().$fn);        $request=new HTTP::Request('POST',&absolute_url().$fn);
       $request->content(join('&',map {        $request->content(join('&',map { &escape($_).'='.&escape($form{$_}) } keys(%form)));
             my $name = escape($_);  
             "$name=" . ( ref($form{$_}) eq 'ARRAY'  
             ? join("&$name=", map {escape($_) } @{$form{$_}})  
             : &escape($form{$_}) );  
         } keys(%form)));  
     } else {      } else {
       $request=new HTTP::Request('GET',&absolute_url().$fn);        $request=new HTTP::Request('GET',&absolute_url().$fn);
     }      }
   
     $request->header(Cookie => $ENV{'HTTP_COOKIE'});      $request->header(Cookie => $ENV{'HTTP_COOKIE'});
       my $response= $ua->request($request);
     if (($env{'request.course.id'}) &&      my $content = Encode::decode_utf8($response->content);
         ($form{'grade_courseid'} eq $env{'request.course.id'}) &&  
         ($form{'grade_username'} ne '') && ($form{'grade_domain'} ne '') &&  
         ($form{'grade_symb'} ne '') &&  
         (&Apache::lonnet::allowed('mgr',$env{'request.course.id'}.  
                                  ($env{'request.course.sec'}?'/'.$env{'request.course.sec'}:'')))) {  
         if (LWP::UserAgent->VERSION >= 5.834) {  
             my $ua=new LWP::UserAgent;  
             $ua->local_address('127.0.0.1');  
             $response = $ua->request($request);  
         } else {  
             {  
                 require LWP::Protocol::http;  
                 local @LWP::Protocol::http::EXTRA_SOCK_OPTS = (LocalAddr => '127.0.0.1');  
                 my $ua=new LWP::UserAgent;  
                 $response = $ua->request($request);  
                 @LWP::Protocol::http::EXTRA_SOCK_OPTS = ();  
             }  
         }  
     } else {  
         my $ua=new LWP::UserAgent;  
         $response = $ua->request($request);  
     }  
     if (wantarray) {      if (wantarray) {
  return ($response->content, $response);   return ($content, $response);
     } else {      } else {
  return $response->content;   return $content;
     }      }
 }  }
   
Line 3248  sub externalssi { Line 2605  sub externalssi {
     }      }
 }  }
   
 # If the local copy of a replicated resource is outdated, trigger a  
 # connection from the homeserver to flush the delayed queue. If no update  
 # happens, remove local copies of outdated resource (and corresponding  
 # metadata file).  
   
 sub remove_stale_resfile {  
     my ($url) = @_;  
     my $removed;  
     if ($url=~m{^/res/($match_domain)/($match_username)/}) {  
         my $audom = $1;  
         my $auname = $2;  
         unless (($url =~ /\.\d+\.\w+$/) || ($url =~ m{^/res/lib/templates/})) {  
             my $homeserver = &homeserver($auname,$audom);  
             unless (($homeserver eq 'no_host') ||  
                     (grep { $_ eq $homeserver } &current_machine_ids())) {  
                 my $fname = &filelocation('',$url);  
                 if (-e $fname) {  
                     my $hostname = &hostname($homeserver);  
                     if ($hostname) {  
                         my $protocol = $protocol{$homeserver};  
                         $protocol = 'http' if ($protocol ne 'https');  
                         my $uri = $protocol.'://'.$hostname.'/raw/'.&declutter($url);  
                         my $ua=new LWP::UserAgent;  
                         $ua->timeout(5);  
                         my $request=new HTTP::Request('HEAD',$uri);  
                         my $response=$ua->request($request);  
                         if ($response->is_success()) {  
                             my $remmodtime = &HTTP::Date::str2time( $response->header('Last-modified') );  
                             my $locmodtime = (stat($fname))[9];  
                             if ($locmodtime < $remmodtime) {  
                                 my $stale;  
                                 my $answer = &reply('pong',$homeserver);  
                                 if ($answer eq $homeserver.':'.$perlvar{'lonHostID'}) {  
                                     sleep(0.2);  
                                     $locmodtime = (stat($fname))[9];  
                                     if ($locmodtime < $remmodtime) {  
                                         my $posstransfer = $fname.'.in.transfer';  
                                         if ((-e $posstransfer) && ($remmodtime < (stat($posstransfer))[9])) {  
                                             $removed = 1;  
                                         } else {  
                                             $stale = 1;  
                                         }  
                                     } else {  
                                         $removed = 1;  
                                     }  
                                 } else {  
                                     $stale = 1;  
                                 }  
                                 if ($stale) {  
                                     if (unlink($fname)) {  
                                         if ($uri!~/\.meta$/) {  
                                             if (-e $fname.'.meta') {  
                                                 unlink($fname.'.meta');  
                                             }  
                                         }  
                                         my $unsubresult = &unsubscribe($fname);  
                                         unless ($unsubresult eq 'ok') {  
                                             &logthis("no unsub of $fname from $homeserver, reason: $unsubresult");  
                                         }  
                                         $removed = 1;  
                                     }  
                                 }  
                             }  
                         }  
                     }  
                 }  
             }  
         }  
     }  
     return $removed;  
 }  
   
 # -------------------------------- Allow a /uploaded/ URI to be vouched for  # -------------------------------- Allow a /uploaded/ URI to be vouched for
   
 sub allowuploaded {  sub allowuploaded {
Line 3333  sub allowuploaded { Line 2618  sub allowuploaded {
     &Apache::lonnet::appenv(\%httpref);      &Apache::lonnet::appenv(\%httpref);
 }  }
   
 #  
 # Determine if the current user should be able to edit a particular resource,  
 # when viewing in course context.  
 # (a) When viewing resource used to determine if "Edit" item is included in  
 #     Functions.  
 # (b) When displaying folder contents in course editor, used to determine if  
 #     "Edit" link will be displayed alongside resource.  
 #  
 #  input: six args -- filename (decluttered), course number, course domain,  
 #                   url, symb (if registered) and group (if this is a group  
 #                   item -- e.g., bulletin board, group page etc.).  
 #  output: array of five scalars --  
 #          $cfile -- url for file editing if editable on current server  
 #          $home -- homeserver of resource (i.e., for author if published,  
 #                                           or course if uploaded.).  
 #          $switchserver --  1 if server switch will be needed.  
 #          $forceedit -- 1 if icon/link should be to go to edit mode  
 #          $forceview -- 1 if icon/link should be to go to view mode  
 #  
   
 sub can_edit_resource {  
     my ($file,$cnum,$cdom,$resurl,$symb,$group) = @_;  
     my ($cfile,$home,$switchserver,$forceedit,$forceview,$uploaded,$incourse);  
 #  
 # For aboutme pages user can only edit his/her own.  
 #  
     if ($resurl =~ m{^/?adm/($match_domain)/($match_username)/aboutme$}) {  
         my ($sdom,$sname) = ($1,$2);  
         if (($sdom eq $env{'user.domain'}) && ($sname eq $env{'user.name'})) {  
             $home = $env{'user.home'};  
             $cfile = $resurl;  
             if ($env{'form.forceedit'}) {  
                 $forceview = 1;  
             } else {  
                 $forceedit = 1;  
             }  
             return ($cfile,$home,$switchserver,$forceedit,$forceview);  
         } else {  
             return;  
         }  
     }  
   
     if ($env{'request.course.id'}) {  
         my $crsedit = &Apache::lonnet::allowed('mdc',$env{'request.course.id'});  
         if ($group ne '') {  
 # if this is a group homepage or group bulletin board, check group privs  
             my $allowed = 0;  
             if ($resurl =~ m{^/?adm/$cdom/$cnum/$group/smppg$}) {  
                 if ((&allowed('mdg',$env{'request.course.id'}.  
                               ($env{'request.course.sec'}?'/'.$env{'request.course.sec'}:''))) ||  
                         (&allowed('mgh',$env{'request.course.id'}.'/'.$group)) || $crsedit) {  
                     $allowed = 1;  
                 }  
             } elsif ($resurl =~ m{^/?adm/$cdom/$cnum/\d+/bulletinboard$}) {  
                 if ((&allowed('mdg',$env{'request.course.id'}.($env{'request.course.sec'}?'/'.$env{'request.course.sec'}:''))) ||  
                         (&allowed('cgb',$env{'request.course.id'}.'/'.$group)) || $crsedit) {  
                     $allowed = 1;  
                 }  
             }  
             if ($allowed) {  
                 $home=&homeserver($cnum,$cdom);  
                 if ($env{'form.forceedit'}) {  
                     $forceview = 1;  
                 } else {  
                     $forceedit = 1;  
                 }  
                 $cfile = $resurl;  
             } else {  
                 return;  
             }  
         } else {  
             if ($resurl =~ m{^/?adm/viewclasslist$}) {  
                 unless (&Apache::lonnet::allowed('opa',$env{'request.course.id'})) {  
                     return;  
                 }  
             } elsif (!$crsedit) {  
 #  
 # No edit allowed where CC has switched to student role.  
 #  
                 return;  
             }  
         }  
     }  
   
     if ($file ne '') {  
         if (($cnum =~ /$match_courseid/) && ($cdom =~ /$match_domain/)) {  
             if (&is_course_upload($file,$cnum,$cdom)) {  
                 $uploaded = 1;  
                 $incourse = 1;  
                 if ($file =~/\.(htm|html|css|js|txt)$/) {  
                     $cfile = &hreflocation('',$file);  
                     if ($env{'form.forceedit'}) {  
                         $forceview = 1;  
                     } else {  
                         $forceedit = 1;  
                     }  
                 }  
             } elsif ($resurl =~ m{^/public/$cdom/$cnum/syllabus}) {  
                 $incourse = 1;  
                 if ($env{'form.forceedit'}) {  
                     $forceview = 1;  
                 } else {  
                     $forceedit = 1;  
                 }  
                 $cfile = $resurl;  
             } elsif (($resurl ne '') && (&is_on_map($resurl))) {  
                 if ($resurl =~ m{^/adm/$match_domain/$match_username/\d+/smppg|bulletinboard$}) {  
                     $incourse = 1;  
                     if ($env{'form.forceedit'}) {  
                         $forceview = 1;  
                     } else {  
                         $forceedit = 1;  
                     }  
                     $cfile = $resurl;  
                 } elsif ($resurl eq '/res/lib/templates/simpleproblem.problem') {  
                     $incourse = 1;  
                     $cfile = $resurl.'/smpedit';  
                 } elsif ($resurl =~ m{^/adm/wrapper/ext/}) {  
                     $incourse = 1;  
                     if ($env{'form.forceedit'}) {  
                         $forceview = 1;  
                     } else {  
                         $forceedit = 1;  
                     }  
                     $cfile = $resurl;  
                 } elsif (($resurl =~ m{^/ext/}) && ($symb ne '')) {  
                     my ($map,$id,$res) = &decode_symb($symb);  
                     if ($map =~ /\.page$/) {  
                         $incourse = 1;  
                         if ($env{'form.forceedit'}) {  
                             $forceview = 1;  
                             $cfile = $map;  
                         } else {  
                             $forceedit = 1;  
                             $cfile =  '/adm/wrapper'.$resurl;  
                         }  
                     }  
                 } elsif ($resurl =~ m{^/?adm/viewclasslist$}) {  
                     $incourse = 1;  
                     if ($env{'form.forceedit'}) {  
                         $forceview = 1;  
                     } else {  
                         $forceedit = 1;  
                     }  
                     $cfile = ($resurl =~ m{^/} ? $resurl : "/$resurl");  
                 }  
             } elsif ($resurl eq '/res/lib/templates/simpleproblem.problem/smpedit') {  
                 my $template = '/res/lib/templates/simpleproblem.problem';  
                 if (&is_on_map($template)) {  
                     $incourse = 1;  
                     $forceview = 1;  
                     $cfile = $template;  
                 }  
             } elsif (($resurl =~ m{^/adm/wrapper/ext/}) && ($env{'form.folderpath'} =~ /^supplemental/)) {  
                 $incourse = 1;  
                 if ($env{'form.forceedit'}) {  
                     $forceview = 1;  
                 } else {  
                     $forceedit = 1;  
                 }  
                 $cfile = $resurl;  
             } elsif (($resurl eq '/adm/extresedit') && ($symb || $env{'form.folderpath'})) {  
                 $incourse = 1;  
                 $forceview = 1;  
                 if ($symb) {  
                     my ($map,$id,$res)=&decode_symb($symb);  
                     $env{'request.symb'} = $symb;  
                     $cfile = &clutter($res);  
                 } else {  
                     $cfile = $env{'form.suppurl'};  
                     $cfile =~ s{^http://}{};  
                     $cfile = '/adm/wrapper/ext/'.$cfile;  
                 }  
             } elsif ($resurl =~ m{^/?adm/viewclasslist$}) {  
                 if ($env{'form.forceedit'}) {  
                     $forceview = 1;  
                 } else {  
                     $forceedit = 1;  
                 }  
                 $cfile = ($resurl =~ m{^/} ? $resurl : "/$resurl");  
             }  
         }  
         if ($uploaded || $incourse) {  
             $home=&homeserver($cnum,$cdom);  
         } elsif ($file !~ m{/$}) {  
             $file=~s{^(priv/$match_domain/$match_username)}{/$1};  
             $file=~s{^($match_domain/$match_username)}{/priv/$1};  
             # Check that the user has permission to edit this resource  
             my $setpriv = 1;  
             my ($cfuname,$cfudom)=&constructaccess($file,$setpriv);  
             if (defined($cfudom)) {  
                 $home=&homeserver($cfuname,$cfudom);  
                 $cfile=$file;  
             }  
         }  
         if (($cfile ne '') && (!$incourse || $uploaded) &&  
             (($home ne '') && ($home ne 'no_host'))) {  
             my @ids=&current_machine_ids();  
             unless (grep(/^\Q$home\E$/,@ids)) {  
                 $switchserver=1;  
             }  
         }  
     }  
     return ($cfile,$home,$switchserver,$forceedit,$forceview);  
 }  
   
 sub is_course_upload {  
     my ($file,$cnum,$cdom) = @_;  
     my $uploadpath = &LONCAPA::propath($cdom,$cnum);  
     $uploadpath =~ s{^\/}{};  
     if (($file =~ m{^\Q$uploadpath\E/userfiles/(docs|supplemental)/}) ||  
         ($file =~ m{^userfiles/\Q$cdom\E/\Q$cnum\E/(docs|supplemental)/})) {  
         return 1;  
     }  
     return;  
 }  
   
 sub in_course {  
     my ($udom,$uname,$cdom,$cnum,$type,$hideprivileged) = @_;  
     if ($hideprivileged) {  
         my $skipuser;  
         my %coursehash = &coursedescription($cdom.'_'.$cnum);  
         my @possdoms = ($cdom);  
         if ($coursehash{'checkforpriv'}) {  
             push(@possdoms,split(/,/,$coursehash{'checkforpriv'}));  
         }  
         if (&privileged($uname,$udom,\@possdoms)) {  
             $skipuser = 1;  
             if ($coursehash{'nothideprivileged'}) {  
                 foreach my $item (split(/\s*\,\s*/,$coursehash{'nothideprivileged'})) {  
                     my $user;  
                     if ($item =~ /:/) {  
                         $user = $item;  
                     } else {  
                         $user = join(':',split(/[\@]/,$item));  
                     }  
                     if ($user eq $uname.':'.$udom) {  
                         undef($skipuser);  
                         last;  
                     }  
                 }  
             }  
             if ($skipuser) {  
                 return 0;  
             }  
         }  
     }  
     $type ||= 'any';  
     if (!defined($cdom) || !defined($cnum)) {  
         my $cid  = $env{'request.course.id'};  
         $cdom = $env{'course.'.$cid.'.domain'};  
         $cnum = $env{'course.'.$cid.'.num'};  
     }  
     my $typesref;  
     if (($type eq 'any') || ($type eq 'all')) {  
         $typesref = ['active','previous','future'];  
     } elsif ($type eq 'previous' || $type eq 'future') {  
         $typesref = [$type];  
     }  
     my %roles = &get_my_roles($uname,$udom,'userroles',  
                               $typesref,undef,[$cdom]);  
     my ($tmp) = keys(%roles);  
     return 0 if ($tmp =~ /^(con_lost|error|no_such_host)/i);  
     my @course_roles = grep(/^\Q$cnum\E:\Q$cdom\E:/, keys(%roles));  
     if (@course_roles > 0) {  
         return 1;  
     }  
     return 0;  
 }  
   
 # --------- File operations in /home/httpd/html/userfiles/$domain/1/2/3/$course  # --------- File operations in /home/httpd/html/userfiles/$domain/1/2/3/$course
 # input: action, courseID, current domain, intended  # input: action, courseID, current domain, intended
 #        path to file, source of file, instruction to parse file for objects,  #        path to file, source of file, instruction to parse file for objects,
Line 3660  sub process_coursefile { Line 2675  sub process_coursefile {
                                  $home);                                   $home);
             }              }
         } elsif ($action eq 'uploaddoc') {          } elsif ($action eq 'uploaddoc') {
             open(my $fh,'>',$filepath.'/'.$fname);              open(my $fh,'>'.$filepath.'/'.$fname);
             print $fh $env{'form.'.$source};              print $fh $env{'form.'.$source};
             close($fh);              close($fh);
             if ($parser eq 'parse') {              if ($parser eq 'parse') {
Line 3718  sub store_edited_file { Line 2733  sub store_edited_file {
     ($fpath,$fname) = ($file =~ m|^(.*)/([^/]+)$|);      ($fpath,$fname) = ($file =~ m|^(.*)/([^/]+)$|);
     $fpath=$docudom.'/'.$docuname.'/'.$fpath;      $fpath=$docudom.'/'.$docuname.'/'.$fpath;
     my $filepath = &build_filepath($fpath);      my $filepath = &build_filepath($fpath);
     open(my $fh,'>',$filepath.'/'.$fname);      open(my $fh,'>'.$filepath.'/'.$fname);
     print $fh $content;      print $fh $content;
     close($fh);      close($fh);
     my $home=&homeserver($docuname,$docudom);      my $home=&homeserver($docuname,$docudom);
Line 3743  sub clean_filename { Line 2758  sub clean_filename {
     }      }
 # Replace spaces by underscores  # Replace spaces by underscores
     $fname=~s/\s+/\_/g;      $fname=~s/\s+/\_/g;
 # Transliterate non-ascii text to ascii  
     my $lang = &Apache::lonlocal::current_language();  
     $fname = &LONCAPA::transliterate::fname_to_ascii($fname,$lang);  
 # Replace all other weird characters by nothing  # Replace all other weird characters by nothing
     $fname=~s{[^/\w\.\-]}{}g;      $fname=~s{[^/\w\.\-]}{}g;
 # Replace all .\d. sequences with _\d. so they no longer look like version  # Replace all .\d. sequences with _\d. so they no longer look like version
 # numbers  # numbers
     $fname=~s/\.(\d+)(?=\.)/_$1/g;      $fname=~s/\.(\d+)(?=\.)/_$1/g;
 # Replace three or more adjacent underscores with one for consistency  
 # with loncfile::filename_check() so complete url can be extracted by  
 # lonnet::decode_symb()  
     $fname=~s/_{3,}/_/g;  
     return $fname;      return $fname;
 }  }
   
 # This Function checks if an Image's dimensions exceed either $resizewidth (width)   # This Function checks if an Image's dimensions exceed either $resizewidth (width) 
 # or $resizeheight (height) - both pixels. If so, the image is scaled to produce an   # or $resizeheight (height) - both pixels. If so, the image is scaled to produce an 
 # image with the same aspect ratio as the original, but with dimensions which do   # image with the same aspect ratio as the original, but with dimensions which do 
Line 3800  sub resizeImage { Line 2807  sub resizeImage {
 # input: $formname - the contents of the file are in $env{"form.$formname"}  # input: $formname - the contents of the file are in $env{"form.$formname"}
 #                    the desired filename is in $env{"form.$formname.filename"}  #                    the desired filename is in $env{"form.$formname.filename"}
 #        $context - possible values: coursedoc, existingfile, overwrite,   #        $context - possible values: coursedoc, existingfile, overwrite, 
 #                                    canceloverwrite, scantron or ''.   #                                    canceloverwrite, or ''. 
 #                   if 'coursedoc': upload to the current course  #                   if 'coursedoc': upload to the current course
 #                   if 'existingfile': write file to tmp/overwrites directory   #                   if 'existingfile': write file to tmp/overwrites directory 
 #                   if 'canceloverwrite': delete file written to tmp/overwrites directory  #                   if 'canceloverwrite': delete file written to tmp/overwrites directory
 #                   $context is passed as argument to &finishuserfileupload  #                   $context is passed as argument to &finishuserfileupload
 #        $subdir - directory in userfile to store the file into  #        $subdir - directory in userfile to store the file into
 #        $parser - instruction to parse file for objects ($parser = parse) or  #        $parser - instruction to parse file for objects ($parser = parse)    
 #                  if context is 'scantron', $parser is hashref of csv column mapping  
 #                  (e.g.,{ PaperID => 0, LastName => 1, FirstName => 2, ID => 3,  
 #                          Section => 4, CODE => 5, FirstQuestion => 9 }).  
 #        $allfiles - reference to hash for embedded objects  #        $allfiles - reference to hash for embedded objects
 #        $codebase - reference to hash for codebase of java objects  #        $codebase - reference to hash for codebase of java objects
 #        $desuname - username for permanent storage of uploaded file  #        $desuname - username for permanent storage of uploaded file
Line 3832  sub userfileupload { Line 2836  sub userfileupload {
     $fname=&clean_filename($fname);      $fname=&clean_filename($fname);
     # See if there is anything left      # See if there is anything left
     unless ($fname) { return 'error: no uploaded file'; }      unless ($fname) { return 'error: no uploaded file'; }
     # If filename now begins with a . prepend unix timestamp _ milliseconds  
     if ($fname =~ /^\./) {  
         my ($s,$usec) = &gettimeofday();  
         while (length($usec) < 6) {  
             $usec = '0'.$usec;  
         }  
         $fname = $s.'_'.substr($usec,0,3).$fname;  
     }  
     # Files uploaded to help request form, or uploaded to "create course" page are handled differently      # Files uploaded to help request form, or uploaded to "create course" page are handled differently
     if ((($formname eq 'screenshot') && ($subdir eq 'helprequests')) ||      if ((($formname eq 'screenshot') && ($subdir eq 'helprequests')) ||
         (($formname eq 'coursecreatorxml') && ($subdir eq 'batchupload')) ||          (($formname eq 'coursecreatorxml') && ($subdir eq 'batchupload')) ||
Line 3853  sub userfileupload { Line 2849  sub userfileupload {
                          '_'.$env{'user.domain'}.'/pending';                           '_'.$env{'user.domain'}.'/pending';
         } elsif (($context eq 'existingfile') || ($context eq 'canceloverwrite')) {          } elsif (($context eq 'existingfile') || ($context eq 'canceloverwrite')) {
             my ($docuname,$docudom);              my ($docuname,$docudom);
             if ($destudom =~ /^$match_domain$/) {              if ($destudom) {
                 $docudom = $destudom;                  $docudom = $destudom;
             } else {              } else {
                 $docudom = $env{'user.domain'};                  $docudom = $env{'user.domain'};
             }              }
             if ($destuname =~ /^$match_username$/) {               if ($destuname) {
                 $docuname = $destuname;                  $docuname = $destuname;
             } else {              } else {
                 $docuname = $env{'user.name'};                  $docuname = $env{'user.name'};
Line 3888  sub userfileupload { Line 2884  sub userfileupload {
                 mkdir($fullpath,0777);                  mkdir($fullpath,0777);
             }              }
         }          }
         open(my $fh,'>',$fullpath.'/'.$fname);          open(my $fh,'>'.$fullpath.'/'.$fname);
         print $fh $env{'form.'.$formname};          print $fh $env{'form.'.$formname};
         close($fh);          close($fh);
         if ($context eq 'existingfile') {          if ($context eq 'existingfile') {
Line 3912  sub userfileupload { Line 2908  sub userfileupload {
  $codebase,$thumbwidth,$thumbheight,   $codebase,$thumbwidth,$thumbheight,
                                          $resizewidth,$resizeheight,$context,$mimetype);                                           $resizewidth,$resizeheight,$context,$mimetype);
         } else {          } else {
             if ($env{'form.folder'}) {              $fname=$env{'form.folder'}.'/'.$fname;
                 $fname=$env{'form.folder'}.'/'.$fname;  
             }  
             return &process_coursefile('uploaddoc',$docuname,$docudom,              return &process_coursefile('uploaddoc',$docuname,$docudom,
        $fname,$formname,$parser,         $fname,$formname,$parser,
        $allfiles,$codebase,$mimetype);         $allfiles,$codebase,$mimetype);
Line 3929  sub userfileupload { Line 2923  sub userfileupload {
     } else {      } else {
         my $docuname=$env{'user.name'};          my $docuname=$env{'user.name'};
         my $docudom=$env{'user.domain'};          my $docudom=$env{'user.domain'};
         if ((exists($env{'form.group'})) || ($context eq 'syllabus')) {          if (exists($env{'form.group'})) {
             $docuname=$env{'course.'.$env{'request.course.id'}.'.num'};              $docuname=$env{'course.'.$env{'request.course.id'}.'.num'};
             $docudom=$env{'course.'.$env{'request.course.id'}.'.domain'};              $docudom=$env{'course.'.$env{'request.course.id'}.'.domain'};
         }          }
Line 3963  sub finishuserfileupload { Line 2957  sub finishuserfileupload {
   
 # Save the file  # Save the file
     {      {
  if (!open(FH,'>',$filepath.'/'.$file)) {   if (!open(FH,'>'.$filepath.'/'.$file)) {
     &logthis('Failed to create '.$filepath.'/'.$file);      &logthis('Failed to create '.$filepath.'/'.$file);
     print STDERR ('Failed to create '.$filepath.'/'.$file."\n");      print STDERR ('Failed to create '.$filepath.'/'.$file."\n");
     return '/adm/notfound.html';      return '/adm/notfound.html';
Line 4007  sub finishuserfileupload { Line 3001  sub finishuserfileupload {
             }              }
         }          }
     }      }
     if (($context ne 'scantron') && ($parser eq 'parse')) {      if ($parser eq 'parse') {
         if ((ref($mimetype)) && ($$mimetype eq 'text/html')) {          if ((ref($mimetype)) && ($$mimetype eq 'text/html')) {
             my $parse_result = &extract_embedded_items($filepath.'/'.$file,              my $parse_result = &extract_embedded_items($filepath.'/'.$file,
                                                        $allfiles,$codebase);                                                         $allfiles,$codebase);
Line 4016  sub finishuserfileupload { Line 3010  sub finishuserfileupload {
            ' for embedded media: '.$parse_result);              ' for embedded media: '.$parse_result); 
             }              }
         }          }
     } elsif (($context eq 'scantron') && (ref($parser) eq 'HASH')) {  
         my $format = $env{'form.scantron_format'};  
         &bubblesheet_converter($docudom,$filepath.'/'.$file,$parser,$format);  
     }      }
     if (($thumbwidth =~ /^\d+$/) && ($thumbheight =~ /^\d+$/)) {      if (($thumbwidth =~ /^\d+$/) && ($thumbheight =~ /^\d+$/)) {
         my $input = $filepath.'/'.$file;          my $input = $filepath.'/'.$file;
         my $output = $filepath.'/'.'tn-'.$file;          my $output = $filepath.'/'.'tn-'.$file;
         my $thumbsize = $thumbwidth.'x'.$thumbheight;          my $thumbsize = $thumbwidth.'x'.$thumbheight;
         my @args = ('convert','-sample',$thumbsize,$input,$output);          system("convert -sample $thumbsize $input $output");
         system({$args[0]} @args);  
         if (-e $filepath.'/'.'tn-'.$file) {          if (-e $filepath.'/'.'tn-'.$file) {
             $fetchthumb  = 1;               $fetchthumb  = 1; 
         }          }
Line 4083  sub extract_embedded_items { Line 3073  sub extract_embedded_items {
  &add_filetype($allfiles,$attr->{'src'},'src');   &add_filetype($allfiles,$attr->{'src'},'src');
     }      }
     if (lc($tagname) eq 'a') {      if (lc($tagname) eq 'a') {
                 unless (($attr->{'href'} =~ /^#/) || ($attr->{'href'} eq '')) {   &add_filetype($allfiles,$attr->{'href'},'href');
     &add_filetype($allfiles,$attr->{'href'},'href');  
                 }  
     }      }
             if (lc($tagname) eq 'script') {              if (lc($tagname) eq 'script') {
                 my $src;                  my $src;
Line 4173  sub extract_embedded_items { Line 3161  sub extract_embedded_items {
                     }                      }
                 }                  }
     }      }
             if (lc($tagname) eq 'iframe') {  
                 my $src = $attr->{'src'} ;  
                 if (($src ne '') && ($src !~ m{^(/|https?://)})) {  
                     &add_filetype($allfiles,$src,'src');  
                 } elsif ($src =~ m{^/}) {  
                     if ($env{'request.course.id'}) {  
                         my $cdom = $env{'course.'.$env{'request.course.id'}.'.domain'};  
                         my $cnum = $env{'course.'.$env{'request.course.id'}.'.num'};  
                         my $url = &hreflocation('',$fullpath);  
                         if ($url =~ m{^/uploaded/$cdom/$cnum/docs/(\w+/\d+)/}) {  
                             my $relpath = $1;  
                             if ($src =~ m{^/uploaded/$cdom/$cnum/docs/\Q$relpath\E/(.+)$}) {  
                                 &add_filetype($allfiles,$1,'src');  
                             }  
                         }  
                     }  
                 }  
             }  
             if ($t->[4] =~ m{/>$}) {              if ($t->[4] =~ m{/>$}) {
                 pop(@state);                  pop(@state);  
             }              }
  } elsif ($t->[0] eq 'E') {   } elsif ($t->[0] eq 'E') {
     my ($tagname) = ($t->[1]);      my ($tagname) = ($t->[1]);
Line 4259  sub embedded_dependency { Line 3229  sub embedded_dependency {
     return;      return;
 }  }
   
 sub bubblesheet_converter {  
     my ($cdom,$fullpath,$config,$format) = @_;  
     if ((&domain($cdom) ne '') &&  
         ($fullpath =~ m{^\Q$perlvar{'lonDocRoot'}/userfiles/$cdom/\E$match_courseid/scantron_orig}) &&  
         (-e $fullpath) && (ref($config) eq 'HASH') && ($format ne '')) {  
         my (%csvcols,%csvoptions);  
         if (ref($config->{'fields'}) eq 'HASH') {  
             %csvcols = %{$config->{'fields'}};  
         }  
         if (ref($config->{'options'}) eq 'HASH') {  
             %csvoptions = %{$config->{'options'}};  
         }  
         my %csvbynum = reverse(%csvcols);  
         my %scantronconf = &get_scantron_config($format,$cdom);  
         if (keys(%scantronconf)) {  
             my %bynum = (  
                           $scantronconf{CODEstart} => 'CODEstart',  
                           $scantronconf{IDstart}   => 'IDstart',  
                           $scantronconf{PaperID}   => 'PaperID',  
                           $scantronconf{FirstName} => 'FirstName',  
                           $scantronconf{LastName}  => 'LastName',  
                           $scantronconf{Qstart}    => 'Qstart',  
                         );  
             my @ordered;  
             foreach my $item (sort { $a <=> $b } keys(%bynum)) {  
                 push(@ordered,$bynum{$item});  
             }  
             my %mapstart = (  
                               CODEstart => 'CODE',  
                               IDstart   => 'ID',  
                               PaperID   => 'PaperID',  
                               FirstName => 'FirstName',  
                               LastName  => 'LastName',  
                               Qstart    => 'FirstQuestion',  
                            );  
             my %maplength = (  
                               CODEstart => 'CODElength',  
                               IDstart   => 'IDlength',  
                               PaperID   => 'PaperIDlength',  
                               FirstName => 'FirstNamelength',  
                               LastName  => 'LastNamelength',  
             );  
             if (open(my $fh,'<',$fullpath)) {  
                 my $output;  
                 my %lettdig = &letter_to_digits();  
                 my %diglett = reverse(%lettdig);  
                 my $numletts = scalar(keys(%lettdig));  
                 my $num = 0;  
                 while (my $line=<$fh>) {  
                     $num ++;  
                     next if (($num == 1) && ($csvoptions{'hdr'} == 1));  
                     $line =~ s{[\r\n]+$}{};  
                     my %found;  
                     my @values = split(/,/,$line,-1);  
                     my ($qstart,$record);  
                     for (my $i=0; $i<@values; $i++) {  
                         if ((($qstart ne '') && ($i > $qstart)) ||  
                             ($csvbynum{$i} eq 'FirstQuestion')) {  
                             if ($values[$i] eq '') {  
                                 $values[$i] = $scantronconf{'Qoff'};  
                             } elsif ($scantronconf{'Qon'} eq 'number') {  
                                 if ($values[$i] =~ /^[A-Ja-j]$/) {  
                                     $values[$i] = $lettdig{uc($values[$i])};  
                                 }  
                             } elsif ($scantronconf{'Qon'} eq 'letter') {  
                                 if ($values[$i] =~ /^[0-9]$/) {  
                                     $values[$i] = $diglett{$values[$i]};  
                                 }  
                             } else {  
                                 if ($values[$i] =~ /^[0-9A-Ja-j]$/) {  
                                     my $digit;  
                                     if ($values[$i] =~ /^[A-Ja-j]$/) {  
                                         $digit = $lettdig{uc($values[$i])}-1;  
                                         if ($values[$i] eq 'J') {  
                                             $digit += $numletts;  
                                         }  
                                     } elsif ($values[$i] =~ /^[0-9]$/) {  
                                         $digit = $values[$i]-1;  
                                         if ($values[$i] eq '0') {  
                                             $digit += $numletts;  
                                         }  
                                     }  
                                     my $qval='';  
                                     for (my $j=0; $j<$scantronconf{'Qlength'}; $j++) {  
                                         if ($j == $digit) {  
                                             $qval .= $scantronconf{'Qon'};  
                                         } else {  
                                             $qval .= $scantronconf{'Qoff'};  
                                         }  
                                     }  
                                     $values[$i] = $qval;  
                                 }  
                             }  
                             if (length($values[$i]) > $scantronconf{'Qlength'}) {  
                                 $values[$i] = substr($values[$i],0,$scantronconf{'Qlength'});  
                             }  
                             my $numblank = $scantronconf{'Qlength'} - length($values[$i]);  
                             if ($numblank > 0) {  
                                  $values[$i] .= ($scantronconf{'Qoff'} x $numblank);  
                             }  
                             if ($csvbynum{$i} eq 'FirstQuestion') {  
                                 $qstart = $i;  
                                 $found{$csvbynum{$i}} = $values[$i];  
                             } else {  
                                 $found{'FirstQuestion'} .= $values[$i];  
                             }  
                         } elsif (exists($csvbynum{$i})) {  
                             if ($csvoptions{'rem'}) {  
                                 $values[$i] =~ s/^\s+//;  
                             }  
                             if (($csvbynum{$i} eq 'PaperID') && ($csvoptions{'pad'})) {  
                                 while (length($values[$i]) < $scantronconf{$maplength{$csvbynum{$i}}}) {  
                                     $values[$i] = '0'.$values[$i];  
                                 }  
                             }  
                             $found{$csvbynum{$i}} = $values[$i];  
                         }  
                     }  
                     foreach my $item (@ordered) {  
                         my $currlength = 1+length($record);  
                         my $numspaces = $scantronconf{$item} - $currlength;  
                         if ($numspaces > 0) {  
                             $record .= (' ' x $numspaces);  
                         }  
                         if (($mapstart{$item} ne '') && (exists($found{$mapstart{$item}}))) {  
                             unless ($item eq 'Qstart') {  
                                 if (length($found{$mapstart{$item}}) > $scantronconf{$maplength{$item}}) {  
                                     $found{$mapstart{$item}} = substr($found{$mapstart{$item}},0,$scantronconf{$maplength{$item}});  
                                 }  
                             }  
                             $record .= $found{$mapstart{$item}};  
                         }  
                     }  
                     $output .= "$record\n";  
                 }  
                 close($fh);  
                 if ($output) {  
                     if (open(my $fh,'>',$fullpath)) {  
                         print $fh $output;  
                         close($fh);  
                     }  
                 }  
             }  
         }  
         return;  
     }  
 }  
   
 sub letter_to_digits {  
     my %lettdig = (  
                     A => 1,  
                     B => 2,  
                     C => 3,  
                     D => 4,  
                     E => 5,  
                     F => 6,  
                     G => 7,  
                     H => 8,  
                     I => 9,  
                     J => 0,  
                   );  
     return %lettdig;  
 }  
   
 sub get_scantron_config {  
     my ($which,$cdom) = @_;  
     my @lines = &get_scantronformat_file($cdom);  
     my %config;  
     #FIXME probably should move to XML it has already gotten a bit much now  
     foreach my $line (@lines) {  
         my ($name,$descrip)=split(/:/,$line);  
         if ($name ne $which ) { next; }  
         chomp($line);  
         my @config=split(/:/,$line);  
         $config{'name'}=$config[0];  
         $config{'description'}=$config[1];  
         $config{'CODElocation'}=$config[2];  
         $config{'CODEstart'}=$config[3];  
         $config{'CODElength'}=$config[4];  
         $config{'IDstart'}=$config[5];  
         $config{'IDlength'}=$config[6];  
         $config{'Qstart'}=$config[7];  
         $config{'Qlength'}=$config[8];  
         $config{'Qoff'}=$config[9];  
         $config{'Qon'}=$config[10];  
         $config{'PaperID'}=$config[11];  
         $config{'PaperIDlength'}=$config[12];  
         $config{'FirstName'}=$config[13];  
         $config{'FirstNamelength'}=$config[14];  
         $config{'LastName'}=$config[15];  
         $config{'LastNamelength'}=$config[16];  
         $config{'BubblesPerRow'}=$config[17];  
         last;  
     }  
     return %config;  
 }  
   
 sub get_scantronformat_file {  
     my ($cdom) = @_;  
     if ($cdom eq '') {  
         $cdom= $env{'course.'.$env{'request.course.id'}.'.domain'};  
     }  
     my %domconfig = &get_dom('configuration',['scantron'],$cdom);  
     my $gottab = 0;  
     my @lines;  
     if (ref($domconfig{'scantron'}) eq 'HASH') {  
         if ($domconfig{'scantron'}{'scantronformat'} ne '') {  
             my $formatfile = &getfile($perlvar{'lonDocRoot'}.$domconfig{'scantron'}{'scantronformat'});  
             if ($formatfile ne '-1') {  
                 @lines = split("\n",$formatfile,-1);  
                 $gottab = 1;  
             }  
         }  
     }  
     if (!$gottab) {  
         my $confname = $cdom.'-domainconfig';  
         my $default = $perlvar{'lonDocRoot'}.'/res/'.$cdom.'/'.$confname.'/default.tab';  
         my $formatfile = &getfile($default);  
         if ($formatfile ne '-1') {  
             @lines = split("\n",$formatfile,-1);  
             $gottab = 1;  
         }  
     }  
     if (!$gottab) {  
         my @domains = &current_machine_domains();  
         if (grep(/^\Q$cdom\E$/,@domains)) {  
             if (open(my $fh,'<',$perlvar{'lonTabDir'}.'/scantronformat.tab')) {  
                 @lines = <$fh>;  
                 close($fh);  
             }  
         } else {  
             if (open(my $fh,'<',$perlvar{'lonTabDir'}.'/default_scantronformat.tab')) {  
                 @lines = <$fh>;  
                 close($fh);  
             }  
         }  
     }  
     return @lines;  
 }  
   
 sub removeuploadedurl {  sub removeuploadedurl {
     my ($url)=@_;      my ($url)=@_;
     my (undef,undef,$udom,$uname,$fname)=split('/',$url,5);          my (undef,undef,$udom,$uname,$fname)=split('/',$url,5);    
Line 4616  sub flushcourselogs { Line 3346  sub flushcourselogs {
             if (! defined($dom) || $dom eq '' ||               if (! defined($dom) || $dom eq '' || 
                 ! defined($name) || $name eq '') {                  ! defined($name) || $name eq '') {
                 my $cid = $env{'request.course.id'};                  my $cid = $env{'request.course.id'};
 #  
 # FIXME 11/29/2021  
 # Typo in rev. 1.458 (2003/12/09)??  
 # These should likely by $env{'course.'.$cid.'.domain'} and $env{'course.'.$cid.'.num'}  
 #  
 # While these ramain as  $env{'request.'.$cid.'.domain'} and $env{'request.'.$cid.'.num'}  
 # $dom and $name will always be null, so the &inc() call will default to storing this data  
 # in a nohist_accesscount.db file for the user rather than the course.  
 #  
 # That said there is a lot of noise in the data being stored.  
 # So counts for prtspool/  and adm/ etc. are recorded.  
 #  
 # A review of which items ending '___count' are written to %accesshash should likely be  
 # made before deciding whether to set these to 'course.' instead of 'request.'  
 #  
 # Under the current scheme each user receives a nohist_accesscount.db file listing  
 # accesses for things which are not published resources, regardless of course, and  
 # there is not a nohist_accesscount.db file in a course, which might log accesses from  
 # anyone in the course for things which are not published resources.  
 #  
 # For an author, nohist_accesscount.db ends up having records for other items  
 # mixed up with the legitimate access counts for the author's published resources.  
 #  
                 $dom  = $env{'request.'.$cid.'.domain'};                  $dom  = $env{'request.'.$cid.'.domain'};
                 $name = $env{'request.'.$cid.'.num'};                  $name = $env{'request.'.$cid.'.num'};
             }              }
Line 4672  sub flushcourselogs { Line 3379  sub flushcourselogs {
         }          }
     }      }
 #  #
 # Reverse lookup of domain roles (dc, ad, li, sc, dh, da, au)  # Reverse lookup of domain roles (dc, ad, li, sc, au)
 #  #
     my %domrolebuffer = ();      my %domrolebuffer = ();
     foreach my $entry (keys(%domainrolehash)) {      foreach my $entry (keys(%domainrolehash)) {
Line 4687  sub flushcourselogs { Line 3394  sub flushcourselogs {
         delete $domainrolehash{$entry};          delete $domainrolehash{$entry};
     }      }
     foreach my $dom (keys(%domrolebuffer)) {      foreach my $dom (keys(%domrolebuffer)) {
         my %servers;   my %servers = &get_servers($dom,'library');
         if (defined(&domain($dom,'primary'))) {  
             my $primary=&domain($dom,'primary');  
             my $hostname=&hostname($primary);  
             $servers{$primary} = $hostname;  
         } else {  
             %servers = &get_servers($dom,'library');  
         }  
  foreach my $tryserver (keys(%servers)) {   foreach my $tryserver (keys(%servers)) {
     if (&reply('domroleput:'.$dom.':'.      unless (&reply('domroleput:'.$dom.':'.
                $domrolebuffer{$dom},$tryserver) eq 'ok') {     $domrolebuffer{$dom},$tryserver) eq 'ok') {
         last;  
     } else {  
  &logthis('Put of domain roles failed for '.$dom.' and  '.$tryserver);   &logthis('Put of domain roles failed for '.$dom.' and  '.$tryserver);
     }      }
         }          }
Line 4748  sub courseacclog { Line 3446  sub courseacclog {
                 if ($formitem =~ /^HWFILE(?:SIZE|TOOBIG)/) {                  if ($formitem =~ /^HWFILE(?:SIZE|TOOBIG)/) {
                     $what.=':'.$formitem.'='.$env{$key};                      $what.=':'.$formitem.'='.$env{$key};
                 } elsif ($formitem !~ /^HWFILE(?:[^.]+)$/) {                  } elsif ($formitem !~ /^HWFILE(?:[^.]+)$/) {
                     if ($formitem eq 'proctorpassword') {                      $what.=':'.$formitem.'='.$env{$key};
                         $what.=':'.$formitem.'=' . '*' x length($env{$key});  
                     } else {  
                         $what.=':'.$formitem.'='.$env{$key};  
                     }  
                 }                  }
             }              }
         }          }
Line 4823  sub userrolelog { Line 3517  sub userrolelog {
          {$trole.':'.$username.':'.$domain.':'.$env{'user.name'}.':'.$env{'user.domain'}.':'}           {$trole.':'.$username.':'.$domain.':'.$env{'user.name'}.':'.$env{'user.domain'}.':'}
                     =$tend.':'.$tstart;                      =$tend.':'.$tstart;
     }      }
     if ($trole =~ /^(dc|ad|li|au|dg|sc|dh|da)/ ) {      if ($trole =~ /^(dc|ad|li|au|dg|sc)/ ) {
        my (undef,$rudom,$runame,$rsec)=split(/\//,$area);         my (undef,$rudom,$runame,$rsec)=split(/\//,$area);
        $domainrolehash         $domainrolehash
          {$trole.':'.$username.':'.$domain.':'.$runame.':'.$rudom.':'.$rsec}           {$trole.':'.$username.':'.$domain.':'.$runame.':'.$rudom.':'.$rsec}
Line 4833  sub userrolelog { Line 3527  sub userrolelog {
   
 sub courserolelog {  sub courserolelog {
     my ($trole,$username,$domain,$area,$tstart,$tend,$delflag,$selfenroll,$context)=@_;      my ($trole,$username,$domain,$area,$tstart,$tend,$delflag,$selfenroll,$context)=@_;
     if ($area =~ m-^/($match_domain)/($match_courseid)/?([^/]*)-) {      if (($trole eq 'cc') || ($trole eq 'in') ||
         my $cdom = $1;          ($trole eq 'ep') || ($trole eq 'ad') ||
         my $cnum = $2;          ($trole eq 'ta') || ($trole eq 'st') ||
         my $sec = $3;          ($trole=~/^cr/) || ($trole eq 'gr') ||
         my $namespace = 'rolelog';          ($trole eq 'co')) {
         my %storehash = (          if ($area =~ m-^/($match_domain)/($match_courseid)/?([^/]*)-) {
                            role    => $trole,              my $cdom = $1;
                            start   => $tstart,              my $cnum = $2;
                            end     => $tend,              my $sec = $3;
                            selfenroll => $selfenroll,              my $namespace = 'rolelog';
                            context    => $context,              my %storehash = (
                         );                                 role    => $trole,
         if ($trole eq 'gr') {                                 start   => $tstart,
             $namespace = 'groupslog';                                 end     => $tend,
             $storehash{'group'} = $sec;                                 selfenroll => $selfenroll,
         } else {                                 context    => $context,
             $storehash{'section'} = $sec;                              );
         }              if ($trole eq 'gr') {
         &write_log('course',$namespace,\%storehash,$delflag,$username,                  $namespace = 'groupslog';
                    $domain,$cnum,$cdom);                  $storehash{'group'} = $sec;
         if (($trole ne 'st') || ($sec ne '')) {              } else {
             &devalidate_cache_new('getcourseroles',$cdom.'_'.$cnum);                  $storehash{'section'} = $sec;
               }
               &instructor_log($namespace,\%storehash,$delflag,$username,$domain,$cnum,$cdom);
               if (($trole ne 'st') || ($sec ne '')) {
                   &devalidate_cache_new('getcourseroles',$cdom.'_'.$cnum);
               }
         }          }
     }      }
     return;      return;
 }  }
   
 sub domainrolelog {  
     my ($trole,$username,$domain,$area,$tstart,$tend,$delflag,$context)=@_;  
     if ($area =~ m{^/($match_domain)/$}) {  
         my $cdom = $1;  
         my $domconfiguser = &Apache::lonnet::get_domainconfiguser($cdom);  
         my $namespace = 'rolelog';  
         my %storehash = (  
                            role    => $trole,  
                            start   => $tstart,  
                            end     => $tend,  
                            context => $context,  
                         );  
         &write_log('domain',$namespace,\%storehash,$delflag,$username,  
                    $domain,$domconfiguser,$cdom);  
     }  
     return;  
   
 }  
   
 sub coauthorrolelog {  
     my ($trole,$username,$domain,$area,$tstart,$tend,$delflag,$context)=@_;  
     if ($area =~ m{^/($match_domain)/($match_username)$}) {  
         my $audom = $1;  
         my $auname = $2;  
         my $namespace = 'rolelog';  
         my %storehash = (  
                            role    => $trole,  
                            start   => $tstart,  
                            end     => $tend,  
                            context => $context,  
                         );  
         &write_log('author',$namespace,\%storehash,$delflag,$username,  
                    $domain,$auname,$audom);  
     }  
     return;  
 }  
   
 sub get_course_adv_roles {  sub get_course_adv_roles {
     my ($cid,$codes) = @_;      my ($cid,$codes) = @_;
     $cid=$env{'request.course.id'} unless (defined($cid));      $cid=$env{'request.course.id'} unless (defined($cid));
Line 4910  sub get_course_adv_roles { Line 3572  sub get_course_adv_roles {
             $nothide{$user}=1;              $nothide{$user}=1;
         }          }
     }      }
     my @possdoms = ($coursehash{'domain'});  
     if ($coursehash{'checkforpriv'}) {  
         push(@possdoms,split(/,/,$coursehash{'checkforpriv'}));  
     }  
     my %returnhash=();      my %returnhash=();
     my %dumphash=      my %dumphash=
             &dump('nohist_userroles',$coursehash{'domain'},$coursehash{'num'});              &dump('nohist_userroles',$coursehash{'domain'},$coursehash{'num'});
Line 4926  sub get_course_adv_roles { Line 3584  sub get_course_adv_roles {
         if (($tstart) && ($now<$tstart)) { next; }          if (($tstart) && ($now<$tstart)) { next; }
         my ($role,$username,$domain,$section)=split(/\:/,$entry);          my ($role,$username,$domain,$section)=split(/\:/,$entry);
  if ($username eq '' || $domain eq '') { next; }   if ($username eq '' || $domain eq '') { next; }
         if ((&privileged($username,$domain,\@possdoms)) &&          unless (ref($privileged{$domain}) eq 'HASH') {
               my %dompersonnel =
                   &Apache::lonnet::get_domain_roles($domain,['dc'],$now,$now);
               $privileged{$domain} = {};
               foreach my $server (keys(%dompersonnel)) {
                   if (ref($dompersonnel{$server}) eq 'HASH') {
                       foreach my $user (keys(%{$dompersonnel{$server}})) {
                           my ($trole,$uname,$udom) = split(/:/,$user);
                           $privileged{$udom}{$uname} = 1;
                       }
                   }
               }
           }
           if ((exists($privileged{$domain}{$username})) && 
             (!$nothide{$username.':'.$domain})) { next; }              (!$nothide{$username.':'.$domain})) { next; }
  if ($role eq 'cr') { next; }   if ($role eq 'cr') { next; }
         if ($codes) {          if ($codes) {
Line 4957  sub get_my_roles { Line 3628  sub get_my_roles {
     if ($context eq 'userroles') {      if ($context eq 'userroles') {
         %dumphash = &dump('roles',$udom,$uname);          %dumphash = &dump('roles',$udom,$uname);
     } else {      } else {
         %dumphash = &dump('nohist_userroles',$udom,$uname);          %dumphash=
               &dump('nohist_userroles',$udom,$uname);
         if ($hidepriv) {          if ($hidepriv) {
             my %coursehash=&coursedescription($udom.'_'.$uname);              my %coursehash=&coursedescription($udom.'_'.$uname);
             foreach my $user (split(/\s*\,\s*/,$coursehash{'nothideprivileged'})) {              foreach my $user (split(/\s*\,\s*/,$coursehash{'nothideprivileged'})) {
Line 4999  sub get_my_roles { Line 3671  sub get_my_roles {
         }          }
         my ($rolecode,$username,$domain,$section,$area);          my ($rolecode,$username,$domain,$section,$area);
         if ($context eq 'userroles') {          if ($context eq 'userroles') {
             ($area,$rolecode) = ($entry =~ /^(.+)_([^_]+)$/);              ($area,$rolecode) = split(/_/,$entry);
             (undef,$domain,$username,$section) = split(/\//,$area);              (undef,$domain,$username,$section) = split(/\//,$area);
         } else {          } else {
             ($role,$username,$domain,$section) = split(/\:/,$entry);              ($role,$username,$domain,$section) = split(/\:/,$entry);
Line 5025  sub get_my_roles { Line 3697  sub get_my_roles {
             }              }
         }          }
         if ($hidepriv) {          if ($hidepriv) {
             my @privroles = ('dc','su');  
             if ($context eq 'userroles') {              if ($context eq 'userroles') {
                 next if (grep(/^\Q$role\E$/,@privroles));                  if ((&privileged($username,$domain)) &&
                       (!$nothide{$username.':'.$domain})) {
                       next;
                   }
             } else {              } else {
                 my $possdoms = [$domain];                  unless (ref($privileged{$domain}) eq 'HASH') {
                 if (ref($roledoms) eq 'ARRAY') {                      my %dompersonnel =
                    push(@{$possdoms},@{$roledoms});                          &Apache::lonnet::get_domain_roles($domain,['dc'],$now,$now);
                       $privileged{$domain} = {};
                       if (keys(%dompersonnel)) {
                           foreach my $server (keys(%dompersonnel)) {
                               if (ref($dompersonnel{$server}) eq 'HASH') {
                                   foreach my $user (keys(%{$dompersonnel{$server}})) {
                                       my ($trole,$uname,$udom) = split(/:/,$user);
                                       $privileged{$udom}{$uname} = $trole;
                                   }
                               }
                           }
                       }
                 }                  }
                 if (&privileged($username,$domain,$possdoms,\@privroles)) {                  if (exists($privileged{$domain}{$username})) {
                     if (!$nothide{$username.':'.$domain}) {                      if (!$nothide{$username.':'.$domain}) {
                         next;                          next;
                     }                      }
Line 5050  sub get_my_roles { Line 3735  sub get_my_roles {
     return %returnhash;      return %returnhash;
 }  }
   
 sub get_all_adhocroles {  
     my ($dom) = @_;  
     my @roles_by_num = ();  
     my %domdefaults = &get_domain_defaults($dom);  
     my (%description,%access_in_dom,%access_info);  
     if (ref($domdefaults{'adhocroles'}) eq 'HASH') {  
         my $count = 0;  
         my %domcurrent = %{$domdefaults{'adhocroles'}};  
         my %ordered;  
         foreach my $role (sort(keys(%domcurrent))) {  
             my ($order,$desc,$access_in_dom);  
             if (ref($domcurrent{$role}) eq 'HASH') {  
                 $order = $domcurrent{$role}{'order'};  
                 $desc = $domcurrent{$role}{'desc'};  
                 $access_in_dom{$role} = $domcurrent{$role}{'access'};  
                 $access_info{$role} = $domcurrent{$role}{$access_in_dom{$role}};  
             }  
             if ($order eq '') {  
                 $order = $count;  
             }  
             $ordered{$order} = $role;  
             if ($desc ne '') {  
                 $description{$role} = $desc;  
             } else {  
                 $description{$role}= $role;  
             }  
             $count++;  
         }  
         foreach my $item (sort {$a <=> $b } (keys(%ordered))) {  
             push(@roles_by_num,$ordered{$item});  
         }  
     }  
     return (\@roles_by_num,\%description,\%access_in_dom,\%access_info);  
 }  
   
 sub get_my_adhocroles {  
     my ($cid,$checkreg) = @_;  
     my ($cdom,$cnum,%info,@possroles,$description,$roles_by_num);  
     if ($env{'request.course.id'} eq $cid) {  
         $cdom = $env{'course.'.$cid.'.domain'};  
         $cnum = $env{'course.'.$cid.'.num'};  
         $info{'internal.coursecode'} = $env{'course.'.$cid.'.internal.coursecode'};  
     } elsif ($cid =~ /^($match_domain)_($match_courseid)$/) {  
         $cdom = $1;  
         $cnum = $2;  
         %info = &Apache::lonnet::get('environment',['internal.coursecode'],  
                                      $cdom,$cnum);  
     }  
     if (($info{'internal.coursecode'} ne '') && ($checkreg)) {  
         my $user = $env{'user.name'}.':'.$env{'user.domain'};  
         my %rosterhash = &get('classlist',[$user],$cdom,$cnum);  
         if ($rosterhash{$user} ne '') {  
             my $type = (split(/:/,$rosterhash{$user}))[5];  
             return ([],{}) if ($type eq 'auto');  
         }  
     }  
     if (($cdom ne '') && ($cnum ne ''))  {  
         if (($env{"user.role.dh./$cdom/"}) || ($env{"user.role.da./$cdom/"})) {  
             my $then=$env{'user.login.time'};  
             my $update=$env{'user.update.time'};  
             if (!$update) {  
                 $update = $then;  
             }  
             my @liveroles;  
             foreach my $role ('dh','da') {  
                 if ($env{"user.role.$role./$cdom/"}) {  
                     my ($tstart,$tend)=split(/\./,$env{"user.role.$role./$cdom/"});  
                     my $limit = $update;  
                     if ($env{'request.role'} eq "$role./$cdom/") {  
                         $limit = $then;  
                     }  
                     my $activerole = 1;  
                     if ($tstart && $tstart>$limit) { $activerole = 0; }  
                     if ($tend   && $tend  <$limit) { $activerole = 0; }  
                     if ($activerole) {  
                         push(@liveroles,$role);  
                     }  
                 }  
             }  
             if (@liveroles) {  
                 if (&homeserver($cnum,$cdom) ne 'no_host') {  
                     my ($accessref,$accessinfo,%access_in_dom);  
                     ($roles_by_num,$description,$accessref,$accessinfo) = &get_all_adhocroles($cdom);  
                     if (ref($roles_by_num) eq 'ARRAY') {  
                         if (@{$roles_by_num}) {  
                             my %settings;  
                             if ($env{'request.course.id'} eq $cid) {  
                                 foreach my $envkey (keys(%env)) {  
                                     if ($envkey =~ /^\Qcourse.$cid.\E(internal\.adhoc.+)$/) {  
                                         $settings{$1} = $env{$envkey};  
                                     }  
                                 }  
                             } else {  
                                 %settings = &dump('environment',$cdom,$cnum,'internal\.adhoc');  
                             }  
                             my %setincrs;  
                             if ($settings{'internal.adhocaccess'}) {  
                                 map { $setincrs{$_} = 1; } split(/,/,$settings{'internal.adhocaccess'});  
                             }  
                             my @statuses;  
                             if ($env{'environment.inststatus'}) {  
                                 @statuses = split(/,/,$env{'environment.inststatus'});  
                             }  
                             my $user = $env{'user.name'}.':'.$env{'user.domain'};  
                             if (ref($accessref) eq 'HASH') {  
                                 %access_in_dom = %{$accessref};  
                             }  
                             foreach my $role (@{$roles_by_num}) {  
                                 my ($curraccess,@okstatus,@personnel);  
                                 if ($setincrs{$role}) {  
                                     ($curraccess,my $rest) = split(/=/,$settings{'internal.adhoc.'.$role});  
                                     if ($curraccess eq 'status') {  
                                         @okstatus = split(/\&/,$rest);  
                                     } elsif (($curraccess eq 'exc') || ($curraccess eq 'inc')) {  
                                         @personnel = split(/\&/,$rest);  
                                     }  
                                 } else {  
                                     $curraccess = $access_in_dom{$role};  
                                     if (ref($accessinfo) eq 'HASH') {  
                                         if ($curraccess eq 'status') {  
                                             if (ref($accessinfo->{$role}) eq 'ARRAY') {  
                                                 @okstatus = @{$accessinfo->{$role}};  
                                             }  
                                         } elsif (($curraccess eq 'exc') || ($curraccess eq 'inc')) {  
                                             if (ref($accessinfo->{$role}) eq 'ARRAY') {  
                                                 @personnel = @{$accessinfo->{$role}};  
                                             }  
                                         }  
                                     }  
                                 }  
                                 if ($curraccess eq 'none') {  
                                     next;  
                                 } elsif ($curraccess eq 'all') {  
                                     push(@possroles,$role);  
                                 } elsif ($curraccess eq 'dh') {  
                                     if (grep(/^dh$/,@liveroles)) {  
                                         push(@possroles,$role);  
                                     } else {  
                                         next;  
                                     }  
                                 } elsif ($curraccess eq 'da') {  
                                     if (grep(/^da$/,@liveroles)) {  
                                         push(@possroles,$role);  
                                     } else {  
                                         next;  
                                     }  
                                 } elsif ($curraccess eq 'status') {  
                                     if (@okstatus) {  
                                         if (!@statuses) {  
                                             if (grep(/^default$/,@okstatus)) {  
                                                 push(@possroles,$role);  
                                             }  
                                         } else {  
                                             foreach my $status (@okstatus) {  
                                                 if (grep(/^\Q$status\E$/,@statuses)) {  
                                                     push(@possroles,$role);  
                                                     last;  
                                                 }  
                                             }  
                                         }  
                                     }  
                                 } elsif (($curraccess eq 'exc') || ($curraccess eq 'inc')) {  
                                     if (grep(/^\Q$user\E$/,@personnel)) {  
                                         if ($curraccess eq 'exc') {  
                                             push(@possroles,$role);  
                                         }  
                                     } elsif ($curraccess eq 'inc') {  
                                         push(@possroles,$role);  
                                     }  
                                 }  
                             }  
                         }  
                     }  
                 }  
             }  
         }  
     }  
     unless (ref($description) eq 'HASH') {  
         if (ref($roles_by_num) eq 'ARRAY') {  
             my %desc;  
             map { $desc{$_} = $_; } (@{$roles_by_num});  
             $description = \%desc;  
         } else {  
             $description = {};  
         }  
     }  
     return (\@possroles,$description);  
 }  
   
 # ----------------------------------------------------- Frontpage Announcements  # ----------------------------------------------------- Frontpage Announcements
 #  #
 #  #
Line 5252  sub postannounce { Line 3748  sub postannounce {
   
 sub getannounce {  sub getannounce {
   
     if (open(my $fh,"<",$perlvar{'lonDocRoot'}.'/announcement.txt')) {      if (open(my $fh,$perlvar{'lonDocRoot'}.'/announcement.txt')) {
  my $announcement='';   my $announcement='';
  while (my $line = <$fh>) { $announcement .= $line; }   while (my $line = <$fh>) { $announcement .= $line; }
  close($fh);   close($fh);
Line 5314  sub courseiddump { Line 3810  sub courseiddump {
     my ($domfilter,$descfilter,$sincefilter,$instcodefilter,$ownerfilter,      my ($domfilter,$descfilter,$sincefilter,$instcodefilter,$ownerfilter,
         $coursefilter,$hostidflag,$hostidref,$typefilter,$regexp_ok,          $coursefilter,$hostidflag,$hostidref,$typefilter,$regexp_ok,
         $selfenrollonly,$catfilter,$showhidden,$caller,$cloner,$cc_clone,          $selfenrollonly,$catfilter,$showhidden,$caller,$cloner,$cc_clone,
         $cloneonly,$createdbefore,$createdafter,$creationcontext,$domcloner,          $cloneonly,$createdbefore,$createdafter,$creationcontext,$domcloner)=@_;
         $hasuniquecode,$reqcrsdom,$reqinstcode)=@_;  
     my $as_hash = 1;      my $as_hash = 1;
     my %returnhash;      my %returnhash;
     if (!$domfilter) { $domfilter=''; }      if (!$domfilter) { $domfilter=''; }
Line 5328  sub courseiddump { Line 3823  sub courseiddump {
     if (($domfilter eq '') ||      if (($domfilter eq '') ||
  (&host_domain($tryserver) eq $domfilter)) {   (&host_domain($tryserver) eq $domfilter)) {
                 my $rep;                  my $rep;
                 if (grep { $_ eq $tryserver } &current_machine_ids()) {                  if (grep { $_ eq $tryserver } current_machine_ids()) {
                     $rep = &LONCAPA::Lond::dump_course_id_handler(                      $rep = LONCAPA::Lond::dump_course_id_handler(
                         join(":", (&host_domain($tryserver), $sincefilter,                          join(":", (&host_domain($tryserver), $sincefilter, 
                                 &escape($descfilter), &escape($instcodefilter),                                  &escape($descfilter), &escape($instcodefilter), 
                                 &escape($ownerfilter), &escape($coursefilter),                                  &escape($ownerfilter), &escape($coursefilter),
                                 &escape($typefilter), &escape($regexp_ok),                                  &escape($typefilter), &escape($regexp_ok), 
                                 $as_hash, &escape($selfenrollonly),                                  $as_hash, &escape($selfenrollonly), 
                                 &escape($catfilter), $showhidden, $caller,                                  &escape($catfilter), $showhidden, $caller, 
                                 &escape($cloner), &escape($cc_clone), $cloneonly,                                  &escape($cloner), &escape($cc_clone), $cloneonly, 
                                 &escape($createdbefore), &escape($createdafter),                                  &escape($createdbefore), &escape($createdafter), 
                                 &escape($creationcontext),$domcloner,$hasuniquecode,                                  &escape($creationcontext), $domcloner)));
                                 $reqcrsdom,&escape($reqinstcode))));  
                 } else {                  } else {
                     $rep = &reply('courseiddump:'.&host_domain($tryserver).':'.                      $rep = &reply('courseiddump:'.&host_domain($tryserver).':'.
                              $sincefilter.':'.&escape($descfilter).':'.                               $sincefilter.':'.&escape($descfilter).':'.
Line 5350  sub courseiddump { Line 3844  sub courseiddump {
                              $showhidden.':'.$caller.':'.&escape($cloner).':'.                               $showhidden.':'.$caller.':'.&escape($cloner).':'.
                              &escape($cc_clone).':'.$cloneonly.':'.                               &escape($cc_clone).':'.$cloneonly.':'.
                              &escape($createdbefore).':'.&escape($createdafter).':'.                               &escape($createdbefore).':'.&escape($createdafter).':'.
                              &escape($creationcontext).':'.$domcloner.':'.$hasuniquecode.                               &escape($creationcontext).':'.$domcloner,
                              ':'.$reqcrsdom.':'.&escape($reqinstcode),$tryserver);                               $tryserver);
                 }                  }
                        
                 my @pairs=split(/\&/,$rep);                  my @pairs=split(/\&/,$rep);
                 foreach my $item (@pairs) {                  foreach my $item (@pairs) {
                     my ($key,$value)=split(/\=/,$item,2);                      my ($key,$value)=split(/\=/,$item,2);
Line 5459  sub get_domain_roles { Line 3953  sub get_domain_roles {
     }      }
     my $rolelist;      my $rolelist;
     if (ref($roles) eq 'ARRAY') {      if (ref($roles) eq 'ARRAY') {
         $rolelist = join('&',@{$roles});          $rolelist = join(':',@{$roles});
     }      }
     my %personnel = ();      my %personnel = ();
   
Line 5479  sub get_domain_roles { Line 3973  sub get_domain_roles {
     return %personnel;      return %personnel;
 }  }
   
 sub get_active_domroles {  
     my ($dom,$roles) = @_;  
     return () unless (ref($roles) eq 'ARRAY');  
     my $now = time;  
     my %dompersonnel = &get_domain_roles($dom,$roles,$now,$now);  
     my %domroles;  
     foreach my $server (keys(%dompersonnel)) {  
         foreach my $user (sort(keys(%{$dompersonnel{$server}}))) {  
             my ($trole,$uname,$udom,$runame,$rudom,$rsec) = split(/:/,$user);  
             $domroles{$uname.':'.$udom} = $dompersonnel{$server}{$user};  
         }  
     }  
     return %domroles;  
 }  
   
 # ----------------------------------------------------------- Interval timing   # ----------------------------------------------------------- Interval timing 
   
 {  {
Line 5505  my $cachedkey=''; Line 3984  my $cachedkey='';
 # The cached times for this user  # The cached times for this user
 my %cachedtimes=();  my %cachedtimes=();
 # When this was last done  # When this was last done
 my $cachedtime='';  my $cachedtime=();
   
 sub load_all_first_access {  sub load_all_first_access {
     my ($uname,$udom)=@_;      my ($uname,$udom)=@_;
Line 5548  sub set_first_access { Line 4027  sub set_first_access {
     }      }
     $cachedkey='';      $cachedkey='';
     my $firstaccess=&get_first_access($type,$symb,$map);      my $firstaccess=&get_first_access($type,$symb,$map);
     if ($firstaccess) {      if (!$firstaccess) {
         &logthis("First access time already set ($firstaccess) when attempting ".  
                  "to set new value (type: $type, extent: $res) for $uname:$udom ".  
                  "in $courseid");  
         return 'already_set';  
     } else {  
         my $start = time;          my $start = time;
  my $putres = &put('firstaccesstimes',{"$courseid\0$res"=>$start},   my $putres = &put('firstaccesstimes',{"$courseid\0$res"=>$start},
                           $udom,$uname);                            $udom,$uname);
Line 5566  sub set_first_access { Line 4040  sub set_first_access {
                         'course.'.$courseid.'.timerinterval.'.$res => $interval,                          'course.'.$courseid.'.timerinterval.'.$res => $interval,
                      }                       }
                   );                    );
             if (($cachedtime) && (abs($start-$cachedtime) < 5)) {  
                 $cachedtimes{"$courseid\0$res"} = $start;  
             }  
         } elsif ($putres ne 'refused') {  
             &logthis("Result: $putres when attempting to set first access time ".  
                      "(type: $type, extent: $res) for $uname:$udom in $courseid");  
         }          }
         return $putres;          return $putres;
     }      }
     return 'already_set';      return 'already_set';
 }  }
 }  }
   
 sub checkout {  
     my ($symb,$tuname,$tudom,$tcrsid)=@_;  
     my $now=time;  
     my $lonhost=$perlvar{'lonHostID'};  
     my $ip = &get_requestor_ip();  
     my $infostr=&escape(  
                  'CHECKOUTTOKEN&'.  
                  $tuname.'&'.  
                  $tudom.'&'.  
                  $tcrsid.'&'.  
                  $symb.'&'.  
                  $now.'&'.$ip);  
     my $token=&reply('tmpput:'.$infostr,$lonhost);  
     if ($token=~/^error\:/) {  
         &logthis("<font color=\"blue\">WARNING: ".  
                 "Checkout tmpput failed ".$tudom.' - '.$tuname.' - '.$symb.  
                  "</font>");  
         return '';  
     }  
   
     $token=~s/^(\d+)\_.*\_(\d+)$/$1\*$2\*$lonhost/;  
     $token=~tr/a-z/A-Z/;  
   
     my %infohash=('resource.0.outtoken' => $token,  
                   'resource.0.checkouttime' => $now,  
                   'resource.0.outremote' => $ip);  
   
     unless (&cstore(\%infohash,$symb,$tcrsid,$tudom,$tuname) eq 'ok') {  
        return '';  
     } else {  
         &logthis("<font color=\"blue\">WARNING: ".  
                 "Checkout cstore failed ".$tudom.' - '.$tuname.' - '.$symb.  
                  "</font>");  
     }  
   
     if (&log($tudom,$tuname,&homeserver($tuname,$tudom),  
                          &escape('Checkout '.$infostr.' - '.  
                                                  $token)) ne 'ok') {  
         return '';  
     } else {  
         &logthis("<font color=\"blue\">WARNING: ".  
                 "Checkout log failed ".$tudom.' - '.$tuname.' - '.$symb.  
                  "</font>");  
     }  
     return $token;  
 }  
   
 # ------------------------------------------------------------ Check in an item  
   
 sub checkin {  
     my $token=shift;  
     my $now=time;  
     my ($ta,$tb,$lonhost)=split(/\*/,$token);  
     $lonhost=~tr/A-Z/a-z/;  
     my $dtoken=$ta.'_'.&hostname($lonhost).'_'.$tb;  
     $dtoken=~s/\W/\_/g;  
     my $ip = &get_requestor_ip();  
     my ($dummy,$tuname,$tudom,$tcrsid,$symb,$chtim,$rmaddr)=  
                  split(/\&/,&unescape(&reply('tmpget:'.$dtoken,$lonhost)));  
   
     unless (($tuname) && ($tudom)) {  
         &logthis('Check in '.$token.' ('.$dtoken.') failed');  
         return '';  
     }  
   
     unless (&allowed('mgr',$tcrsid)) {  
         &logthis('Check in '.$token.' ('.$dtoken.') unauthorized: '.  
                  $env{'user.name'}.' - '.$env{'user.domain'});  
         return '';  
     }  
   
     my %infohash=('resource.0.intoken' => $token,  
                   'resource.0.checkintime' => $now,  
                   'resource.0.inremote' => $ip);  
   
     unless (&cstore(\%infohash,$symb,$tcrsid,$tudom,$tuname) eq 'ok') {  
        return '';  
     }  
   
     if (&log($tudom,$tuname,&homeserver($tuname,$tudom),  
                          &escape('Checkin - '.$token)) ne 'ok') {  
         return '';  
     }  
   
     return ($symb,$tuname,$tudom,$tcrsid);  
 }  
   
 # --------------------------------------------- Set Expire Date for Spreadsheet  # --------------------------------------------- Set Expire Date for Spreadsheet
   
 sub expirespread {  sub expirespread {
Line 5920  sub tmpreset { Line 4300  sub tmpreset {
   if (!$domain) { $domain=$env{'user.domain'}; }    if (!$domain) { $domain=$env{'user.domain'}; }
   if (!$stuname) { $stuname=$env{'user.name'}; }    if (!$stuname) { $stuname=$env{'user.name'}; }
   if ($domain eq 'public' && $stuname eq 'public') {    if ($domain eq 'public' && $stuname eq 'public') {
       $stuname=&get_requestor_ip();        $stuname=$ENV{'REMOTE_ADDR'};
   }    }
   my $path=LONCAPA::tempdir();    my $path=LONCAPA::tempdir();
   my %hash;    my %hash;
Line 5957  sub tmpstore { Line 4337  sub tmpstore {
   if (!$domain) { $domain=$env{'user.domain'}; }    if (!$domain) { $domain=$env{'user.domain'}; }
   if (!$stuname) { $stuname=$env{'user.name'}; }    if (!$stuname) { $stuname=$env{'user.name'}; }
   if ($domain eq 'public' && $stuname eq 'public') {    if ($domain eq 'public' && $stuname eq 'public') {
       $stuname=&get_requestor_ip();        $stuname=$ENV{'REMOTE_ADDR'};
   }    }
   my $now=time;    my $now=time;
   my %hash;    my %hash;
Line 6001  sub tmprestore { Line 4381  sub tmprestore {
   if (!$domain) { $domain=$env{'user.domain'}; }    if (!$domain) { $domain=$env{'user.domain'}; }
   if (!$stuname) { $stuname=$env{'user.name'}; }    if (!$stuname) { $stuname=$env{'user.name'}; }
   if ($domain eq 'public' && $stuname eq 'public') {    if ($domain eq 'public' && $stuname eq 'public') {
       $stuname=&get_requestor_ip();        $stuname=$ENV{'REMOTE_ADDR'};
   }    }
   my %returnhash;    my %returnhash;
   $namespace=~s/\//\_/g;    $namespace=~s/\//\_/g;
Line 6036  sub tmprestore { Line 4416  sub tmprestore {
 # ----------------------------------------------------------------------- Store  # ----------------------------------------------------------------------- Store
   
 sub store {  sub store {
     my ($storehash,$symb,$namespace,$domain,$stuname,$laststore) = @_;      my ($storehash,$symb,$namespace,$domain,$stuname) = @_;
     my $home='';      my $home='';
   
     if ($stuname) { $home=&homeserver($stuname,$domain); }      if ($stuname) { $home=&homeserver($stuname,$domain); }
Line 6057  sub store { Line 4437  sub store {
     }      }
     if (!$home) { $home=$env{'user.home'}; }      if (!$home) { $home=$env{'user.home'}; }
   
     $$storehash{'ip'}=&get_requestor_ip();      $$storehash{'ip'}=$ENV{'REMOTE_ADDR'};
     $$storehash{'host'}=$perlvar{'lonHostID'};      $$storehash{'host'}=$perlvar{'lonHostID'};
   
     my $namevalue='';      my $namevalue='';
Line 6066  sub store { Line 4446  sub store {
     }      }
     $namevalue=~s/\&$//;      $namevalue=~s/\&$//;
     &courselog($symb.':'.$stuname.':'.$domain.':STORE:'.$namevalue);      &courselog($symb.':'.$stuname.':'.$domain.':STORE:'.$namevalue);
     return reply("store:$domain:$stuname:$namespace:$symb:$namevalue:$laststore","$home");      return reply("store:$domain:$stuname:$namespace:$symb:$namevalue","$home");
 }  }
   
 # -------------------------------------------------------------- Critical Store  # -------------------------------------------------------------- Critical Store
   
 sub cstore {  sub cstore {
     my ($storehash,$symb,$namespace,$domain,$stuname,$laststore) = @_;      my ($storehash,$symb,$namespace,$domain,$stuname) = @_;
     my $home='';      my $home='';
   
     if ($stuname) { $home=&homeserver($stuname,$domain); }      if ($stuname) { $home=&homeserver($stuname,$domain); }
Line 6093  sub cstore { Line 4473  sub cstore {
     }      }
     if (!$home) { $home=$env{'user.home'}; }      if (!$home) { $home=$env{'user.home'}; }
   
     $$storehash{'ip'}=&get_requestor_ip();      $$storehash{'ip'}=$ENV{'REMOTE_ADDR'};
     $$storehash{'host'}=$perlvar{'lonHostID'};      $$storehash{'host'}=$perlvar{'lonHostID'};
   
     my $namevalue='';      my $namevalue='';
Line 6103  sub cstore { Line 4483  sub cstore {
     $namevalue=~s/\&$//;      $namevalue=~s/\&$//;
     &courselog($symb.':'.$stuname.':'.$domain.':CSTORE:'.$namevalue);      &courselog($symb.':'.$stuname.':'.$domain.':CSTORE:'.$namevalue);
     return critical      return critical
                 ("store:$domain:$stuname:$namespace:$symb:$namevalue:$laststore","$home");                  ("store:$domain:$stuname:$namespace:$symb:$namevalue","$home");
 }  }
   
 # --------------------------------------------------------------------- Restore  # --------------------------------------------------------------------- Restore
Line 6115  sub restore { Line 4495  sub restore {
     if ($stuname) { $home=&homeserver($stuname,$domain); }      if ($stuname) { $home=&homeserver($stuname,$domain); }
   
     if (!$symb) {      if (!$symb) {
         return if ($namespace eq 'courserequests');        unless ($symb=escape(&symbread())) { return ''; }
         unless ($symb=escape(&symbread())) { return ''; }  
     } else {      } else {
         unless ($namespace eq 'courserequests') {        $symb=&escape(&symbclean($symb));
             $symb=&escape(&symbclean($symb));  
         }  
     }      }
     if (!$namespace) {       if (!$namespace) { 
        unless ($namespace=$env{'request.course.id'}) {          unless ($namespace=$env{'request.course.id'}) { 
Line 6255  sub update_released_required { Line 4632  sub update_released_required {
 # -------------------------------------------------See if a user is privileged  # -------------------------------------------------See if a user is privileged
   
 sub privileged {  sub privileged {
     my ($username,$domain,$possdomains,$possroles)=@_;      my ($username,$domain)=@_;
   
       my %rolesdump = &dump("roles", $domain, $username) or return 0;
     my $now = time;      my $now = time;
     my $roles;  
     if (ref($possroles) eq 'ARRAY') {  
         $roles = $possroles;  
     } else {  
         $roles = ['dc','su'];  
     }  
     if (ref($possdomains) eq 'ARRAY') {  
         my %privileged = &privileged_by_domain($possdomains,$roles);  
         foreach my $dom (@{$possdomains}) {  
             if (($username =~ /^$match_username$/) && ($domain =~ /^$match_domain$/) &&  
                 (ref($privileged{$dom}) eq 'HASH')) {  
                 foreach my $role (@{$roles}) {  
                     if (ref($privileged{$dom}{$role}) eq 'HASH') {  
                         if (exists($privileged{$dom}{$role}{$username.':'.$domain})) {  
                             my ($end,$start) = split(/:/,$privileged{$dom}{$role}{$username.':'.$domain});  
                             return 1 unless (($end && $end < $now) ||  
                                              ($start && $start > $now));  
                         }  
                     }  
                 }  
             }  
         }  
     } else {  
         my %rolesdump = &dump("roles", $domain, $username) or return 0;  
         my $now = time;  
   
         for my $role (@rolesdump{grep { ! /^rolesdef_/ } keys(%rolesdump)}) {      for my $role (@rolesdump{grep { ! /^rolesdef_/ } keys %rolesdump}) {
             my ($trole, $tend, $tstart) = split(/_/, $role);              my ($trole, $tend, $tstart) = split(/_/, $role);
             if (grep(/^\Q$trole\E$/,@{$roles})) {              if (($trole eq 'dc') || ($trole eq 'su')) {
                 return 1 unless ($tend && $tend < $now)                  return 1 unless ($tend && $tend < $now) 
                         or ($tstart && $tstart > $now);                      or ($tstart && $tstart > $now);
             }              }
         }   }
     }  
     return 0;  
 }  
   
 sub privileged_by_domain {      return 0;
     my ($domains,$roles) = @_;  
     my %privileged = ();  
     my $cachetime = 60*60*24;  
     my $now = time;  
     unless ((ref($domains) eq 'ARRAY') && (ref($roles) eq 'ARRAY')) {  
         return %privileged;  
     }  
     foreach my $dom (@{$domains}) {  
         next if (ref($privileged{$dom}) eq 'HASH');  
         my $needroles;  
         foreach my $role (@{$roles}) {  
             my ($result,$cached)=&is_cached_new('priv_'.$role,$dom);  
             if (defined($cached)) {  
                 if (ref($result) eq 'HASH') {  
                     $privileged{$dom}{$role} = $result;  
                 }  
             } else {  
                 $needroles = 1;  
             }  
         }  
         if ($needroles) {  
             my %dompersonnel = &get_domain_roles($dom,$roles);  
             $privileged{$dom} = {};  
             foreach my $server (keys(%dompersonnel)) {  
                 if (ref($dompersonnel{$server}) eq 'HASH') {  
                     foreach my $item (keys(%{$dompersonnel{$server}})) {  
                         my ($trole,$uname,$udom,$rest) = split(/:/,$item,4);  
                         my ($end,$start) = split(/:/,$dompersonnel{$server}{$item});  
                         next if ($end && $end < $now);  
                         $privileged{$dom}{$trole}{$uname.':'.$udom} =  
                             $dompersonnel{$server}{$item};  
                     }  
                 }  
             }  
             if (ref($privileged{$dom}) eq 'HASH') {  
                 foreach my $role (@{$roles}) {  
                     if (ref($privileged{$dom}{$role}) eq 'HASH') {  
                         &do_cache_new('priv_'.$role,$dom,$privileged{$dom}{$role},$cachetime);  
                     } else {  
                         my %hash = ();  
                         &do_cache_new('priv_'.$role,$dom,\%hash,$cachetime);  
                     }  
                 }  
             }  
         }  
     }  
     return %privileged;  
 }  }
   
 # -------------------------------------------------------- Get user privileges  # -------------------------------------------------------- Get user privileges
Line 6372  sub rolesinit { Line 4676  sub rolesinit {
     my %allroles=();      my %allroles=();
     my %allgroups=();      my %allgroups=();
   
     for my $area (grep { ! /^rolesdef_/ } keys(%rolesdump)) {      for my $area (grep { ! /^rolesdef_/ } keys %rolesdump) {
         my $role = $rolesdump{$area};          my $role = $rolesdump{$area};
         $area =~ s/\_\w\w$//;          $area =~ s/\_\w\w$//;
   
Line 6445  sub rolesinit { Line 4749  sub rolesinit {
         }          }
     }      }
   
     @userroles{'user.author','user.adv','user.rar'} = &set_userprivs(\%userroles,      @userroles{'user.author', 'user.adv'} = &set_userprivs(\%userroles,
                                                           \%allroles, \%allgroups);          \%allroles, \%allgroups);
     $env{'user.adv'} = $userroles{'user.adv'};      $env{'user.adv'} = $userroles{'user.adv'};
     $env{'user.rar'} = $userroles{'user.rar'};  
   
     return (\%userroles,\%firstaccenv,\%timerintenv);      return (\%userroles,\%firstaccenv,\%timerintenv);
 }  }
   
 sub set_arearole {  sub set_arearole {
     my ($trole,$area,$tstart,$tend,$domain,$username,$nolog) = @_;      my ($trole,$area,$tstart,$tend,$domain,$username) = @_;
     unless ($nolog) {  
 # log the associated role with the area  # log the associated role with the area
         &userrolelog($trole,$username,$domain,$area,$tstart,$tend);      &userrolelog($trole,$username,$domain,$area,$tstart,$tend);
     }  
     return ('user.role.'.$trole.'.'.$area => $tstart.'.'.$tend);      return ('user.role.'.$trole.'.'.$area => $tstart.'.'.$tend);
 }  }
   
 sub custom_roleprivs {  sub custom_roleprivs {
     my ($allroles,$trole,$tdomain,$trest,$spec,$area) = @_;      my ($allroles,$trole,$tdomain,$trest,$spec,$area) = @_;
     my ($rdummy,$rdomain,$rauthor,$rrole)=split(/\//,$trole);      my ($rdummy,$rdomain,$rauthor,$rrole)=split(/\//,$trole);
     my $homsvr = &homeserver($rauthor,$rdomain);      my $homsvr=homeserver($rauthor,$rdomain);
     if (&hostname($homsvr) ne '') {      if (&hostname($homsvr) ne '') {
         my ($rdummy,$roledef)=          my ($rdummy,$roledef)=
             &get('roles',["rolesdef_$rrole"],$rdomain,$rauthor);              &get('roles',["rolesdef_$rrole"],$rdomain,$rauthor);
Line 6484  sub custom_roleprivs { Line 4785  sub custom_roleprivs {
                     $$allroles{$spec.'./'.$tdomain.'/'}.=':'.$dompriv;                      $$allroles{$spec.'./'.$tdomain.'/'}.=':'.$dompriv;
                 }                  }
                 if (($trest ne '') && (defined($coursepriv))) {                  if (($trest ne '') && (defined($coursepriv))) {
                     if ($trole =~ m{^cr/$tdomain/$tdomain\Q-domainconfig\E/([^/]+)$}) {  
                         my $rolename = $1;  
                         $coursepriv = &course_adhocrole_privs($rolename,$tdomain,$trest,$coursepriv);  
                     }  
                     $$allroles{'cm.'.$area}.=':'.$coursepriv;                      $$allroles{'cm.'.$area}.=':'.$coursepriv;
                     $$allroles{$spec.'.'.$area}.=':'.$coursepriv;                      $$allroles{$spec.'.'.$area}.=':'.$coursepriv;
                 }                  }
Line 6496  sub custom_roleprivs { Line 4793  sub custom_roleprivs {
     }      }
 }  }
   
 sub course_adhocrole_privs {  
     my ($rolename,$cdom,$cnum,$coursepriv) = @_;  
     my %overrides = &get('environment',["internal.adhocpriv.$rolename"],$cdom,$cnum);  
     if ($overrides{"internal.adhocpriv.$rolename"}) {  
         my (%currprivs,%storeprivs);  
         foreach my $item (split(/:/,$coursepriv)) {  
             my ($priv,$restrict) = split(/\&/,$item);  
             $currprivs{$priv} = $restrict;  
         }  
         my (%possadd,%possremove,%full);  
         foreach my $item (split(/\:/,$Apache::lonnet::pr{'cr:c'})) {  
             my ($priv,$restrict)=split(/\&/,$item);  
             $full{$priv} = $restrict;  
         }  
         foreach my $item (split(/,/,$overrides{"internal.adhocpriv.$rolename"})) {  
              next if ($item eq '');  
              my ($rule,$rest) = split(/=/,$item);  
              next unless (($rule eq 'off') || ($rule eq 'on'));  
              foreach my $priv (split(/:/,$rest)) {  
                  if ($priv ne '') {  
                      if ($rule eq 'off') {  
                          $possremove{$priv} = 1;  
                      } else {  
                          $possadd{$priv} = 1;  
                      }  
                  }  
              }  
          }  
          foreach my $priv (sort(keys(%full))) {  
              if (exists($currprivs{$priv})) {  
                  unless (exists($possremove{$priv})) {  
                      $storeprivs{$priv} = $currprivs{$priv};  
                  }  
              } elsif (exists($possadd{$priv})) {  
                  $storeprivs{$priv} = $full{$priv};  
              }  
          }  
          $coursepriv = ':'.join(':',map { $_.'&'.$storeprivs{$_}; } sort(keys(%storeprivs)));  
      }  
      return $coursepriv;  
 }  
   
 sub group_roleprivs {  sub group_roleprivs {
     my ($allgroups,$area,$group_privs,$tend,$tstart) = @_;      my ($allgroups,$area,$group_privs,$tend,$tstart) = @_;
     my $access = 1;      my $access = 1;
Line 6572  sub set_userprivs { Line 4827  sub set_userprivs {
     my ($userroles,$allroles,$allgroups,$groups_roles) = @_;       my ($userroles,$allroles,$allgroups,$groups_roles) = @_; 
     my $author=0;      my $author=0;
     my $adv=0;      my $adv=0;
     my $rar=0;  
     my %grouproles = ();      my %grouproles = ();
     if (keys(%{$allgroups}) > 0) {      if (keys(%{$allgroups}) > 0) {
         my @groupkeys;           my @groupkeys; 
Line 6620  sub set_userprivs { Line 4874  sub set_userprivs {
                     $thesepriv{$privilege}.=$restrictions;                      $thesepriv{$privilege}.=$restrictions;
                 }                  }
                 if ($thesepriv{'adv'} eq 'F') { $adv=1; }                  if ($thesepriv{'adv'} eq 'F') { $adv=1; }
                 if ($thesepriv{'rar'} eq 'F') { $rar=1; }  
             }              }
         }          }
         my $thesestr='';          my $thesestr='';
Line 6629  sub set_userprivs { Line 4882  sub set_userprivs {
  }   }
         $userroles->{'user.priv.'.$role} = $thesestr;          $userroles->{'user.priv.'.$role} = $thesestr;
     }      }
     return ($author,$adv,$rar);      return ($author,$adv);
 }  }
   
 sub role_status {  sub role_status {
     my ($rolekey,$update,$refresh,$now,$role,$where,$trolecode,$tstatus,$tstart,$tend) = @_;      my ($rolekey,$update,$refresh,$now,$role,$where,$trolecode,$tstatus,$tstart,$tend) = @_;
       my @pwhere = ();
     if (exists($env{$rolekey}) && $env{$rolekey} ne '') {      if (exists($env{$rolekey}) && $env{$rolekey} ne '') {
         my ($one,$two) = split(m{\./},$rolekey,2);          (undef,undef,$$role,@pwhere)=split(/\./,$rolekey);
         (undef,undef,$$role) = split(/\./,$one,3);  
         unless (!defined($$role) || $$role eq '') {          unless (!defined($$role) || $$role eq '') {
             $$where = '/'.$two;              $$where=join('.',@pwhere);
             $$trolecode=$$role.'.'.$$where;              $$trolecode=$$role.'.'.$$where;
             ($$tstart,$$tend)=split(/\./,$env{$rolekey});              ($$tstart,$$tend)=split(/\./,$env{$rolekey});
             $$tstatus='is';              $$tstatus='is';
Line 6674  sub role_status { Line 4927  sub role_status {
                                 push(@rolecodes,$$role);                                  push(@rolecodes,$$role);
                                 &standard_roleprivs(\%allroles,$$role,$tdomain,$spec,$trest,$$where);                                  &standard_roleprivs(\%allroles,$$role,$tdomain,$spec,$trest,$$where);
                             }                              }
                             my ($author,$adv,$rar)= &set_userprivs(\%userroles,\%allroles,\%allgroups,                              my ($author,$adv)= &set_userprivs(\%userroles,\%allroles,\%allgroups,\%groups_roles);
                                                                    \%groups_roles);  
                             &appenv(\%userroles,\@rolecodes);                              &appenv(\%userroles,\@rolecodes);
                             &log($env{'user.domain'},$env{'user.name'},$env{'user.home'},"Role ".$spec);                              &log($env{'user.domain'},$env{'user.name'},$env{'user.home'},"Role ".$role);
                         }                          }
                     }                      }
                     $$tstatus = 'is';                      $$tstatus = 'is';
Line 6753  sub delete_env_groupprivs { Line 5005  sub delete_env_groupprivs {
 }  }
   
 sub check_adhoc_privs {  sub check_adhoc_privs {
     my ($cdom,$cnum,$update,$refresh,$now,$checkrole,$caller,$sec) = @_;      my ($cdom,$cnum,$update,$refresh,$now,$checkrole,$caller) = @_;
     my $cckey = 'user.role.'.$checkrole.'./'.$cdom.'/'.$cnum;      my $cckey = 'user.role.'.$checkrole.'./'.$cdom.'/'.$cnum;
     if ($sec) {  
         $cckey .= '/'.$sec;  
     }  
     my $setprivs;  
     if ($env{$cckey}) {      if ($env{$cckey}) {
         my ($role,$where,$trolecode,$tstart,$tend,$tremark,$tstatus,$tpstart,$tpend);          my ($role,$where,$trolecode,$tstart,$tend,$tremark,$tstatus,$tpstart,$tpend);
         &role_status($cckey,$update,$refresh,$now,\$role,\$where,\$trolecode,\$tstatus,\$tstart,\$tend);          &role_status($cckey,$update,$refresh,$now,\$role,\$where,\$trolecode,\$tstatus,\$tstart,\$tend);
         unless (($tstatus eq 'is') || ($tstatus eq 'will_not')) {          unless (($tstatus eq 'is') || ($tstatus eq 'will_not')) {
             &set_adhoc_privileges($cdom,$cnum,$checkrole,$caller,$sec);              &set_adhoc_privileges($cdom,$cnum,$checkrole,$caller);
             $setprivs = 1;  
         }          }
     } else {      } else {
         &set_adhoc_privileges($cdom,$cnum,$checkrole,$caller,$sec);          &set_adhoc_privileges($cdom,$cnum,$checkrole,$caller);
         $setprivs = 1;  
     }      }
     return $setprivs;  
 }  }
   
 sub set_adhoc_privileges {  sub set_adhoc_privileges {
 # role can be cc, ca, or cr/<dom>/<dom>-domainconfig/role  # role can be cc or ca
     my ($dcdom,$pickedcourse,$role,$caller,$sec) = @_;      my ($dcdom,$pickedcourse,$role,$caller) = @_;
     my $area = '/'.$dcdom.'/'.$pickedcourse;      my $area = '/'.$dcdom.'/'.$pickedcourse;
     if ($sec ne '') {  
         $area .= '/'.$sec;  
     }  
     my $spec = $role.'.'.$area;      my $spec = $role.'.'.$area;
     my %userroles = &set_arearole($role,$area,'','',$env{'user.domain'},      my %userroles = &set_arearole($role,$area,'','',$env{'user.domain'},
                                   $env{'user.name'},1);                                    $env{'user.name'});
     my %rolehash = ();      my %ccrole = ();
     if ($role =~ m{^\Qcr/$dcdom/$dcdom\E\-domainconfig/(\w+)$}) {      &standard_roleprivs(\%ccrole,$role,$dcdom,$spec,$pickedcourse,$area);
         my $rolename = $1;      my ($author,$adv)= &set_userprivs(\%userroles,\%ccrole);
         &custom_roleprivs(\%rolehash,$role,$dcdom,$pickedcourse,$spec,$area);  
         my %domdef = &get_domain_defaults($dcdom);  
         if (ref($domdef{'adhocroles'}) eq 'HASH') {  
             if (ref($domdef{'adhocroles'}{$rolename}) eq 'HASH') {  
                 &appenv({'request.role.desc' => $domdef{'adhocroles'}{$rolename}{'desc'},});  
             }  
         }  
     } else {  
         &standard_roleprivs(\%rolehash,$role,$dcdom,$spec,$pickedcourse,$area);  
     }  
     my ($author,$adv,$rar)= &set_userprivs(\%userroles,\%rolehash);  
     &appenv(\%userroles,[$role,'cm']);      &appenv(\%userroles,[$role,'cm']);
     &log($env{'user.domain'},$env{'user.name'},$env{'user.home'},"Role ".$spec);      &log($env{'user.domain'},$env{'user.name'},$env{'user.home'},"Role ".$role);
     unless ($caller eq 'constructaccess' && $env{'request.course.id'}) {      unless ($caller eq 'constructaccess' && $env{'request.course.id'}) {
         &appenv( {'request.role'        => $spec,          &appenv( {'request.role'        => $spec,
                   'request.role.domain' => $dcdom,                    'request.role.domain' => $dcdom,
                   'request.course.sec'  => $sec,                     'request.course.sec'  => ''
                  }                   }
                );                 );
         my $tadv=0;          my $tadv=0;
Line 6862  sub unserialize { Line 5093  sub unserialize {
     return {} if $rep =~ /^error/;      return {} if $rep =~ /^error/;
   
     my %returnhash=();      my %returnhash=();
     foreach my $item (split(/\&/,$rep)) {   foreach my $item (split /\&/, $rep) {
         my ($key, $value) = split(/=/, $item, 2);      my ($key, $value) = split(/=/, $item, 2);
         $key = unescape($key) unless $escapedkeys;      $key = unescape($key) unless $escapedkeys;
         next if $key =~ /^error: 2 /;      next if $key =~ /^error: 2 /;
         $returnhash{$key} = &thaw_unescape($value);      $returnhash{$key} = Apache::lonnet::thaw_unescape($value);
     }   }
       #return %returnhash;
     return \%returnhash;      return \%returnhash;
 }  }        
   
 # see Lond::dump_with_regexp  # see Lond::dump_with_regexp
 # if $escapedkeys hash keys won't get unescaped.  # if $escapedkeys hash keys won't get unescaped.
Line 6879  sub dump { Line 5111  sub dump {
     if (!$uname) { $uname=$env{'user.name'}; }      if (!$uname) { $uname=$env{'user.name'}; }
     my $uhome=&homeserver($uname,$udomain);      my $uhome=&homeserver($uname,$udomain);
   
       my $reply;
       if (grep { $_ eq $uhome } current_machine_ids()) {
           # user is hosted on this machine
           $reply = LONCAPA::Lond::dump_with_regexp(join(":", ($udomain,
                       $uname, $namespace, $regexp, $range)), $loncaparevs{$uhome});
           return %{unserialize($reply, $escapedkeys)};
       }
     if ($regexp) {      if ($regexp) {
         $regexp=&escape($regexp);   $regexp=&escape($regexp);
     } else {      } else {
         $regexp='.';   $regexp='.';
     }  
     if (grep { $_ eq $uhome } &current_machine_ids()) {  
         # user is hosted on this machine  
         my $reply = LONCAPA::Lond::dump_with_regexp(join(':', ($udomain,  
                     $uname, $namespace, $regexp, $range)), $perlvar{'lonVersion'});  
         return %{&unserialize($reply, $escapedkeys)};  
     }      }
     my $rep=&reply("dump:$udomain:$uname:$namespace:$regexp:$range",$uhome);      my $rep=&reply("dump:$udomain:$uname:$namespace:$regexp:$range",$uhome);
     my @pairs=split(/\&/,$rep);      my @pairs=split(/\&/,$rep);
Line 6896  sub dump { Line 5129  sub dump {
     if (!($rep =~ /^error/ )) {      if (!($rep =~ /^error/ )) {
  foreach my $item (@pairs) {   foreach my $item (@pairs) {
     my ($key,$value)=split(/=/,$item,2);      my ($key,$value)=split(/=/,$item,2);
             $key = &unescape($key) unless ($escapedkeys);          $key = unescape($key) unless $escapedkeys;
           #$key = &unescape($key);
     next if ($key =~ /^error: 2 /);      next if ($key =~ /^error: 2 /);
     $returnhash{$key}=&thaw_unescape($value);      $returnhash{$key}=&thaw_unescape($value);
  }   }
Line 6940  sub currentdump { Line 5174  sub currentdump {
    my $rep;     my $rep;
   
    if (grep { $_ eq $uhome } current_machine_ids()) {     if (grep { $_ eq $uhome } current_machine_ids()) {
        $rep = LONCAPA::Lond::dump_profile_database(join(":", ($sdom, $sname,         $rep = LONCAPA::Lond::dump_profile_database(join(":", ($sdom, $sname, 
                    $courseid)));                     $courseid)));
    } else {     } else {
        $rep = reply('currentdump:'.$sdom.':'.$sname.':'.$courseid,$uhome);         $rep = reply('currentdump:'.$sdom.':'.$sname.':'.$courseid,$uhome);
Line 7066  sub newput { Line 5300  sub newput {
 # ---------------------------------------------------------  putstore interface  # ---------------------------------------------------------  putstore interface
   
 sub putstore {  sub putstore {
    my ($namespace,$symb,$version,$storehash,$udomain,$uname,$tolog)=@_;     my ($namespace,$symb,$version,$storehash,$udomain,$uname)=@_;
    if (!$udomain) { $udomain=$env{'user.domain'}; }     if (!$udomain) { $udomain=$env{'user.domain'}; }
    if (!$uname) { $uname=$env{'user.name'}; }     if (!$uname) { $uname=$env{'user.name'}; }
    my $uhome=&homeserver($uname,$udomain);     my $uhome=&homeserver($uname,$udomain);
Line 7080  sub putstore { Line 5314  sub putstore {
    my $reply =     my $reply =
        &reply("putstore:$udomain:$uname:$namespace:$esc_symb:$esc_v:$items",         &reply("putstore:$udomain:$uname:$namespace:$esc_symb:$esc_v:$items",
       $uhome);        $uhome);
    if (($tolog) && ($reply eq 'ok')) {  
        my $namevalue='';  
        foreach my $key (keys(%{$storehash})) {  
            $namevalue.=&escape($key).'='.&freeze_escape($storehash->{$key}).'&';  
        }  
        my $ip = &get_requestor_ip();  
        $namevalue .= 'ip='.&escape($ip).  
                      '&host='.&escape($perlvar{'lonHostID'}).  
                      '&version='.$esc_v.  
                      '&by='.&escape($env{'user.name'}.':'.$env{'user.domain'});  
        &Apache::lonnet::courselog($symb.':'.$uname.':'.$udomain.':PUTSTORE:'.$namevalue);  
    }  
    if ($reply eq 'unknown_cmd') {     if ($reply eq 'unknown_cmd') {
        # gfall back to way things use to be done         # gfall back to way things use to be done
        return &old_putstore($namespace,$symb,$version,$storehash,$udomain,         return &old_putstore($namespace,$symb,$version,$storehash,$udomain,
Line 7185  sub tmpget { Line 5407  sub tmpget {
     if (!defined($server)) { $server = $perlvar{'lonHostID'}; }      if (!defined($server)) { $server = $perlvar{'lonHostID'}; }
     my $rep=&reply("tmpget:$token",$server);      my $rep=&reply("tmpget:$token",$server);
     my %returnhash;      my %returnhash;
     if ($rep =~ /^(con_lost|error|no_such_host)/i) {  
         return %returnhash;  
     }  
     foreach my $item (split(/\&/,$rep)) {      foreach my $item (split(/\&/,$rep)) {
  my ($key,$value)=split(/=/,$item);   my ($key,$value)=split(/=/,$item);
           next if ($key =~ /^error: 2 /);
  $returnhash{&unescape($key)}=&thaw_unescape($value);   $returnhash{&unescape($key)}=&thaw_unescape($value);
     }      }
     return %returnhash;      return %returnhash;
Line 7202  sub tmpdel { Line 5422  sub tmpdel {
     return &reply("tmpdel:$token",$server);      return &reply("tmpdel:$token",$server);
 }  }
   
 # ------------------------------------------------------------ get_timebased_id  
   
 sub get_timebased_id {  
     my ($prefix,$keyid,$namespace,$cdom,$cnum,$idtype,$who,$locktries,  
         $maxtries) = @_;  
     my ($newid,$error,$dellock);  
     unless (($prefix =~ /^\w+$/) && ($keyid =~ /^\w+$/) && ($namespace ne '')) {  
         return ('','ok','invalid call to get suffix');  
     }  
   
 # set defaults for any optional args for which values were not supplied  
     if ($who eq '') {  
         $who = $env{'user.name'}.':'.$env{'user.domain'};  
     }  
     if (!$locktries) {  
         $locktries = 3;  
     }  
     if (!$maxtries) {  
         $maxtries = 10;  
     }  
   
     if (($cdom eq '') || ($cnum eq '')) {  
         if ($env{'request.course.id'}) {  
             $cdom = $env{'course.'.$env{'request.course.id'}.'.domain'};  
             $cnum = $env{'course.'.$env{'request.course.id'}.'.num'};  
         }  
         if (($cdom eq '') || ($cnum eq '')) {  
             return ('','ok','call to get suffix not in course context');  
         }  
     }  
   
 # construct locking item  
     my $lockhash = {  
                       $prefix."\0".'locked_'.$keyid => $who,  
                    };  
     my $tries = 0;  
   
 # attempt to get lock on nohist_$namespace file  
     my $gotlock = &Apache::lonnet::newput('nohist_'.$namespace,$lockhash,$cdom,$cnum);  
     while (($gotlock ne 'ok') && $tries <$locktries) {  
         $tries ++;  
         sleep 1;  
         $gotlock = &Apache::lonnet::newput('nohist_'.$namespace,$lockhash,$cdom,$cnum);  
     }  
   
 # attempt to get unique identifier, based on current timestamp  
     if ($gotlock eq 'ok') {  
         my %inuse = &Apache::lonnet::dump('nohist_'.$namespace,$cdom,$cnum,$prefix);  
         my $id = time;  
         $newid = $id;  
         if ($idtype eq 'addcode') {  
             $newid .= &sixnum_code();  
         }  
         my $idtries = 0;  
         while (exists($inuse{$prefix."\0".$newid}) && $idtries < $maxtries) {  
             if ($idtype eq 'concat') {  
                 $newid = $id.$idtries;  
             } elsif ($idtype eq 'addcode') {  
                 $newid = $newid.&sixnum_code();  
             } else {  
                 $newid ++;  
             }  
             $idtries ++;  
         }  
         if (!exists($inuse{$prefix."\0".$newid})) {  
             my %new_item =  (  
                               $prefix."\0".$newid => $who,  
                             );  
             my $putresult = &Apache::lonnet::put('nohist_'.$namespace,\%new_item,  
                                                  $cdom,$cnum);  
             if ($putresult ne 'ok') {  
                 undef($newid);  
                 $error = 'error saving new item: '.$putresult;  
             }  
         } else {  
              undef($newid);  
              $error = ('error: no unique suffix available for the new item ');  
         }  
 #  remove lock  
         my @del_lock = ($prefix."\0".'locked_'.$keyid);  
         $dellock = &Apache::lonnet::del('nohist_'.$namespace,\@del_lock,$cdom,$cnum);  
     } else {  
         $error = "error: could not obtain lockfile\n";  
         $dellock = 'ok';  
         if (($prefix eq 'paste') && ($namespace eq 'courseeditor') && ($keyid eq 'num')) {  
             $dellock = 'nolock';  
         }  
     }  
     return ($newid,$dellock,$error);  
 }  
   
 sub sixnum_code {  
     my $code;  
     for (0..6) {  
         $code .= int( rand(9) );  
     }  
     return $code;  
 }  
   
 # -------------------------------------------------- portfolio access checking  # -------------------------------------------------- portfolio access checking
   
 sub portfolio_access {  sub portfolio_access {
     my ($requrl,$clientip) = @_;      my ($requrl) = @_;
     my (undef,$udom,$unum,$file_name,$group) = &parse_portfolio_url($requrl);      my (undef,$udom,$unum,$file_name,$group) = &parse_portfolio_url($requrl);
     my $result = &get_portfolio_access($udom,$unum,$file_name,$group,$clientip);      my $result = &get_portfolio_access($udom,$unum,$file_name,$group);
     if ($result) {      if ($result) {
         my %setters;          my %setters;
         if ($env{'user.name'} eq 'public' && $env{'user.domain'} eq 'public') {          if ($env{'user.name'} eq 'public' && $env{'user.domain'} eq 'public') {
             my ($startblock,$endblock,$triggerblock,$by_ip,$blockdom) =              my ($startblock,$endblock) =
                 &Apache::loncommon::blockcheck(\%setters,'port',$clientip,$unum,$udom);                  &Apache::loncommon::blockcheck(\%setters,'port',$unum,$udom);
             if (($startblock && $endblock) || ($by_ip))  {              if ($startblock && $endblock) {
                 return 'B';                  return 'B';
             }              }
         } else {          } else {
             my ($startblock,$endblock,$triggerblock,$by_ip,$blockdo) =              my ($startblock,$endblock) =
                 &Apache::loncommon::blockcheck(\%setters,'port',$clientip);                  &Apache::loncommon::blockcheck(\%setters,'port');
             if (($startblock && $endblock) || ($by_ip)) {              if ($startblock && $endblock) {
                 return 'B';                  return 'B';
             }              }
         }          }
Line 7332  sub portfolio_access { Line 5453  sub portfolio_access {
 }  }
   
 sub get_portfolio_access {  sub get_portfolio_access {
     my ($udom,$unum,$file_name,$group,$clientip,$access_hash) = @_;      my ($udom,$unum,$file_name,$group,$access_hash) = @_;
   
     if (!ref($access_hash)) {      if (!ref($access_hash)) {
  my $current_perms = &get_portfile_permissions($udom,$unum);   my $current_perms = &get_portfile_permissions($udom,$unum);
Line 7341  sub get_portfolio_access { Line 5462  sub get_portfolio_access {
  $access_hash = $access_controls{$file_name};   $access_hash = $access_controls{$file_name};
     }      }
   
     my ($public,$guest,@domains,@users,@courses,@groups,@ips);      my ($public,$guest,@domains,@users,@courses,@groups);
     my $now = time;      my $now = time;
     if (ref($access_hash) eq 'HASH') {      if (ref($access_hash) eq 'HASH') {
         foreach my $key (keys(%{$access_hash})) {          foreach my $key (keys(%{$access_hash})) {
Line 7365  sub get_portfolio_access { Line 5486  sub get_portfolio_access {
                 push(@courses,$key);                  push(@courses,$key);
             } elsif ($scope eq 'group') {              } elsif ($scope eq 'group') {
                 push(@groups,$key);                  push(@groups,$key);
             } elsif ($scope eq 'ip') {  
                 push(@ips,$key);  
             }              }
         }          }
         if ($public) {          if ($public) {
             return 'ok';              return 'ok';
         } elsif (@ips > 0) {  
             my $allowed;  
             foreach my $ipkey (@ips) {  
                 if (ref($access_hash->{$ipkey}{'ip'}) eq 'ARRAY') {  
                     if (&Apache::loncommon::check_ip_acc(join(',',@{$access_hash->{$ipkey}{'ip'}}),$clientip)) {  
                         $allowed = 1;  
                         last;  
                     }  
                 }  
             }  
             if ($allowed) {  
                 return 'ok';  
             }  
         }          }
         if ($env{'user.name'} eq 'public' && $env{'user.domain'} eq 'public') {          if ($env{'user.name'} eq 'public' && $env{'user.domain'} eq 'public') {
             if ($guest) {              if ($guest) {
Line 7570  sub usertools_access { Line 5676  sub usertools_access {
                       official   => 1,                        official   => 1,
                       unofficial => 1,                        unofficial => 1,
                       community  => 1,                        community  => 1,
                       textbook   => 1,  
                  );  
     } elsif ($context eq 'requestauthor') {  
         %tools = (  
                       requestauthor => 1,  
                  );                   );
     } else {      } else {
         %tools = (          %tools = (
Line 7586  sub usertools_access { Line 5687  sub usertools_access {
     }      }
     return if (!defined($tools{$tool}));      return if (!defined($tools{$tool}));
   
     if (($udom eq '') || ($uname eq '')) {      if ((!defined($udom)) || (!defined($uname))) {
         $udom = $env{'user.domain'};          $udom = $env{'user.domain'};
         $uname = $env{'user.name'};          $uname = $env{'user.name'};
     }      }
Line 7595  sub usertools_access { Line 5696  sub usertools_access {
         if ($action ne 'reload') {          if ($action ne 'reload') {
             if ($context eq 'requestcourses') {              if ($context eq 'requestcourses') {
                 return $env{'environment.canrequest.'.$tool};                  return $env{'environment.canrequest.'.$tool};
             } elsif ($context eq 'requestauthor') {  
                 return $env{'environment.canrequest.author'};  
             } else {              } else {
                 return $env{'environment.availabletools.'.$tool};                  return $env{'environment.availabletools.'.$tool};
             }              }
         }          }
     }      }
   
     my ($toolstatus,$inststatus,$envkey);      my ($toolstatus,$inststatus);
     if ($context eq 'requestauthor') {  
         $envkey = $context;  
     } else {  
         $envkey = $context.'.'.$tool;  
     }  
   
     if (($udom eq $env{'user.domain'}) && ($uname eq $env{'user.name'}) &&      if (($udom eq $env{'user.domain'}) && ($uname eq $env{'user.name'}) &&
          ($action ne 'reload')) {           ($action ne 'reload')) {
         $toolstatus = $env{'environment.'.$envkey};          $toolstatus = $env{'environment.'.$context.'.'.$tool};
         $inststatus = $env{'environment.inststatus'};          $inststatus = $env{'environment.inststatus'};
     } else {      } else {
         if (ref($userenvref) eq 'HASH') {          if (ref($userenvref) eq 'HASH') {
             $toolstatus = $userenvref->{$envkey};              $toolstatus = $userenvref->{$context.'.'.$tool};
             $inststatus = $userenvref->{'inststatus'};              $inststatus = $userenvref->{'inststatus'};
         } else {          } else {
             my %userenv = &userenvironment($udom,$uname,$envkey,'inststatus');              my %userenv = &userenvironment($udom,$uname,$context.'.'.$tool,'inststatus');
             $toolstatus = $userenv{$envkey};              $toolstatus = $userenv{$context.'.'.$tool};
             $inststatus = $userenv{'inststatus'};              $inststatus = $userenv{'inststatus'};
         }          }
     }      }
Line 7867  sub customaccess { Line 5961  sub customaccess {
 # ------------------------------------------------- Check for a user privilege  # ------------------------------------------------- Check for a user privilege
   
 sub allowed {  sub allowed {
     my ($priv,$uri,$symb,$role,$clientip,$noblockcheck,$ignorecache)=@_;      my ($priv,$uri,$symb,$role)=@_;
     my $ver_orguri=$uri;      my $ver_orguri=$uri;
     $uri=&deversion($uri);      $uri=&deversion($uri);
     my $orguri=$uri;      my $orguri=$uri;
Line 7884  sub allowed { Line 5978  sub allowed {
   
     if (defined($env{'allowed.'.$priv})) { return $env{'allowed.'.$priv}; }      if (defined($env{'allowed.'.$priv})) { return $env{'allowed.'.$priv}; }
 # Free bre access to adm and meta resources  # Free bre access to adm and meta resources
     if (((($uri=~/^adm\//) && ($uri !~ m{/(?:smppg|bulletinboard|viewclasslist|aboutme)$}))       if (((($uri=~/^adm\//) && ($uri !~ m{/(?:smppg|bulletinboard)$})) 
  || (($uri=~/\.meta$/) && ($uri!~m|^uploaded/|) ))    || (($uri=~/\.meta$/) && ($uri!~m|^uploaded/|) )) 
  && ($priv eq 'bre')) {   && ($priv eq 'bre')) {
  return 'F';   return 'F';
Line 7895  sub allowed { Line 5989  sub allowed {
     if (($space=~/^(uploaded|editupload)$/) && ($env{'user.name'} eq $name) &&       if (($space=~/^(uploaded|editupload)$/) && ($env{'user.name'} eq $name) && 
  ($env{'user.domain'} eq $domain) && ('portfolio' eq $dir[0])) {   ($env{'user.domain'} eq $domain) && ('portfolio' eq $dir[0])) {
         my %setters;          my %setters;
         my ($startblock,$endblock,$triggerblock,$by_ip,$blockdom) =           my ($startblock,$endblock) = 
             &Apache::loncommon::blockcheck(\%setters,'port',$clientip);              &Apache::loncommon::blockcheck(\%setters,'port');
         if (($startblock && $endblock) || ($by_ip)) {          if ($startblock && $endblock) {
             return 'B';              return 'B';
         } else {          } else {
             return 'F';              return 'F';
Line 7990  sub allowed { Line 6084  sub allowed {
                         my $adom = $1;                          my $adom = $1;
                         foreach my $key (keys(%env)) {                          foreach my $key (keys(%env)) {
                             if ($key =~ m{^user\.role\.(ca|aa)/\Q$adom\E}) {                              if ($key =~ m{^user\.role\.(ca|aa)/\Q$adom\E}) {
                                 my ($start,$end) = split(/\./,$env{$key});                                  my ($start,$end) = split('.',$env{$key});
                                 if (($now >= $start) && (!$end || $end > $now)) {                                  if (($now >= $start) && (!$end || $end < $now)) {
                                     $ownaccess = 1;                                      $ownaccess = 1;
                                     last;                                      last;
                                 }                                  }
Line 8003  sub allowed { Line 6097  sub allowed {
                         foreach my $role ('ca','aa') {                           foreach my $role ('ca','aa') { 
                             if ($env{"user.role.$role./$adom/$aname"}) {                              if ($env{"user.role.$role./$adom/$aname"}) {
                                 my ($start,$end) =                                  my ($start,$end) =
                                     split(/\./,$env{"user.role.$role./$adom/$aname"});                                      split('.',$env{"user.role.$role./$adom/$aname"});
                                 if (($now >= $start) && (!$end || $end > $now)) {                                  if (($now >= $start) && (!$end || $end < $now)) {
                                     $ownaccess = 1;                                      $ownaccess = 1;
                                     last;                                      last;
                                 }                                  }
Line 8049  sub allowed { Line 6143  sub allowed {
   
     if ($env{'user.priv.'.$env{'request.role'}.'.'.$courseuri}      if ($env{'user.priv.'.$env{'request.role'}.'.'.$courseuri}
        =~/\Q$priv\E\&([^\:]*)/) {         =~/\Q$priv\E\&([^\:]*)/) {
         if ($priv eq 'mip') {          unless (($priv eq 'bro') && (!$ownaccess)) {
             my $rem = $1;              $thisallowed.=$1;
             if (($uri ne '') && ($env{'request.course.id'} eq $uri) &&  
                 ($env{'course.'.$env{'request.course.id'}.'.internal.courseowner'} eq $env{'user.name'}.':'.$env{'user.domain'})) {  
                 my $cdom = $env{'course.'.$env{'request.course.id'}.'.domain'};  
                 if ($cdom ne '') {  
                     my %passwdconf = &get_passwdconf($cdom);  
                     if (ref($passwdconf{'crsownerchg'}) eq 'HASH') {  
                         if (ref($passwdconf{'crsownerchg'}{'by'}) eq 'ARRAY') {  
                             if (@{$passwdconf{'crsownerchg'}{'by'}}) {  
                                 my @inststatuses = split(':',$env{'environment.inststatus'});  
                                 unless (@inststatuses) {  
                                     @inststatuses = ('default');  
                                 }  
                                 foreach my $status (@inststatuses) {  
                                     if (grep(/^\Q$status\E$/,@{$passwdconf{'crsownerchg'}{'by'}})) {  
                                         $thisallowed.=$rem;  
                                     }  
                                 }  
                             }  
                         }  
                     }  
                 }  
             }  
         } else {  
             unless (($priv eq 'bro') && (!$ownaccess)) {  
                 $thisallowed.=$1;  
             }  
         }          }
     }      }
   
Line 8088  sub allowed { Line 6156  sub allowed {
         if ($match) {          if ($match) {
             if ($env{'user.priv.'.$env{'request.role'}.'./'}              if ($env{'user.priv.'.$env{'request.role'}.'./'}
                   =~/\Q$priv\E\&([^\:]*)/) {                    =~/\Q$priv\E\&([^\:]*)/) {
                 my $value = $1;                  my @blockers = &has_comm_blocking($priv,$symb,$uri);
                 if ($noblockcheck) {                  if (@blockers > 0) {
                     $thisallowed.=$value;                      $thisallowed = 'B';
                 } else {                  } else {
                     my @blockers = &has_comm_blocking($priv,$symb,$uri,$ignorecache);                      $thisallowed.=$1;
                     if (@blockers > 0) {  
                         $thisallowed = 'B';  
                     } else {  
                         $thisallowed.=$value;  
                     }  
                 }                  }
             }              }
         } else {          } else {
Line 8109  sub allowed { Line 6172  sub allowed {
                     $refuri=&declutter($refuri);                      $refuri=&declutter($refuri);
                     my ($match) = &is_on_map($refuri);                      my ($match) = &is_on_map($refuri);
                     if ($match) {                      if ($match) {
                         if ($noblockcheck) {                          my @blockers = &has_comm_blocking($priv,$symb,$refuri);
                             $thisallowed='F';                          if (@blockers > 0) {
                               $thisallowed = 'B';
                         } else {                          } else {
                             my @blockers = &has_comm_blocking($priv,'',$refuri,'',1);                              $thisallowed='F';
                             if (@blockers > 0) {  
                                 $thisallowed = 'B';  
                             } else {  
                                 $thisallowed='F';  
                             }  
                         }                          }
                     }                      }
                 }                  }
Line 8129  sub allowed { Line 6188  sub allowed {
  && $thisallowed ne 'F'    && $thisallowed ne 'F' 
  && $thisallowed ne '2'   && $thisallowed ne '2'
  && &is_portfolio_url($uri)) {   && &is_portfolio_url($uri)) {
  $thisallowed = &portfolio_access($uri,$clientip);   $thisallowed = &portfolio_access($uri);
     }      }
           
 # Full access at system, domain or course-wide level? Exit.  # Full access at system, domain or course-wide level? Exit.
Line 8159  sub allowed { Line 6218  sub allowed {
   
     if ($env{'request.course.id'}) {      if ($env{'request.course.id'}) {
   
 # If this is modifying password (internal auth) domains must match for user and user's role.  
   
         if ($priv eq 'mip') {  
             if ($env{'user.domain'} eq $env{'request.role.domain'}) {  
                 return $thisallowed;  
             } else {  
                 return '';  
             }  
         }  
   
        $courseprivid=$env{'request.course.id'};         $courseprivid=$env{'request.course.id'};
        if ($env{'request.course.sec'}) {         if ($env{'request.course.sec'}) {
           $courseprivid.='/'.$env{'request.course.sec'};            $courseprivid.='/'.$env{'request.course.sec'};
Line 8182  sub allowed { Line 6231  sub allowed {
                =~/\Q$priv\E\&([^\:]*)/) {                 =~/\Q$priv\E\&([^\:]*)/) {
                my $value = $1;                 my $value = $1;
                if ($priv eq 'bre') {                 if ($priv eq 'bre') {
                    if ($noblockcheck) {                     my @blockers = &has_comm_blocking($priv,$symb,$uri);
                        $thisallowed.=$value;                     if (@blockers > 0) {
                          $thisallowed = 'B';
                    } else {                     } else {
                        my @blockers = &has_comm_blocking($priv,$symb,$uri,$ignorecache);                         $thisallowed.=$value;
                        if (@blockers > 0) {  
                            $thisallowed = 'B';  
                        } else {  
                            $thisallowed.=$value;  
                        }  
                    }                     }
                } else {                 } else {
                    $thisallowed.=$value;                     $thisallowed.=$value;
Line 8198  sub allowed { Line 6243  sub allowed {
                $checkreferer=0;                 $checkreferer=0;
            }             }
        }         }
          
        if ($checkreferer) {         if ($checkreferer) {
   my $refuri=$env{'httpref.'.$orguri};    my $refuri=$env{'httpref.'.$orguri};
             unless ($refuri) {              unless ($refuri) {
Line 8224  sub allowed { Line 6269  sub allowed {
                   =~/\Q$priv\E\&([^\:]*)/) {                    =~/\Q$priv\E\&([^\:]*)/) {
                   my $value = $1;                    my $value = $1;
                   if ($priv eq 'bre') {                    if ($priv eq 'bre') {
                       if ($noblockcheck) {                        my @blockers = &has_comm_blocking($priv,$symb,$refuri);
                           $thisallowed.=$value;                        if (@blockers > 0) {
                             $thisallowed = 'B';
                       } else {                        } else {
                           my @blockers = &has_comm_blocking($priv,'',$refuri,'',1);                            $thisallowed.=$value;
                           if (@blockers > 0) {  
                               $thisallowed = 'B';  
                           } else {  
                               $thisallowed.=$value;  
                           }  
                       }                        }
                   } else {                    } else {
                       $thisallowed.=$value;                        $thisallowed.=$value;
Line 8269  sub allowed { Line 6310  sub allowed {
 #  #
   
 # Possibly locked functionality, check all courses  # Possibly locked functionality, check all courses
 # In roles.tab, L (unless locked) available for bre, pch, plc, pac and sma.  
 # Locks might take effect only after 10 minutes cache expiration for other  # Locks might take effect only after 10 minutes cache expiration for other
 # courses, and 2 minutes for current course, in which user has st or ta role  # courses, and 2 minutes for current course
 # which is neither expired nor a future role (unless current course).  
   
     my ($needlockcheck,$now,$crsonly);      my $envkey;
     if ($thisallowed=~/L/) {      if ($thisallowed=~/L/) {
         $now = time;          foreach $envkey (keys(%env)) {
         if ($priv eq 'bre') {  
             if ($uri ne '') {  
                 if ($orguri =~ m{^/+res/}) {  
                     if ($uri =~ m{^lib/templates/}) {  
                         if ($env{'request.course.id'}) {  
                             $crsonly = 1;  
                             $needlockcheck = 1;  
                         }  
                     } else {  
                         $needlockcheck = 1;  
                     }  
                 } elsif ($env{'request.course.id'}) {  
                     my ($crsdom,$crsnum) = split('_',$env{'request.course.id'});  
                     if (($uri =~ m{^(adm|uploaded|public)/$crsdom/$crsnum/}) ||  
                         ($uri =~ m{^adm/$match_domain/$match_username/\d+/(smppg|bulletinboard)$})) {  
                         $crsonly = 1;  
                     }  
                     $needlockcheck = 1;  
                 }  
             }  
         } elsif (($priv eq 'pch') || ($priv eq 'plc') || ($priv eq 'pac') || ($priv eq 'sma')) {  
             $needlockcheck = 1;  
         }  
     }  
     if ($needlockcheck) {  
         foreach my $envkey (keys(%env)) {  
            if ($envkey=~/^user\.role\.(st|ta)\.([^\.]*)/) {             if ($envkey=~/^user\.role\.(st|ta)\.([^\.]*)/) {
                my $courseid=$2;                 my $courseid=$2;
                my $roleid=$1.'.'.$2;                 my $roleid=$1.'.'.$2;
                $courseid=~s/^\///;                 $courseid=~s/^\///;
                unless ($env{'request.role'} eq $roleid) {  
                    my ($start,$end) = split(/\./,$env{$envkey});  
                    next unless (($now >= $start) && (!$end || $end > $now));  
                }  
                my $expiretime=600;                 my $expiretime=600;
                if ($env{'request.role'} eq $roleid) {                 if ($env{'request.role'} eq $roleid) {
   $expiretime=120;    $expiretime=120;
Line 8333  sub allowed { Line 6342  sub allowed {
                }                 }
                if (($env{$prefix.'priv.'.$priv.'.lock.sections'}=~/\,\Q$csec\E\,/)                 if (($env{$prefix.'priv.'.$priv.'.lock.sections'}=~/\,\Q$csec\E\,/)
                 || ($env{$prefix.'priv.'.$priv.'.lock.sections'} eq 'all')) {                  || ($env{$prefix.'priv.'.$priv.'.lock.sections'} eq 'all')) {
    if ($env{$prefix.'priv.'.$priv.'.lock.expire'}>time) {     if ($env{'priv.'.$priv.'.lock.expire'}>time) {
                        &log($env{'user.domain'},$env{'user.name'},                         &log($env{'user.domain'},$env{'user.name'},
                             $env{'user.home'},                              $env{'user.home'},
                             'Locked by priv: '.$priv.' for '.$uri.' due to '.                              'Locked by priv: '.$priv.' for '.$uri.' due to '.
Line 8345  sub allowed { Line 6354  sub allowed {
    }     }
        }         }
     }      }
      
 #  #
 # Rest of the restrictions depend on selected course  # Rest of the restrictions depend on selected course
 #  #
Line 8428  sub allowed { Line 6437  sub allowed {
    return 'F';     return 'F';
 }  }
   
 # ------------------------------------------- Check construction space access  
   
 sub constructaccess {  
     my ($url,$setpriv)=@_;  
   
 # We do not allow editing of previous versions of files  
     if ($url=~/\.(\d+)\.(\w+)$/) { return ''; }  
   
 # Get username and domain from URL  
     my ($ownername,$ownerdomain,$ownerhome);  
   
     ($ownerdomain,$ownername) =  
         ($url=~ m{^(?:\Q$perlvar{'lonDocRoot'}\E|)/priv/($match_domain)/($match_username)(?:/|$)});  
   
 # The URL does not really point to any authorspace, forget it  
     unless (($ownername) && ($ownerdomain)) { return ''; }  
   
 # Now we need to see if the user has access to the authorspace of  
 # $ownername at $ownerdomain  
   
     if (($ownername eq $env{'user.name'}) && ($ownerdomain eq $env{'user.domain'})) {  
 # Real author for this?  
        $ownerhome = $env{'user.home'};  
        if (exists($env{'user.priv.au./'.$ownerdomain.'/./'})) {  
           return ($ownername,$ownerdomain,$ownerhome);  
        }  
     } else {  
 # Co-author for this?  
         if (exists($env{'user.priv.ca./'.$ownerdomain.'/'.$ownername.'./'}) ||  
             exists($env{'user.priv.aa./'.$ownerdomain.'/'.$ownername.'./'}) ) {  
             $ownerhome = &homeserver($ownername,$ownerdomain);  
             return ($ownername,$ownerdomain,$ownerhome);  
         }  
     }  
   
 # We don't have any access right now. If we are not possibly going to do anything about this,  
 # we might as well leave  
    unless ($setpriv) { return ''; }  
   
 # Backdoor access?  
     my $allowed=&allowed('eco',$ownerdomain);  
 # Nope  
     unless ($allowed) { return ''; }  
 # Looks like we may have access, but could be locked by the owner of the construction space  
     if ($allowed eq 'U') {  
         my %blocked=&get('environment',['domcoord.author'],  
                          $ownerdomain,$ownername);  
 # Is blocked by owner  
         if ($blocked{'domcoord.author'} eq 'blocked') { return ''; }  
     }  
     if (($allowed eq 'F') || ($allowed eq 'U')) {  
 # Grant temporary access  
         my $then=$env{'user.login.time'};  
         my $update=$env{'user.update.time'};  
         if (!$update) { $update = $then; }  
         my $refresh=$env{'user.refresh.time'};  
         if (!$refresh) { $refresh = $update; }  
         my $now = time;  
         &check_adhoc_privs($ownerdomain,$ownername,$update,$refresh,  
                            $now,'ca','constructaccess');  
         $ownerhome = &homeserver($ownername,$ownerdomain);  
         return($ownername,$ownerdomain,$ownerhome);  
     }  
 # No business here  
     return '';  
 }  
   
 # ----------------------------------------------------------- Content Blocking  
   
 {  
 # Caches for faster Course Contents display where content blocking  
 # is in operation (i.e., interval param set) for timed quiz.  
 #  
 # User for whom data are being temporarily cached.  
 my $cacheduser='';  
 # Course for which data are being temporarily cached.  
 my $cachedcid='';  
 # Cached blockers for this user (a hash of blocking items).  
 my %cachedblockers=();  
 # When the data were last cached.  
 my $cachedlast='';  
   
 sub load_all_blockers {  
     my ($uname,$udom)=@_;  
     if (($uname ne '') && ($udom ne '')) {  
         if (($cacheduser eq $uname.':'.$udom) &&  
             ($cachedcid eq $env{'request.course.id'}) &&  
             (abs($cachedlast-time)<5)) {  
             return;  
         }  
     }  
     $cachedlast=time;  
     $cacheduser=$uname.':'.$udom;  
     $cachedcid=$env{'request.course.id'};  
     %cachedblockers = &get_commblock_resources();  
     return;  
 }  
   
 sub get_comm_blocks {  sub get_comm_blocks {
     my ($cdom,$cnum) = @_;      my ($cdom,$cnum) = @_;
     if ($cdom eq '' || $cnum eq '') {      if ($cdom eq '' || $cnum eq '') {
Line 8546  sub get_comm_blocks { Line 6457  sub get_comm_blocks {
     return %commblocks;      return %commblocks;
 }  }
   
 sub get_commblock_resources {  sub has_comm_blocking {
     my ($blocks) = @_;      my ($priv,$symb,$uri,$blocks) = @_;
     my %blockers = ();      return unless ($env{'request.course.id'});
     return %blockers unless ($env{'request.course.id'});      return unless ($priv eq 'bre');
     my $courseurl = &courseid_to_courseurl($env{'request.course.id'});      return if ($env{'user.priv.'.$env{'request.role'}} =~/evb\&([^\:]*)/);
     if ($env{'request.course.sec'}) {  
         $courseurl .= '/'.$env{'request.course.sec'};  
     }  
     return %blockers if ($env{'user.priv.'.$env{'request.role'}.'.'.$courseurl} =~/evb\&([^\:]*)/);  
     my %commblocks;      my %commblocks;
     if (ref($blocks) eq 'HASH') {      if (ref($blocks) eq 'HASH') {
         %commblocks = %{$blocks};          %commblocks = %{$blocks};
     } else {      } else {
         %commblocks = &get_comm_blocks();          %commblocks = &get_comm_blocks();
     }      }
     return %blockers unless (keys(%commblocks) > 0);      return unless (keys(%commblocks) > 0);
     my $navmap = Apache::lonnavmaps::navmap->new();      if (!$symb) { $symb=&symbread($uri,1); }
     return %blockers unless (ref($navmap));      my ($map,$resid,undef)=&decode_symb($symb);
       my %tocheck = (
                       maps      => $map,
                       resources => $symb,
                     );
       my @blockers;
     my $now = time;      my $now = time;
       my $navmap = Apache::lonnavmaps::navmap->new();
     foreach my $block (keys(%commblocks)) {      foreach my $block (keys(%commblocks)) {
         if ($block =~ /^(\d+)____(\d+)$/) {          if ($block =~ /^(\d+)____(\d+)$/) {
             my ($start,$end) = ($1,$2);              my ($start,$end) = ($1,$2);
Line 8572  sub get_commblock_resources { Line 6485  sub get_commblock_resources {
                 if (ref($commblocks{$block}{'blocks'}) eq 'HASH') {                  if (ref($commblocks{$block}{'blocks'}) eq 'HASH') {
                     if (ref($commblocks{$block}{'blocks'}{'docs'}) eq 'HASH') {                      if (ref($commblocks{$block}{'blocks'}{'docs'}) eq 'HASH') {
                         if (ref($commblocks{$block}{'blocks'}{'docs'}{'maps'}) eq 'HASH') {                          if (ref($commblocks{$block}{'blocks'}{'docs'}{'maps'}) eq 'HASH') {
                             if (keys(%{$commblocks{$block}{'blocks'}{'docs'}{'maps'}})) {                              if ($commblocks{$block}{'blocks'}{'docs'}{'maps'}{$map}) {
                                 $blockers{$block}{maps} = $commblocks{$block}{'blocks'}{'docs'}{'maps'};                                  unless (grep(/^\Q$block\E$/,@blockers)) {
                                       push(@blockers,$block);
                                   }
                             }                              }
                         }                          }
                         if (ref($commblocks{$block}{'blocks'}{'docs'}{'resources'}) eq 'HASH') {                          if (ref($commblocks{$block}{'blocks'}{'docs'}{'resources'}) eq 'HASH') {
                             if (keys(%{$commblocks{$block}{'blocks'}{'docs'}{'resources'}})) {                              if ($commblocks{$block}{'blocks'}{'docs'}{'resources'}{$symb}) {
                                 $blockers{$block}{'resources'} = $commblocks{$block}{'blocks'}{'docs'}{'resources'};                                  unless (grep(/^\Q$block\E$/,@blockers)) {  
                                       push(@blockers,$block);
                                   }
                             }                              }
                         }                          }
                     }                      }
Line 8586  sub get_commblock_resources { Line 6503  sub get_commblock_resources {
             }              }
         } elsif ($block =~ /^firstaccess____(.+)$/) {          } elsif ($block =~ /^firstaccess____(.+)$/) {
             my $item = $1;              my $item = $1;
               my @to_test;
             if (ref($commblocks{$block}{'blocks'}) eq 'HASH') {              if (ref($commblocks{$block}{'blocks'}) eq 'HASH') {
                 if (ref($commblocks{$block}{'blocks'}{'docs'}) eq 'HASH') {                  if (ref($commblocks{$block}{'blocks'}{'docs'}) eq 'HASH') {
                     my (@interval,$mapname);                      my $check_interval;
                     my $type = 'map';                      if (&check_docs_block($commblocks{$block}{'blocks'}{'docs'},\%tocheck)) {
                     if ($item eq 'course') {                          my @interval;
                         $type = 'course';                          my $type = 'map';
                         @interval=&EXT("resource.0.interval");                          if ($item eq 'course') {
                     } else {                              $type = 'course';
                         if ($item =~ /___\d+___/) {                              @interval=&EXT("resource.0.interval");
                             $type = 'resource';  
                             @interval=&EXT("resource.0.interval",$item);  
                         } else {                          } else {
                             $mapname = &deversion($item);                              if ($item =~ /___\d+___/) {
                             if (ref($navmap)) {                                  $type = 'resource';
                                 my $timelimit = $navmap->get_mapparam(undef,$mapname,'0.interval');                                  @interval=&EXT("resource.0.interval",$item);
                                 @interval = ($timelimit,'map');                                  if (ref($navmap)) {                        
                             }                                      my $res = $navmap->getBySymb($item); 
                         }                                      push(@to_test,$res);
                     }                                  }
                     if ($interval[0] =~ /^\d+$/) {                              } else {
                         my $first_access;                                  my $mapsymb = &symbread($item,1);
                         if ($type eq 'resource') {                                  if ($mapsymb) {
                             $first_access=&get_first_access($interval[1],$item);  
                         } elsif ($type eq 'map') {  
                             $first_access=&get_first_access($interval[1],undef,$item);  
                         } else {  
                             $first_access=&get_first_access($interval[1]);  
                         }  
                         if ($first_access) {  
                             my $timesup = $first_access+$interval[0];  
                             if ($timesup > $now) {  
                                 my $activeblock;  
                                 if ($type eq 'resource') {  
                                     if (ref($navmap)) {                                      if (ref($navmap)) {
                                         my $res = $navmap->getBySymb($item);  
                                         if ($res->answerable()) {  
                                             $activeblock = 1;  
                                         }  
                                     }  
                                 } elsif ($type eq 'map') {  
                                     my $mapsymb = &symbread($mapname,1);  
                                     if (($mapsymb) && (ref($navmap))) {  
                                         my $mapres = $navmap->getBySymb($mapsymb);                                          my $mapres = $navmap->getBySymb($mapsymb);
                                         if (ref($mapres)) {                                          @to_test = $mapres->retrieveResources($mapres,undef,0,1);
                                             my $first = $mapres->map_start();                                          foreach my $res (@to_test) {
                                             my $finish = $mapres->map_finish();                                              my $symb = $res->symb();
                                             my $it = $navmap->getIterator($first,$finish,undef,0,0);                                              next if ($symb eq $mapsymb);
                                             if (ref($it)) {                                              if ($symb ne '') {
                                                 my $res;                                                  @interval=&EXT("resource.0.interval",$symb);
                                                 while ($res = $it->next(undef,1)) {                                                  last;
                                                     next unless (ref($res));  
                                                     my $symb = $res->symb();  
                                                     next if (($symb eq $mapsymb) || ($symb eq ''));  
                                                     @interval=&EXT("resource.0.interval",$symb);  
                                                     if ($interval[1] eq 'map') {  
                                                         if ($res->answerable()) {  
                                                             $activeblock = 1;  
                                                             last;  
                                                         }  
                                                     }  
                                                 }  
                                             }                                              }
                                         }                                          }
                                     }                                      }
                                 }                                  }
                                 if ($activeblock) {                              }
                                     if (ref($commblocks{$block}{'blocks'}{'docs'}{'maps'}) eq 'HASH') {                          }
                                          if (keys(%{$commblocks{$block}{'blocks'}{'docs'}{'maps'}})) {                          if ($interval[0] =~ /\d+/) {
                                              $blockers{$block}{'maps'} = $commblocks{$block}{'blocks'}{'docs'}{'maps'};                              my $first_access;
                                          }                              if ($type eq 'resource') {
                                     }                                  $first_access=&get_first_access($interval[1],$item);
                                     if (ref($commblocks{$block}{'blocks'}{'docs'}{'resources'}) eq 'HASH') {                              } elsif ($type eq 'map') {
                                         if (keys(%{$commblocks{$block}{'blocks'}{'docs'}{'resources'}})) {                                  $first_access=&get_first_access($interval[1],undef,$item);
                                             $blockers{$block}{'resources'} = $commblocks{$block}{'blocks'}{'docs'}{'resources'};                              } else {
                                   $first_access=&get_first_access($interval[1]);
                               }
                               if ($first_access) {
                                   my $timesup = $first_access+$interval[0];
                                   if ($timesup > $now) {
                                       foreach my $res (@to_test) {
                                           if ($res->is_problem()) {
                                               if ($res->completable()) {
                                                   unless (grep(/^\Q$block\E$/,@blockers)) {
                                                       push(@blockers,$block);
                                                   }
                                                   last;
                                               }
                                         }                                          }
                                     }                                      }
                                 }                                  }
Line 8670  sub get_commblock_resources { Line 6569  sub get_commblock_resources {
             }              }
         }          }
     }      }
     return %blockers;      return @blockers;
 }  }
   
 sub has_comm_blocking {  sub check_docs_block {
     my ($priv,$symb,$uri,$ignoresymbdb,$noenccheck,$blocked,$blocks) = @_;      my ($docsblock,$tocheck) =@_;
     my @blockers;      if ((ref($docsblock) ne 'HASH') || (ref($tocheck) ne 'HASH')) {
     return unless ($env{'request.course.id'});          return;
     return unless ($priv eq 'bre');  
     return if ($env{'request.state'} eq 'construct');  
     my $courseurl = &courseid_to_courseurl($env{'request.course.id'});  
     if ($env{'request.course.sec'}) {  
         $courseurl .= '/'.$env{'request.course.sec'};  
     }  
     return if ($env{'user.priv.'.$env{'request.role'}.'.'.$courseurl} =~/evb\&([^\:]*)/);  
     my %blockinfo;  
     if (ref($blocks) eq 'HASH') {  
         %blockinfo = &get_commblock_resources($blocks);  
     } else {  
         &load_all_blockers($env{'user.name'},$env{'user.domain'});  
         %blockinfo = %cachedblockers;  
     }  
     return unless (keys(%blockinfo) > 0);  
     my (%possibles,@symbs);  
     if (!$symb) {  
         $symb = &symbread($uri,1,1,1,\%possibles,$ignoresymbdb,$noenccheck);  
     }  
     if ($symb) {  
         @symbs = ($symb);  
     } elsif (keys(%possibles)) {  
         @symbs = keys(%possibles);  
     }      }
     my $noblock;      if (ref($docsblock->{'maps'}) eq 'HASH') {
     foreach my $symb (@symbs) {          if ($tocheck->{'maps'}) {
         last if ($noblock);              if ($docsblock->{'maps'}{$tocheck->{'maps'}}) {
         my ($map,$resid,$resurl)=&decode_symb($symb);                  return 1;
         foreach my $block (keys(%blockinfo)) {  
             if ($block =~ /^firstaccess____(.+)$/) {  
                 my $item = $1;  
                 unless ($blocked) {  
                     if (($item eq $map) || ($item eq $symb)) {  
                         $noblock = 1;  
                         last;  
                     }  
                 }  
             }  
             if (ref($blockinfo{$block}) eq 'HASH') {  
                 if (ref($blockinfo{$block}{'resources'}) eq 'HASH') {  
                     if ($blockinfo{$block}{'resources'}{$symb}) {  
                         unless (grep(/^\Q$block\E$/,@blockers)) {  
                             push(@blockers,$block);  
                         }  
                     }  
                 }  
                 if (ref($blockinfo{$block}{'maps'}) eq 'HASH') {  
                     if ($blockinfo{$block}{'maps'}{$map}) {  
                         unless (grep(/^\Q$block\E$/,@blockers)) {  
                             push(@blockers,$block);  
                         }  
                     }  
                 }  
             }              }
         }          }
     }      }
     unless ($noblock) {      if (ref($docsblock->{'resources'}) eq 'HASH') {
         return @blockers;          if ($tocheck->{'resources'}) {
               if ($docsblock->{'resources'}{$tocheck->{'resources'}}) {
                   return 1;
               }
           }
     }      }
     return;      return;
 }  }
 }  
   
 # -------------------------------- Deversion and split uri into path an filename  
   
 #  #
 #   Removes the version from a URI and  #   Removes the versino from a URI and
 #   splits it in to its filename and path to the filename.  #   splits it in to its filename and path to the filename.
 #   Seems like File::Basename could have done this more clearly.  #   Seems like File::Basename could have done this more clearly.
 #   Parameters:  #   Parameters:
Line 8811  sub get_symb_from_alias { Line 6663  sub get_symb_from_alias {
   
 sub definerole {  sub definerole {
   if (allowed('mcr','/')) {    if (allowed('mcr','/')) {
     my ($rolename,$sysrole,$domrole,$courole,$uname,$udom)=@_;      my ($rolename,$sysrole,$domrole,$courole)=@_;
     foreach my $role (split(':',$sysrole)) {      foreach my $role (split(':',$sysrole)) {
  my ($crole,$cqual)=split(/\&/,$role);   my ($crole,$cqual)=split(/\&/,$role);
         if ($pr{'cr:s'}!~/\Q$crole\E/) { return "refused:s:$crole"; }          if ($pr{'cr:s'}!~/\Q$crole\E/) { return "refused:s:$crole"; }
Line 8839  sub definerole { Line 6691  sub definerole {
             }              }
         }          }
     }      }
     my $uhome;  
     if (($uname ne '') && ($udom ne '')) {  
         $uhome = &homeserver($uname,$udom);  
         return $uhome if ($uhome eq 'no_host');  
     } else {  
         $uname = $env{'user.name'};  
         $udom = $env{'user.domain'};  
         $uhome = $env{'user.home'};  
     }  
     my $command="encrypt:rolesput:$env{'user.domain'}:$env{'user.name'}:".      my $command="encrypt:rolesput:$env{'user.domain'}:$env{'user.name'}:".
                 "$udom:$uname:rolesdef_$rolename=".                  "$env{'user.domain'}:$env{'user.name'}:".
           "rolesdef_$rolename=".
                 escape($sysrole.'_'.$domrole.'_'.$courole);                  escape($sysrole.'_'.$domrole.'_'.$courole);
     return reply($command,$uhome);      return reply($command,$env{'user.home'});
   } else {    } else {
     return 'refused';      return 'refused';
   }    }
Line 8860  sub definerole { Line 6704  sub definerole {
 # ---------------- Make a metadata query against the network of library servers  # ---------------- Make a metadata query against the network of library servers
   
 sub metadata_query {  sub metadata_query {
     my ($query,$custom,$customshow,$server_array,$domains_hash)=@_;      my ($query,$custom,$customshow,$server_array)=@_;
     my %rhash;      my %rhash;
     my %libserv = &all_library();      my %libserv = &all_library();
     my @server_list = (defined($server_array) ? @$server_array      my @server_list = (defined($server_array) ? @$server_array
                                               : keys(%libserv) );                                                : keys(%libserv) );
     for my $server (@server_list) {      for my $server (@server_list) {
         my $domains = '';  
         if (ref($domains_hash) eq 'HASH') {  
             $domains = $domains_hash->{$server};      
         }  
  unless ($custom or $customshow) {   unless ($custom or $customshow) {
     my $reply=&reply("querysend:".&escape($query).':::'.&escape($domains),$server);      my $reply=&reply("querysend:".&escape($query),$server);
     $rhash{$server}=$reply;      $rhash{$server}=$reply;
  }   }
  else {   else {
     my $reply=&reply("querysend:".&escape($query).':'.      my $reply=&reply("querysend:".&escape($query).':'.
      &escape($custom).':'.&escape($customshow).':'.&escape($domains),       &escape($custom).':'.&escape($customshow),
      $server);       $server);
     $rhash{$server}=$reply;      $rhash{$server}=$reply;
  }   }
Line 8933  sub update_allusers_table { Line 6773  sub update_allusers_table {
   
 sub fetch_enrollment_query {  sub fetch_enrollment_query {
     my ($context,$affiliatesref,$replyref,$dom,$cnum) = @_;      my ($context,$affiliatesref,$replyref,$dom,$cnum) = @_;
     my ($homeserver,$sleep,$loopmax);      my $homeserver;
     my $maxtries = 1;      my $maxtries = 1;
     if ($context eq 'automated') {      if ($context eq 'automated') {
         $homeserver = $perlvar{'lonHostID'};          $homeserver = $perlvar{'lonHostID'};
         $sleep = 2;  
         $loopmax = 100;  
         $maxtries = 10; # will wait for up to 2000s for retrieval of classlist data before timeout          $maxtries = 10; # will wait for up to 2000s for retrieval of classlist data before timeout
     } else {      } else {
         $homeserver = &homeserver($cnum,$dom);          $homeserver = &homeserver($cnum,$dom);
Line 8956  sub fetch_enrollment_query { Line 6794  sub fetch_enrollment_query {
         &logthis('fetch_enrollment_query: invalid queryid: '.$queryid.' for host: '.$host.' and homeserver: '.$homeserver.' context: '.$context.' '.$cnum);           &logthis('fetch_enrollment_query: invalid queryid: '.$queryid.' for host: '.$host.' and homeserver: '.$homeserver.' context: '.$context.' '.$cnum); 
         return 'error: '.$queryid;          return 'error: '.$queryid;
     }      }
     my $reply = &get_query_reply($queryid,$sleep,$loopmax);      my $reply = &get_query_reply($queryid);
     my $tries = 1;      my $tries = 1;
     while (($reply=~/^timeout/) && ($tries < $maxtries)) {      while (($reply=~/^timeout/) && ($tries < $maxtries)) {
         $reply = &get_query_reply($queryid,$sleep,$loopmax);          $reply = &get_query_reply($queryid);
         $tries ++;          $tries ++;
     }      }
     if ( ($reply =~/^timeout/) || ($reply =~/^error/) ) {      if ( ($reply =~/^timeout/) || ($reply =~/^error/) ) {
         &logthis('fetch_enrollment_query error: '.$reply.' for '.$dom.' '.$env{'user.name'}.' for '.$queryid.' context: '.$context.' '.$cnum.' maxtries: '.$maxtries.' tries: '.$tries);          &logthis('fetch_enrollment_query error: '.$reply.' for '.$dom.' '.$env{'user.name'}.' for '.$queryid.' context: '.$context.' '.$cnum.' maxtries: '.$maxtries.' tries: '.$tries);
     } else {      } else {
         my @responses = split(/:/,$reply);          my @responses = split(/:/,$reply);
         if (grep { $_ eq $homeserver } &current_machine_ids()) {          if ($homeserver eq $perlvar{'lonHostID'}) {
             foreach my $line (@responses) {              foreach my $line (@responses) {
                 my ($key,$value) = split(/=/,$line,2);                  my ($key,$value) = split(/=/,$line,2);
                 $$replyref{$key} = $value;                  $$replyref{$key} = $value;
Line 8984  sub fetch_enrollment_query { Line 6822  sub fetch_enrollment_query {
                         if ($xml_classlist =~ /^error/) {                          if ($xml_classlist =~ /^error/) {
                             &logthis('fetch_enrollment_query - autoretrieve error: '.$xml_classlist.' for '.$filename.' from server: '.$homeserver.' '.$context.' '.$cnum);                              &logthis('fetch_enrollment_query - autoretrieve error: '.$xml_classlist.' for '.$filename.' from server: '.$homeserver.' '.$context.' '.$cnum);
                         } else {                          } else {
                             if ( open(FILE,">",$destname) ) {                              if ( open(FILE,">$destname") ) {
                                 print FILE &unescape($xml_classlist);                                  print FILE &unescape($xml_classlist);
                                 close(FILE);                                  close(FILE);
                             } else {                              } else {
Line 9001  sub fetch_enrollment_query { Line 6839  sub fetch_enrollment_query {
 }  }
   
 sub get_query_reply {  sub get_query_reply {
     my ($queryid,$sleep,$loopmax) = @_;      my $queryid=shift;
     if (($sleep eq '') || ($sleep !~ /^\d+\.?\d*$/)) {  
         $sleep = 0.2;  
     }  
     if (($loopmax eq '') || ($loopmax =~ /\D/)) {  
         $loopmax = 100;  
     }  
     my $replyfile=LONCAPA::tempdir().$queryid;      my $replyfile=LONCAPA::tempdir().$queryid;
     my $reply='';      my $reply='';
     for (1..$loopmax) {      for (1..100) {
  sleep($sleep);   sleep 2;
         if (-e $replyfile.'.end') {          if (-e $replyfile.'.end') {
     if (open(my $fh,"<",$replyfile)) {      if (open(my $fh,$replyfile)) {
  $reply = join('',<$fh>);   $reply = join('',<$fh>);
  close($fh);   close($fh);
    } else { return 'error: reply_file_error'; }     } else { return 'error: reply_file_error'; }
Line 9130  sub auto_validate_instcode { Line 6962  sub auto_validate_instcode {
     }      }
     $response=&unescape(&reply('autovalidateinstcode:'.$cdom.':'.      $response=&unescape(&reply('autovalidateinstcode:'.$cdom.':'.
                         &escape($instcode).':'.&escape($owner),$homeserver));                          &escape($instcode).':'.&escape($owner),$homeserver));
     my ($outcome,$description,$defaultcredits) = map { &unescape($_); } split('&',$response,3);      my ($outcome,$description) = map { &unescape($_); } split('&',$response,2);
     return ($outcome,$description,$defaultcredits);      return ($outcome,$description);
 }  
   
 sub auto_validate_inst_crosslist {  
     my ($cnum,$cdom,$instcode,$inst_xlist,$coowner) = @_;  
     my ($homeserver,$response);  
     if (($cdom =~ /^$match_domain$/) && ($cnum =~ /^$match_courseid$/)) {  
         $homeserver = &homeserver($cnum,$cdom);  
     }  
     if (!defined($homeserver)) {  
         if ($cdom =~ /^$match_domain$/) {  
             $homeserver = &domain($cdom,'primary');  
         }  
     }  
     unless (($homeserver eq '') || ($homeserver eq 'no_host')) {  
         $response=&reply('autovalidateinstcrosslist:'.$cdom.':'.  
                          &escape($instcode).':'.&escape($inst_xlist).':'.  
                          &escape($coowner),$homeserver);  
     }  
     return $response;  
 }  }
   
 sub auto_create_password {  sub auto_create_password {
Line 9392  sub auto_courserequest_checks { Line 7205  sub auto_courserequest_checks {
 }  }
   
 sub auto_courserequest_validation {  sub auto_courserequest_validation {
     my ($dom,$owner,$crstype,$inststatuslist,$instcode,$instseclist,$custominfo) = @_;      my ($dom,$owner,$crstype,$inststatuslist,$instcode,$instseclist) = @_;
     my ($homeserver,$response);      my ($homeserver,$response);
     if ($dom =~ /^$match_domain$/) {      if ($dom =~ /^$match_domain$/) {
         $homeserver = &domain($dom,'primary');          $homeserver = &domain($dom,'primary');
     }      }
     unless ($homeserver eq 'no_host') {      unless ($homeserver eq 'no_host') {  
         my $customdata;            
         if (ref($custominfo) eq 'HASH') {  
             $customdata = &freeze_escape($custominfo);  
         }  
         $response=&unescape(&reply('autocrsreqvalidation:'.$dom.':'.&escape($owner).          $response=&unescape(&reply('autocrsreqvalidation:'.$dom.':'.&escape($owner).
                                     ':'.&escape($crstype).':'.&escape($inststatuslist).                                      ':'.&escape($crstype).':'.&escape($inststatuslist).
                                     ':'.&escape($instcode).':'.&escape($instseclist).':'.                                      ':'.&escape($instcode).':'.&escape($instseclist),
                                     $customdata,$homeserver));                                      $homeserver));
     }      }
     return $response;      return $response;
 }  }
Line 9424  sub auto_validate_class_sec { Line 7234  sub auto_validate_class_sec {
     return $response;      return $response;
 }  }
   
 sub auto_instsec_reformat {  
     my ($cdom,$action,$instsecref) = @_;  
     return unless(($action eq 'clutter') || ($action eq 'declutter'));  
     my @homeservers;  
     if (defined(&domain($cdom,'primary'))) {  
         push(@homeservers,&domain($cdom,'primary'));  
     } else {  
         my %servers = &get_servers($cdom,'library');  
         foreach my $tryserver (keys(%servers)) {  
             if (!grep(/^\Q$tryserver\E$/,@homeservers)) {  
                 push(@homeservers,$tryserver);  
             }  
         }  
     }  
     my $response;  
     my %reformatted = %{$instsecref};  
     foreach my $server (@homeservers) {  
         if (ref($instsecref) eq 'HASH') {  
             my $info = &freeze_escape($instsecref);  
             my $response=&reply('autoinstsecreformat:'.$cdom.':'.  
                                 $action.':'.$info,$server);  
             next if ($response =~ /(con_lost|error|no_such_host|refused|unknown_command)/);  
             my @items = split(/&/,$response);  
             foreach my $item (@items) {  
                 my ($key,$value) = split(/=/,$item);  
                 $reformatted{&unescape($key)} = &thaw_unescape($value);  
             }  
         }  
     }  
     return %reformatted;  
 }  
   
 sub auto_validate_instclasses {  
     my ($cdom,$cnum,$owners,$classesref) = @_;  
     my ($homeserver,%validations);  
     $homeserver = &homeserver($cnum,$cdom);  
     unless ($homeserver eq 'no_host') {  
         my $ownerlist;  
         if (ref($owners) eq 'ARRAY') {  
             $ownerlist = join(',',@{$owners});  
         } else {  
             $ownerlist = $owners;  
         }  
         if (ref($classesref) eq 'HASH') {  
             my $classes = &freeze_escape($classesref);  
             my $response=&reply('autovalidateinstclasses:'.&escape($ownerlist).  
                                 ':'.$cdom.':'.$classes,$homeserver);  
             unless ($response =~ /(con_lost|error|no_such_host|refused)/) {  
                 my @items = split(/&/,$response);  
                 foreach my $item (@items) {  
                     my ($key,$value) = split('=',$item);  
                     $validations{&unescape($key)} = &thaw_unescape($value);  
                 }  
             }  
         }  
     }  
     return %validations;  
 }  
   
 sub auto_crsreq_update {  
     my ($cdom,$cnum,$crstype,$action,$ownername,$ownerdomain,$fullname,$title,  
         $code,$accessstart,$accessend,$inbound) = @_;  
     my ($homeserver,%crsreqresponse);  
     if ($cdom =~ /^$match_domain$/) {  
         $homeserver = &domain($cdom,'primary');  
     }  
     unless (($homeserver eq 'no_host') || ($homeserver eq '')) {  
         my $info;  
         if (ref($inbound) eq 'HASH') {  
             $info = &freeze_escape($inbound);  
         }  
         my $response=&reply('autocrsrequpdate:'.$cdom.':'.$cnum.':'.&escape($crstype).  
                             ':'.&escape($action).':'.&escape($ownername).':'.  
                             &escape($ownerdomain).':'.&escape($fullname).':'.  
                             &escape($title).':'.&escape($code).':'.  
                             &escape($accessstart).':'.&escape($accessend).':'.$info,$homeserver);  
         unless ($response =~ /(con_lost|error|no_such_host|refused)/) {  
             my @items = split(/&/,$response);  
             foreach my $item (@items) {  
                 my ($key,$value) = split('=',$item);  
                 $crsreqresponse{&unescape($key)} = &thaw_unescape($value);  
             }  
         }  
     }  
     return \%crsreqresponse;  
 }  
   
 sub auto_export_grades {  
     my ($cdom,$cnum,$inforef,$gradesref) = @_;  
     my ($homeserver,%exportresponse);  
     if ($cdom =~ /^$match_domain$/) {  
         $homeserver = &domain($cdom,'primary');  
     }  
     unless (($homeserver eq 'no_host') || ($homeserver eq '')) {  
         my $info;  
         if (ref($inforef) eq 'HASH') {  
             $info = &freeze_escape($inforef);  
         }  
         if (ref($gradesref) eq 'HASH') {  
             my $grades = &freeze_escape($gradesref);  
             my $response=&reply('encrypt:autoexportgrades:'.$cdom.':'.$cnum.':'.  
                                 $info.':'.$grades,$homeserver);  
             unless ($response =~ /(con_lost|error|no_such_host|refused|unknown_command)/) {  
                 my @items = split(/&/,$response);  
                 foreach my $item (@items) {  
                     my ($key,$value) = split('=',$item);  
                     $exportresponse{&unescape($key)} = &thaw_unescape($value);  
                 }  
             }  
         }  
     }  
     return \%exportresponse;  
 }  
   
 sub check_instcode_cloning {  
     my ($codedefaults,$code_order,$cloner,$clonefromcode,$clonetocode) = @_;  
     unless ((ref($codedefaults) eq 'HASH') && (ref($code_order) eq 'ARRAY')) {  
         return;  
     }  
     my $canclone;  
     if (@{$code_order} > 0) {  
         my $instcoderegexp ='^';  
         my @clonecodes = split(/\&/,$cloner);  
         foreach my $item (@{$code_order}) {  
             if (grep(/^\Q$item\E=/,@clonecodes)) {  
                 foreach my $pair (@clonecodes) {  
                     my ($key,$val) = split(/\=/,$pair,2);  
                     $val = &unescape($val);  
                     if ($key eq $item) {  
                         $instcoderegexp .= '('.$val.')';  
                         last;  
                     }  
                 }  
             } else {  
                 $instcoderegexp .= $codedefaults->{$item};  
             }  
         }  
         $instcoderegexp .= '$';  
         my (@from,@to);  
         eval {  
                (@from) = ($clonefromcode =~ /$instcoderegexp/);  
                (@to) = ($clonetocode =~ /$instcoderegexp/);  
         };  
         if ((@from > 0) && (@to > 0)) {  
             my @diffs = &Apache::loncommon::compare_arrays(\@from,\@to);  
             if (!@diffs) {  
                 $canclone = 1;  
             }  
         }  
     }  
     return $canclone;  
 }  
   
 sub default_instcode_cloning {  
     my ($clonedom,$domdefclone,$clonefromcode,$clonetocode,$codedefaultsref,$codeorderref) = @_;  
     my (%codedefaults,@code_order,$canclone);  
     if ((ref($codedefaultsref) eq 'HASH') && (ref($codeorderref) eq 'ARRAY')) {  
         %codedefaults = %{$codedefaultsref};  
         @code_order = @{$codeorderref};  
     } elsif ($clonedom) {  
         &auto_instcode_defaults($clonedom,\%codedefaults,\@code_order);  
     }  
     if (($domdefclone) && (@code_order)) {  
         my @clonecodes = split(/\+/,$domdefclone);  
         my $instcoderegexp ='^';  
         foreach my $item (@code_order) {  
             if (grep(/^\Q$item\E$/,@clonecodes)) {  
                 $instcoderegexp .= '('.$codedefaults{$item}.')';  
             } else {  
                 $instcoderegexp .= $codedefaults{$item};  
             }  
         }  
         $instcoderegexp .= '$';  
         my (@from,@to);  
         eval {  
             (@from) = ($clonefromcode =~ /$instcoderegexp/);  
             (@to) = ($clonetocode =~ /$instcoderegexp/);  
         };  
         if ((@from > 0) && (@to > 0)) {  
             my @diffs = &Apache::loncommon::compare_arrays(\@from,\@to);  
             if (!@diffs) {  
                 $canclone = 1;  
             }  
         }  
     }  
     return $canclone;  
 }  
   
 # ------------------------------------------------------- Course Group routines  # ------------------------------------------------------- Course Group routines
   
 sub get_coursegroups {  sub get_coursegroups {
Line 9879  sub assignrole { Line 7501  sub assignrole {
                             }                              }
                         }                          }
                     }                      }
                 } elsif ($context eq 'requestauthor') {  
                     if (($udom eq $env{'user.domain'}) && ($uname eq $env{'user.name'}) &&  
                         ($url eq '/'.$udom.'/') && ($role eq 'au')) {  
                         if ($env{'environment.requestauthor'} eq 'automatic') {  
                             $refused = '';  
                         } else {  
                             my %domdefaults = &get_domain_defaults($udom);  
                             if (ref($domdefaults{'requestauthor'}) eq 'HASH') {  
                                 my $checkbystatus;  
                                 if ($env{'user.adv'}) {  
                                     my $disposition = $domdefaults{'requestauthor'}{'_LC_adv'};  
                                     if ($disposition eq 'automatic') {  
                                         $refused = '';  
                                     } elsif ($disposition eq '') {  
                                         $checkbystatus = 1;  
                                     }  
                                 } else {  
                                     $checkbystatus = 1;  
                                 }  
                                 if ($checkbystatus) {  
                                     if ($env{'environment.inststatus'}) {  
                                         my @inststatuses = split(/,/,$env{'environment.inststatus'});  
                                         foreach my $type (@inststatuses) {  
                                             if (($type ne '') &&  
                                                 ($domdefaults{'requestauthor'}{$type} eq 'automatic')) {  
                                                 $refused = '';  
                                             }  
                                         }  
                                     } elsif ($domdefaults{'requestauthor'}{'default'} eq 'automatic') {  
                                         $refused = '';  
                                     }  
                                 }  
                             }  
                         }  
                     }  
                 }                  }
                 if ($refused) {                  if ($refused) {
                     &logthis('Refused assignrole: '.$udom.' '.$uname.' '.$url.                      &logthis('Refused assignrole: '.$udom.' '.$uname.' '.$url.
Line 9963  sub assignrole { Line 7550  sub assignrole {
 # log new user role if status is ok  # log new user role if status is ok
     if ($answer eq 'ok') {      if ($answer eq 'ok') {
  &userrolelog($role,$uname,$udom,$url,$start,$end);   &userrolelog($role,$uname,$udom,$url,$start,$end);
         if (($role eq 'cc') || ($role eq 'in') ||  
             ($role eq 'ep') || ($role eq 'ad') ||  
             ($role eq 'ta') || ($role eq 'st') ||  
             ($role=~/^cr/) || ($role eq 'gr') ||  
             ($role eq 'co')) {  
 # for course roles, perform group memberships changes triggered by role change.  # for course roles, perform group memberships changes triggered by role change.
             unless ($role =~ /^gr/) {          &courserolelog($role,$uname,$udom,$url,$origstart,$origend,$delflag,$selfenroll,$context);
                 &Apache::longroup::group_changes($udom,$uname,$url,$role,$origend,          unless ($role =~ /^gr/) {
                                                  $origstart,$selfenroll,$context);              &Apache::longroup::group_changes($udom,$uname,$url,$role,$origend,
             }                                               $origstart,$selfenroll,$context);
             &courserolelog($role,$uname,$udom,$url,$origstart,$origend,$delflag,  
                            $selfenroll,$context);  
         } elsif (($role eq 'li') || ($role eq 'dg') || ($role eq 'sc') ||  
                  ($role eq 'au') || ($role eq 'dc') || ($role eq 'dh') ||  
                  ($role eq 'da')) {  
             &domainrolelog($role,$uname,$udom,$url,$origstart,$origend,$delflag,  
                            $context);  
         } elsif (($role eq 'ca') || ($role eq 'aa')) {  
             &coauthorrolelog($role,$uname,$udom,$url,$origstart,$origend,$delflag,  
                              $context);  
         }          }
         if ($role eq 'cc') {          if ($role eq 'cc') {
             &autoupdate_coowners($url,$end,$start,$uname,$udom);              &autoupdate_coowners($url,$end,$start,$uname,$udom);
Line 10000  sub autoupdate_coowners { Line 7572  sub autoupdate_coowners {
         if ($domdesign{$cdom.'.autoassign.co-owners'}) {          if ($domdesign{$cdom.'.autoassign.co-owners'}) {
             my %coursehash = &coursedescription($cdom.'_'.$cnum);              my %coursehash = &coursedescription($cdom.'_'.$cnum);
             my $instcode = $coursehash{'internal.coursecode'};              my $instcode = $coursehash{'internal.coursecode'};
             my $xlists = $coursehash{'internal.crosslistings'};  
             if ($instcode ne '') {              if ($instcode ne '') {
                 if (($start && $start <= $now) && ($end == 0) || ($end > $now)) {                  if (($start && $start <= $now) && ($end == 0) || ($end > $now)) {
                     unless ($coursehash{'internal.courseowner'} eq $uname.':'.$udom) {                      unless ($coursehash{'internal.courseowner'} eq $uname.':'.$udom) {
                         my ($delcoowners,@newcoowners,$putresult,$delresult,$coowners);                          my ($delcoowners,@newcoowners,$putresult,$delresult,$coowners);
                         my ($result,$desc) = &auto_validate_instcode($cnum,$cdom,$instcode,$uname.':'.$udom);                          my ($result,$desc) = &auto_validate_instcode($cnum,$cdom,$instcode,$uname.':'.$udom);
                         unless ($result eq 'valid') {  
                             if ($xlists ne '') {  
                                 foreach my $xlist (split(',',$xlists)) {  
                                     my ($inst_crosslist,$lcsec) = split(':',$xlist);  
                                     $result =  
                                         &auto_validate_inst_crosslist($cnum,$cdom,$instcode,  
                                                                       $inst_crosslist,$uname.':'.$udom);  
                                     last if ($result eq 'valid');  
                                 }  
                             }  
                         }  
                         if ($result eq 'valid') {                          if ($result eq 'valid') {
                             if ($coursehash{'internal.co-owners'}) {                              if ($coursehash{'internal.co-owners'}) {
                                 foreach my $coowner (split(',',$coursehash{'internal.co-owners'})) {                                  foreach my $coowner (split(',',$coursehash{'internal.co-owners'})) {
Line 10029  sub autoupdate_coowners { Line 7589  sub autoupdate_coowners {
                             } else {                              } else {
                                 push(@newcoowners,$uname.':'.$udom);                                  push(@newcoowners,$uname.':'.$udom);
                             }                              }
                         } elsif ($coursehash{'internal.co-owners'}) {                          } else {
                             foreach my $coowner (split(',',$coursehash{'internal.co-owners'})) {                              if ($coursehash{'internal.co-owners'}) {
                                 unless ($coowner eq $uname.':'.$udom) {                                  foreach my $coowner (split(',',$coursehash{'internal.co-owners'})) {
                                     push(@newcoowners,$coowner);                                      unless ($coowner eq $uname.':'.$udom) {
                                           push(@newcoowners,$coowner);
                                       }
                                   }
                                   unless (@newcoowners > 0) {
                                       $delcoowners = 1;
                                       $coowners = '';
                                 }                                  }
                             }  
                             unless (@newcoowners > 0) {  
                                 $delcoowners = 1;  
                                 $coowners = '';  
                             }                              }
                         }                          }
                         if (@newcoowners || $delcoowners) {                          if (@newcoowners || $delcoowners) {
Line 10091  sub store_coowners { Line 7653  sub store_coowners {
 sub modifyuserauth {  sub modifyuserauth {
     my ($udom,$uname,$umode,$upass)=@_;      my ($udom,$uname,$umode,$upass)=@_;
     my $uhome=&homeserver($uname,$udom);      my $uhome=&homeserver($uname,$udom);
     my $allowed;      unless (&allowed('mau',$udom)) { return 'refused'; }
     if (&allowed('mau',$udom)) {  
         $allowed = 1;  
     } elsif (($umode eq 'internal') && ($udom eq $env{'user.domain'}) &&  
              ($env{'request.course.id'}) && (&allowed('mip',$env{'request.course.id'})) &&  
              (!$env{'course.'.$env{'request.course.id'}.'.internal.nopasswdchg'})) {  
         my $cdom = $env{'course.'.$env{'request.course.id'}.'.domain'};  
         my $cnum = $env{'course.'.$env{'request.course.id'}.'.num'};  
         if (($cdom ne '') && ($cnum ne '')) {  
             my $is_owner = &is_course_owner($cdom,$cnum);  
             if ($is_owner) {  
                 $allowed = 1;  
             }  
         }  
     }  
     unless ($allowed) { return 'refused'; }  
     &logthis('Call to modify user authentication '.$udom.', '.$uname.', '.      &logthis('Call to modify user authentication '.$udom.', '.$uname.', '.
              $umode.' by '.$env{'user.name'}.' at '.$env{'user.domain'}.               $umode.' by '.$env{'user.name'}.' at '.$env{'user.domain'}.
              ' in domain '.$env{'request.role.domain'});                 ' in domain '.$env{'request.role.domain'});  
     my $reply=&reply('encrypt:changeuserauth:'.$udom.':'.$uname.':'.$umode.':'.      my $reply=&reply('encrypt:changeuserauth:'.$udom.':'.$uname.':'.$umode.':'.
      &escape($upass),$uhome);       &escape($upass),$uhome);
     my $ip = &get_requestor_ip();  
     &log($env{'user.domain'},$env{'user.name'},$env{'user.home'},      &log($env{'user.domain'},$env{'user.name'},$env{'user.home'},
         'Authentication changed for '.$udom.', '.$uname.', '.$umode.          'Authentication changed for '.$udom.', '.$uname.', '.$umode.
          '(Remote '.$ip.'): '.$reply);           '(Remote '.$ENV{'REMOTE_ADDR'}.'): '.$reply);
     &log($udom,,$uname,$uhome,      &log($udom,,$uname,$uhome,
         'Authentication changed by '.$env{'user.domain'}.', '.          'Authentication changed by '.$env{'user.domain'}.', '.
                                      $env{'user.name'}.', '.$umode.                                       $env{'user.name'}.', '.$umode.
          '(Remote '.$ip.'): '.$reply);           '(Remote '.$ENV{'REMOTE_ADDR'}.'): '.$reply);
     unless ($reply eq 'ok') {      unless ($reply eq 'ok') {
         &logthis('Authentication mode error: '.$reply);          &logthis('Authentication mode error: '.$reply);
  return 'error: '.$reply;   return 'error: '.$reply;
Line 10308  sub modifyuser { Line 7854  sub modifyuser {
 sub modifystudent {  sub modifystudent {
     my ($udom,$uname,$uid,$umode,$upass,$first,$middle,$last,$gene,$usec,      my ($udom,$uname,$uid,$umode,$upass,$first,$middle,$last,$gene,$usec,
         $end,$start,$forceid,$desiredhome,$email,$type,$locktype,$cid,          $end,$start,$forceid,$desiredhome,$email,$type,$locktype,$cid,
         $selfenroll,$context,$inststatus,$credits,$instsec)=@_;          $selfenroll,$context,$inststatus)=@_;
     if (!$cid) {      if (!$cid) {
  unless ($cid=$env{'request.course.id'}) {   unless ($cid=$env{'request.course.id'}) {
     return 'not_in_class';      return 'not_in_class';
Line 10320  sub modifystudent { Line 7866  sub modifystudent {
          $desiredhome,$email,$inststatus);           $desiredhome,$email,$inststatus);
     unless ($reply eq 'ok') { return $reply; }      unless ($reply eq 'ok') { return $reply; }
     # This will cause &modify_student_enrollment to get the uid from the      # This will cause &modify_student_enrollment to get the uid from the
     # student's environment      # students environment
     $uid = undef if (!$forceid);      $uid = undef if (!$forceid);
     $reply = &modify_student_enrollment($udom,$uname,$uid,$first,$middle,$last,      $reply = &modify_student_enrollment($udom,$uname,$uid,$first,$middle,$last,
  $gene,$usec,$end,$start,$type,$locktype,   $gene,$usec,$end,$start,$type,$locktype,$cid,$selfenroll,$context);
                                         $cid,$selfenroll,$context,$credits,$instsec);  
     return $reply;      return $reply;
 }  }
   
 sub modify_student_enrollment {  sub modify_student_enrollment {
     my ($udom,$uname,$uid,$first,$middle,$last,$gene,$usec,$end,$start,$type,      my ($udom,$uname,$uid,$first,$middle,$last,$gene,$usec,$end,$start,$type,$locktype,$cid,$selfenroll,$context) = @_;
         $locktype,$cid,$selfenroll,$context,$credits,$instsec) = @_;  
     my ($cdom,$cnum,$chome);      my ($cdom,$cnum,$chome);
     if (!$cid) {      if (!$cid) {
  unless ($cid=$env{'request.course.id'}) {   unless ($cid=$env{'request.course.id'}) {
Line 10377  sub modify_student_enrollment { Line 7921  sub modify_student_enrollment {
     my %old_entry = &Apache::lonnet::get('classlist',[$user],$cdom,$cnum);      my %old_entry = &Apache::lonnet::get('classlist',[$user],$cdom,$cnum);
     my $reply=cput('classlist',      my $reply=cput('classlist',
    {$user =>      {$user => 
  join(':',$end,$start,$uid,$usec,$fullname,$type,$locktype,$credits,$instsec) },   join(':',$end,$start,$uid,$usec,$fullname,$type,$locktype) },
    $cdom,$cnum);     $cdom,$cnum);
     if (($reply eq 'ok') || ($reply eq 'delayed')) {      if (($reply eq 'ok') || ($reply eq 'delayed')) {
         &devalidate_getsection_cache($udom,$uname,$cid);          &devalidate_getsection_cache($udom,$uname,$cid);
Line 10600  sub generate_coursenum { Line 8144  sub generate_coursenum {
 sub is_course {  sub is_course {
     my ($cdom, $cnum) = scalar(@_) == 1 ?       my ($cdom, $cnum) = scalar(@_) == 1 ? 
          ($_[0] =~ /^($match_domain)_($match_courseid)$/)  :  @_;           ($_[0] =~ /^($match_domain)_($match_courseid)$/)  :  @_;
     return unless (($cdom =~ /^$match_domain$/) && ($cnum =~ /^$match_courseid$/));  
     my $uhome=&homeserver($cnum,$cdom);      return unless $cdom and $cnum;
     my $iscourse;  
     if (grep { $_ eq $uhome } current_machine_ids()) {      my %courses = &courseiddump($cdom, '.', 1, '.', '.', $cnum, undef, undef,
         $iscourse = &LONCAPA::Lond::is_course($cdom,$cnum);          '.');
     } else {  
         my $hashid = $cdom.':'.$cnum;      return unless exists($courses{$cdom.'_'.$cnum});
         ($iscourse,my $cached) = &is_cached_new('iscourse',$hashid);  
         unless (defined($cached)) {  
             my %courses = &courseiddump($cdom, '.', 1, '.', '.',  
                                         $cnum,undef,undef,'.');  
             $iscourse = 0;  
             if (exists($courses{$cdom.'_'.$cnum})) {  
                 $iscourse = 1;  
             }  
             &do_cache_new('iscourse',$hashid,$iscourse,3600);  
         }  
     }  
     return unless($iscourse);  
     return wantarray ? ($cdom, $cnum) : $cdom.'_'.$cnum;      return wantarray ? ($cdom, $cnum) : $cdom.'_'.$cnum;
 }  }
   
Line 10635  sub store_userdata { Line 8167  sub store_userdata {
             if (($uhome eq '') || ($uhome eq 'no_host')) {              if (($uhome eq '') || ($uhome eq 'no_host')) {
                 $result = 'error: no_host';                  $result = 'error: no_host';
             } else {              } else {
                 $storehash->{'ip'} = &get_requestor_ip();                  $storehash->{'ip'} = $ENV{'REMOTE_ADDR'};
                 $storehash->{'host'} = $perlvar{'lonHostID'};                  $storehash->{'host'} = $perlvar{'lonHostID'};
   
                 my $namevalue='';                  my $namevalue='';
Line 10643  sub store_userdata { Line 8175  sub store_userdata {
                     $namevalue.=&escape($key).'='.&freeze_escape($$storehash{$key}).'&';                      $namevalue.=&escape($key).'='.&freeze_escape($$storehash{$key}).'&';
                 }                  }
                 $namevalue=~s/\&$//;                  $namevalue=~s/\&$//;
                 unless ($namespace eq 'courserequests') {  
                     $datakey = &escape($datakey);  
                 }  
                 $result =  &reply("store:$udom:$uname:$namespace:$datakey:".                  $result =  &reply("store:$udom:$uname:$namespace:$datakey:".
                                   $namevalue,$uhome);                                    $namevalue,$uhome);
             }              }
Line 10754  sub save_selected_files { Line 8283  sub save_selected_files {
     my ($user, $path, @files) = @_;      my ($user, $path, @files) = @_;
     my $filename = $user."savedfiles";      my $filename = $user."savedfiles";
     my @other_files = &files_not_in_path($user, $path);      my @other_files = &files_not_in_path($user, $path);
     open (OUT,'>',LONCAPA::tempdir().$filename);      open (OUT, '>'.$tmpdir.$filename);
     foreach my $file (@files) {      foreach my $file (@files) {
         print (OUT $env{'form.currentpath'}.$file."\n");          print (OUT $env{'form.currentpath'}.$file."\n");
     }      }
Line 10768  sub save_selected_files { Line 8297  sub save_selected_files {
 sub clear_selected_files {  sub clear_selected_files {
     my ($user) = @_;      my ($user) = @_;
     my $filename = $user."savedfiles";      my $filename = $user."savedfiles";
     open (OUT,'>',LONCAPA::tempdir().$filename);      open (OUT, '>'.LONCAPA::tempdir().$filename);
     print (OUT undef);      print (OUT undef);
     close (OUT);      close (OUT);
     return ("ok");          return ("ok");    
Line 10778  sub files_in_path { Line 8307  sub files_in_path {
     my ($user, $path) = @_;      my ($user, $path) = @_;
     my $filename = $user."savedfiles";      my $filename = $user."savedfiles";
     my %return_files;      my %return_files;
     open (IN,'<',LONCAPA::tempdir().$filename);      open (IN, '<'.LONCAPA::tempdir().$filename);
     while (my $line_in = <IN>) {      while (my $line_in = <IN>) {
         chomp ($line_in);          chomp ($line_in);
         my @paths_and_file = split (m!/!, $line_in);          my @paths_and_file = split (m!/!, $line_in);
Line 10800  sub files_not_in_path { Line 8329  sub files_not_in_path {
     my $filename = $user."savedfiles";      my $filename = $user."savedfiles";
     my @return_files;      my @return_files;
     my $path_part;      my $path_part;
     open(IN, '<',LONCAPA::tempdir().$filename);      open(IN, '<'.LONCAPA::.$filename);
     while (my $line = <IN>) {      while (my $line = <IN>) {
         #ok, I know it's clunky, but I want it to work          #ok, I know it's clunky, but I want it to work
         my @paths_and_file = split(m|/|, $line);          my @paths_and_file = split(m|/|, $line);
Line 10913  sub modify_access_controls { Line 8442  sub modify_access_controls {
     my $tries = 0;      my $tries = 0;
     my $gotlock = &newput('file_permissions',$lockhash,$domain,$user);      my $gotlock = &newput('file_permissions',$lockhash,$domain,$user);
         
     while (($gotlock ne 'ok') && $tries < 10) {      while (($gotlock ne 'ok') && $tries <3) {
         $tries ++;          $tries ++;
         sleep(0.1);          sleep 1;
         $gotlock = &newput('file_permissions',$lockhash,$domain,$user);          $gotlock = &newput('file_permissions',$lockhash,$domain,$user);
     }      }
     if ($gotlock eq 'ok') {      if ($gotlock eq 'ok') {
Line 11208  sub dirlist { Line 8737  sub dirlist {
             foreach my $user (sort(keys(%allusers))) {              foreach my $user (sort(keys(%allusers))) {
                 push(@alluserslist,$user.'&user');                  push(@alluserslist,$user.'&user');
             }              }
             if (!%listerror) {              return (\@alluserslist);
                 # no errors  
                 return (\@alluserslist);  
             } elsif (scalar(keys(%servers)) == 1) {  
                 # one library server, one error  
                 my ($key) = keys(%listerror);  
                 return (\@alluserslist, $listerror{$key});  
             } elsif ( grep { $_ eq 'con_lost' } values(%listerror) ) {  
                 # con_lost indicates that we might miss data from at least one  
                 # library server  
                 return (\@alluserslist, 'con_lost');  
             } else {  
                 # multiple library servers and no con_lost -> data should be  
                 # complete.  
                 return (\@alluserslist);  
             }  
   
         } else {          } else {
             return ([],'missing username');              return ([],'missing username');
         }          }
Line 11441  sub get_userresdata { Line 8954  sub get_userresdata {
     }      }
     #error 2 occurs when the .db doesn't exist      #error 2 occurs when the .db doesn't exist
     if ($tmp!~/error: 2 /) {      if ($tmp!~/error: 2 /) {
         if ((!defined($cached)) || ($tmp ne 'con_lost')) {   &logthis("<font color=\"blue\">WARNING:".
     &logthis("<font color=\"blue\">WARNING:".   " Trying to get resource data for ".
      " Trying to get resource data for ".   $uname." at ".$udom.": ".
      $uname." at ".$udom.": ".   $tmp."</font>");
      $tmp."</font>");  
         }  
     } elsif ($tmp=~/error: 2 /) {      } elsif ($tmp=~/error: 2 /) {
  #&EXT_cache_set($udom,$uname);   #&EXT_cache_set($udom,$uname);
  &do_cache_new('userres',$hashid,undef,600);   &do_cache_new('userres',$hashid,undef,600);
Line 11486  sub resdata { Line 8997  sub resdata {
     return undef;      return undef;
 }  }
   
 sub get_numsuppfiles {  
     my ($cnum,$cdom,$ignorecache)=@_;  
     my $hashid=$cnum.':'.$cdom;  
     my ($suppcount,$cached);  
     unless ($ignorecache) {  
         ($suppcount,$cached) = &is_cached_new('suppcount',$hashid);  
     }  
     unless (defined($cached)) {  
         my $chome=&homeserver($cnum,$cdom);  
         unless ($chome eq 'no_host') {  
             ($suppcount,my $errors) = (0,0);  
             my $suppmap = 'supplemental.sequence';  
             ($suppcount,$errors) =  
                 &Apache::loncommon::recurse_supplemental($cnum,$cdom,$suppmap,$suppcount,$errors);  
         }  
         &do_cache_new('suppcount',$hashid,$suppcount,600);  
     }  
     return $suppcount;  
 }  
   
 #  #
 # EXT resource caching routines  # EXT resource caching routines
 #  #
Line 11534  sub EXT_cache_set { Line 9025  sub EXT_cache_set {
 # --------------------------------------------------------- Value of a Variable  # --------------------------------------------------------- Value of a Variable
 sub EXT {  sub EXT {
   
     my ($varname,$symbparm,$udom,$uname,$usection,$recurse,$cid)=@_;      my ($varname,$symbparm,$udom,$uname,$usection,$recurse)=@_;
     unless ($varname) { return ''; }      unless ($varname) { return ''; }
     #get real user name/domain, courseid and symb      #get real user name/domain, courseid and symb
     my $courseid;      my $courseid;
Line 11566  sub EXT { Line 9057  sub EXT {
     if ( (defined($Apache::lonhomework::parsing_a_problem)      if ( (defined($Apache::lonhomework::parsing_a_problem)
   || defined($Apache::lonhomework::parsing_a_task))    || defined($Apache::lonhomework::parsing_a_task))
  &&   &&
  ($symbparm eq &symbread()) ) {   ($symbparm eq &symbread()) ) {
  # if we are in the middle of processing the resource the   # if we are in the middle of processing the resource the
  # get the value we are planning on committing   # get the value we are planning on committing
                 if (defined($Apache::lonhomework::results{$qualifierrest})) {                  if (defined($Apache::lonhomework::results{$qualifierrest})) {
Line 11649  sub EXT { Line 9140  sub EXT {
     if (!$symbparm) { $symbparm=&symbread(); }      if (!$symbparm) { $symbparm=&symbread(); }
  }   }
   
         if ($qualifier eq '') {   if ($space eq 'title') {
     if ($space eq 'title') {      if (!$symbparm) { $symbparm = $env{'request.filename'}; }
         if (!$symbparm) { $symbparm = $env{'request.filename'}; }      return &gettitle($symbparm);
         return &gettitle($symbparm);   }
     }  
   
     if ($space eq 'map') {   if ($space eq 'map') {
         my ($map) = &decode_symb($symbparm);      my ($map) = &decode_symb($symbparm);
         return &symbread($map);      return &symbread($map);
     }   }
             if ($space eq 'maptitle') {   if ($space eq 'filename') {
                 my ($map) = &decode_symb($symbparm);      if ($symbparm) {
                 return &gettitle($map);   return &clutter((&decode_symb($symbparm))[2]);
             }  
     if ($space eq 'filename') {  
         if ($symbparm) {  
     return &clutter((&decode_symb($symbparm))[2]);  
         }  
         return &hreflocation('',$env{'request.filename'});  
     }      }
       return &hreflocation('',$env{'request.filename'});
             if ((defined($courseid)) && ($courseid eq $env{'request.course.id'}) && $symbparm) {   }
                 if ($space eq 'visibleparts') {  
                     my $navmap = Apache::lonnavmaps::navmap->new();  
                     my $item;  
                     if (ref($navmap)) {  
                         my $res = $navmap->getBySymb($symbparm);  
                         my $parts = $res->parts();  
                         if (ref($parts) eq 'ARRAY') {  
                             $item = join(',',@{$parts});  
                         }  
                         undef($navmap);  
                     }  
                     return $item;  
                 }  
             }  
         }  
   
  my ($section, $group, @groups);   my ($section, $group, @groups);
  my ($courselevelm,$courselevel);   my ($courselevelm,$courselevel);
         if (($courseid eq '') && ($cid)) {   if ($symbparm && defined($courseid) && 
             $courseid = $cid;      $courseid eq $env{'request.course.id'}) {
         }  
  if (($symbparm && $courseid) &&   
     (($courseid eq $env{'request.course.id'}) || ($courseid eq $cid))) {  
   
     #print '<br>'.$space.' - '.$qualifier.' - '.$spacequalifierrest;      #print '<br>'.$space.' - '.$qualifier.' - '.$spacequalifierrest;
   
Line 11934  sub add_prefix_and_part { Line 9400  sub add_prefix_and_part {
   
 my %metaentry;  my %metaentry;
 my %importedpartids;  my %importedpartids;
 my %importedrespids;  
 sub metadata {  sub metadata {
     my ($uri,$what,$liburi,$prefix,$depthcount)=@_;      my ($uri,$what,$liburi,$prefix,$depthcount)=@_;
     $uri=&declutter($uri);      $uri=&declutter($uri);
     # if it is a non metadata possible uri return quickly      # if it is a non metadata possible uri return quickly
     if (($uri eq '') ||       if (($uri eq '') || 
  (($uri =~ m|^/*adm/|) &&    (($uri =~ m|^/*adm/|) && 
      ($uri !~ m|^adm/includes|) && ($uri !~ m{/(smppg|bulletinboard)$})) ||       ($uri !~ m|^adm/includes|) && ($uri !~ m|/bulletinboard$|)) ||
         ($uri =~ m|/$|) || ($uri =~ m|/.meta$|) || ($uri =~ m{^/*uploaded/.+\.sequence$})) {          ($uri =~ m|/$|) || ($uri =~ m|/.meta$|) || ($uri =~ m{^/*uploaded/.+\.sequence$})) {
  return undef;   return undef;
     }      }
     if (($uri =~ /^priv/ || $uri=~m{^home/httpd/html/priv})       if (($uri =~ /^priv/ || $uri=~/home\/httpd\/html\/priv/) 
  && &Apache::lonxml::get_state('target') =~ /^(|meta)$/) {   && &Apache::lonxml::get_state('target') =~ /^(|meta)$/) {
  return undef;   return undef;
     }      }
Line 11962  sub metadata { Line 9427  sub metadata {
     }      }
     {      {
 # Imported parts would go here  # Imported parts would go here
         my @origfiletagids=();          my %importedids=();
           my @origfileimportpartids=();
         my $importedparts=0;          my $importedparts=0;
   
 # Imported responseids would go here  
         my $importedresponses=0;  
 #  #
 # Is this a recursive call for a library?  # Is this a recursive call for a library?
 #  #
Line 12061  sub metadata { Line 9524  sub metadata {
                         my $dir=$filename;                          my $dir=$filename;
                         $dir=~s|[^/]*$||;                          $dir=~s|[^/]*$||;
                         $location=&filelocation($dir,$location);                          $location=&filelocation($dir,$location);
                          
                         my $importid=$token->[2]->{'id'};  
                         my $importmode=$token->[2]->{'importmode'};                          my $importmode=$token->[2]->{'importmode'};
 #  
 # Check metadata for imported file to  
 # see if it contained response items  
 #  
                         my %currmetaentry = %metaentry;  
                         my $libresponseorder = &metadata($location,'responseorder');  
                         my $origfile;  
                         if ($libresponseorder ne '') {  
                             if ($#origfiletagids<0) {  
                                 undef(%importedrespids);  
                                 undef(%importedpartids);  
                             }  
                             @{$importedrespids{$importid}} = split(/\s*,\s*/,$libresponseorder);  
                             if (@{$importedrespids{$importid}} > 0) {  
                                 $importedresponses = 1;  
 # We need to get the original file and the imported file to get the response order correct  
 # Load and inspect original file  
                                 if ($#origfiletagids<0) {  
                                     my $origfilelocation=$perlvar{'lonDocRoot'}.&clutter($uri);  
                                     $origfile=&getfile($origfilelocation);  
                                     @origfiletagids=($origfile=~/<((?:\w+)response|import|part)[^>]*id\s*=\s*[\"\']([^\"\']+)[\"\'][^>]*>/gs);  
                                 }  
                             }  
                         }  
 # Do not overwrite contents of %metaentry hash for resource itself with   
 # hash populated for imported library file  
                         %metaentry = %currmetaentry;  
                         undef(%currmetaentry);  
                         if ($importmode eq 'problem') {                          if ($importmode eq 'problem') {
 # Import as problem/response  # Import as problem/response
                            $unikey=&add_prefix_and_part($prefix,$token->[2]->{'part'});                             $unikey=&add_prefix_and_part($prefix,$token->[2]->{'part'});
Line 12100  sub metadata { Line 9534  sub metadata {
                            $importedparts=1;                             $importedparts=1;
 # We need to get the original file and the imported file to get the part order correct  # We need to get the original file and the imported file to get the part order correct
 # Good news: we do not need to worry about nested libraries, since parts cannot be nested  # Good news: we do not need to worry about nested libraries, since parts cannot be nested
 # Load and inspect original file if we didn't do that already  # Load and inspect original file
                            if ($#origfiletagids<0) {                             if ($#origfileimportpartids<0) {
                                undef(%importedrespids);                                undef(%importedpartids);
                                undef(%importedpartids);                                my $origfilelocation=$perlvar{'lonDocRoot'}.&clutter($uri);
                                if ($origfile eq '') {                                my $origfile=&getfile($origfilelocation);
                                    my $origfilelocation=$perlvar{'lonDocRoot'}.&clutter($uri);                                @origfileimportpartids=($origfile=~/<(part|import)[^>]*id\s*=\s*[\"\']([^\"\']+)[\"\'][^>]*>/gs);
                                    $origfile=&getfile($origfilelocation);  
                                    @origfiletagids=($origfile=~/<(part|import)[^>]*id\s*=\s*[\"\']([^\"\']+)[\"\'][^>]*>/gs);  
                                }  
                            }                             }
   
 # Load and inspect imported file  # Load and inspect imported file
Line 12222  sub metadata { Line 9653  sub metadata {
     grep { ! $seen{$_} ++ } (split(',',$metaentry{':packages'}));      grep { ! $seen{$_} ++ } (split(',',$metaentry{':packages'}));
  $metaentry{':packages'} = join(',',@uniq_packages);   $metaentry{':packages'} = join(',',@uniq_packages);
   
         if (($importedresponses) || ($importedparts)) {          if ($importedparts) {
             if ($importedparts) {  
 # We had imported parts and need to rebuild partorder  # We had imported parts and need to rebuild partorder
                 $metaentry{':partorder'}='';             $metaentry{':partorder'}='';
                 $metathesekeys{'partorder'}=1;             $metathesekeys{'partorder'}=1;
             }             for (my $index=0;$index<$#origfileimportpartids;$index+=2) {
             if ($importedresponses) {                 if ($origfileimportpartids[$index] eq 'part') {
 # We had imported responses and need to rebuild responseorder  # original part, part of the problem
                 $metaentry{':responseorder'}='';                    $metaentry{':partorder'}.=','.$origfileimportpartids[$index+1];
                 $metathesekeys{'responseorder'}=1;                 } else {
             }  # we have imported parts at this position
             for (my $index=0;$index<$#origfiletagids;$index+=2) {                    $metaentry{':partorder'}.=','.$importedpartids{$origfileimportpartids[$index+1]};
                 my $origid = $origfiletagids[$index+1];                 }
                 if ($origfiletagids[$index] eq 'part') {             }
 # Original part, part of the problem             $metaentry{':partorder'}=~s/^\,//;
                     if ($importedparts) {  
                         $metaentry{':partorder'}.=','.$origid;  
                     }  
                 } elsif ($origfiletagids[$index] eq 'import') {  
                     if ($importedparts) {  
 # We have imported parts at this position  
                         $metaentry{':partorder'}.=','.$importedpartids{$origid};  
                     }  
                     if ($importedresponses) {  
 # We have imported responses at this position  
                         if (ref($importedrespids{$origid}) eq 'ARRAY') {  
                             $metaentry{':responseorder'}.=','.join(',',map { $origid.'_'.$_ } @{$importedrespids{$origid}});  
                         }  
                     }  
                 } else {  
 # Original response item, part of the problem  
                     if ($importedresponses) {  
                         $metaentry{':responseorder'}.=','.$origid;  
                     }  
                 }  
             }  
             if ($importedparts) {  
                 $metaentry{':partorder'}=~s/^\,//;  
             }  
             if ($importedresponses) {  
                 $metaentry{':responseorder'}=~s/^\,//;  
             }  
         }          }
   
  $metaentry{':keys'} = join(',',keys(%metathesekeys));   $metaentry{':keys'} = join(',',keys(%metathesekeys));
  &metadata_generate_part0(\%metathesekeys,\%metaentry,$uri);   &metadata_generate_part0(\%metathesekeys,\%metaentry,$uri);
  $metaentry{':allpossiblekeys'}=join(',',keys(%metathesekeys));   $metaentry{':allpossiblekeys'}=join(',',keys %metathesekeys);
  &do_cache_new('meta',$uri,\%metaentry,$cachetime);   &do_cache_new('meta',$uri,\%metaentry,$cachetime);
 # this is the end of "was not already recently cached  # this is the end of "was not already recently cached
     }      }
Line 12434  sub get_course_slots { Line 9837  sub get_course_slots {
         my %slots=&Apache::lonnet::dump('slots',$cdom,$cnum);          my %slots=&Apache::lonnet::dump('slots',$cdom,$cnum);
         my ($tmp) = keys(%slots);          my ($tmp) = keys(%slots);
         if ($tmp !~ /^(con_lost|error|no_such_host)/i) {          if ($tmp !~ /^(con_lost|error|no_such_host)/i) {
             &do_cache_new('allslots',$hashid,\%slots,600);              &Apache::lonnet::do_cache_new('allslots',$hashid,\%slots,600);
             return %slots;              return %slots;
         }          }
     }      }
Line 12447  sub devalidate_slots_cache { Line 9850  sub devalidate_slots_cache {
     &devalidate_cache_new('allslots',$hashid);      &devalidate_cache_new('allslots',$hashid);
 }  }
   
 sub get_coursechange {  
     my ($cdom,$cnum) = @_;  
     if ($cdom eq '' || $cnum eq '') {  
         return unless ($env{'request.course.id'});  
         $cnum = $env{'course.'.$env{'request.course.id'}.'.num'};  
         $cdom = $env{'course.'.$env{'request.course.id'}.'.domain'};  
     }  
     my $hashid=$cdom.'_'.$cnum;  
     my ($change,$cached)=&is_cached_new('crschange',$hashid);  
     if ((defined($cached)) && ($change ne '')) {  
         return $change;  
     } else {  
         my %crshash;  
         %crshash = &get('environment',['internal.contentchange'],$cdom,$cnum);  
         if ($crshash{'internal.contentchange'} eq '') {  
             $change = $env{'course.'.$cdom.'_'.$cnum.'.internal.created'};  
             if ($change eq '') {  
                 %crshash = &get('environment',['internal.created'],$cdom,$cnum);  
                 $change = $crshash{'internal.created'};  
             }  
         } else {  
             $change = $crshash{'internal.contentchange'};  
         }  
         my $cachetime = 600;  
         &do_cache_new('crschange',$hashid,$change,$cachetime);  
     }  
     return $change;  
 }  
   
 sub devalidate_coursechange_cache {  
     my ($cnum,$cdom)=@_;  
     my $hashid=$cnum.':'.$cdom;  
     &devalidate_cache_new('crschange',$hashid);  
 }  
   
 # ------------------------------------------------- Update symbolic store links  # ------------------------------------------------- Update symbolic store links
   
 sub symblist {  sub symblist {
Line 12509  sub symblist { Line 9877  sub symblist {
 # --------------------------------------------------------------- Verify a symb  # --------------------------------------------------------------- Verify a symb
   
 sub symbverify {  sub symbverify {
     my ($symb,$thisurl,$encstate)=@_;      my ($symb,$thisurl)=@_;
     my $thisfn=$thisurl;      my $thisfn=$thisurl;
     $thisfn=&declutter($thisfn);      $thisfn=&declutter($thisfn);
 # direct jump to resource in page or to a sequence - will construct own symbs  # direct jump to resource in page or to a sequence - will construct own symbs
Line 12530  sub symbverify { Line 9898  sub symbverify {
                             &GDBM_READER(),0640)) {                              &GDBM_READER(),0640)) {
         if (($thisurl =~ m{^/adm/wrapper/ext/}) || ($thisurl =~ m{^ext/})) {          if (($thisurl =~ m{^/adm/wrapper/ext/}) || ($thisurl =~ m{^ext/})) {
             $thisurl =~ s/\?.+$//;              $thisurl =~ s/\?.+$//;
             if ($map =~ m{^uploaded/.+\.page$}) {  
                 $thisurl =~ s{^(/adm/wrapper|)/ext/}{http://};  
                 $thisurl =~ s{^\Qhttp://https://\E}{https://};  
             }  
         }  
         my $ids;  
         if ($map =~ m{^uploaded/.+\.page$}) {  
             $ids=$bighash{'ids_'.&clutter_with_no_wrapper($thisurl)};  
         } else {  
             $ids=$bighash{'ids_'.&clutter($thisurl)};  
         }          }
           my $ids=$bighash{'ids_'.&clutter($thisurl)};
         unless ($ids) {          unless ($ids) {
             my $idkey = 'ids_'.($thisurl =~ m{^/}? '' : '/').$thisurl;              my $idkey = 'ids_'.($thisurl =~ m{^/}? '' : '/').$thisurl;  
             $ids=$bighash{$idkey};              $ids=$bighash{$idkey};
         }          }
         if ($ids) {          if ($ids) {
 # ------------------------------------------------------------------- Has ID(s)  # ------------------------------------------------------------------- Has ID(s)
             if ($thisfn =~ m{^/adm/wrapper/ext/}) {  
                 $symb =~ s/\?.+$//;  
             }  
     foreach my $id (split(/\,/,$ids)) {      foreach my $id (split(/\,/,$ids)) {
        my ($mapid,$resid)=split(/\./,$id);         my ($mapid,$resid)=split(/\./,$id);
                  if ($thisfn =~ m{^/adm/wrapper/ext/}) {
                      $symb =~ s/\?.+$//;
                  }
                if (                 if (
   &symbclean(&declutter($bighash{'map_id_'.$mapid}).'___'.$resid.'___'.$thisfn)    &symbclean(&declutter($bighash{'map_id_'.$mapid}).'___'.$resid.'___'.$thisfn)
    eq $symb) {     eq $symb) { 
                    if (ref($encstate)) {     if (($env{'request.role.adv'}) ||
                        $$encstate = $bighash{'encrypted_'.$id};         ($bighash{'encrypted_'.$id} eq $env{'request.enc'}) ||
                    }  
                    if (($env{'request.role.adv'}) ||  
                        ($bighash{'encrypted_'.$id} eq $env{'request.enc'}) ||  
                        ($thisurl eq '/adm/navmaps')) {                         ($thisurl eq '/adm/navmaps')) {
                        $okay=1;         $okay=1; 
                        last;     }
                    }         }
                }     }
            }  
         }          }
  untie(%bighash);   untie(%bighash);
     }      }
Line 12637  sub deversion { Line 9992  sub deversion {
 # ------------------------------------------------------ Return symb list entry  # ------------------------------------------------------ Return symb list entry
   
 sub symbread {  sub symbread {
     my ($thisfn,$donotrecurse,$ignorecachednull,$checkforblock,$possibles,      my ($thisfn,$donotrecurse)=@_;
         $ignoresymbdb,$noenccheck)=@_;  
     my $cache_str='request.symbread.cached.'.$thisfn;      my $cache_str='request.symbread.cached.'.$thisfn;
     if (defined($env{$cache_str})) {      if (defined($env{$cache_str})) {
         unless (ref($possibles) eq 'HASH') {          if (($thisfn) || ($env{$cache_str} ne '')) {
             if ($ignorecachednull) {              return $env{$cache_str};
                 return $env{$cache_str} unless ($env{$cache_str} eq '');  
             } else {  
                 return $env{$cache_str};  
             }  
         }          }
     }      }
 # no filename provided? try from environment  # no filename provided? try from environment
     unless ($thisfn) {      unless ($thisfn) {
         if ($env{'request.symb'}) {          if ($env{'request.symb'}) {
             return $env{$cache_str}=&symbclean($env{'request.symb'});      return $env{$cache_str}=&symbclean($env{'request.symb'});
         }   }
         $thisfn=$env{'request.filename'};   $thisfn=$env{'request.filename'};
     }      }
     if ($thisfn=~m|^/enc/|) { $thisfn=&Apache::lonenc::unencrypted($thisfn); }      if ($thisfn=~m|^/enc/|) { $thisfn=&Apache::lonenc::unencrypted($thisfn); }
 # is that filename actually a symb? Verify, clean, and return  # is that filename actually a symb? Verify, clean, and return
Line 12675  sub symbread { Line 10025  sub symbread {
  if ($targetfn =~ m|^adm/wrapper/(ext/.*)|) {   if ($targetfn =~ m|^adm/wrapper/(ext/.*)|) {
     $targetfn=$1;      $targetfn=$1;
  }   }
         unless ($ignoresymbdb) {          if (tie(%hash,'GDBM_File',$env{'request.course.fn'}.'_symb.db',
             if (tie(%hash,'GDBM_File',$env{'request.course.fn'}.'_symb.db',                        &GDBM_READER(),0640)) {
                           &GDBM_READER(),0640)) {      $syval=$hash{$targetfn};
         $syval=$hash{$targetfn};              untie(%hash);
                 untie(%hash);  
             }  
             if ($syval && $checkforblock) {  
                 my @blockers = &has_comm_blocking('bre',$syval,$thisfn,$ignoresymbdb,$noenccheck);  
                 if (@blockers) {  
                     $syval='';  
                 }  
             }  
         }          }
 # ---------------------------------------------------------- There was an entry  # ---------------------------------------------------------- There was an entry
         if ($syval) {          if ($syval) {
Line 12718  sub symbread { Line 10060  sub symbread {
      my ($mapid,$resid)=split(/\./,$ids);       my ($mapid,$resid)=split(/\./,$ids);
      $syval=&encode_symb($bighash{'map_id_'.$mapid},       $syval=&encode_symb($bighash{'map_id_'.$mapid},
     $resid,$thisfn);      $resid,$thisfn);
                      if (ref($possibles) eq 'HASH') {                   } elsif (!$donotrecurse) {
                          unless ($bighash{'randomout_'.$ids} || $env{'request.role.adv'}) {  
                              $possibles->{$syval} = 1;  
                          }  
                      }  
                      if ($checkforblock) {  
                          unless ($bighash{'randomout_'.$ids} || $env{'request.role.adv'}) {  
                              my @blockers = &has_comm_blocking('bre',$syval,$bighash{'src_'.$ids},'',$noenccheck);  
                              if (@blockers) {  
                                  $syval = '';  
                                  untie(%bighash);  
                                  return $env{$cache_str}='';  
                              }  
                          }  
                      }  
                  } elsif ((!$donotrecurse) || ($checkforblock) || (ref($possibles) eq 'HASH')) {  
 # ------------------------------------------ There is more than one possibility  # ------------------------------------------ There is more than one possibility
                      my $realpossible=0;                       my $realpossible=0;
                      foreach my $id (@possibilities) {                       foreach my $id (@possibilities) {
  my $file=$bighash{'src_'.$id};   my $file=$bighash{'src_'.$id};
                          my $canaccess;                           if (&allowed('bre',$file)) {
                          if (($donotrecurse) || ($checkforblock) || (ref($possibles) eq 'HASH')) {               my ($mapid,$resid)=split(/\./,$id);
                              $canaccess = 1;                              if ($bighash{'map_type_'.$mapid} ne 'page') {
                          } else {   $realpossible++;
                              $canaccess = &allowed('bre',$file);                                  $syval=&encode_symb($bighash{'map_id_'.$mapid},
                          }      $resid,$thisfn);
                          if ($canaccess) {                              }
               my ($mapid,$resid)=split(/\./,$id);  
                              if ($bighash{'map_type_'.$mapid} ne 'page') {  
                                  my $poss_syval=&encode_symb($bighash{'map_id_'.$mapid},  
                                                              $resid,$thisfn);  
                                  next if ($bighash{'randomout_'.$id} && !$env{'request.role.adv'});  
                                  next unless (($noenccheck) || ($bighash{'encrypted_'.$id} eq $env{'request.enc'}));  
                                  if ($checkforblock) {  
                                      my @blockers = &has_comm_blocking('bre',$poss_syval,$file,'',$noenccheck);  
                                      if (@blockers > 0) {  
                                          $syval = '';  
                                      } else {  
                                          $syval = $poss_syval;  
                                          $realpossible++;  
                                      }  
                                  } else {  
                                      $syval = $poss_syval;  
                                      $realpossible++;  
                                  }  
                                  if ($syval) {  
                                      if (ref($possibles) eq 'HASH') {  
                                          $possibles->{$syval} = 1;  
                                      }  
                                  }  
                              }  
  }   }
                      }                       }
      if ($realpossible!=1) { $syval=''; }       if ($realpossible!=1) { $syval=''; }
Line 12776  sub symbread { Line 10079  sub symbread {
                      $syval='';                       $syval='';
                  }                   }
       }        }
               untie(%bighash);                untie(%bighash)
            }             }
         }          }
         if ($syval) {          if ($syval) {
Line 12929  sub rndseed { Line 10232  sub rndseed {
  $which =&get_rand_alg($courseid);   $which =&get_rand_alg($courseid);
     }      }
     if (defined(&getCODE())) {      if (defined(&getCODE())) {
   
  if ($which eq '64bit5') {   if ($which eq '64bit5') {
     return &rndseed_CODE_64bit5($symb,$courseid,$domain,$username);      return &rndseed_CODE_64bit5($symb,$courseid,$domain,$username);
  } elsif ($which eq '64bit4') {   } elsif ($which eq '64bit4') {
Line 13114  sub rndseed_CODE_64bit5 { Line 10418  sub rndseed_CODE_64bit5 {
 sub setup_random_from_rndseed {  sub setup_random_from_rndseed {
     my ($rndseed)=@_;      my ($rndseed)=@_;
     if ($rndseed =~/([,:])/) {      if ($rndseed =~/([,:])/) {
  my ($num1,$num2) = map { abs($_); } (split(/[,:]/,$rndseed));   my ($num1,$num2)=split(/[,:]/,$rndseed);
         if ((!$num1) || (!$num2) || ($num1 > 2147483562) || ($num2 > 2147483398)) {   &Math::Random::random_set_seed(abs($num1),abs($num2));
             &Math::Random::random_set_seed_from_phrase($rndseed);  
         } else {  
             &Math::Random::random_set_seed($num1,$num2);  
         }  
     } else {      } else {
  &Math::Random::random_set_seed_from_phrase($rndseed);   &Math::Random::random_set_seed_from_phrase($rndseed);
     }      }
Line 13305  sub repcopy_userfile { Line 10605  sub repcopy_userfile {
     my $request;      my $request;
     $uri=~s/^\///;      $uri=~s/^\///;
     my $homeserver = &homeserver($cnum,$cdom);      my $homeserver = &homeserver($cnum,$cdom);
     my $hostname = &hostname($homeserver);  
     my $protocol = $protocol{$homeserver};      my $protocol = $protocol{$homeserver};
     $protocol = 'http' if ($protocol ne 'https');      $protocol = 'http' if ($protocol ne 'https');
     $request=new HTTP::Request('GET',$protocol.'://'.$hostname.'/raw/'.$uri);      $request=new HTTP::Request('GET',$protocol.'://'.&hostname($homeserver).'/raw/'.$uri);
     my $response=$ua->request($request,$transferfile);      my $response=$ua->request($request,$transferfile);
 # did it work?  # did it work?
     if ($response->is_error()) {      if ($response->is_error()) {
Line 13332  sub tokenwrapper { Line 10631  sub tokenwrapper {
  $file=~s|(\?\.*)*$||;   $file=~s|(\?\.*)*$||;
         &appenv({"userfile.$udom/$uname/$file" => $env{'request.course.id'}});          &appenv({"userfile.$udom/$uname/$file" => $env{'request.course.id'}});
         my $homeserver = &homeserver($uname,$udom);          my $homeserver = &homeserver($uname,$udom);
         my $hostname = &hostname($homeserver);  
         my $protocol = $protocol{$homeserver};          my $protocol = $protocol{$homeserver};
         $protocol = 'http' if ($protocol ne 'https');          $protocol = 'http' if ($protocol ne 'https');
         return $protocol.'://'.$hostname.'/'.$uri.          return $protocol.'://'.&hostname($homeserver).'/'.$uri.
                (($uri=~/\?/)?'&':'?').'token='.$token.                 (($uri=~/\?/)?'&':'?').'token='.$token.
                                '&tokenissued='.$perlvar{'lonHostID'};                                 '&tokenissued='.$perlvar{'lonHostID'};
     } else {      } else {
Line 13351  sub getuploaded { Line 10649  sub getuploaded {
     my ($reqtype,$uri,$cdom,$cnum,$info,$rtncode) = @_;      my ($reqtype,$uri,$cdom,$cnum,$info,$rtncode) = @_;
     $uri=~s/^\///;      $uri=~s/^\///;
     my $homeserver = &homeserver($cnum,$cdom);      my $homeserver = &homeserver($cnum,$cdom);
     my $hostname = &hostname($homeserver);  
     my $protocol = $protocol{$homeserver};      my $protocol = $protocol{$homeserver};
     $protocol = 'http' if ($protocol ne 'https');      $protocol = 'http' if ($protocol ne 'https');
     $uri = $protocol.'://'.$hostname.'/raw/'.$uri;      $uri = $protocol.'://'.&hostname($homeserver).'/raw/'.$uri;
     my $ua=new LWP::UserAgent;      my $ua=new LWP::UserAgent;
     my $request=new HTTP::Request($reqtype,$uri);      my $request=new HTTP::Request($reqtype,$uri);
     my $response=$ua->request($request);      my $response=$ua->request($request);
Line 13374  sub readfile { Line 10671  sub readfile {
     my $file = shift;      my $file = shift;
     if ( (! -e $file ) || ($file eq '') ) { return -1; };      if ( (! -e $file ) || ($file eq '') ) { return -1; };
     my $fh;      my $fh;
     open($fh,"<",$file);      open($fh,"<$file");
     my $a='';      my $a='';
     while (my $line = <$fh>) { $a .= $line; }      while (my $line = <$fh>) { $a .= $line; }
     return $a;      return $a;
Line 13487  sub machine_ids { Line 10784  sub machine_ids {
   
 sub additional_machine_domains {  sub additional_machine_domains {
     my @domains;      my @domains;
     if (-e "$perlvar{'lonTabDir'}/expected_domains.tab") {      open(my $fh,"<$perlvar{'lonTabDir'}/expected_domains.tab");
         if (open(my $fh,"<","$perlvar{'lonTabDir'}/expected_domains.tab")) {      while( my $line = <$fh>) {
             while( my $line = <$fh>) {          $line =~ s/\s//g;
                 chomp($line);          push(@domains,$line);
                 $line =~ s/\s//g;  
                 push(@domains,$line);  
             }  
             close($fh);  
         }  
     }      }
     return @domains;      return @domains;
 }  }
Line 13513  sub default_login_domain { Line 10805  sub default_login_domain {
     return $domain;      return $domain;
 }  }
   
 sub shared_institution {  
     my ($dom,$lonhost) = @_;  
     if ($lonhost eq '') {  
         $lonhost = $perlvar{'lonHostID'};  
     }  
     my $same_intdom;  
     my $hostintdom = &internet_dom($lonhost);  
     if ($hostintdom ne '') {  
         my %iphost = &get_iphost();  
         my $primary_id = &domain($dom,'primary');  
         my $primary_ip = &get_host_ip($primary_id);  
         if (ref($iphost{$primary_ip}) eq 'ARRAY') {  
             foreach my $id (@{$iphost{$primary_ip}}) {  
                 my $intdom = &internet_dom($id);  
                 if ($intdom eq $hostintdom) {  
                     $same_intdom = 1;  
                     last;  
                 }  
             }  
         }  
     }  
     return $same_intdom;  
 }  
   
 sub uses_sts {  
     my ($ignore_cache) = @_;  
     my $lonhost = $perlvar{'lonHostID'};  
     my $hostname = &hostname($lonhost);  
     my $sts_on;  
     if ($protocol{$lonhost} eq 'https') {  
         my $cachetime = 12*3600;  
         if (!$ignore_cache) {  
             ($sts_on,my $cached)=&is_cached_new('stspolicy',$lonhost);  
             if (defined($cached)) {  
                 return $sts_on;  
             }  
         }  
         my $ua=new LWP::UserAgent;  
         my $url = $protocol{$lonhost}.'://'.$hostname.'/index.html';  
         my $request=new HTTP::Request('HEAD',$url);  
         my $response=$ua->request($request);  
         if ($response->is_success) {  
             my $has_sts = $response->header('Strict-Transport-Security');  
             if ($has_sts eq '') {  
                 $sts_on = 0;  
             } else {  
                 if ($has_sts =~ /\Qmax-age=\E(\d+)/) {  
                     my $maxage = $1;  
                     if ($maxage) {  
                         $sts_on = 1;  
                     } else {  
                         $sts_on = 0;  
                     }  
                 } else {  
                     $sts_on = 0;  
                 }  
             }  
             return &do_cache_new('stspolicy',$lonhost,$sts_on,$cachetime);  
         }  
     }  
     return;  
 }  
   
 sub waf_allssl {  
     my ($host_name) = @_;  
     my $alias = &get_proxy_alias();  
     if ($host_name eq '') {  
         $host_name = $ENV{'SERVER_NAME'};  
     }  
     if (($host_name ne '') && ($alias eq $host_name)) {  
         my $serverhomedom = &host_domain($perlvar{'lonHostID'});  
         my %defdomdefaults = &get_domain_defaults($serverhomedom);  
         if ($defdomdefaults{'waf_sslopt'}) {  
             return $defdomdefaults{'waf_sslopt'};  
         }  
     }  
     return;  
 }  
   
 sub get_requestor_ip {  
     my ($r,$nolookup,$noproxy) = @_;  
     my $from_ip;  
     if (ref($r)) {  
         if ($r->can('useragent_ip')) {  
             if ($noproxy && $r->can('client_ip')) {  
                 $from_ip = $r->client_ip();  
             } else {  
                 $from_ip = $r->useragent_ip();  
             }  
         } elsif ($r->connection->can('remote_ip')) {  
             $from_ip = $r->connection->remote_ip();  
         } else {  
             $from_ip = $r->get_remote_host($nolookup);  
         }  
     } else {  
         $from_ip = $ENV{'REMOTE_ADDR'};  
     }  
     return $from_ip if ($noproxy);  
    # Who controls proxy settings for server  
     my $dom_in_use = $Apache::lonnet::perlvar{'lonDefDomain'};  
     my $proxyinfo = &get_proxy_settings($dom_in_use);  
     if ((ref($proxyinfo) eq 'HASH') && ($from_ip)) {  
         if ($proxyinfo->{'vpnint'}) {  
             if (&ip_match($from_ip,$proxyinfo->{'vpnint'})) {  
                 return $from_ip;  
             }  
         }  
         if ($proxyinfo->{'trusted'}) {  
             if (&ip_match($from_ip,$proxyinfo->{'trusted'})) {  
                 my $ipheader = $proxyinfo->{'ipheader'};  
                 my ($ip,$xfor);  
                 if (ref($r)) {  
                     if ($ipheader) {  
                         $ip = $r->headers_in->{$ipheader};  
                     }  
                     $xfor = $r->headers_in->{'X-Forwarded-For'};  
                 } else {  
                     if ($ipheader) {  
                         $ip = $ENV{'HTTP_'.uc($ipheader)};  
                     }  
                     $xfor = $ENV{'HTTP_X_FORWARDED_FOR'};  
                 }  
                 if (($ip eq '') && ($xfor ne '')) {  
                     foreach my $poss_ip (reverse(split(/\s*,\s*/,$xfor))) {  
                         unless (&ip_match($poss_ip,$proxyinfo->{'trusted'})) {  
                             $ip = $poss_ip;  
                             last;  
                         }  
                     }  
                 }  
                 if ($ip ne '') {  
                     return $ip;  
                 }  
             }  
         }  
     }  
     return $from_ip;  
 }  
   
 sub get_proxy_settings {  
     my ($dom_in_use) = @_;  
     my %domdefaults = &Apache::lonnet::get_domain_defaults($dom_in_use);  
     my $proxyinfo = {  
                        ipheader => $domdefaults{'waf_ipheader'},  
                        trusted  => $domdefaults{'waf_trusted'},  
                        vpnint   => $domdefaults{'waf_vpnint'},  
                        vpnext   => $domdefaults{'waf_vpnext'},  
                        sslopt   => $domdefaults{'waf_sslopt'},  
                     };  
     return $proxyinfo;  
 }  
   
 sub ip_match {  
     my ($ip,$pattern_str) = @_;  
     $ip=Net::CIDR::cidrvalidate($ip);  
     if ($ip) {  
         return Net::CIDR::cidrlookup($ip,split(/\s*,\s*/,$pattern_str));  
     }  
     return;  
 }  
   
 sub get_proxy_alias {  
     my ($lonid) = @_;  
     if ($lonid eq '') {  
         $lonid = $perlvar{'lonHostID'};  
     }  
     if (!defined(&hostname($lonid))) {  
         return;  
     }  
     if ($lonid ne '') {  
         my ($alias,$cached) = &is_cached_new('proxyalias',$lonid);  
         if ($cached) {  
             return $alias;  
         }  
         my $dom = &Apache::lonnet::host_domain($lonid);  
         if ($dom ne '') {  
             my $cachetime = 60*60*24;  
             my %domconfig =  
                 &Apache::lonnet::get_dom('configuration',['wafproxy'],$dom);  
             if (ref($domconfig{'wafproxy'}) eq 'HASH') {  
                 if (ref($domconfig{'wafproxy'}{'alias'}) eq 'HASH') {  
                     $alias = $domconfig{'wafproxy'}{'alias'}{$lonid};  
                 }  
             }  
             return &do_cache_new('proxyalias',$lonid,$alias,$cachetime);  
         }  
     }  
     return;  
 }  
   
 sub use_proxy_alias {  
     my ($r,$lonid) = @_;  
     my $alias = &get_proxy_alias($lonid);  
     if ($alias) {  
         my $dom = &host_domain($lonid);  
         if ($dom ne '') {  
             my $proxyinfo = &get_proxy_settings($dom);  
             my ($vpnint,$remote_ip);  
             if (ref($proxyinfo) eq 'HASH') {  
                 $vpnint = $proxyinfo->{'vpnint'};  
                 if ($vpnint) {  
                     $remote_ip = &get_requestor_ip($r,1,1);  
                 }  
             }  
             unless ($vpnint && &ip_match($remote_ip,$vpnint)) {  
                 return $alias;  
             }  
         }  
     }  
     return;  
 }  
   
 sub alias_sso {  
     my ($lonid) = @_;  
     if ($lonid eq '') {  
         $lonid = $perlvar{'lonHostID'};  
     }  
     if (!defined(&hostname($lonid))) {  
         return;  
     }  
     if ($lonid ne '') {  
         my ($use_alias,$cached) = &is_cached_new('proxysaml',$lonid);  
         if ($cached) {  
             return $use_alias;  
         }  
         my $dom = &Apache::lonnet::host_domain($lonid);  
         if ($dom ne '') {  
             my $cachetime = 60*60*24;  
             my %domconfig =  
                 &Apache::lonnet::get_dom('configuration',['wafproxy'],$dom);  
             if (ref($domconfig{'wafproxy'}) eq 'HASH') {  
                 if (ref($domconfig{'wafproxy'}{'saml'}) eq 'HASH') {  
                     $use_alias = $domconfig{'wafproxy'}{'saml'}{$lonid};  
                 }  
             }  
             return &do_cache_new('proxysaml',$lonid,$use_alias,$cachetime);  
         }  
     }  
     return;  
 }  
   
 sub get_saml_landing {  
     my ($lonid) = @_;  
     if ($lonid eq '') {  
         my $defdom = &default_login_domain();  
         my @hosts = &current_machine_ids();  
         if (@hosts > 1) {  
             foreach my $hostid (@hosts) {  
                 if (&host_domain($hostid) eq $defdom) {  
                     $lonid = $hostid;  
                     last;  
                 }  
             }  
         } else {  
             $lonid = $perlvar{'lonHostID'};  
         }  
         if ($lonid) {  
             unless (&Apache::lonnet::host_domain($lonid) eq $defdom) {  
                 return;  
             }  
         } else {  
             return;  
         }  
     } elsif (!defined(&hostname($lonid))) {  
         return;  
     }  
     my ($landing,$cached) = &is_cached_new('samllanding',$lonid);  
     if ($cached) {  
         return $landing;  
     }  
     my $dom = &Apache::lonnet::host_domain($lonid);  
     if ($dom ne '') {  
         my $cachetime = 60*60*24;  
         my %domconfig =  
             &Apache::lonnet::get_dom('configuration',['login'],$dom);  
         if (ref($domconfig{'login'}) eq 'HASH') {  
             if (ref($domconfig{'login'}{'saml'}) eq 'HASH') {  
                 if (ref($domconfig{'login'}{'saml'}{$lonid}) eq 'HASH') {  
                     $landing = 1;  
                 }  
             }  
         }  
         return &do_cache_new('samllanding',$lonid,$landing,$cachetime);  
     }  
     return;  
 }  
   
 # ------------------------------------------------------------- Declutters URLs  # ------------------------------------------------------------- Declutters URLs
   
 sub declutter {  sub declutter {
     my $thisfn=shift;      my $thisfn=shift;
     if ($thisfn=~m|^/enc/|) { $thisfn=&Apache::lonenc::unencrypted($thisfn); }      if ($thisfn=~m|^/enc/|) { $thisfn=&Apache::lonenc::unencrypted($thisfn); }
     unless ($thisfn=~m{^/home/httpd/html/priv/}) {      $thisfn=~s/^\Q$perlvar{'lonDocRoot'}\E//;
         $thisfn=~s{^/home/httpd/html}{};  
     }  
     $thisfn=~s/^\///;      $thisfn=~s/^\///;
     $thisfn=~s|^adm/wrapper/||;      $thisfn=~s|^adm/wrapper/||;
     $thisfn=~s|^adm/coursedocs/showdoc/||;      $thisfn=~s|^adm/coursedocs/showdoc/||;
Line 13912  sub goodbye { Line 10915  sub goodbye {
 }  }
   
 sub get_dns {  sub get_dns {
     my ($url,$func,$ignore_cache,$nocache,$hashref) = @_;      my ($url,$func,$ignore_cache) = @_;
     if (!$ignore_cache) {      if (!$ignore_cache) {
  my ($content,$cached)=   my ($content,$cached)=
     &Apache::lonnet::is_cached_new('dns',$url);      &Apache::lonnet::is_cached_new('dns',$url);
  if ($cached) {   if ($cached) {
     &$func($content,$hashref);      &$func($content);
     return;      return;
  }   }
     }      }
   
     my %alldns;      my %alldns;
     if (open(my $config,"<","$perlvar{'lonTabDir'}/hosts.tab")) {      open(my $config,"<$perlvar{'lonTabDir'}/hosts.tab");
         foreach my $dns (<$config>) {      foreach my $dns (<$config>) {
     next if ($dns !~ /^\^(\S*)/x);   next if ($dns !~ /^\^(\S*)/x);
             my $line = $1;          my $line = $1;
             my ($host,$protocol) = split(/:/,$line);          my ($host,$protocol) = split(/:/,$line);
             if ($protocol ne 'https') {          if ($protocol ne 'https') {
                 $protocol = 'http';              $protocol = 'http';
             }  
     $alldns{$host} = $protocol;  
         }          }
         close($config);   $alldns{$host} = $protocol;
     }      }
     while (%alldns) {      while (%alldns) {
  my ($dns) = sort { $b cmp $a } keys(%alldns);   my ($dns) = keys(%alldns);
         my @content;   my $ua=new LWP::UserAgent;
         if ($dns eq Sys::Hostname::FQDN::fqdn()) {          $ua->timeout(30);
             my $command = (split('/',$url))[3];   my $request=new HTTP::Request('GET',"$alldns{$dns}://$dns$url");
             my ($dir,$file) = &parse_getdns_url($command,$url);   my $response=$ua->request($request);
             delete($alldns{$dns});          delete($alldns{$dns});
             next if (($dir eq '') || ($file eq ''));   next if ($response->is_error());
             if (open(my $config,'<',"$dir/$file")) {   my @content = split("\n",$response->content);
                 @content = <$config>;   &Apache::lonnet::do_cache_new('dns',$url,\@content,30*24*60*60);
                 close($config);   &$func(\@content);
             }  
         } else {  
     my $ua=new LWP::UserAgent;  
             $ua->timeout(30);  
     my $request=new HTTP::Request('GET',"$alldns{$dns}://$dns$url");  
     my $response=$ua->request($request);  
             delete($alldns{$dns});  
     next if ($response->is_error());  
     @content = split("\n",$response->content);  
         }  
         unless ($nocache) {  
     &do_cache_new('dns',$url,\@content,30*24*60*60);  
         }  
  &$func(\@content,$hashref);  
  return;   return;
     }      }
       close($config);
     my $which = (split('/',$url))[3];      my $which = (split('/',$url))[3];
     &logthis("unable to contact DNS defaulting to on disk file dns_$which.tab\n");      &logthis("unable to contact DNS defaulting to on disk file dns_$which.tab\n");
     if (open(my $config,"<","$perlvar{'lonTabDir'}/dns_$which.tab")) {      open($config,"<$perlvar{'lonTabDir'}/dns_$which.tab");
         my @content = <$config>;      my @content = <$config>;
         &$func(\@content,$hashref);      &$func(\@content);
     }  
     return;      return;
 }  }
   
 # ------------------------------------------------------Get DNS checksums file  
 sub parse_dns_checksums_tab {  
     my ($lines,$hashref) = @_;  
     my $lonhost = $perlvar{'lonHostID'};  
     my $machine_dom = &Apache::lonnet::host_domain($lonhost);  
     my $loncaparev = &get_server_loncaparev($machine_dom);  
     my $distro = (split(/\:/,&get_server_distarch($lonhost)))[0];  
     my $webconfdir = '/etc/httpd/conf';  
     if ($distro =~ /^(ubuntu|debian)(\d+)$/) {  
         $webconfdir = '/etc/apache2';  
     } elsif ($distro =~ /^sles(\d+)$/) {  
         if ($1 >= 10) {  
             $webconfdir = '/etc/apache2';  
         }  
     } elsif ($distro =~ /^suse(\d+\.\d+)$/) {  
         if ($1 >= 10.0) {  
             $webconfdir = '/etc/apache2';  
         }  
     }  
     my ($release,$timestamp) = split(/\-/,$loncaparev);  
     my (%chksum,%revnum);  
     if (ref($lines) eq 'ARRAY') {  
         chomp(@{$lines});  
         my $version = shift(@{$lines});  
         if ($version eq $release) {  
             foreach my $line (@{$lines}) {  
                 my ($file,$version,$shasum) = split(/,/,$line);  
                 if ($file =~ m{^/etc/httpd/conf}) {  
                     if ($webconfdir eq '/etc/apache2') {  
                         $file =~ s{^\Q/etc/httpd/conf/\E}{$webconfdir/};  
                     }  
                 }  
                 $chksum{$file} = $shasum;  
                 $revnum{$file} = $version;  
             }  
             if (ref($hashref) eq 'HASH') {  
                 %{$hashref} = (  
                                 sums     => \%chksum,  
                                 versions => \%revnum,  
                               );  
             }  
         }  
     }  
     return;  
 }  
   
 sub fetch_dns_checksums {  
     my %checksums;  
     my $machine_dom = &Apache::lonnet::host_domain($perlvar{'lonHostID'});  
     my $loncaparev = &get_server_loncaparev($machine_dom,$perlvar{'lonHostID'});  
     my ($release,$timestamp) = split(/\-/,$loncaparev);  
     &get_dns("/adm/dns/checksums/$release",\&parse_dns_checksums_tab,1,1,  
              \%checksums);  
     return \%checksums;  
 }  
   
 sub parse_getdns_url {  
     my ($command,$url) = @_;  
     my $dir = $perlvar{'lonTabDir'};  
     my $file;  
     if ($command eq 'hosts') {  
         $file = 'dns_hosts.tab';  
     } elsif ($command eq 'domain') {  
         $file = 'dns_domain.tab';  
     } elsif ($command eq 'checksums') {  
         my $version = (split('/',$url))[4];  
         $file = "dns_checksums/$version.tab",  
     }  
     return ($dir,$file);  
 }  
   
 # ------------------------------------------------------------ Read domain file  # ------------------------------------------------------------ Read domain file
 {  {
     my $loaded;      my $loaded;
Line 14070  sub parse_getdns_url { Line 10985  sub parse_getdns_url {
     }      }
   
     sub load_domain_tab {      sub load_domain_tab {
  my ($ignore_cache,$nocache) = @_;   my ($ignore_cache) = @_;
  &get_dns('/adm/dns/domain',\&parse_domain_tab,$ignore_cache,$nocache);   &get_dns('/adm/dns/domain',\&parse_domain_tab,$ignore_cache);
  my $fh;   my $fh;
  if (open($fh,"<",$perlvar{'lonTabDir'}.'/domain.tab')) {   if (open($fh,"<".$perlvar{'lonTabDir'}.'/domain.tab')) {
     my @lines = <$fh>;      my @lines = <$fh>;
     &parse_domain_tab(\@lines);      &parse_domain_tab(\@lines);
  }   }
Line 14125  sub parse_getdns_url { Line 11040  sub parse_getdns_url {
     my ($id,$domain,$role,$name,$protocol,$intdom)=split(/:/,$configline);      my ($id,$domain,$role,$name,$protocol,$intdom)=split(/:/,$configline);
     $name=~s/\s//g;      $name=~s/\s//g;
     if ($id && $domain && $role && $name) {      if ($id && $domain && $role && $name) {
                 if ((exists($hostname{$id})) && ($hostname{$id} ne '')) {  
                     my $curr = $hostname{$id};  
                     my $skip;  
                     if (ref($name_to_host{$curr}) eq 'ARRAY') {  
                         if (($curr eq $name) && (@{$name_to_host{$curr}} == 1)) {  
                             $skip = 1;  
                         } else {  
                             @{$name_to_host{$curr}} = grep { $_ ne $id } @{$name_to_host{$curr}};  
                         }  
                     }  
                     unless ($skip) {  
                         push(@{$name_to_host{$name}},$id);  
                     }  
                 } else {  
                     push(@{$name_to_host{$name}},$id);  
                 }  
  $hostname{$id}=$name;   $hostname{$id}=$name;
    push(@{$name_to_host{$name}}, $id);
  $hostdom{$id}=$domain;   $hostdom{$id}=$domain;
  if ($role eq 'library') { $libserv{$id}=$name; }   if ($role eq 'library') { $libserv{$id}=$name; }
                 if (defined($protocol)) {                  if (defined($protocol)) {
Line 14172  sub parse_getdns_url { Line 11072  sub parse_getdns_url {
     }      }
   
     sub load_hosts_tab {      sub load_hosts_tab {
  my ($ignore_cache,$nocache) = @_;   my ($ignore_cache) = @_;
  &get_dns('/adm/dns/hosts',\&parse_hosts_tab,$ignore_cache,$nocache);   &get_dns('/adm/dns/hosts',\&parse_hosts_tab,$ignore_cache);
  open(my $config,"<","$perlvar{'lonTabDir'}/hosts.tab");   open(my $config,"<$perlvar{'lonTabDir'}/hosts.tab");
  my @config = <$config>;   my @config = <$config>;
  &parse_hosts_tab(\@config);   &parse_hosts_tab(\@config);
  close($config);   close($config);
Line 14195  sub parse_getdns_url { Line 11095  sub parse_getdns_url {
     }      }
   
     sub all_names {      sub all_names {
         my ($ignore_cache,$nocache) = @_;   &load_hosts_tab() if (!$loaded);
  &load_hosts_tab($ignore_cache,$nocache) if (!$loaded);  
   
  return %name_to_host;   return %name_to_host;
     }      }
Line 14318  sub parse_getdns_url { Line 11217  sub parse_getdns_url {
     }      }
           
     sub get_iphost {      sub get_iphost {
  my ($ignore_cache,$nocache) = @_;   my ($ignore_cache) = @_;
   
  if (!$ignore_cache) {   if (!$ignore_cache) {
     if (%iphost) {      if (%iphost) {
Line 14342  sub parse_getdns_url { Line 11241  sub parse_getdns_url {
     %old_name_to_ip = %{$ip_info->[1]};      %old_name_to_ip = %{$ip_info->[1]};
  }   }
   
  my %name_to_host = &all_names($ignore_cache,$nocache);   my %name_to_host = &all_names();
  foreach my $name (keys(%name_to_host)) {   foreach my $name (keys(%name_to_host)) {
     my $ip;      my $ip;
     if (!exists($name_to_ip{$name})) {      if (!exists($name_to_ip{$name})) {
Line 14367  sub parse_getdns_url { Line 11266  sub parse_getdns_url {
     }      }
     push(@{$iphost{$ip}},@{$name_to_host{$name}});      push(@{$iphost{$ip}},@{$name_to_host{$name}});
  }   }
         unless ($nocache) {   &Apache::lonnet::do_cache_new('iphost','iphost',
     &do_cache_new('iphost','iphost',        [\%iphost,\%name_to_ip,\%lonid_to_ip],
           [\%iphost,\%name_to_ip,\%lonid_to_ip],        48*60*60);
           48*60*60);  
         }  
   
  return %iphost;   return %iphost;
     }      }
Line 14427  sub parse_getdns_url { Line 11324  sub parse_getdns_url {
             }              }
             $seen{$prim_ip} = 1;              $seen{$prim_ip} = 1;
         }          }
         return &do_cache_new('internetnames',$lonid,\@idns,12*60*60);          return &Apache::lonnet::do_cache_new('internetnames',$lonid,\@idns,12*60*60);
     }      }
   
 }  }
   
 sub all_loncaparevs {  sub all_loncaparevs {
     return qw(1.1 1.2 1.3 2.0 2.1 2.2 2.3 2.4 2.5 2.6 2.7 2.8 2.9 2.10 2.11);      return qw(1.1 1.2 1.3 2.0 2.1 2.2 2.3 2.4 2.5 2.6 2.7 2.8 2.9 2.10);
 }  }
   
 # ------------------------------------------------------- Read loncaparev table  
 {  
     sub load_loncaparevs {  
         if (-e "$perlvar{'lonTabDir'}/loncaparevs.tab") {  
             if (open(my $config,"<","$perlvar{'lonTabDir'}/loncaparevs.tab")) {  
                 while (my $configline=<$config>) {  
                     chomp($configline);  
                     my ($hostid,$loncaparev)=split(/:/,$configline);  
                     $loncaparevs{$hostid}=$loncaparev;  
                 }  
                 close($config);  
             }  
         }  
     }  
 }  
   
 # ----------------------------------------------------- Read serverhostID table  
 {  
     sub load_serverhomeIDs {  
         if (-e "$perlvar{'lonTabDir'}/serverhomeIDs.tab") {  
             if (open(my $config,"<","$perlvar{'lonTabDir'}/serverhomeIDs.tab")) {  
                 while (my $configline=<$config>) {  
                     chomp($configline);  
                     my ($name,$id)=split(/:/,$configline);  
                     $serverhomeIDs{$name}=$id;  
                 }  
                 close($config);  
             }  
         }  
     }  
 }  
   
   
 BEGIN {  BEGIN {
   
 # ----------------------------------- Read loncapa.conf and loncapa_apache.conf  # ----------------------------------- Read loncapa.conf and loncapa_apache.conf
Line 14481  BEGIN { Line 11345  BEGIN {
   
 # ------------------------------------------------------ Read spare server file  # ------------------------------------------------------ Read spare server file
 {  {
     open(my $config,"<","$perlvar{'lonTabDir'}/spare.tab");      open(my $config,"<$perlvar{'lonTabDir'}/spare.tab");
   
     while (my $configline=<$config>) {      while (my $configline=<$config>) {
        chomp($configline);         chomp($configline);
Line 14495  BEGIN { Line 11359  BEGIN {
 }  }
 # ------------------------------------------------------------ Read permissions  # ------------------------------------------------------------ Read permissions
 {  {
     open(my $config,"<","$perlvar{'lonTabDir'}/roles.tab");      open(my $config,"<$perlvar{'lonTabDir'}/roles.tab");
   
     while (my $configline=<$config>) {      while (my $configline=<$config>) {
  chomp($configline);   chomp($configline);
Line 14509  BEGIN { Line 11373  BEGIN {
   
 # -------------------------------------------- Read plain texts for permissions  # -------------------------------------------- Read plain texts for permissions
 {  {
     open(my $config,"<","$perlvar{'lonTabDir'}/rolesplain.tab");      open(my $config,"<$perlvar{'lonTabDir'}/rolesplain.tab");
   
     while (my $configline=<$config>) {      while (my $configline=<$config>) {
  chomp($configline);   chomp($configline);
Line 14529  BEGIN { Line 11393  BEGIN {
   
 # ---------------------------------------------------------- Read package table  # ---------------------------------------------------------- Read package table
 {  {
     open(my $config,"<","$perlvar{'lonTabDir'}/packages.tab");      open(my $config,"<$perlvar{'lonTabDir'}/packages.tab");
   
     while (my $configline=<$config>) {      while (my $configline=<$config>) {
  if ($configline !~ /\S/ || $configline=~/^#/) { next; }   if ($configline !~ /\S/ || $configline=~/^#/) { next; }
Line 14544  BEGIN { Line 11408  BEGIN {
     close($config);      close($config);
 }  }
   
 # --------------------------------------------------------- Read loncaparev table  # ---------------------------------------------------------- Read loncaparev table
   {
 &load_loncaparevs();      if (-e "$perlvar{'lonTabDir'}/loncaparevs.tab") {
           if (open(my $config,"<$perlvar{'lonTabDir'}/loncaparevs.tab")) {
 # ------------------------------------------------------- Read serverhostID table              while (my $configline=<$config>) {
                   chomp($configline);
                   my ($hostid,$loncaparev)=split(/:/,$configline);
                   $loncaparevs{$hostid}=$loncaparev;
               }
               close($config);
           }
       }
   }
   
 &load_serverhomeIDs();  # ---------------------------------------------------------- Read serverhostID table
   {
       if (-e "$perlvar{'lonTabDir'}/serverhomeIDs.tab") {
           if (open(my $config,"<$perlvar{'lonTabDir'}/serverhomeIDs.tab")) {
               while (my $configline=<$config>) {
                   chomp($configline);
                   my ($name,$id)=split(/:/,$configline);
                   $serverhomeIDs{$name}=$id;
               }
               close($config);
           }
       }
   }
   
 # ---------------------------------------------------------- Read releaseslist XML  
 {  {
     my $file = $Apache::lonnet::perlvar{'lonTabDir'}.'/releaseslist.xml';      my $file = $Apache::lonnet::perlvar{'lonTabDir'}.'/releaseslist.xml';
     if (-e $file) {      if (-e $file) {
Line 14575  BEGIN { Line 11458  BEGIN {
 # ---------------------------------------------------------- Read managers table  # ---------------------------------------------------------- Read managers table
 {  {
     if (-e "$perlvar{'lonTabDir'}/managers.tab") {      if (-e "$perlvar{'lonTabDir'}/managers.tab") {
         if (open(my $config,"<","$perlvar{'lonTabDir'}/managers.tab")) {          if (open(my $config,"<$perlvar{'lonTabDir'}/managers.tab")) {
             while (my $configline=<$config>) {              while (my $configline=<$config>) {
                 chomp($configline);                  chomp($configline);
                 next if ($configline =~ /^\#/);                  next if ($configline =~ /^\#/);
Line 14594  BEGIN { Line 11477  BEGIN {
   
 }  }
   
 # ------------- set default texengine (domain default overrides this)  
 {  
     $deftex = LONCAPA::texengine();  
 }  
   
 # ------------- set default minimum length for passwords for internal auth users  
 {  
     $passwdmin = LONCAPA::passwd_min();  
 }  
   
 $memcache=new Cache::Memcached({'servers'           => ['127.0.0.1:11211'],  $memcache=new Cache::Memcached({'servers'           => ['127.0.0.1:11211'],
  'compress_threshold'=> 20_000,   'compress_threshold'=> 20_000,
          });           });
Line 14761  were new keys. I.E. 1:foo will become 1: Line 11634  were new keys. I.E. 1:foo will become 1:
   
 Calling convention:  Calling convention:
   
  my %record=&Apache::lonnet::restore($symb,$courseid,$domain,$uname);   my %record=&Apache::lonnet::restore($symb,$courseid,$domain,$uname,$home);
  &Apache::lonnet::cstore(\%newrecord,$symb,$courseid,$domain,$uname,$laststore);   &Apache::lonnet::cstore(\%newrecord,$symb,$courseid,$domain,$uname,$home);
   
 For more detailed information, see lonnet specific documentation.  For more detailed information, see lonnet specific documentation.
   
Line 14898  escaped strings of the action recorded i Line 11771  escaped strings of the action recorded i
   
 =item *  =item *
   
 allowed($priv,$uri,$symb,$role,$clientip,$noblockcheck) : check for a user privilege;   allowed($priv,$uri,$symb,$role) : check for a user privilege; returns codes for allowed actions
 returns codes for allowed actions.  
   
 The first argument is required, all others are optional.  
   
 $priv is the privilege being checked.  
 $uri contains additional information about what is being checked for access (e.g.,  
 URL, course ID etc.).  
 $symb is the unique resource instance identifier in a course; if needed,  
 but not provided, it will be retrieved via a call to &symbread().  
 $role is the role for which a priv is being checked (only used if priv is evb).  
 $clientip is the user's IP address (only used when checking for access to portfolio  
 files).  
 $noblockcheck, if true, skips calls to &has_comm_blocking() for the bre priv. This  
 prevents recursive calls to &allowed.  
   
  F: full access   F: full access
  U,I,K: authentication modes (cxx only)   U,I,K: authentication modes (cxx only)
  '': forbidden   '': forbidden
  1: user needs to choose course   1: user needs to choose course
  2: browse allowed   2: browse allowed
  A: passphrase authentication needed   A: passphrase authentication needed
  B: access temporarily blocked because of a blocking event in a course.  
   
 =item *  
   
 constructaccess($url,$setpriv) : check for access to construction space URL  
   
 See if the owner domain and name in the URL match those in the  
 expected environment.  If so, return three element list  
 ($ownername,$ownerdomain,$ownerhome).  
   
 Otherwise return the null string.  
   
 If second argument 'setpriv' is true, it assigns the privileges,  
 and returns the same three element list, unless the owner has  
 blocked "ad hoc" Domain Coordinator access to the Author Space,  
 in which case the null string is returned.  
   
 =item *  =item *
   
 definerole($rolename,$sysrole,$domrole,$courole,$uname,$udom) : define role;  definerole($rolename,$sysrole,$domrole,$courole) : define role; define a custom
 define a custom role rolename set privileges in format of lonTabs/roles.tab  role rolename set privileges in format of lonTabs/roles.tab for system, domain,
 for system, domain, and course level. $uname and $udom are optional (current  and course level
 user's username and domain will be used when either of $uname or $udom are absent.  
   
 =item *  =item *
   
Line 14956  environment).  If no custom name is defi Line 11797  environment).  If no custom name is defi
         
 =item *  =item *
   
 get_my_roles($uname,$udom,$context,$types,$roles,$roledoms,$withsec,$hidepriv) :  get_my_roles($uname,$udom,$context,$types,$roles,$roledoms,$withsec) :
 All arguments are optional. Returns a hash of a roles, either for  All arguments are optional. Returns a hash of a roles, either for
 co-author/assistant author roles for a user's Construction Space  co-author/assistant author roles for a user's Construction Space
 (default), or if $context is 'userroles', roles for the user himself,  (default), or if $context is 'userroles', roles for the user himself,
Line 14970  of role statuses (active, future or prev Line 11811  of role statuses (active, future or prev
 to restrict the list of roles reported. If no array ref is   to restrict the list of roles reported. If no array ref is 
 provided for types, will default to return only active roles.  provided for types, will default to return only active roles.
   
 =item *  
   
 in_course($udom,$uname,$cdom,$cnum,$type,$hideprivileged) : determine if  
 user: $uname:$udom has a role in the course: $cdom_$cnum.  
   
 Additional optional arguments are: $type (if role checking is to be restricted  
 to certain user status types -- previous (expired roles), active (currently  
 available roles) or future (roles available in the future), and  
 $hideprivileged -- if true will not report course roles for users who  
 have active Domain Coordinator role in course's domain or in additional  
 domains (specified in 'Domains to check for privileged users' in course  
 environment -- set via:  Course Settings -> Classlists and staff listing).  
   
 =item *  
   
 privileged($username,$domain,$possdomains,$possroles) : returns 1 if user  
 $username:$domain is a privileged user (e.g., Domain Coordinator or Super User)  
 $possdomains and $possroles are optional array refs -- to domains to check and  
 roles to check.  If $possdomains is not specified, a dump will be done of the  
 users' roles.db to check for a dc or su role in any domain. This can be  
 time consuming if &privileged is called repeatedly (e.g., when displaying a  
 classlist), so in such cases, supplying a $possdomains array is preferred, as  
 this then allows &privileged_by_domain() to be used, which caches the identity  
 of privileged users, eliminating the need for repeated calls to &dump().  
   
 =item *  
   
 privileged_by_domain($possdomains,$roles) : returns a hash of a hash of a hash,  
 where the outer hash keys are domains specified in the $possdomains array ref,  
 next inner hash keys are privileged roles specified in the $roles array ref,  
 and the innermost hash contains key = value pairs for username:domain = end:start  
 for active or future "privileged" users with that role in that domain. To avoid  
 repeated dumps of domain roles -- via &get_domain_roles() -- contents of the  
 innerhash are cached using priv_$role and $dom as the identifiers.  
   
 =back  =back
   
 =head2 User Modification  =head2 User Modification
Line 15046  or when Autoupdate.pl is run by cron in Line 11852  or when Autoupdate.pl is run by cron in
 modifystudent  modifystudent
   
 modify a student's enrollment and identification information.  modify a student's enrollment and identification information.
 The course id is resolved based on the current user's environment.    The course id is resolved based on the current users environment.  
 This means the invoking user must be a course coordinator or otherwise  This means the envoking user must be a course coordinator or otherwise
 associated with a course.  associated with a course.
   
 This call is essentially a wrapper for lonnet::modifyuser and  This call is essentially a wrapper for lonnet::modifyuser and
Line 15097  Inputs: Line 11903  Inputs:
   
 =item B<$context> role change context (shown in User Management Logs display in a course)  =item B<$context> role change context (shown in User Management Logs display in a course)
   
 =item B<$inststatus> institutional status of user - : separated string of escaped status types  =item B<$inststatus> institutional status of user - : separated string of escaped status types  
   
 =item B<$credits> Number of credits student will earn from this class - only needs to be supplied if value needs to be different from default credits for class.  
   
 =back  =back
   
Line 15107  Inputs: Line 11911  Inputs:
   
 modify_student_enrollment  modify_student_enrollment
   
 Change a student's enrollment status in a class.  The environment variable  Change a students enrollment status in a class.  The environment variable
 'role.request.course' must be defined for this function to proceed.  'role.request.course' must be defined for this function to proceed.
   
 Inputs:  Inputs:
   
 =over 4  =over 4
   
 =item $udom, student's domain  =item $udom, students domain
   
 =item $uname, student's name  =item $uname, students name
   
 =item $uid, student's user id  =item $uid, students user id
   
 =item $first, student's first name  =item $first, students first name
   
 =item $middle  =item $middle
   
Line 15144  Inputs: Line 11948  Inputs:
   
 =item $context  =item $context
   
 =item $credits, number of credits student will earn from this class  
   
 =item $instsec, institutional course section code for student  
   
 =back  =back
   
   
Line 15204  If defined, the supplied username is use Line 12004  If defined, the supplied username is use
 resdata($name,$domain,$type,@which) : request for current parameter  resdata($name,$domain,$type,@which) : request for current parameter
 setting for a specific $type, where $type is either 'course' or 'user',  setting for a specific $type, where $type is either 'course' or 'user',
 @what should be a list of parameters to ask about. This routine caches  @what should be a list of parameters to ask about. This routine caches
 answers for 10 minutes.  answers for 5 minutes.
   
 =item *  =item *
   
Line 15213  data base, returning a hash that is keye Line 12013  data base, returning a hash that is keye
 values that are the resource value.  I believe that the timestamps and  values that are the resource value.  I believe that the timestamps and
 versions are also returned.  versions are also returned.
   
 get_numsuppfiles($cnum,$cdom) : retrieve number of files in a course's  
 supplemental content area. This routine caches the number of files for  
 10 minutes.  
   
 =back  =back
   
Line 15251  Returns: Line 12048  Returns:
   
 =back  =back
   
 =head2 Bubblesheet Configuration  
   
 =over 4  
   
 =item *  
   
 get_scantron_config($which)  
   
 $which - the name of the configuration to parse from the file.  
   
 Parses and returns the bubblesheet configuration line selected as a  
 hash of configuration file fields.  
   
   
 Returns:  
     If the named configuration is not in the file, an empty  
     hash is returned.  
   
     a hash with the fields  
       name         - internal name for the this configuration setup  
       description  - text to display to operator that describes this config  
       CODElocation - if 0 or the string 'none'  
                           - no CODE exists for this config  
                      if -1 || the string 'letter'  
                           - a CODE exists for this config and is  
                             a string of letters  
                      Unsupported value (but planned for future support)  
                           if a positive integer  
                                - The CODE exists as the first n items from  
                                  the question section of the form  
                           if the string 'number'  
                                - The CODE exists for this config and is  
                                  a string of numbers  
       CODEstart   - (only matter if a CODE exists) column in the line where  
                      the CODE starts  
       CODElength  - length of the CODE  
       IDstart     - column where the student/employee ID starts  
       IDlength    - length of the student/employee ID info  
       Qstart      - column where the information from the bubbled  
                     'questions' start  
       Qlength     - number of columns comprising a single bubble line from  
                     the sheet. (usually either 1 or 10)  
       Qon         - either a single character representing the character used  
                     to signal a bubble was chosen in the positional setup, or  
                     the string 'letter' if the letter of the chosen bubble is  
                     in the final, or 'number' if a number representing the  
                     chosen bubble is in the file (1->A 0->J)  
       Qoff        - the character used to represent that a bubble was  
                     left blank  
       PaperID     - if the scanning process generates a unique number for each  
                     sheet scanned the column that this ID number starts in  
       PaperIDlength - number of columns that comprise the unique ID number  
                       for the sheet of paper  
       FirstName   - column that the first name starts in  
       FirstNameLength - number of columns that the first name spans  
       LastName    - column that the last name starts in  
       LastNameLength - number of columns that the last name spans  
       BubblesPerRow - number of bubbles available in each row used to  
                       bubble an answer. (If not specified, 10 assumed).  
   
   
 =item *  
   
 get_scantronformat_file($cdom)  
   
 $cdom - the course's domain (optional); if not supplied, uses  
 domain for current $env{'request.course.id'}.  
   
 Returns an array containing lines from the scantron format file for  
 the domain of the course.  
   
 If a url for a custom.tab file is listed in domain's configuration.db,  
 lines are from this file.  
   
 Otherwise, if a default.tab has been published in RES space by the  
 domainconfig user, lines are from this file.  
   
 Otherwise, fall back to getting lines from the legacy file on the  
 local server:  /home/httpd/lonTabs/default_scantronformat.tab  
   
 =back  
   
 =head2 Resource Subroutines  =head2 Resource Subroutines
   
 =over 4  =over 4
Line 15358  resource. Expects the local filesystem p Line 12073  resource. Expects the local filesystem p
   
 =item *  =item *
   
 EXT($varname,$symb,$udom,$uname,$usection,$recurse,$cid) : evaluates   EXT($varname,$symb,$udom,$uname) : evaluates and returns the value of
 and returns the value of a variety of different possible values,  a vairety of different possible values, $varname should be a request
 $varname should be a request string, and the other parameters can be  string, and the other parameters can be used to specify who and what
 used to specify who and what one is asking about. Ordinarily, $cid   one is asking about.
 does not need to be specified, as it is retrived from   
 $env{'request.course.id'}, but &Apache::lonnet::EXT() is called  
 within lonuserstate::loadmap() when initializing a course, before  
 $env{'request.course.id'} has been set, so it needs to be provided  
 in that one case.  
   
 Possible values for $varname are environment.lastname (or other item  Possible values for $varname are environment.lastname (or other item
 from the envirnment hash), user.name (or someother aspect about the  from the envirnment hash), user.name (or someother aspect about the
Line 15399  will be stored for query Line 12109  will be stored for query
   
 =item *  =item *
   
 symbread($filename,$donotrecurse,$ignorecachednull,$checkforblock,$possibles) :  symbread($filename) : return symbolic list entry (filename argument optional);
 return symbolic list entry (all arguments optional).  
   
 Args: filename is the filename (including path) for the file for which a symb  
 is required; donotrecurse, if true will prevent calls to allowed() being made  
 to check access status if more than one resource was found in the bighash  
 (see rev. 1.249) to avoid an infinite loop if an ambiguous resource is part of  
 a randompick); ignorecachednull, if true will prevent a symb of '' being  
 returned if $env{$cache_str} is defined as ''; checkforblock if true will  
 cause possible symbs to be checked to determine if they are subject to content  
 blocking, if so they will not be included as possible symbs; possibles is a  
 ref to a hash, which, as a side effect, will be populated with all possible  
 symbs (content blocking not tested).  
   
 returns the data handle  returns the data handle
   
 =item *  =item *
   
 symbverify($symb,$thisfn,$encstate) : verifies that $symb actually exists  symbverify($symb,$thisfn) : verifies that $symb actually exists and is
 and is a possible symb for the URL in $thisfn, and if is an encrypted  a possible symb for the URL in $thisfn, and if is an encryypted
 resource that the user accessed using /enc/ returns a 1 on success, 0  resource that the user accessed using /enc/ returns a 1 on success, 0
 on failure, user must be in a course, as it assumes the existence of  on failure, user must be in a course, as it assumes the existance of
 the course initial hash, and uses $env('request.course.id'}.  The third  the course initial hash, and uses $env('request.course.id'}
 arg is an optional reference to a scalar.  If this arg is passed in the  
 call to symbverify, it will be set to 1 if the symb has been set to be   
 encrypted; otherwise it will be null.  
   
 =item *  =item *
   
Line 15477  expirespread($uname,$udom,$stype,$usymb) Line 12172  expirespread($uname,$udom,$stype,$usymb)
 devalidate($symb) : devalidate temporary spreadsheet calculations,  devalidate($symb) : devalidate temporary spreadsheet calculations,
 forcing spreadsheet to reevaluate the resource scores next time.  forcing spreadsheet to reevaluate the resource scores next time.
   
 =item *  
   
 can_edit_resource($file,$cnum,$cdom,$resurl,$symb,$group) : determine if current user can edit a particular resource,  
 when viewing in course context.  
   
  input: six args -- filename (decluttered), course number, course domain,  
                     url, symb (if registered) and group (if this is a  
                     group item -- e.g., bulletin board, group page etc.).  
   
  output: array of five scalars --  
          $cfile -- url for file editing if editable on current server  
          $home -- homeserver of resource (i.e., for author if published,  
                                           or course if uploaded.).  
          $switchserver --  1 if server switch will be needed.  
          $forceedit -- 1 if icon/link should be to go to edit mode  
          $forceview -- 1 if icon/link should be to go to view mode  
   
 =item *  
   
 is_course_upload($file,$cnum,$cdom)  
   
 Used in course context to determine if current file was uploaded to  
 the course (i.e., would be found in /userfiles/docs on the course's  
 homeserver.  
   
   input: 3 args -- filename (decluttered), course number and course domain.  
   output: boolean -- 1 if file was uploaded.  
   
 =back  =back
   
 =head2 Storing/Retreiving Data  =head2 Storing/Retreiving Data
Line 15513  homeserver. Line 12180  homeserver.
   
 =item *  =item *
   
 store($storehash,$symb,$namespace,$udom,$uname,$laststore) : stores hash   store($storehash,$symb,$namespace,$udom,$uname) : stores hash permanently
 permanently for this url; hashref needs to be given and should be a \%hashname;  for this url; hashref needs to be given and should be a \%hashname; the
 the remaining args aren't required and if they aren't passed or are '' they will  remaining args aren't required and if they aren't passed or are '' they will
 be derived from the env (with the exception of $laststore, which is an  be derived from the env
 optional arg used when a user's submission is stored in grading).  
 $laststore is $version=$timestamp, where $version is the most recent version  
 number retrieved for the corresponding $symb in the $namespace db file, and  
 $timestamp is the timestamp for that transaction (UNIX time).  
 $laststore is currently only passed when cstore() is called by  
 structuretags::finalize_storage().  
   
 =item *  =item *
   
 cstore($storehash,$symb,$namespace,$udom,$uname,$laststore) : same as store   cstore($storehash,$symb,$namespace,$udom,$uname) : same as store but
 but uses critical subroutine  uses critical subroutine
   
 =item *  =item *
   
Line 15550  $range should be either an integer '100' Line 12211  $range should be either an integer '100'
   
 =item *  =item *
   
 putstore($namespace,$symb,$version,$storehash,$udomain,$uname,$tolog) :  putstore($namespace,$symb,$version,$storehash,$udomain,$uname) :
 replaces a &store() version of data with a replacement set of data  replaces a &store() version of data with a replacement set of data
 for a particular resource in a namespace passed in the $storehash hash   for a particular resource in a namespace passed in the $storehash hash 
 reference. If $tolog is true, the transaction is logged in the courselog  reference
 with an action=PUTSTORE.  
   
 =item *  =item *
   
Line 15664  server ($udom and $uhome are optional) Line 12324  server ($udom and $uhome are optional)
   
 =item *   =item * 
   
 get_domain_defaults($target_domain,$ignore_cache) : returns hash with defaults  get_domain_defaults($target_domain) : returns hash with defaults for
 for: authentication, language, quotas, timezone, date locale, and portal URL in  authentication and language in the domain. Keys are: auth_def, auth_arg_def,
 the target domain.  lang_def; corresponsing values are authentication type (internal, krb4, krb5,
   or localauth), initial password or a kerberos realm, language (e.g., en-us).
 May also include additional key => value pairs for the following groups:  Values are retrieved from cache (if current), or from domain's configuration.db
   (if available), or lastly from values in lonTabs/dns_domain,tab, 
 =over  or lonTabs/domain.tab. 
   
 =item  
 disk quotas (MB allocated by default to portfolios and authoring spaces).  
   
 =over  
   
 =item defaultquota, authorquota  
   
 =back  
   
 =item  
 tools (availability of aboutme page, blog, webDAV access for authoring spaces,  
 portfolio for users).  
   
 =over  
   
 =item  
 aboutme, blog, webdav, portfolio  
   
 =back  
   
 =item  
 requestcourses: ability to request courses, and how requests are processed.  
   
 =over  
   
 =item  
 official, unofficial, community, textbook  
   
 =back  
   
 =item  
 inststatus: types of institutional affiliation, and order in which they are displayed.  
   
 =over  
   
 =item  
 inststatustypes, inststatusorder, inststatusguest  
   
 =back  
   
 =item  
 coursedefaults: can PDF forms can be created, default credits for courses, default quotas (MB)  
 for course's uploaded content.  
   
 =over  
   
 =item  %domdefaults = &get_auth_defaults($target_domain);
 canuse_pdfforms, officialcredits, unofficialcredits, textbookcredits, officialquota, unofficialquota,  
 communityquota, textbookquota  
   
 =back  
   
 =item  
 usersessions: set options for hosting of your users in other domains, and hosting of users from other domains  
 on your servers.  
   
 =over  
   
 =item  
 remotesessions, hostedsessions  
   
 =back  
   
 =back  
   
 In cases where a domain coordinator has never used the "Set Domain Configuration"  
 utility to create a configuration.db file on a domain's primary library server  
 only the following domain defaults: auth_def, auth_arg_def, lang_def  
 -- corresponding values are authentication type (internal, krb4, krb5,  
 or localauth), initial password or a kerberos realm, language (e.g., en-us) --  
 will be available. Values are retrieved from cache (if current), unless the  
 optional $ignore_cache arg is true, or from domain's configuration.db (if available),  
 or lastly from values in lonTabs/dns_domain,tab, or lonTabs/domain.tab.  
   
 Typical usage:  
   
 %domdefaults = &get_domain_defaults($target_domain);  
   
 =back  =back
   
Line 15973  filelocation except for hrefs Line 12557  filelocation except for hrefs
   
 =item *  =item *
   
 declutter() : declutters URLs -- remove beginning slashes, 'res' etc.  declutter() : declutters URLs (remove docroot, beginning slashes, 'res' etc)
 also removes beginning /home/httpd/html unless /priv/ follows it.  
   
 =back  =back
   
Line 16024  userspace, probably shouldn't be called Line 12607  userspace, probably shouldn't be called
   formname: same as for userfileupload()    formname: same as for userfileupload()
   fname: filename (including subdirectories) for the file    fname: filename (including subdirectories) for the file
   parser: if 'parse', will parse (html) file to extract references to objects, links etc.    parser: if 'parse', will parse (html) file to extract references to objects, links etc.
           if hashref, and context is scantron, will convert csv format to standard format  
   allfiles: reference to hash used to store objects found by parser    allfiles: reference to hash used to store objects found by parser
   codebase: reference to hash used for codebases of java objects found by parser    codebase: reference to hash used for codebases of java objects found by parser
   thumbwidth: width (pixels) of thumbnail to be created for uploaded image    thumbwidth: width (pixels) of thumbnail to be created for uploaded image
Line 16145  Internal notes: Line 12727  Internal notes:
     
  Locks on files (resulting from submission of portfolio file to a homework problem stored in array of arrays.   Locks on files (resulting from submission of portfolio file to a homework problem stored in array of arrays.
   
 =item *  
   
 modify_access_controls():  modify_access_controls():
   
 Modifies access controls for a portfolio file  Modifies access controls for a portfolio file
Line 16164  Returns: Line 12744  Returns:
 3. reference to hash of any new or updated access controls.  3. reference to hash of any new or updated access controls.
 4. reference to hash used to map incoming IDs to uniqueIDs assigned to control.  4. reference to hash used to map incoming IDs to uniqueIDs assigned to control.
    key = integer (inbound ID)     key = integer (inbound ID)
    value = uniqueID     value = uniqueID  
   
 =item *  
   
 get_timebased_id():  
   
 Attempts to get a unique timestamp-based suffix for use with items added to a  
 course via the Course Editor (e.g., folders, composite pages,  
 group bulletin boards).  
   
 Args: (first three required; six others optional)  
   
 1. prefix (alphanumeric): of keys in hash, e.g., suppsequence, docspage,  
    docssequence, or name of group  
   
 2. keyid (alphanumeric): name of temporary locking key in hash,  
    e.g., num, boardids  
   
 3. namespace: name of gdbm file used to store suffixes already assigned;  
    file will be named nohist_namespace.db  
   
 4. cdom: domain of course; default is current course domain from %env  
   
 5. cnum: course number; default is current course number from %env  
   
 6. idtype: set to concat if an additional digit is to be appended to the  
    unix timestamp to form the suffix, if the plain timestamp is already  
    in use.  Default is to not do this, but simply increment the unix  
    timestamp by 1 until a unique key is obtained.  
   
 7. who: holder of locking key; defaults to user:domain for user.  
   
 8. locktries: number of attempts to obtain a lock (sleep of 1s before  
    retrying); default is 3.  
   
 9. maxtries: number of attempts to obtain a unique suffix; default is 20.  
   
 Returns:  
   
 1. suffix obtained (numeric)  
   
 2. result of deleting locking key (ok if deleted, or lock never obtained)  
   
 3. error: contains (localized) error message if an error occurred.  
   
   
 =back  =back
   
Removed from v.1.1172.2.144  
changed lines
  Added in v.1.1180

FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>