Diff for /loncom/interface/Attic/lonspreadsheet.pm between versions 1.21 and 1.147

version 1.21, 2000/12/30 19:59:18 version 1.147, 2002/11/21 19:26:34
Line 1 Line 1
   #
   # $Id$
   #
   # Copyright Michigan State University Board of Trustees
   #
   # This file is part of the LearningOnline Network with CAPA (LON-CAPA).
   #
   # LON-CAPA is free software; you can redistribute it and/or modify
   # it under the terms of the GNU General Public License as published by
   # the Free Software Foundation; either version 2 of the License, or
   # (at your option) any later version.
   #
   # LON-CAPA is distributed in the hope that it will be useful,
   # but WITHOUT ANY WARRANTY; without even the implied warranty of
   # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
   # GNU General Public License for more details.
   #
   # You should have received a copy of the GNU General Public License
   # along with LON-CAPA; if not, write to the Free Software
   # Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
   #
   # /home/httpd/html/adm/gpl.txt
   #
   # http://www.lon-capa.org/
   #
 # The LearningOnline Network with CAPA  # The LearningOnline Network with CAPA
 # Spreadsheet/Grades Display Handler  # Spreadsheet/Grades Display Handler
 #  #
 # 11/11,11/15,11/27,12/04,12/05,12/06,12/07,  # POD required stuff:
 # 12/08,12/09,12/11,12/12,12/15,12/16,12/18,12/19,12/30 Gerd Kortemeyer  
   
 package Apache::lonspreadsheet;  =head1 NAME
   
   lonspreadsheet
   
   =head1 SYNOPSIS
   
   Spreadsheet interface to internal LON-CAPA data
   
   =head1 DESCRIPTION
   
   Lonspreadsheet provides course coordinators the ability to manage their
   students grades online.  The students are able to view their own grades, but
   not the grades of their peers.  The spreadsheet is highly customizable,
   offering the ability to use Perl code to manipulate data, as well as many
   built-in functions.
   
   =head2 Functions available to user of lonspreadsheet
   
   =over 4
   
   =cut
   
   package Apache::lonspreadsheet;
               
 use strict;  use strict;
   use Apache::Constants qw(:common :http);
   use Apache::lonnet;
   use Apache::lonhtmlcommon;
   use Apache::loncoursedata;
   use Apache::File();
 use Safe;  use Safe;
 use Safe::Hole;  use Safe::Hole;
 use Opcode;  use Opcode;
 use Apache::lonnet;  
 use Apache::Constants qw(:common :http);  
 use GDBM_File;  use GDBM_File;
 use HTML::TokeParser;  use HTML::TokeParser;
   use Spreadsheet::WriteExcel;
   
   #
   # Caches for coursewide information 
   #
   my %Section;
   
   #
   # Caches for previously calculated spreadsheets
   #
   
   my %oldsheets;
   my %loadedcaches;
   my %expiredates;
   
   #
   # Cache for stores of an individual user
   #
   
   my $cachedassess;
   my %cachedstores;
   
 #  #
 # These cache hashes need to be independent of user, resource and course  # These cache hashes need to be independent of user, resource and course
 # (user and course are in the keys)  # (user and course can/should be in the keys)
 #  #
 use vars qw(%spreadsheets %courserdatas %userrdatas);  
   my %spreadsheets;
   my %courserdatas;
   my %userrdatas;
   my %defaultsheets;
   my %rowlabel_cache;
   
 #  #
 # These global hashes are dependent on user, course and resource,   # These global hashes are dependent on user, course and resource, 
 # and need to be initialized every time when a sheet is calculated  # and need to be initialized every time when a sheet is calculated
Line 27  use vars qw(%spreadsheets %courserdatas Line 103  use vars qw(%spreadsheets %courserdatas
 my %courseopt;  my %courseopt;
 my %useropt;  my %useropt;
 my %parmhash;  my %parmhash;
 my $csec;  
 my $uname;  
 my $udom;  
   
 # =============================================================================  #
 # ===================================== Implements an instance of a spreadsheet  # Some hashes for stats on timing and performance
   #
   
 sub initsheet {  my %starttimes;
     my $safeeval = new Safe;  my %usedtimes;
     my $safehole = new Safe::Hole;  my %numbertimes;
     $safeeval->permit("entereval");  
     $safeeval->permit(":base_math");  
     $safeeval->permit("sort");  
     $safeeval->deny(":base_io");  
     $safehole->wrap(\&Apache::lonnet::EXT,$safeeval,'&EXT');  
     my $code=<<'ENDDEFS';  
 # ---------------------------------------------------- Inside of the safe space  
   
 #  # Stuff that only the screen handler can know
 # f: formulas  
 # t: intermediate format (variable references expanded)  
 # v: output values  
 # c: preloaded constants (A-column)  
 # rl: row label  
   
 %v=();   my $includedir;
 %t=();  my $tmpdir;
 %f=();  
 %c=();  
 %rl=();  
   
 $maxrow=0;  
 $sheettype='';  
 $filename='';  
   
   # =============================================================================
   # ===================================== Implements an instance of a spreadsheet
   
   ##
   ## mask - used to reside in the safe space.  
   ##
 sub mask {  sub mask {
     my ($lower,$upper)=@_;      my ($lower,$upper)=@_;
       $upper = $lower if (! defined($upper));
     $lower=~/([A-Za-z]|\*)(\d+|\*)/;      #
     my $la=$1;      my ($la,$ld) = ($lower=~/([A-Za-z]|\*)(\d+|\*)/);
     my $ld=$2;      my ($ua,$ud) = ($upper=~/([A-Za-z]|\*)(\d+|\*)/);
       #
     $upper=~/([A-Za-z]|\*)(\d+|\*)/;  
     my $ua=$1;  
     my $ud=$2;  
     my $alpha='';      my $alpha='';
     my $num='';      my $num='';
       #
     if (($la eq '*') || ($ua eq '*')) {      if (($la eq '*') || ($ua eq '*')) {
        $alpha='[A-Za-z]';          $alpha='[A-Za-z]';
     } else {      } else {
        if (($la=~/[A-Z]/) && ($ua=~/[A-Z]/) ||         if (($la=~/[A-Z]/) && ($ua=~/[A-Z]/) ||
            ($la=~/[a-z]/) && ($ua=~/[a-z]/)) {             ($la=~/[a-z]/) && ($ua=~/[a-z]/)) {
Line 85  sub mask { Line 143  sub mask {
           $alpha='['.$la.'-Za-'.$ua.']';            $alpha='['.$la.'-Za-'.$ua.']';
        }         }
     }         }   
   
     if (($ld eq '*') || ($ud eq '*')) {      if (($ld eq '*') || ($ud eq '*')) {
  $num='\d+';   $num='\d+';
     } else {      } else {
         if (length($ld)!=length($ud)) {          if (length($ld)!=length($ud)) {
            $num.='(';             $num.='(';
    map {     foreach ($ld=~m/\d/g) {
               $num.='['.$_.'-9]';                $num.='['.$_.'-9]';
            } ($ld=~m/\d/g);     }
            if (length($ud)-length($ld)>1) {             if (length($ud)-length($ld)>1) {
               $num.='|\d{'.(length($ld)+1).','.(length($ud)-1).'}';                $num.='|\d{'.(length($ld)+1).','.(length($ud)-1).'}';
    }     }
            $num.='|';             $num.='|';
            map {             foreach ($ud=~m/\d/g) {
                $num.='[0-'.$_.']';                 $num.='[0-'.$_.']';
            } ($ud=~m/\d/g);             }
            $num.=')';             $num.=')';
        } else {         } else {
            my @lda=($ld=~m/\d/g);             my @lda=($ld=~m/\d/g);
            my @uda=($ud=~m/\d/g);             my @uda=($ud=~m/\d/g);
            my $i; $j=0; $notdone=1;             my $i; 
              my $j=0; 
              my $notdone=1;
            for ($i=0;($i<=$#lda)&&($notdone);$i++) {             for ($i=0;($i<=$#lda)&&($notdone);$i++) {
                if ($lda[$i]==$uda[$i]) {                 if ($lda[$i]==$uda[$i]) {
    $num.=$lda[$i];     $num.=$lda[$i];
Line 129  sub mask { Line 188  sub mask {
                }                 }
                $num.=')';                 $num.=')';
            } else {             } else {
                if ($lda[$#lda]!=$uda[$#uda]) {                 if ($lda[-1]!=$uda[-1]) {
                   $num.='['.$lda[$#lda].'-'.$uda[$#uda].']';                    $num.='['.$lda[-1].'-'.$uda[-1].']';
        }         }
            }             }
        }         }
Line 138  sub mask { Line 197  sub mask {
     return '^'.$alpha.$num."\$";      return '^'.$alpha.$num."\$";
 }  }
   
   sub initsheet {
       my $safeeval = new Safe(shift);
       my $safehole = new Safe::Hole;
       $safeeval->permit("entereval");
       $safeeval->permit(":base_math");
       $safeeval->permit("sort");
       $safeeval->deny(":base_io");
       $safehole->wrap(\&Apache::lonnet::EXT,$safeeval,'&EXT');
       $safehole->wrap(\&Apache::lonspreadsheet::mask,$safeeval,'&mask');
       $safeeval->share('$@');
       my $code=<<'ENDDEFS';
   # ---------------------------------------------------- Inside of the safe space
   
   #
   # f: formulas
   # t: intermediate format (variable references expanded)
   # v: output values
   # c: preloaded constants (A-column)
   # rl: row label
   # os: other spreadsheets (for student spreadsheet only)
   
   undef %sheet_values;   # Holds the (computed, final) values for the sheet
       # This is only written to by &calc, the spreadsheet computation routine.
       # It is read by many functions
   undef %t; # Holds the values of the spreadsheet temporarily. Set in &sett, 
       # which does the translation of strings like C5 into the value in C5.
       # Used in &calc - %t holds the values that are actually eval'd.
   undef %f;    # Holds the formulas for each cell.  This is the users
       # (spreadsheet authors) data for each cell.
       # set by &setformulas and returned by &getformulas
       # &setformulas is called by &readsheet, &tmpread, &updateclasssheet,
       # &updatestudentassesssheet, &loadstudent, &loadcourse
       # &getformulas is called by &writesheet, &tmpwrite, &updateclasssheet,
       # &updatestudentassesssheet, &loadstudent, &loadcourse, &loadassessment, 
   undef %c; # Holds the constants for a sheet.  In the assessment
       # sheets, this is the A column.  Used in &MINPARM, &MAXPARM, &expandnamed,
       # &sett, and &setconstants.  There is no &getconstants.
       # &setconstants is called by &loadstudent, &loadcourse, &load assessment,
   undef @os;  # Holds the names of other spreadsheets - this is used to specify
       # the spreadsheets that are available for the assessment sheet.
       # Set by &setothersheets.  &setothersheets is called by &handler.  A
       # related subroutine is &othersheets.
   #$errorlog = '';
   
   $maxrow = 0;
   $sheettype = '';
   
   # filename/reference of the sheet
   $filename = '';
   
   # user data
   $uname = '';
   $uhome = '';
   $udom  = '';
   
   # course data
   
   $csec = '';
   $chome= '';
   $cnum = '';
   $cdom = '';
   $cid  = '';
   $coursefilename  = '';
   
   # symb
   
   $usymb = '';
   
   # error messages
   $errormsg = '';
   
   
   #-------------------------------------------------------
   
   =item UWCALC(hashname,modules,units,date) 
   
   returns the proportion of the module 
   weights not previously completed by the student.
   
   =over 4
   
   =item hashname 
   
   name of the hash the module dates have been inserted into
   
   =item modules 
   
   reference to a cell which contains a comma deliminated list of modules 
   covered by the assignment.
   
   =item units 
   
   reference to a cell which contains a comma deliminated list of module 
   weights with respect to the assignment
   
   =item date 
   
   reference to a cell which contains the date the assignment was completed.
   
   =back 
   
   =cut
   
   #-------------------------------------------------------
   sub UWCALC {
       my ($hashname,$modules,$units,$date) = @_;
       my @Modules = split(/,/,$modules);
       my @Units   = split(/,/,$units);
       my $total_weight;
       foreach (@Units) {
    $total_weight += $_;
       }
       my $usum=0;
       for (my $i=0; $i<=$#Modules; $i++) {
    if (&HASH($hashname,$Modules[$i]) eq $date) {
       $usum += $Units[$i];
    }
       }
       return $usum/$total_weight;
   }
   
   #-------------------------------------------------------
   
   =item CDLSUM(list) 
   
   returns the sum of the elements in a cell which contains
   a Comma Deliminate List of numerical values.
   'list' is a reference to a cell which contains a comma deliminated list.
   
   =cut
   
   #-------------------------------------------------------
   sub CDLSUM {
       my ($list)=@_;
       my $sum;
       foreach (split/,/,$list) {
    $sum += $_;
       }
       return $sum;
   }
   
   #-------------------------------------------------------
   
   =item CDLITEM(list,index) 
   
   returns the item at 'index' in a Comma Deliminated List.
   
   =over 4
   
   =item list
   
   reference to a cell which contains a comma deliminated list.
   
   =item index 
   
   the Perl index of the item requested (first element in list has
   an index of 0) 
   
   =back
   
   =cut
   
   #-------------------------------------------------------
   sub CDLITEM {
       my ($list,$index)=@_;
       my @Temp = split/,/,$list;
       return $Temp[$index];
   }
   
   #-------------------------------------------------------
   
   =item CDLHASH(name,key,value) 
   
   loads a comma deliminated list of keys into
   the hash 'name', all with a value of 'value'.
   
   =over 4
   
   =item name  
   
   name of the hash.
   
   =item key
   
   (a pointer to) a comma deliminated list of keys.
   
   =item value
   
   a single value to be entered for each key.
   
   =back
   
   =cut
   
   #-------------------------------------------------------
   sub CDLHASH {
       my ($name,$key,$value)=@_;
       my @Keys;
       my @Values;
       # Check to see if we have multiple $key values
       if ($key =~ /[A-z](\-[A-z])?\d+(\-\d+)?/) {
    my $keymask = &mask($key);
    # Assume the keys are addresses
    my @Temp = grep /$keymask/,keys(%sheet_values);
    @Keys = $sheet_values{@Temp};
       } else {
    $Keys[0]= $key;
       }
       my @Temp;
       foreach $key (@Keys) {
    @Temp = (@Temp, split/,/,$key);
       }
       @Keys = @Temp;
       if ($value =~ /[A-z](\-[A-z])?\d+(\-\d+)?/) {
    my $valmask = &mask($value);
    my @Temp = grep /$valmask/,keys(%sheet_values);
    @Values =$sheet_values{@Temp};
       } else {
    $Values[0]= $value;
       }
       $value = $Values[0];
       # Add values to hash
       for (my $i = 0; $i<=$#Keys; $i++) {
    my $key   = $Keys[$i];
    if (! exists ($hashes{$name}->{$key})) {
       $hashes{$name}->{$key}->[0]=$value;
    } else {
       my @Temp = sort(@{$hashes{$name}->{$key}},$value);
       $hashes{$name}->{$key} = \@Temp;
    }
       }
       return "hash '$name' updated";
   }
   
   #-------------------------------------------------------
   
   =item GETHASH(name,key,index) 
   
   returns the element in hash 'name' 
   reference by the key 'key', at index 'index' in the values list.
   
   =cut
   
   #-------------------------------------------------------
   sub GETHASH {
       my ($name,$key,$index)=@_;
       if (! defined($index)) {
    $index = 0;
       }
       if ($key =~ /^[A-z]\d+$/) {
    $key = $sheet_values{$key};
       }
       return $hashes{$name}->{$key}->[$index];
   }
   
   #-------------------------------------------------------
   
   =item CLEARHASH(name) 
   
   clears all the values from the hash 'name'
   
   =item CLEARHASH(name,key) 
   
   clears all the values from the hash 'name' associated with the given key.
   
   =cut
   
   #-------------------------------------------------------
   sub CLEARHASH {
       my ($name,$key)=@_;
       if (defined($key)) {
    if (exists($hashes{$name}->{$key})) {
       $hashes{$name}->{$key}=undef;
       return "hash '$name' key '$key' cleared";
    }
       } else {
    if (exists($hashes{$name})) {
       $hashes{$name}=undef;
       return "hash '$name' cleared";
    }
       }
       return "Error in clearing hash";
   }
   
   #-------------------------------------------------------
   
   =item HASH(name,key,value) 
   
   loads values into an internal hash.  If a key 
   already has a value associated with it, the values are sorted numerically.  
   
   =item HASH(name,key) 
   
   returns the 0th value in the hash 'name' associated with 'key'.
   
   =cut
   
   #-------------------------------------------------------
   sub HASH {
       my ($name,$key,$value)=@_;
       my @Keys;
       undef @Keys;
       my @Values;
       # Check to see if we have multiple $key values
       if ($key =~ /[A-z](\-[A-z])?\d+(\-\d+)?/) {
    my $keymask = &mask($key);
    # Assume the keys are addresses
    my @Temp = grep /$keymask/,keys(%sheet_values);
    @Keys = $sheet_values{@Temp};
       } else {
    $Keys[0]= $key;
       }
       # If $value is empty, return the first value associated 
       # with the first key.
       if (! $value) {
    return $hashes{$name}->{$Keys[0]}->[0];
       }
       # Check to see if we have multiple $value(s) 
       if ($value =~ /[A-z](\-[A-z])?\d+(\-\d+)?/) {
    my $valmask = &mask($value);
    my @Temp = grep /$valmask/,keys(%sheet_values);
    @Values =$sheet_values{@Temp};
       } else {
    $Values[0]= $value;
       }
       # Add values to hash
       for (my $i = 0; $i<=$#Keys; $i++) {
    my $key   = $Keys[$i];
    my $value = ($i<=$#Values ? $Values[$i] : $Values[0]);
    if (! exists ($hashes{$name}->{$key})) {
       $hashes{$name}->{$key}->[0]=$value;
    } else {
       my @Temp = sort(@{$hashes{$name}->{$key}},$value);
       $hashes{$name}->{$key} = \@Temp;
    }
       }
       return $Values[-1];
   }
   
   #-------------------------------------------------------
   
   =item NUM(range)
   
   returns the number of items in the range.
   
   =cut
   
   #-------------------------------------------------------
 sub NUM {  sub NUM {
     my $mask=mask(@_);      my $mask=mask(@_);
     my $num=0;      my $num= $#{@{grep(/$mask/,keys(%sheet_values))}}+1;
     map {  
         $num++;  
     } grep /$mask/,keys %v;  
     return $num;         return $num;   
 }  }
   
Line 151  sub BIN { Line 555  sub BIN {
     my ($low,$high,$lower,$upper)=@_;      my ($low,$high,$lower,$upper)=@_;
     my $mask=mask($lower,$upper);      my $mask=mask($lower,$upper);
     my $num=0;      my $num=0;
     map {      foreach (grep /$mask/,keys(%sheet_values)) {
         if (($v{$_}>=$low) && ($v{$_}<=$high)) {          if (($sheet_values{$_}>=$low) && ($sheet_values{$_}<=$high)) {
             $num++;              $num++;
         }          }
     } grep /$mask/,keys %v;      }
     return $num;         return $num;   
 }  }
   
   
   #-------------------------------------------------------
   
   =item SUM(range)
   
   returns the sum of items in the range.
   
   =cut
   
   #-------------------------------------------------------
 sub SUM {  sub SUM {
     my $mask=mask(@_);      my $mask=mask(@_);
     my $sum=0;      my $sum=0;
     map {      foreach (grep /$mask/,keys(%sheet_values)) {
         $sum+=$v{$_};          $sum+=$sheet_values{$_};
     } grep /$mask/,keys %v;      }
     return $sum;         return $sum;   
 }  }
   
   #-------------------------------------------------------
   
   =item MEAN(range)
   
   compute the average of the items in the range.
   
   =cut
   
   #-------------------------------------------------------
 sub MEAN {  sub MEAN {
     my $mask=mask(@_);      my $mask=mask(@_);
     my $sum=0; my $num=0;      my $sum=0; 
     map {      my $num=0;
         $sum+=$v{$_};      foreach (grep /$mask/,keys(%sheet_values)) {
           $sum+=$sheet_values{$_};
         $num++;          $num++;
     } grep /$mask/,keys %v;      }
     if ($num) {      if ($num) {
        return $sum/$num;         return $sum/$num;
     } else {      } else {
Line 183  sub MEAN { Line 606  sub MEAN {
     }         }   
 }  }
   
   #-------------------------------------------------------
   
   =item STDDEV(range)
   
   compute the standard deviation of the items in the range.
   
   =cut
   
   #-------------------------------------------------------
 sub STDDEV {  sub STDDEV {
     my $mask=mask(@_);      my $mask=mask(@_);
     my $sum=0; my $num=0;      my $sum=0; my $num=0;
     map {      foreach (grep /$mask/,keys(%sheet_values)) {
         $sum+=$v{$_};          $sum+=$sheet_values{$_};
         $num++;          $num++;
     } grep /$mask/,keys %v;      }
     unless ($num>1) { return undef; }      unless ($num>1) { return undef; }
     my $mean=$sum/$num;      my $mean=$sum/$num;
     $sum=0;      $sum=0;
     map {      foreach (grep /$mask/,keys(%sheet_values)) {
         $sum+=($v{$_}-$mean)**2;          $sum+=($sheet_values{$_}-$mean)**2;
     } grep /$mask/,keys %v;      }
     return sqrt($sum/($num-1));          return sqrt($sum/($num-1));    
 }  }
   
   #-------------------------------------------------------
   
   =item PROD(range)
   
   compute the product of the items in the range.
   
   =cut
   
   #-------------------------------------------------------
 sub PROD {  sub PROD {
     my $mask=mask(@_);      my $mask=mask(@_);
     my $prod=1;      my $prod=1;
     map {      foreach (grep /$mask/,keys(%sheet_values)) {
         $prod*=$v{$_};          $prod*=$sheet_values{$_};
     } grep /$mask/,keys %v;      }
     return $prod;         return $prod;   
 }  }
   
   #-------------------------------------------------------
   
   =item MAX(range)
   
   compute the maximum of the items in the range.
   
   =cut
   
   #-------------------------------------------------------
 sub MAX {  sub MAX {
     my $mask=mask(@_);      my $mask=mask(@_);
     my $max='-';      my $max='-';
     map {      foreach (grep /$mask/,keys(%sheet_values)) {
         unless ($max) { $max=$v{$_}; }          unless ($max) { $max=$sheet_values{$_}; }
         if (($v{$_}>$max) || ($max eq '-')) { $max=$v{$_}; }          if (($sheet_values{$_}>$max) || ($max eq '-')) { $max=$sheet_values{$_}; }
     } grep /$mask/,keys %v;      } 
     return $max;         return $max;   
 }  }
   
   #-------------------------------------------------------
   
   =item MIN(range)
   
   compute the minimum of the items in the range.
   
   =cut
   
   #-------------------------------------------------------
 sub MIN {  sub MIN {
     my $mask=mask(@_);      my $mask=mask(@_);
     my $min='-';      my $min='-';
     map {      foreach (grep /$mask/,keys(%sheet_values)) {
         unless ($max) { $max=$v{$_}; }          unless ($max) { $max=$sheet_values{$_}; }
         if (($v{$_}<$min) || ($min eq '-')) { $min=$v{$_}; }          if (($sheet_values{$_}<$min) || ($min eq '-')) { 
     } grep /$mask/,keys %v;              $min=$sheet_values{$_}; 
           }
       }
     return $min;         return $min;   
 }  }
   
   #-------------------------------------------------------
   
   =item SUMMAX(num,lower,upper)
   
   compute the sum of the largest 'num' items in the range from
   'lower' to 'upper'
   
   =cut
   
   #-------------------------------------------------------
 sub SUMMAX {  sub SUMMAX {
     my ($num,$lower,$upper)=@_;      my ($num,$lower,$upper)=@_;
     my $mask=mask($lower,$upper);      my $mask=mask($lower,$upper);
     my @inside=();      my @inside=();
     map {      foreach (grep /$mask/,keys(%sheet_values)) {
  $inside[$#inside+1]=$v{$_};   push (@inside,$sheet_values{$_});
     } grep /$mask/,keys %v;      }
     @inside=sort(@inside);      @inside=sort(@inside);
     my $sum=0; my $i;      my $sum=0; my $i;
     for ($i=$#inside;(($i>$#inside-$num) && ($i>=0));$i--) {       for ($i=$#inside;(($i>$#inside-$num) && ($i>=0));$i--) { 
Line 243  sub SUMMAX { Line 714  sub SUMMAX {
     return $sum;         return $sum;   
 }  }
   
   #-------------------------------------------------------
   
   =item SUMMIN(num,lower,upper)
   
   compute the sum of the smallest 'num' items in the range from
   'lower' to 'upper'
   
   =cut
   
   #-------------------------------------------------------
 sub SUMMIN {  sub SUMMIN {
     my ($num,$lower,$upper)=@_;      my ($num,$lower,$upper)=@_;
     my $mask=mask($lower,$upper);      my $mask=mask($lower,$upper);
     my @inside=();      my @inside=();
     map {      foreach (grep /$mask/,keys(%sheet_values)) {
  $inside[$#inside+1]=$v{$_};   $inside[$#inside+1]=$sheet_values{$_};
     } grep /$mask/,keys %v;      }
     @inside=sort(@inside);      @inside=sort(@inside);
     my $sum=0; my $i;      my $sum=0; my $i;
     for ($i=0;(($i<$num) && ($i<=$#inside));$i++) {       for ($i=0;(($i<$num) && ($i<=$#inside));$i++) { 
Line 258  sub SUMMIN { Line 739  sub SUMMIN {
     return $sum;         return $sum;   
 }  }
   
   #-------------------------------------------------------
   
   =item MINPARM(parametername)
   
   Returns the minimum value of the parameters matching the parametername.
   parametername should be a string such as 'duedate'.
   
   =cut
   
   #-------------------------------------------------------
   sub MINPARM {
       my ($expression) = @_;
       my $min = undef;
       study($expression);
       foreach $parameter (keys(%c)) {
           next if ($parameter !~ /$expression/);
           if ((! defined($min)) || ($min > $c{$parameter})) {
               $min = $c{$parameter} 
           }
       }
       return $min;
   }
   
   #-------------------------------------------------------
   
   =item MAXPARM(parametername)
   
   Returns the maximum value of the parameters matching the input parameter name.
   parametername should be a string such as 'duedate'.
   
   =cut
   
   #-------------------------------------------------------
   sub MAXPARM {
       my ($expression) = @_;
       my $max = undef;
       study($expression);
       foreach $parameter (keys(%c)) {
           next if ($parameter !~ /$expression/);
           if ((! defined($min)) || ($max < $c{$parameter})) {
               $max = $c{$parameter} 
           }
       }
       return $max;
   }
   
   #--------------------------------------------------------
   sub expandnamed {
       my $expression=shift;
       if ($expression=~/^\&/) {
    my ($func,$var,$formula)=($expression=~/^\&(\w+)\(([^\;]+)\;(.*)\)/);
    my @vars=split(/\W+/,$formula);
           my %values=();
           undef %values;
    foreach ( @vars ) {
               my $varname=$_;
               if ($varname=~/\D/) {
                  $formula=~s/$varname/'$c{\''.$varname.'\'}'/ge;
                  $varname=~s/$var/\(\\w\+\)/g;
          foreach (keys(%c)) {
     if ($_=~/$varname/) {
         $values{$1}=1;
                     }
                  }
       }
           }
           if ($func eq 'EXPANDSUM') {
               my $result='';
       foreach (keys(%values)) {
                   my $thissum=$formula;
                   $thissum=~s/$var/$_/g;
                   $result.=$thissum.'+';
               } 
               $result=~s/\+$//;
               return $result;
           } else {
       return 0;
           }
       } else {
           # it is not a function, so it is a parameter name
           # We should do the following:
           #    1. Take the list of parameter names
           #    2. look through the list for ones that match the parameter we want
           #    3. If there are no collisions, return the one that matches
           #    4. If there is a collision, return 'bad parameter name error'
           my $returnvalue = '';
           my @matches = ();
           $#matches = -1;
           study $expression;
           foreach $parameter (keys(%c)) {
               push @matches,$parameter if ($parameter =~ /$expression/);
           }
           if (scalar(@matches) == 0) {
               $returnvalue = 'unmatched parameter: '.$parameter;
           } elsif (scalar(@matches) == 1) {
               $returnvalue = '$c{\''.$matches[0].'\'}';
           } elsif (scalar(@matches) > 0) {
               # more than one match.  Look for a concise one
               $returnvalue =  "'non-unique parameter name : $expression'";
               foreach (@matches) {
                   if (/^$expression$/) {
                       $returnvalue = '$c{\''.$_.'\'}';
                   }
               }
           } else {
               # There was a negative number of matches, which indicates 
               # something is wrong with reality.  Better warn the user.
               $returnvalue = 'bizzare parameter: '.$parameter;
           }
           return $returnvalue;
       }
   }
   
 sub sett {  sub sett {
     %t=();      %t=();
     my $pattern='';      my $pattern='';
Line 266  sub sett { Line 860  sub sett {
     } else {      } else {
         $pattern='[A-Z]';          $pattern='[A-Z]';
     }      }
     map {      # Deal with the template row
  if ($_=~/template\_(\w)/) {      foreach (keys(%f)) {
   my $col=$1;   next if ($_!~/template\_(\w)/);
           unless ($col=~/^$pattern/) {          my $col=$1;
             map {          next if ($col=~/^$pattern/);
       if ($_=~/A(\d+)/) {          foreach (keys(%f)) {
  my $trow=$1;              next if ($_!~/A(\d+)/);
                 if ($trow) {              my $trow=$1;
     my $lb=$col.$trow;              next if (! $trow);
                     $t{$lb}=$f{'template_'.$col};              # Get the name of this cell
                     $t{$lb}=~s/\#/$trow/g;              my $lb=$col.$trow;
                     $t{$lb}=~s/\.\.+/\,/g;              # Grab the template declaration
                     $t{$lb}=~s/(^|[^\"\'])([A-Za-z]\d+)/$1\$v\{\'$2\'\}/g;              $t{$lb}=$f{'template_'.$col};
                 }              # Replace '#' with the row number
       }              $t{$lb}=~s/\#/$trow/g;
             } keys %f;              # Replace '....' with ','
   }              $t{$lb}=~s/\.\.+/\,/g;
       }              # Replace 'A0' with the value from 'A0'
     } keys %f;              $t{$lb}=~s/(^|[^\"\'])([A-Za-z]\d+)/$1\$sheet_values\{\'$2\'\}/g;
     map {              # Replace parameters
  if (($f{$_}) && ($_!~/template\_/)) {              $t{$lb}=~s/(^|[^\"\'])\[([^\]]+)\]/$1.&expandnamed($2)/ge;
             if ($_=~/^$pattern/) {          }
       }
       # Deal with the normal cells
       foreach (keys(%f)) {
    if (exists($f{$_}) && ($_!~/template\_/)) {
               my $matches=($_=~/^$pattern(\d+)/);
               if  (($matches) && ($1)) {
         unless ($f{$_}=~/^\!/) {          unless ($f{$_}=~/^\!/) {
     $t{$_}=$c{$_};      $t{$_}=$c{$_};
                 }                  }
             } else {              } else {
        $t{$_}=$f{$_};         $t{$_}=$f{$_};
                $t{$_}=~s/\.\.+/\,/g;                 $t{$_}=~s/\.\.+/\,/g;
                $t{$_}=~s/(^|[^\"\'])([A-Za-z]\d+)/$1\$v\{\'$2\'\}/g;                 $t{$_}=~s/(^|[^\"\'])([A-Za-z]\d+)/$1\$sheet_values\{\'$2\'\}/g;
                  $t{$_}=~s/(^|[^\"\'])\[([^\]]+)\]/$1.&expandnamed($2)/ge;
             }              }
         }          }
     } keys %f;      }
       # For inserted lines, [B-Z] is also valid
       unless ($sheettype eq 'assesscalc') {
          foreach (keys(%f)) {
      if ($_=~/[B-Z](\d+)/) {
          if ($f{'A'.$1}=~/^[\~\-]/) {
              $t{$_}=$f{$_};
                     $t{$_}=~s/\.\.+/\,/g;
                     $t{$_}=~s/(^|[^\"\'])([A-Za-z]\d+)/$1\$sheet_values\{\'$2\'\}/g;
                     $t{$_}=~s/(^|[^\"\'])\[([^\]]+)\]/$1.&expandnamed($2)/ge;
                  }
              }
          }
       }
       # For some reason 'A0' gets special treatment...  This seems superfluous
       # but I imagine it is here for a reason.
     $t{'A0'}=$f{'A0'};      $t{'A0'}=$f{'A0'};
     $t{'A0'}=~s/\.\.+/\,/g;      $t{'A0'}=~s/\.\.+/\,/g;
     $t{'A0'}=~s/(^|[^\"\'])([A-Za-z]\d+)/$1\$v\{\'$2\'\}/g;      $t{'A0'}=~s/(^|[^\"\'])([A-Za-z]\d+)/$1\$sheet_values\{\'$2\'\}/g;
       $t{'A0'}=~s/(^|[^\"\'])\[([^\]]+)\]/$1.&expandnamed($2)/ge;
 }  }
   
 sub calc {  sub calc {
     %v=();      undef %sheet_values;
     &sett();      &sett();
     my $notfinished=1;      my $notfinished=1;
       my $lastcalc='';
     my $depth=0;      my $depth=0;
     while ($notfinished) {      while ($notfinished) {
  $notfinished=0;   $notfinished=0;
         map {          foreach (keys(%t)) {
             my $old=$v{$_};              #$errorlog .= "$_:".$t{$_};
             $v{$_}=eval($t{$_});              my $old=$sheet_values{$_};
               $sheet_values{$_}=eval $t{$_};
     if ($@) {      if ($@) {
  %v=();   undef %sheet_values;
                 return $@;                  return $_.': '.$@;
             }              }
     if ($v{$_} ne $old) { $notfinished=1; }      if ($sheet_values{$_} ne $old) { $notfinished=1; $lastcalc=$_; }
         } keys %t;              #$errorlog .= ":".$sheet_values{$_}."\n";
           }
         $depth++;          $depth++;
         if ($depth>100) {          if ($depth>100) {
     %v=();      undef %sheet_values;
             return 'Maximum calculation depth exceeded';              return $lastcalc.': Maximum calculation depth exceeded';
         }          }
     }      }
     return '';      return '';
 }  }
   
   # ------------------------------------------- End of "Inside of the safe space"
   ENDDEFS
       $safeeval->reval($code);
       return $safeeval;
   }
   
   #
   # 
   #
 sub templaterow {  sub templaterow {
       my $sheet = shift;
     my @cols=();      my @cols=();
     $cols[0]='<b><font size=+1>Template</font></b>';      my $rowlabel = 'Template';
     map {      foreach ('A','B','C','D','E','F','G','H','I','J','K','L','M',
         my $fm=$f{'template_'.$_};       'N','O','P','Q','R','S','T','U','V','W','X','Y','Z',
        'a','b','c','d','e','f','g','h','i','j','k','l','m',
        'n','o','p','q','r','s','t','u','v','w','x','y','z') {
           my $fm=$sheet->{'f'}->{'template_'.$_};
         $fm=~s/[\'\"]/\&\#34;/g;          $fm=~s/[\'\"]/\&\#34;/g;
         $cols[$#cols+1]="'template_$_','$fm'".'___eq___'.$fm;          push(@cols,{ name    => 'template_'.$_,
     } ('A','B','C','D','E','F','G','H','I','J','K','L','M',                       formula => $fm,
        'N','O','P','Q','R','S','T','U','V','W','X','Y','Z',                       value   => $fm });
        'a','b','c','d','e','f','g','h','i','j','k','l','m',      }
        'n','o','p','q','r','s','t','u','v','w','x','y','z');      return ($rowlabel,@cols);
     return @cols;  
 }  }
   
 sub outrowassess {  sub outrowassess {
     my $n=shift;      # $n is the current row number
       my ($sheet,$n) = @_;
     my @cols=();      my @cols=();
       my $rowlabel='';
     if ($n) {      if ($n) {
        $cols[0]=$rl{$f{'A'.$n}};          my ($usy,$ufn)=split(/__&&&\__/,$sheet->{'f'}->{'A'.$n});
           if (exists($sheet->{'rowlabel'}->{$usy})) {
               $rowlabel = $sheet->{'rowlabel'}->{$usy};
           } else { 
               $rowlabel = '';
           }
     } else {      } else {
        $cols[0]='<b><font size=+1>Export</font></b>';          $rowlabel = 'Export';
     }      }
     map {      foreach ('A','B','C','D','E','F','G','H','I','J','K','L','M',
         my $fm=$f{$_.$n};       'N','O','P','Q','R','S','T','U','V','W','X','Y','Z',
        'a','b','c','d','e','f','g','h','i','j','k','l','m',
        'n','o','p','q','r','s','t','u','v','w','x','y','z') {
           my $fm=$sheet->{'f'}->{$_.$n};
         $fm=~s/[\'\"]/\&\#34;/g;          $fm=~s/[\'\"]/\&\#34;/g;
         $cols[$#cols+1]="'$_$n','$fm'".'___eq___'.$v{$_.$n};          push(@cols,{ name    => $_.$n,
     } ('A','B','C','D','E','F','G','H','I','J','K','L','M',                       formula => $fm,
        'N','O','P','Q','R','S','T','U','V','W','X','Y','Z',                       value   => $sheet->{'values'}->{$_.$n}});
        'a','b','c','d','e','f','g','h','i','j','k','l','m',      }
        'n','o','p','q','r','s','t','u','v','w','x','y','z');      return ($rowlabel,@cols);
     return @cols;  
 }  }
   
 sub outrow {  sub outrow {
     my $n=shift;      my ($sheet,$n)=@_;
     my @cols=();      my @cols=();
       my $rowlabel;
     if ($n) {      if ($n) {
        $cols[0]=$rl{$f{'A'.$n}};          $rowlabel = $sheet->{'rowlabel'}->{$sheet->{'f'}->{'A'.$n}};
     } else {      } else {
        $cols[0]='<b><font size=+1>Export</font></b>';          if ($sheet->{'sheettype'} eq 'classcalc') {
               $rowlabel = 'Summary';
           } else {
               $rowlabel = 'Export';
           }
     }      }
     map {      foreach ('A','B','C','D','E','F','G','H','I','J','K','L','M',
         my $fm=$f{$_.$n};       'N','O','P','Q','R','S','T','U','V','W','X','Y','Z',
        'a','b','c','d','e','f','g','h','i','j','k','l','m',
        'n','o','p','q','r','s','t','u','v','w','x','y','z') {
           my $fm=$sheet->{'f'}->{$_.$n};
         $fm=~s/[\'\"]/\&\#34;/g;          $fm=~s/[\'\"]/\&\#34;/g;
         $cols[$#cols+1]="'$_$n','$fm'".'___eq___'.$v{$_.$n};          push(@cols,{ name    => $_.$n,
     } ('A','B','C','D','E','F','G','H','I','J','K','L','M',                       formula => $fm,
        'N','O','P','Q','R','S','T','U','V','W','X','Y','Z',                       value   => $sheet->{'values'}->{$_.$n}});
        'a','b','c','d','e','f','g','h','i','j','k','l','m',      }
        'n','o','p','q','r','s','t','u','v','w','x','y','z');      return ($rowlabel,@cols);
     return @cols;  
 }  
   
 sub exportrowa {  
     my $rowa='';  
     map {  
  $rowa.=$v{$_.'0'}."___;___";  
     } ('A','B','C','D','E','F','G','H','I','J','K','L','M',  
        'N','O','P','Q','R','S','T','U','V','W','X','Y','Z');  
     $rowa=~s/\_\_\_\;\_\_\_$//;  
     return $rowa;  
 }  
   
 # ------------------------------------------- End of "Inside of the safe space"  
 ENDDEFS  
     $safeeval->reval($code);  
     return $safeeval;  
 }  }
   
 # ------------------------------------------------ Add or change formula values  # ------------------------------------------------ Add or change formula values
   
 sub setformulas {  sub setformulas {
     my ($safeeval,@f)=@_;      my ($sheet)=shift;
     $safeeval->reval('%f='."('".join("','",@f)."');");      %{$sheet->{'safe'}->varglob('f')}=%{$sheet->{'f'}};
 }  }
   
 # ------------------------------------------------ Add or change formula values  # ------------------------------------------------ Add or change formula values
   
 sub setconstants {  sub setconstants {
     my ($safeeval,@c)=@_;      my ($sheet)=shift;
     $safeeval->reval('%c='."('".join("','",@c)."');");      my ($constants) = @_;
       if (! ref($constants)) {
           my %tmp = @_;
           $constants = \%tmp;
       }
       $sheet->{'constants'} = $constants;
       return %{$sheet->{'safe'}->varglob('c')}=%{$sheet->{'constants'}};
   }
   
   # --------------------------------------------- Set names of other spreadsheets
   sub setothersheets {
       my $sheet = shift;
       my @othersheets = @_;
       $sheet->{'othersheets'} = \@othersheets;
       @{$sheet->{'safe'}->varglob('os')}=@othersheets;
       return;
 }  }
   
 # ------------------------------------------------ Add or change formula values  # ------------------------------------------------ Add or change formula values
   
 sub setrowlabels {  sub setrowlabels {
     my ($safeeval,@rl)=@_;      my $sheet=shift;
     $safeeval->reval('%rl='."('".join("','",@rl)."');");      my ($rowlabel) = @_;
       if (! ref($rowlabel)) {
           my %tmp = @_;
           $rowlabel = \%tmp;
       }
       $sheet->{'rowlabel'}=$rowlabel;
 }  }
   
 # ------------------------------------------------------- Calculate spreadsheet  # ------------------------------------------------------- Calculate spreadsheet
   
 sub calcsheet {  sub calcsheet {
     my $safeeval=shift;      my $sheet=shift;
     $safeeval->reval('&calc();');      my $result =  $sheet->{'safe'}->reval('&calc();');
 }      %{$sheet->{'values'}} = %{$sheet->{'safe'}->varglob('sheet_values')};
       return $result;
 # ------------------------------------------------------------------ Get values  
   
 sub getvalues {  
     my $safeeval=shift;  
     return $safeeval->reval('%v');  
 }  }
   
 # ---------------------------------------------------------------- Get formulas  # ---------------------------------------------------------------- Get formulas
   # Return a copy of the formulas
 sub getformulas {  sub getformulas {
     my $safeeval=shift;      my $sheet = shift;
     return $safeeval->reval('%f');      return %{$sheet->{'safe'}->varglob('f')};
 }  
   
 # -------------------------------------------------------------------- Set type  
   
 sub settype {  
     my ($safeeval,$type)=@_;  
     $safeeval->reval('$sheettype="'.$type.'";');  
 }  
   
 # -------------------------------------------------------------------- Get type  
   
 sub gettype {  
     my $safeeval=shift;  
     return $safeeval->reval('$sheettype');  
 }  }
 # ------------------------------------------------------------------ Set maxrow  
   
 sub setmaxrow {  sub geterrorlog {
     my ($safeeval,$row)=@_;      my $sheet = shift;
     $safeeval->reval('$maxrow='.$row.';');      return ${$sheet->{'safe'}->varglob('errorlog')};    
   }
   
   sub gettitle {
       my $sheet = shift;
       if ($sheet->{'sheettype'} eq 'classcalc') {
           return $sheet->{'coursedesc'};
       } elsif ($sheet->{'sheettype'} eq 'studentcalc') {
           return 'Grades for '.$sheet->{'uname'}.'@'.$sheet->{'udom'};
       } elsif ($sheet->{'sheettype'} eq 'assesscalc') {
           if (($sheet->{'usymb'} eq '_feedback') ||
               ($sheet->{'usymb'} eq '_evaluation') ||
               ($sheet->{'usymb'} eq '_discussion') ||
               ($sheet->{'usymb'} eq '_tutoring')) {
               my $title = $sheet->{'usymb'};
               $title =~ s/^_//;
               $title = ucfirst($title);
               return $title;
           }
           return if (! defined($sheet->{'mapid'}) || 
                      $sheet->{'mapid'} !~ /^\d+$/);
           my $mapid = $sheet->{'mapid'};
           return if (! defined($sheet->{'resid'}) || 
                      $sheet->{'resid'} !~ /^\d+$/);
           my $resid = $sheet->{'resid'};
           my %course_db;
           tie(%course_db,'GDBM_File',$sheet->{'coursefilename'}.'.db',
               &GDBM_READER(),0640);
           return if (! tied(%course_db));
           my $key = 'title_'.$mapid.'.'.$resid;
           my $title = '';
           if (exists($course_db{$key})) {
               $title = $course_db{$key};
           } else {
               $title = $sheet->{'usymb'};
           }
           untie (%course_db);
           return $title;
       }
 }  }
   
 # ------------------------------------------------------------------ Get maxrow  # ----------------------------------------------------- Get value of $f{'A'.$n}
   sub getfa {
 sub getmaxrow {      my $sheet = shift;
     my $safeeval=shift;      my ($n)=@_;
     return $safeeval->reval('$maxrow');      return $sheet->{'safe'}->reval('$f{"A'.$n.'"}');
 }  }
   
 # ---------------------------------------------------------------- Set filename  # ------------------------------------------------------------- Export of A-row
   sub exportdata {
 sub setfilename {      my $sheet=shift;
     my ($safeeval,$fn)=@_;      my @exportarray=();
     $safeeval->reval('$filename="'.$fn.'";');      foreach ('A','B','C','D','E','F','G','H','I','J','K','L','M',
        'N','O','P','Q','R','S','T','U','V','W','X','Y','Z') {
           if (exists($sheet->{'values'}->{$_.'0'})) {
               push(@exportarray,$sheet->{'values'}->{$_.'0'});
           } else {
               push(@exportarray,'');
           }
       } 
       return @exportarray;
 }  }
   
 # ---------------------------------------------------------------- Get filename  
   
 sub getfilename {  
     my $safeeval=shift;  
     return $safeeval->reval('$filename');  
 }  
   
 # ------------------------------------------------------------- Export of A-row  
   
 sub exportrow {  sub update_student_sheet{
     my $safeeval=shift;      my ($sheet,$r,$c) = @_;
     return $safeeval->reval('&exportrowa()');      # Load in the studentcalc sheet
       &readsheet($sheet,'default_studentcalc');
       # Determine the structure (contained assessments, etc) of the sheet
       &updatesheet($sheet);
       # Load in the cached sheets for this student
       &cachedssheets($sheet);
       # Load in the (possibly cached) data from the assessment sheets        
       &loadstudent($sheet,$r,$c);
       # Compute the sheet
       &calcsheet($sheet);
 }  }
   
 # ========================================================== End of Spreadsheet  # ========================================================== End of Spreadsheet
 # =============================================================================  # =============================================================================
   #
   # Procedures for spreadsheet output
   #
 # --------------------------------------------- Produce output row n from sheet  # --------------------------------------------- Produce output row n from sheet
   
 sub rown {  sub get_row {
     my ($safeeval,$n)=@_;      my ($sheet,$n) = @_;
     my $defaultbg;      my ($rowlabel,@rowdata);
     unless ($n eq '-') {      if ($n eq '-') { 
        $defaultbg=((($n-1)/5)==int(($n-1)/5))?'#E0E0':'#FFFF';          ($rowlabel,@rowdata) = &templaterow($sheet);
     } else {      } elsif ($sheet->{'sheettype'} eq 'studentcalc') {
        $defaultbg='#E0FF';          ($rowlabel,@rowdata) = &outrowassess($sheet,$n);
     }      } else {
     my $rowdata="\n<tr><td><b><font size=+1>$n</font></b></td>";          ($rowlabel,@rowdata) = &outrow($sheet,$n);
     my $showf=0;      }
     my $proc;      return ($rowlabel,@rowdata);
     my $maxred;  
     if (&gettype($safeeval) eq 'assesscalc') {  
         $proc='&outrowassess';  
         $maxred=1;  
     } else {  
         $proc='&outrow';  
         $maxred=26;  
     }  
     if ($n eq '-') { $proc='&templaterow'; $n=-1; }  
     map {  
        my $bgcolor=$defaultbg.((($showf-1)/5==int(($showf-1)/5))?'99':'DD');  
        my ($fm,$vl)=split(/\_\_\_eq\_\_\_/,$_);  
        if ($showf==0) { $vl=$_; }  
        if ($showf<=$maxred) { $bgcolor='#FFDDDD'; }  
        if (($n==0) && ($showf<=26)) { $bgcolor='#CCCCFF'; }   
        if (($showf>$maxred) || ((!$n) && ($showf>0))) {  
    if ($vl eq '') {  
        $vl='<font size=+2 color='.$bgcolor.'>&#35;</font>';  
            }  
            $rowdata.=  
        '<td bgcolor='.$bgcolor.'><a href="javascript:celledit('.$fm.');">'.$vl.  
        '</a></td>';  
        } else {  
            $rowdata.='<td bgcolor='.$bgcolor.'>&nbsp;'.$vl.'&nbsp;</td>';  
        }  
        $showf++;  
     } $safeeval->reval($proc.'('.$n.')');  
     return $rowdata.'</tr>';  
 }  }
   
 # ------------------------------------------------------------- Print out sheet  ########################################################################
   ########################################################################
   sub sort_indicies {
       my $sheet = shift;
       my @sortidx=();
       #
       if ($sheet->{'sheettype'} eq 'classcalc') {
           my @sortby=(undef);
           # Skip row 0
           for (my $row=1;$row<=$sheet->{'maxrow'};$row++) {
               my (undef,$sname,$sdom,$fullname,$section,$id) = 
                   split(':',$sheet->{'rowlabel'}->{$sheet->{'f'}->{'A'.$row}});
               push (@sortby, lc($fullname));
               push (@sortidx, $row);
           }
           @sortidx = sort { $sortby[$a] cmp $sortby[$b]; } @sortidx;
       } elsif ($sheet->{'sheettype'} eq 'studentcalc') {
           my @sortby1=(undef);
           my @sortby2=(undef);
           # Skip row 0
           for (my $row=1;$row<=$sheet->{'maxrow'};$row++) {
               my (undef,$symb,$uname,$udom,$mapid,$resid,$title) = 
                   split(':',$sheet->{'rowlabel'}->{$sheet->{'f'}->{'A'.$row}});
               $symb = &Apache::lonnet::unescape($symb);
               my ($sequence) = ($symb =~ /\/([^\/]*\.sequence)/);
               if ($sequence eq '') {
                   $sequence = $symb;
               }
               push (@sortby1, $sequence);
               push (@sortby2, $title);
               push (@sortidx, $row);
           }
           @sortidx = sort { $sortby1[$a] cmp $sortby1[$b] || 
                                 $sortby2[$a] cmp $sortby2[$b] } @sortidx;
       } else {
           my @sortby=(undef);
           # Skip row 0
           for (my $row=1;$row<=$sheet->{'maxrow'};$row++) {
               push (@sortby, $sheet->{'safe'}->reval('$f{"A'.$row.'"}'));
               push (@sortidx, $row);
           }
           @sortidx = sort { $sortby[$a] cmp $sortby[$b]; } @sortidx;
       }
       return @sortidx;
   }
   
 sub outsheet {  #############################################################
     my $safeeval=shift;  ###                                                       ###
     my $maxred;  ###              Spreadsheet Output Routines              ###
     my $realm;  ###                                                       ###
     if (&gettype($safeeval) eq 'assesscalc') {  #############################################################
         $maxred=1;  
         $realm='Assessment';  ############################################
     } elsif (&gettype($safeeval) eq 'studentcalc') {  ##         HTML output routines           ##
         $maxred=26;  ############################################
         $realm='User';  sub html_editable_cell {
     } else {      my ($cell,$bgcolor) = @_;
         $maxred=26;      my $result;
         $realm='Course';      my ($name,$formula,$value);
     }      if (defined($cell)) {
     my $maxyellow=52-$maxred;          $name    = $cell->{'name'};
     my $tabledata='<table border=2><tr><th colspan=2 rowspan=2><font size=+2>'.          $formula = $cell->{'formula'};
                   $realm.'</font></th>'.          $value   = $cell->{'value'};
                   '<td bgcolor=#FFDDDD colspan='.$maxred.      }
                   '><b><font size=+1>Import</font></b></td>'.      $name    = '' if (! defined($name));
                   '<td colspan='.$maxyellow.      $formula = '' if (! defined($formula));
   '><b><font size=+1>Calculations</font></b></td></tr><tr>';      if (! defined($value)) {
     my $showf=0;          $value = '<font color="'.$bgcolor.'">#</font>';
     map {          if ($formula ne '') {
         $showf++;              $value = '<i>undefined value</i>';
         if ($showf<=$maxred) {           }
            $tabledata.='<td bgcolor="#FFDDDD">';       }
       if ($value =~ /^\s*$/ ) {
           $value = '<font color="'.$bgcolor.'">#</font>';
       }
       $formula =~ s/\n/\\n/gs;
       $result .= '<a href="javascript:celledit(\''.
           $name.'\',\''.$formula.'\');">'.$value.'</a>';
       return $result;
   }
   
   sub html_uneditable_cell {
       my ($cell,$bgcolor) = @_;
       my $value = (defined($cell) ? $cell->{'value'} : '');
       return '&nbsp;'.$value.'&nbsp;';
   }
   
   sub outsheet_html  {
       my ($sheet,$r) = @_;
       my ($num_uneditable,$realm,$row_type);
       if ($sheet->{'sheettype'} eq 'assesscalc') {
           $num_uneditable = 1;
           $realm = 'Assessment';
           $row_type = 'Item';
       } elsif ($sheet->{'sheettype'} eq 'studentcalc') {
           $num_uneditable = 26;
           $realm = 'User';
           $row_type = 'Assessment';
       } elsif ($sheet->{'sheettype'} eq 'classcalc') {
           $num_uneditable = 26;
           $realm = 'Course';
           $row_type = 'Student';
       } else {
           return;  # error
       }
       ####################################
       # Print out header table
       ####################################
       my $num_left = 52-$num_uneditable;
       my $tabledata =<<"END";
   <table border="2">
   <tr>
     <th colspan="1" rowspan="2"><font size="+2">$realm</font></th>
     <td bgcolor="#FFDDDD" colspan="$num_uneditable">
         <b><font size="+1">Import</font></b></td>
     <td colspan="$num_left">
         <b><font size="+1">Calculations</font></b></td>
   </tr><tr>
   END
       my $label_num = 0;
       foreach (split(//,'ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz')){
           if ($label_num<$num_uneditable) { 
               $tabledata.='<td bgcolor="#FFDDDD">';
         } else {          } else {
            $tabledata.='<td>';              $tabledata.='<td>';
         }          }
         $tabledata.="<b><font size=+1>$_</font></b></td>";          $tabledata.="<b><font size=+1>$_</font></b></td>";
     } ('A','B','C','D','E','F','G','H','I','J','K','L','M',          $label_num++;
        'N','O','P','Q','R','S','T','U','V','W','X','Y','Z',      }
        'a','b','c','d','e','f','g','h','i','j','k','l','m',      $tabledata.="</tr>\n";
        'n','o','p','q','r','s','t','u','v','w','x','y','z');      $r->print($tabledata);
     $tabledata.='</tr>';      ####################################
     my $row;      # Print out template row
     my $maxrow=&getmaxrow($safeeval);      ####################################
     $tabledata.=&rown($safeeval,'-');      my ($rowlabel,@rowdata) = &get_row($sheet,'-');
     for ($row=0;$row<=$maxrow;$row++) {      my $row_html = '<tr><td>'.&format_html_rowlabel($rowlabel).'</td>';
         $tabledata.=&rown($safeeval,$row);      my $num_cols_output = 0;
       foreach my $cell (@rowdata) {
           if ($num_cols_output++ < $num_uneditable) {
               $row_html .= '<td bgcolor="#FFDDDD">';
               $row_html .= &html_uneditable_cell($cell,'#FFDDDD');
           } else {
               $row_html .= '<td bgcolor="#EOFFDD">';
               $row_html .= &html_editable_cell($cell,'#E0FFDD');
           }
           $row_html .= '</td>';
       }
       $row_html.= "</tr>\n";
       $r->print($row_html);
       ####################################
       # Print out summary/export row
       ####################################
       my ($rowlabel,@rowdata) = &get_row($sheet,'0');
       $row_html = '<tr><td>'.&format_html_rowlabel($rowlabel).'</td>';
       $num_cols_output = 0;
       foreach my $cell (@rowdata) {
           if ($num_cols_output++ < 26) {
               $row_html .= '<td bgcolor="#CCCCFF">';
               $row_html .= &html_editable_cell($cell,'#CCCCFF');
           } else {
               $row_html .= '<td bgcolor="#DDCCFF">';
               $row_html .= &html_uneditable_cell(undef,'#CCCCFF');
           }
           $row_html .= '</td>';
       }
       $row_html.= "</tr>\n";
       $r->print($row_html);
       $r->print('</table>');
       ####################################
       # Prepare to output rows
       ####################################
       my @Rows = &sort_indicies($sheet);
       #
       # Loop through the rows and output them one at a time
       my $rows_output=0;
       foreach my $rownum (@Rows) {
           my ($rowlabel,@rowdata) = &get_row($sheet,$rownum);
           next if ($rowlabel =~ /^\s*$/);
           next if (($sheet->{'sheettype'} eq 'assesscalc') && 
                    (! $ENV{'form.showall'})                &&
                    ($rowdata[0]->{'value'} =~ /^\s*$/));
           if (! $ENV{'form.showall'} &&
               $sheet->{'sheettype'} =~ /^(studentcalc|classcalc)$/) {
               my $row_is_empty = 1;
               foreach my $cell (@rowdata) {
                   if ($cell->{'value'} !~  /^\s*$/) {
                       $row_is_empty = 0;
                       last;
                   }
               }
               next if ($row_is_empty);
           }
           #
           my $defaultbg='#E0FF';
           #
           my $row_html ="\n".'<tr><td><b><font size=+1>'.$rownum.
               '</font></b></td>';
           #
           if ($sheet->{'sheettype'} eq 'classcalc') {
               $row_html.='<td>'.&format_html_rowlabel($rowlabel).'</td>';
               # Output links for each student?
               # Nope, that is already done for us in format_html_rowlabel (for now)
           } elsif ($sheet->{'sheettype'} eq 'studentcalc') {
               $row_html.='<td>'.&format_html_rowlabel($rowlabel);
               $row_html.= '<br>'.
                   '<select name="sel_'.$rownum.'" '.
                       'onChange="changesheet('.$rownum.')">'.
                           '<option name="default">Default</option>';
               foreach (@{$sheet->{'othersheets'}}) {
                   $row_html.='<option name="'.$_.'"';
                   #if ($ufn eq $_) {
                   #    $row_html.=' selected';
                   #}
                   $row_html.='>'.$_.'</option>';
               }
               $row_html.='</select></td>';
           } elsif ($sheet->{'sheettype'} eq 'assesscalc') {
               $row_html.='<td>'.&format_html_rowlabel($rowlabel).'</td>';
           }
           #
           my $shown_cells = 0;
           foreach my $cell (@rowdata) {
               my $value    = $cell->{'value'};
               my $formula  = $cell->{'formula'};
               my $cellname = $cell->{'name'};
               #
               my $bgcolor;
               if ($shown_cells && ($shown_cells/5 == int($shown_cells/5))) {
                   $bgcolor = $defaultbg.'99';
               } else {
                   $bgcolor = $defaultbg.'DD';
               }
               $bgcolor='#FFDDDD' if ($shown_cells < $num_uneditable);
               #
               $row_html.='<td bgcolor='.$bgcolor.'>';
               if ($shown_cells < $num_uneditable) {
                   $row_html .= &html_uneditable_cell($cell,$bgcolor);
               } else {
                   $row_html .= &html_editable_cell($cell,$bgcolor);
               }
               $row_html.='</td>';
               $shown_cells++;
           }
           if ($row_html) {
               if ($rows_output % 25 == 0) {
                   $r->print("</table>\n<br>\n");
                   $r->rflush();
                   $r->print('<table border=2>'.
                             '<tr><td>&nbsp;<td>'.$row_type.'</td>'.
                             '<td>'.
                             join('</td><td>',
                                  (split(//,'ABCDEFGHIJKLMNOPQRSTUVWXYZ'.
                                         'abcdefghijklmnopqrstuvwxyz'))).
                             "</td></tr>\n");
               }
               $rows_output++;
               $r->print($row_html);
           }
       }
       #
       $r->print('</table>');
       #
       # Debugging code (be sure to uncomment errorlog code in safe space):
       #
       # $r->print("\n<pre>");
       # $r->print(&geterrorlog($sheet));
       # $r->print("\n</pre>");
       return 1;
   }
   
   ############################################
   ##         csv output routines            ##
   ############################################
   sub outsheet_csv   {
       my ($sheet,$r) = @_;
       my $csvdata = '';
       my @Values;
       ####################################
       # Prepare to output rows
       ####################################
       my @Rows = &sort_indicies($sheet);
       #
       # Loop through the rows and output them one at a time
       my $rows_output=0;
       foreach my $rownum (@Rows) {
           my ($rowlabel,@rowdata) = &get_row($sheet,$rownum);
           next if ($rowlabel =~ /^\s*$/);
           push (@Values,&format_csv_rowlabel($rowlabel));
           foreach my $cell (@rowdata) {
               push (@Values,'"'.$cell->{'value'}.'"');
           }
           $csvdata.= join(',',@Values)."\n";
           @Values = ();
       }
       #
       # Write the CSV data to a file and serve up a link
       #
       my $filename = '/prtspool/'.
           $ENV{'user.name'}.'_'.$ENV{'user.domain'}.'_'.
           time.'_'.rand(1000000000).'.csv';
       my $file;
       unless ($file = Apache::File->new('>'.'/home/httpd'.$filename)) {
           $r->log_error("Couldn't open $filename for output $!");
           $r->print("Problems occured in writing the csv file.  ".
                     "This error has been logged.  ".
                     "Please alert your LON-CAPA administrator.");
           $r->print("<pre>\n".$csvdata."</pre>\n");
           return 0;
       }
       print $file $csvdata;
       close($file);
       $r->print('<br /><br />'.
                 '<a href="'.$filename.'">Your CSV spreadsheet.</a>'."\n");
       #
       return 1;
   }
   
   ############################################
   ##        Excel output routines           ##
   ############################################
   sub outsheet_recursive_excel {
       my ($sheet,$r) = @_;
       my $c = $r->connection;
       return undef if ($sheet->{'sheettype'} ne 'classcalc');
       my ($workbook,$filename) = &create_excel_spreadsheet($sheet,$r);
       return undef if (! defined($workbook));
       #
       # Create main worksheet
       my $main_worksheet = $workbook->addworksheet('main');
       #
       # Figure out who the students are
       my %f=&getformulas($sheet);
       my $count = 0;
       $r->print(<<END);
   <p>
   Compiling Excel Workbook with a worksheet for each student.
   </p><p>
   This operation may take longer than a complete recalculation of the
   spreadsheet. 
   </p><p>
   To abort this operation, hit the stop button on your browser.
   </p><p>
   A link to the spreadsheet will be available at the end of this process.
   </p>
   <p>
   END
       $r->rflush();
       my $starttime = time;
       foreach my $rownum (&sort_indicies($sheet)) {
           $count++;
           my ($sname,$sdom) = split(':',$f{'A'.$rownum});
           my $student_excel_worksheet=$workbook->addworksheet($sname.'@'.$sdom);
           # Create a new spreadsheet
           my $studentsheet = &makenewsheet($sname,$sdom,'studentcalc',undef);
           # Read in the spreadsheet definition
           &update_student_sheet($studentsheet,$r,$c);
           # Stuff the sheet into excel
           &export_sheet_as_excel($studentsheet,$student_excel_worksheet);
           my $totaltime = int((time - $starttime) / $count * $sheet->{'maxrow'});
           my $timeleft = int((time - $starttime) / $count * ($sheet->{'maxrow'} - $count));
           if ($count % 5 == 0) {
               $r->print($count.' students completed.'.
                         '  Time remaining: '.$timeleft.' sec. '.
                         '  Estimated total time: '.$totaltime." sec <br />\n");
               $r->rflush();
           }
           if(defined($c) && ($c->aborted())) {
               last;
           }
       }
       #
       if(! $c->aborted() ) {
           $r->print('All students spreadsheets completed!<br />');
           $r->rflush();
           #
           # &export_sheet_as_excel fills $worksheet with the data from $sheet
           &export_sheet_as_excel($sheet,$main_worksheet);
           #
           $workbook->close();
           # Okay, the spreadsheet is taken care of, so give the user a link.
           $r->print('<br /><br />'.
                     '<a href="'.$filename.'">Your Excel spreadsheet.</a>'."\n");
       } else {
           $workbook->close();  # Not sure how necessary this is.
           #unlink('/home/httpd'.$filename); # No need to keep this around?
     }      }
     $tabledata.='</table>';      return 1;
 }  }
   
   sub outsheet_excel {
       my ($sheet,$r) = @_;
       my ($workbook,$filename) = &create_excel_spreadsheet($sheet,$r);
       return undef if (! defined($workbook));
       my $sheetname;
       if ($sheet->{'sheettype'} eq 'classcalc') {
           $sheetname = 'Main';
       } elsif ($sheet->{'sheettype'} eq 'studentcalc') {
           $sheetname = $sheet->{'uname'}.'@'.$sheet->{'udom'};
       } elsif ($sheet->{'sheettype'} eq 'assesscalc') {
           $sheetname = $sheet->{'uname'}.'@'.$sheet->{'udom'}.' assessment';
       }
       my $worksheet = $workbook->addworksheet($sheetname);
       #
       # &export_sheet_as_excel fills $worksheet with the data from $sheet
       &export_sheet_as_excel($sheet,$worksheet);
       #
       $workbook->close();
       # Okay, the spreadsheet is taken care of, so give the user a link.
       $r->print('<br /><br />'.
                 '<a href="'.$filename.'">Your Excel spreadsheet.</a>'."\n");
       return 1;
   }
   
   sub create_excel_spreadsheet {
       my ($sheet,$r) = @_;
       my $filename = '/prtspool/'.
           $ENV{'user.name'}.'_'.$ENV{'user.domain'}.'_'.
           time.'_'.rand(1000000000).'.xls';
       my $workbook  = Spreadsheet::WriteExcel->new('/home/httpd'.$filename);
       if (! defined($workbook)) {
           $r->log_error("Error creating excel spreadsheet $filename: $!");
           $r->print("Problems creating new Excel file.  ".
                     "This error has been logged.  ".
                     "Please alert your LON-CAPA administrator");
           return undef;
       }
       #
       # The spreadsheet stores temporary data in files, then put them
       # together.  If needed we should be able to disable this (memory only).
       # The temporary directory must be specified before calling 'addworksheet'.
       # File::Temp is used to determine the temporary directory.
       $workbook->set_tempdir('/home/httpd/perl/tmp');
       #
       # Determine the name to give the worksheet
       return ($workbook,$filename);
   }
   
   sub export_sheet_as_excel {
       my $sheet = shift;
       my $worksheet = shift;
       #
       my $rows_output = 0;
       my $cols_output = 0;
       ####################################
       #    Write an identifying row      #
       ####################################
       my @Headerinfo = ($sheet->{'coursedesc'});
       my $title = &gettitle($sheet);
       $cols_output = 0;    
       if (defined($title)) {
           $worksheet->write($rows_output++,$cols_output++,$title);
       }
       ####################################
       #   Write the summary/export row   #
       ####################################
       my ($rowlabel,@rowdata) = &get_row($sheet,'0');
       my $label = &format_excel_rowlabel($rowlabel);
       $cols_output = 0;
       $worksheet->write($rows_output,$cols_output++,$label);
       foreach my $cell (@rowdata) {
           $worksheet->write($rows_output,$cols_output++,$cell->{'value'});
       }
       $rows_output+= 2;   # Skip a row, just for fun
       ####################################
       # Prepare to output rows
       ####################################
       my @Rows = &sort_indicies($sheet);
       #
       # Loop through the rows and output them one at a time
       foreach my $rownum (@Rows) {
           my ($rowlabel,@rowdata) = &get_row($sheet,$rownum);
           next if ($rowlabel =~ /^[\s]*$/);
           $cols_output = 0;
           my $label = &format_excel_rowlabel($rowlabel);
           if ( ! $ENV{'form.showall'} &&
                $sheet->{'sheettype'} =~ /^(studentcalc|classcalc)$/) {
               my $row_is_empty = 1;
               foreach my $cell (@rowdata) {
                   if ($cell->{'value'} !~  /^\s*$/) {
                       $row_is_empty = 0;
                       last;
                   }
               }
               next if ($row_is_empty);
           }
           $worksheet->write($rows_output,$cols_output++,$label);
           if (ref($label)) {
               $cols_output = (scalar(@$label));
           }
           foreach my $cell (@rowdata) {
               $worksheet->write($rows_output,$cols_output++,$cell->{'value'});
           }
           $rows_output++;
       }
       return;
   }
   
   ############################################
   ##          XML output routines           ##
   ############################################
   sub outsheet_xml   {
       my ($sheet,$r) = @_;
       ## Someday XML
       ## Will be rendered for the user
       ## But not on this day
   }
   
   ##
   ## Outsheet - calls other outsheet_* functions
   ##
   sub outsheet {
       my ($sheet,$r)=@_;
       if (! exists($ENV{'form.output'})) {
           $ENV{'form.output'} = 'HTML';
       }
       if (lc($ENV{'form.output'}) eq 'csv') {
           &outsheet_csv($sheet,$r);
       } elsif (lc($ENV{'form.output'}) eq 'excel') {
           &outsheet_excel($sheet,$r);
       } elsif (lc($ENV{'form.output'}) eq 'recursive excel') {
           &outsheet_recursive_excel($sheet,$r);
   #    } elsif (lc($ENV{'form.output'}) eq 'xml' ) {
   #        &outsheet_xml($sheet,$r);
       } else {
           &outsheet_html($sheet,$r);
       }
   }
   
   ########################################################################
   ########################################################################
   sub othersheets {
       my ($sheet,$stype)=@_;
       $stype = $sheet->{'sheettype'} if (! defined($stype));
       #
       my $cnum  = $sheet->{'cnum'};
       my $cdom  = $sheet->{'cdom'};
       my $chome = $sheet->{'chome'};
       #
       my @alternatives=();
       my %results=&Apache::lonnet::dump($stype.'_spreadsheets',$cdom,$cnum);
       my ($tmp) = keys(%results);
       unless ($tmp =~ /^(con_lost|error|no_such_host)/i) {
           @alternatives = sort (keys(%results));
       }
       return @alternatives; 
   }
   
 # ------------------------------------- Read spreadsheet formulas from a course  #
   # -------------------------------------- Parse a spreadsheet
   # 
   sub parse_sheet {
       # $sheetxml is a scalar reference or a scalar
       my ($sheetxml) = @_;
       if (! ref($sheetxml)) {
           my $tmp = $sheetxml;
           $sheetxml = \$tmp;
       }
       my %f;
       my $parser=HTML::TokeParser->new($sheetxml);
       my $token;
       while ($token=$parser->get_token) {
           if ($token->[0] eq 'S') {
               if ($token->[1] eq 'field') {
                   $f{$token->[2]->{'col'}.$token->[2]->{'row'}}=
                       $parser->get_text('/field');
               }
               if ($token->[1] eq 'template') {
                   $f{'template_'.$token->[2]->{'col'}}=
                       $parser->get_text('/template');
               }
           }
       }
       return \%f;
   }
   
   #
   # -------------------------------------- Read spreadsheet formulas for a course
   #
 sub readsheet {  sub readsheet {
     my ($safeeval,$fn,$r)=@_;      my ($sheet,$fn)=@_;
     my %f=();      #
     if (($fn eq '') || ($fn=~/^default\_/)) {      my $stype = $sheet->{'sheettype'};
  my $sheetxml='';      my $cnum  = $sheet->{'cnum'};
        {      my $cdom  = $sheet->{'cdom'};
          my $fh;      my $chome = $sheet->{'chome'};
          if ($fh=Apache::File->new($r->dir_config('lonIncludes').      #
                          '/default.'.&gettype($safeeval))) {      if (! defined($fn)) {
                $sheetxml=join('',<$fh>);          # There is no filename. Look for defaults in course and global, cache
           }          unless ($fn=$defaultsheets{$cnum.'_'.$cdom.'_'.$stype}) {
        }              my %tmphash = &Apache::lonnet::get('environment',
        my $parser=HTML::TokeParser->new(\$sheetxml);                                                 ['spreadsheet_default_'.$stype],
        my $token;                                                 $cdom,$cnum);
        while ($token=$parser->get_token) {              my ($tmp) = keys(%tmphash);
           if ($token->[0] eq 'S') {              if ($tmp =~ /^(con_lost|error|no_such_host)/i) {
       if ($token->[1] eq 'field') {                  $fn = 'default_'.$stype;
   $f{$token->[2]->{'col'}.$token->[2]->{'row'}}=              } else {
       $parser->get_text('/field');                  $fn = $tmphash{'spreadsheet_default_'.$stype};
       }              } 
              if ($token->[1] eq 'template') {              unless (($fn) && ($fn!~/^error\:/)) {
                  $f{'template_'.$token->[2]->{'col'}}=                  $fn='default_'.$stype;
                      $parser->get_text('/template');              }
              }              $defaultsheets{$cnum.'_'.$cdom.'_'.$stype}=$fn; 
           }          }
        }      }
        &setfilename($safeeval,'default_'.&gettype($safeeval));      # $fn now has a value
       $sheet->{'filename'} = $fn;
       # see if sheet is cached
       my $fstring='';
       if ($fstring=$spreadsheets{$cnum.'_'.$cdom.'_'.$stype.'_'.$fn}) {
           my %tmp = split(/___;___/,$fstring);
           $sheet->{'f'} = \%tmp;
           &setformulas($sheet);
     } else {      } else {
        &setfilename($safeeval,$fn);          # Not cached, need to read
        unless ($spreadsheets{$fn}) {          my %f=();
           $spreadsheets{$fn}='';          if ($fn=~/^default\_/) {
           my $reply=&Apache::lonnet::reply('dump:'.              my $sheetxml='';
               $ENV{'course.'.$ENV{'request.course.id'}.'.domain'}.':'.              my $fh;
               $ENV{'course.'.$ENV{'request.course.id'}.'.num'}.':'.$fn,              my $dfn=$fn;
               $ENV{'course.'.$ENV{'request.course.id'}.'.home'});              $dfn=~s/\_/\./g;
           unless ($reply=~/^error\:/) {              if ($fh=Apache::File->new($includedir.'/'.$dfn)) {
              $spreadsheets{$fn}=$reply;                  $sheetxml=join('',<$fh>);
           }              } else {
        }                  # $sheetxml='<field row="0" col="A">"Error"</field>';
        map {                  $sheetxml='<field row="0" col="A"></field>';
            my ($name,$value)=split(/\=/,$_);              }
            $f{&Apache::lonnet::unescape($name)}=              %f=%{&parse_sheet(\$sheetxml)};
       &Apache::lonnet::unescape($value);          } elsif($fn=~/\/*\.spreadsheet$/) {
        } split(/\&/,$spreadsheets{$fn});              my $sheetxml=&Apache::lonnet::getfile
                   (&Apache::lonnet::filelocation('',$fn));
               if ($sheetxml == -1) {
                   $sheetxml='<field row="0" col="A">"Error loading spreadsheet '
                       .$fn.'"</field>';
               }
               %f=%{&parse_sheet(\$sheetxml)};
           } else {
               my $sheet='';
               my %tmphash = &Apache::lonnet::dump($fn,$cdom,$cnum);
               my ($tmp) = keys(%tmphash);
               unless ($tmp =~ /^(con_lost|error|no_such_host)/i) {
                   foreach (keys(%tmphash)) {
                       $f{$_}=$tmphash{$_};
                   }
               }
           }
           # Cache and set
           $spreadsheets{$cnum.'_'.$cdom.'_'.$stype.'_'.$fn}=join('___;___',%f);  
           $sheet->{'f'}=\%f;
           &setformulas($sheet);
     }      }
   }
   
     &setformulas($safeeval,%f);  # -------------------------------------------------------- Make new spreadsheet
   sub makenewsheet {
       my ($uname,$udom,$stype,$usymb)=@_;
       my $sheet={};
       $sheet->{'uname'} = $uname;
       $sheet->{'udom'}  = $udom;
       $sheet->{'sheettype'} = $stype;
       $sheet->{'usymb'} = $usymb;
       $sheet->{'mapid'} = $ENV{'form.mapid'};
       $sheet->{'resid'} = $ENV{'form.resid'};
       $sheet->{'cid'}   = $ENV{'request.course.id'};
       $sheet->{'csec'}  = $Section{$uname.':'.$udom};
       $sheet->{'coursefilename'}   = $ENV{'request.course.fn'};
       $sheet->{'cnum'}  = $ENV{'course.'.$ENV{'request.course.id'}.'.num'};
       $sheet->{'cdom'}  = $ENV{'course.'.$ENV{'request.course.id'}.'.domain'};
       $sheet->{'chome'} = $ENV{'course.'.$ENV{'request.course.id'}.'.home'};
       $sheet->{'coursedesc'} = $ENV{'course.'.$ENV{'request.course.id'}.
                                         '.description'};
       $sheet->{'uhome'} = &Apache::lonnet::homeserver($uname,$udom);
       #
       #
       $sheet->{'f'} = {};
       $sheet->{'constants'} = {};
       $sheet->{'othersheets'} = [];
       $sheet->{'rowlabel'} = {};
       #
       #
       $sheet->{'safe'}=&initsheet($sheet->{'sheettype'});
       #
       # Place all the %$sheet items into the safe space except the safe space
       # itself
       my $initstring = '';
       foreach (qw/uname udom sheettype usymb cid csec coursefilename
                cnum cdom chome uhome/) {
           $initstring.= qq{\$$_="$sheet->{$_}";};
       }
       $sheet->{'safe'}->reval($initstring);
       return $sheet;
 }  }
   
 # ------------------------------------------------------------ Save spreadsheet  # ------------------------------------------------------------ Save spreadsheet
   
 sub writesheet {  sub writesheet {
   my $safeeval=shift;      my ($sheet,$makedef)=@_;
   if (&Apache::lonnet::allowed('opa',$ENV{'request.course.id'})) {      my $cid=$sheet->{'cid'};
     my %f=&getformulas($safeeval);      if (&Apache::lonnet::allowed('opa',$cid)) {
     my $sheetdata='';          my %f=&getformulas($sheet);
     map {          my $stype= $sheet->{'sheettype'};
        $sheetdata.=&Apache::lonnet::escape($_).'='.          my $cnum = $sheet->{'cnum'};
    &Apache::lonnet::escape($f{$_}).'&';          my $cdom = $sheet->{'cdom'};
     } keys %f;          my $chome= $sheet->{'chome'};
     $sheetdata=~s/\&$//;          my $fn   = $sheet->{'filename'};
     my $reply=&Apache::lonnet::reply('put:'.          # Cache new sheet
               $ENV{'course.'.$ENV{'request.course.id'}.'.domain'}.':'.          $spreadsheets{$cnum.'_'.$cdom.'_'.$stype.'_'.$fn}=join('___;___',%f);
               $ENV{'course.'.$ENV{'request.course.id'}.'.num'}.':'.          # Write sheet
               &getfilename($safeeval).':'.          foreach (keys(%f)) {
               $sheetdata,              delete($f{$_}) if ($f{$_} eq 'import');
               $ENV{'course.'.$ENV{'request.course.id'}.'.home'});          }
   }             my $reply = &Apache::lonnet::put($fn,\%f,$cdom,$cnum);
           if ($reply eq 'ok') {
               $reply = &Apache::lonnet::put($stype.'_spreadsheets',
                               {$fn => $ENV{'user.name'}.'@'.$ENV{'user.domain'}},
                                             $cdom,$cnum);
               if ($reply eq 'ok') {
                   if ($makedef) { 
                       return &Apache::lonnet::put('environment',
                                     {'spreadsheet_default_'.$stype => $fn },
                                                   $cdom,$cnum);
                   } 
                   return $reply;
               } 
               return $reply;
           } 
           return $reply;
       }
       return 'unauthorized';
 }  }
   
 # ----------------------------------------------- Make a temp copy of the sheet  # ----------------------------------------------- Make a temp copy of the sheet
   # "Modified workcopy" - interactive only
   #
 sub tmpwrite {  sub tmpwrite {
     my ($safeeval,$tmpdir,$symb)=@_;      my ($sheet) = @_;
     my $fn=$uname.'_'.$udom.'_spreadsheet_'.$symb.'_'.&getfilename($safeeval);      my $fn=$ENV{'user.name'}.'_'.
           $ENV{'user.domain'}.'_spreadsheet_'.$sheet->{'usymb'}.'_'.
              $sheet->{'filename'};
     $fn=~s/\W/\_/g;      $fn=~s/\W/\_/g;
     $fn=$tmpdir.$fn.'.tmp';      $fn=$tmpdir.$fn.'.tmp';
     my $fh;      my $fh;
     if ($fh=Apache::File->new('>'.$fn)) {      if ($fh=Apache::File->new('>'.$fn)) {
  print $fh join("\n",&getformulas($safeeval));   print $fh join("\n",&getformulas($sheet));
     }      }
 }  }
   
 # ---------------------------------------------------------- Read the temp copy  # ---------------------------------------------------------- Read the temp copy
   
 sub tmpread {  sub tmpread {
     my ($safeeval,$tmpdir,$symb,$nfield,$nform)=@_;      my ($sheet,$nfield,$nform)=@_;
     my $fn=$uname.'_'.$udom.'_spreadsheet_'.$symb.'_'.&getfilename($safeeval);      my $fn=$ENV{'user.name'}.'_'.
              $ENV{'user.domain'}.'_spreadsheet_'.$sheet->{'usymb'}.'_'.
              $sheet->{'filename'};
     $fn=~s/\W/\_/g;      $fn=~s/\W/\_/g;
     $fn=$tmpdir.$fn.'.tmp';      $fn=$tmpdir.$fn.'.tmp';
     my $fh;      my $fh;
     my %fo=();      my %fo=();
       my $countrows=0;
     if ($fh=Apache::File->new($fn)) {      if ($fh=Apache::File->new($fn)) {
         my $name;          my $name;
         while ($name=<$fh>) {          while ($name=<$fh>) {
Line 682  sub tmpread { Line 1945  sub tmpread {
             my $value=<$fh>;              my $value=<$fh>;
             chomp($value);              chomp($value);
             $fo{$name}=$value;              $fo{$name}=$value;
               if ($name=~/^A(\d+)$/) {
    if ($1>$countrows) {
       $countrows=$1;
                   }
               }
         }          }
     }      }
     $fo{$nfield}=$nform;      if ($nform eq 'changesheet') {
     &setformulas($safeeval,%fo);          $fo{'A'.$nfield}=(split(/__&&&\__/,$fo{'A'.$nfield}))[0];
 }          unless ($ENV{'form.sel_'.$nfield} eq 'Default') {
       $fo{'A'.$nfield}.='__&&&__'.$ENV{'form.sel_'.$nfield};
 # --------------------------------------------------------------- Read metadata          }
       } elsif ($nfield eq 'insertrow') {
 sub readmeta {          $countrows++;
     my $fn=shift;          my $newrow=substr('000000'.$countrows,-7);
     unless ($fn=~/\.meta$/) { $fn.='meta'; }          if ($nform eq 'top') {
     my $content;      $fo{'A'.$countrows}='--- '.$newrow;
     my %returnhash=();          } else {
     {              $fo{'A'.$countrows}='~~~ '.$newrow;
       my $fh=Apache::File->new($fn);          }
       $content=join('',<$fh>);      } else {
     }         if ($nfield) { $fo{$nfield}=$nform; }
    my $parser=HTML::TokeParser->new(\$content);      }
    my $token;      $sheet->{'f'}=\%fo;
    while ($token=$parser->get_token) {      &setformulas($sheet);
       if ($token->[0] eq 'S') {  
          my $entry=$token->[1];  
          if (($entry eq 'stores') || ($entry eq 'parameter')) {  
              my $unikey=$entry;  
              $unikey.='_'.$token->[2]->{'part'};   
              $unikey.='_'.$token->[2]->{'name'};   
              $returnhash{$unikey}=$token->[2]->{'display'};  
          }  
      }  
   }  
     return %returnhash;  
 }  }
   
 # ================================================================== Parameters  ##################################################
 # -------------------------------------------- Figure out a cascading parameter  ##################################################
   
 sub parmval {  
     my ($what,$symb)=@_;  
   
     unless ($symb) { return ''; }  
     my $result='';  
   
     my ($mapname,$id,$fn)=split(/\_\_\_/,$symb);  
 # ----------------------------------------------------- Cascading lookup scheme  
        my $rwhat=$what;  
        $what=~s/^parameter\_//;  
        $what=~s/\_/\./;  
   
        my $symbparm=$symb.'.'.$what;  
        my $mapparm=$mapname.'___(all).'.$what;  
   
        my $seclevel=  =pod
             $ENV{'request.course.id'}.'.['.  
  $csec.'].'.$what;  
        my $seclevelr=  
             $ENV{'request.course.id'}.'.['.  
  $csec.'].'.$symbparm;  
        my $seclevelm=  
             $ENV{'request.course.id'}.'.['.  
  $csec.'].'.$mapparm;  
   
        my $courselevel=  =item &parmval()
             $ENV{'request.course.id'}.'.'.$what;  
        my $courselevelr=  
             $ENV{'request.course.id'}.'.'.$symbparm;  
        my $courselevelm=  
             $ENV{'request.course.id'}.'.'.$mapparm;  
   
 # ---------------------------------------------------------- fourth, check user  Determine the value of a parameter.
         
       if ($uname) {   
   
        if ($useropt{$courselevelr}) { return $useropt{$courselevelr}; }  Inputs: $what, the parameter needed, $sheet, the safe space
   
        if ($useropt{$courselevelm}) { return $useropt{$courselevelm}; }  Returns: The value of a parameter, or '' if none.
   
        if ($useropt{$courselevel}) { return $useropt{$courselevel}; }  This function cascades through the possible levels searching for a value for
   a parameter.  The levels are checked in the following order:
   user, course (at section level and course level), map, and lonnet::metadata.
   This function uses %parmhash, which must be tied prior to calling it.
   This function also requires %courseopt and %useropt to be initialized for
   this user and course.
   
       }  =cut
   
 # --------------------------------------------------------- third, check course  ##################################################
        ##################################################
        if ($csec) {  sub parmval {
        my ($what,$sheet)=@_;
         if ($courseopt{$seclevelr}) { return $courseopt{$seclevelr}; }      my $symb  = $sheet->{'usymb'};
       unless ($symb) { return ''; }
         if ($courseopt{$seclevelm}) { return $courseopt{$seclevelm}; }        #
       my $cid   = $sheet->{'cid'};
         if ($courseopt{$seclevel}) { return $courseopt{$seclevel}; }      my $csec  = $sheet->{'csec'};
         my $uname = $sheet->{'uname'};
       }      my $udom  = $sheet->{'udom'};
       my $result='';
       #
       my ($mapname,$id,$fn)=split(/\_\_\_/,$symb);
       # Cascading lookup scheme
       my $rwhat=$what;
       $what =~ s/^parameter\_//;
       $what =~ s/\_([^\_]+)$/\.$1/;
       #
       my $symbparm = $symb.'.'.$what;
       my $mapparm  = $mapname.'___(all).'.$what;
       my $usercourseprefix = $uname.'_'.$udom.'_'.$cid;
       #
       my $seclevel  = $usercourseprefix.'.['.$csec.'].'.$what;
       my $seclevelr = $usercourseprefix.'.['.$csec.'].'.$symbparm;
       my $seclevelm = $usercourseprefix.'.['.$csec.'].'.$mapparm;
       #
       my $courselevel  = $usercourseprefix.'.'.$what;
       my $courselevelr = $usercourseprefix.'.'.$symbparm;
       my $courselevelm = $usercourseprefix.'.'.$mapparm;
       # fourth, check user
       if (defined($uname)) {
           return $useropt{$courselevelr} if (defined($useropt{$courselevelr}));
           return $useropt{$courselevelm} if (defined($useropt{$courselevelm}));
           return $useropt{$courselevel}  if (defined($useropt{$courselevel}));
       }
       # third, check course
       if (defined($csec)) {
           return $courseopt{$seclevelr} if (defined($courseopt{$seclevelr}));
           return $courseopt{$seclevelm} if (defined($courseopt{$seclevelm}));
           return $courseopt{$seclevel}  if (defined($courseopt{$seclevel}));
       }
       #
       return $courseopt{$courselevelr} if (defined($courseopt{$courselevelr}));
       return $courseopt{$courselevelm} if (defined($courseopt{$courselevelm}));
       return $courseopt{$courselevel}  if (defined($courseopt{$courselevel}));
       # second, check map parms
       my $thisparm = $parmhash{$symbparm};
       return $thisparm if (defined($thisparm));
       # first, check default
       return &Apache::lonnet::metadata($fn,$rwhat.'.default');
   }
   
        if ($courseopt{$courselevelr}) { return $courseopt{$courselevelr}; }  
   
        if ($courseopt{$courselevelm}) { return $courseopt{$courselevelm}; }  ##################################################################
   ##                  Row label formatting routines               ##
   ##################################################################
   sub format_html_rowlabel {
       my $rowlabel = shift;
       return '' if ($rowlabel eq '');
       my ($type,$labeldata) = split(':',$rowlabel,2);
       my $result = '';
       if ($type eq 'symb') {
           my ($symb,$uname,$udom,$mapid,$resid,$title) = split(':',$labeldata);
           $symb = &Apache::lonnet::unescape($symb);
           $result = '<a href="/adm/assesscalc?usymb='.$symb.
               '&uname='.$uname.'&udom='.$udom.
                   '&mapid='.$mapid.'&resid='.$resid.'">'.$title.'</a>';
       } elsif ($type eq 'student') {
           my ($sname,$sdom,$fullname,$section,$id) = split(':',$labeldata);
           $result ='<a href="/adm/studentcalc?uname='.$sname.
               '&udom='.$sdom.'">';
           $result.=$section.'&nbsp;'.$id."&nbsp;".$fullname.'</a>';
       } elsif ($type eq 'parameter') {
           $result = $labeldata;
       } else {
           $result = '<b><font size=+1>'.$rowlabel.'</font></b>';
       }
       return $result;
   }
   
        if ($courseopt{$courselevel}) { return $courseopt{$courselevel}; }  sub format_csv_rowlabel {
       my $rowlabel = shift;
       return '' if ($rowlabel eq '');
       my ($type,$labeldata) = split(':',$rowlabel,2);
       my $result = '';
       if ($type eq 'symb') {
           my ($symb,$uname,$udom,$mapid,$resid,$title) = split(':',$labeldata);
           $symb = &Apache::lonnet::unescape($symb);
           $result = $title;
       } elsif ($type eq 'student') {
           my ($sname,$sdom,$fullname,$section,$id) = split(':',$labeldata);
           $result = join('","',($sname,$sdom,$fullname,$section,$id));
       } elsif ($type eq 'parameter') {
           $labeldata =~ s/<br>/ /g;
           $result = $labeldata;
       } else {
           $result = $rowlabel;
       }
       return '"'.$result.'"';
   }
   
 # ----------------------------------------------------- second, check map parms  sub format_excel_rowlabel {
       my $rowlabel = shift;
       return '' if ($rowlabel eq '');
       my ($type,$labeldata) = split(':',$rowlabel,2);
       my $result = '';
       if ($type eq 'symb') {
           my ($symb,$uname,$udom,$mapid,$resid,$title) = split(':',$labeldata);
           $symb = &Apache::lonnet::unescape($symb);
           $result = $title;
       } elsif ($type eq 'student') {
           my ($sname,$sdom,$fullname,$section,$id) = split(':',$labeldata);
           $section = '' if (! defined($section));
           $id      = '' if (! defined($id));
           my @Data = ($sname,$sdom,$fullname,$section,$id);
           $result = \@Data;
       } elsif ($type eq 'parameter') {
           $labeldata =~ s/<br>/ /g;
           $result = $labeldata;
       } else {
           $result = $rowlabel;
       }
       return $result;
   }
   
        my $thisparm=$parmhash{$symbparm};  # ---------------------------------------------- Update rows for course listing
        if ($thisparm) { return $thisparm; }  sub updateclasssheet {
       my ($sheet) = @_;
       my $cnum  =$sheet->{'cnum'};
       my $cdom  =$sheet->{'cdom'};
       my $cid   =$sheet->{'cid'};
       my $chome =$sheet->{'chome'};
       #
       %Section = ();
       #
       # Read class list and row labels
       my $classlist = &Apache::loncoursedata::get_classlist();
       if (! defined($classlist)) {
           return 'Could not access course classlist';
       } 
       #
       my %currentlist=();
       foreach my $student (keys(%$classlist)) {
           my ($studentDomain,$studentName,$end,$start,$id,$studentSection,
               $fullname,$status)   =   @{$classlist->{$student}};
           $Section{$studentName.':'.$studentDomain} = $studentSection;
           if ($ENV{'form.Status'} eq $status || $ENV{'form.Status'} eq 'Any') {
               $currentlist{$student}=join(':',('student',$studentName,
                                                $studentDomain,$fullname,
                                                $studentSection,$id));
           }
       }
       #
       # Find discrepancies between the course row table and this
       #
       my %f=&getformulas($sheet);
       my $changed=0;
       #
       $sheet->{'maxrow'}=0;
       my %existing=();
       #
       # Now obsolete rows
       foreach (keys(%f)) {
           if ($_=~/^A(\d+)/) {
               if ($1 > $sheet->{'maxrow'}) {
                   $sheet->{'maxrow'}= $1;
               }
               $existing{$f{$_}}=1;
               unless ((defined($currentlist{$f{$_}})) || (!$1) ||
                       ($f{$_}=~/^(~~~|---)/)) {
                   $f{$_}='!!! Obsolete';
                   $changed=1;
               }
           }
       }
       #
       # New and unknown keys
       foreach my $student (sort keys(%currentlist)) {
           unless ($existing{$student}) {
               $changed=1;
               $sheet->{'maxrow'}++;
               $f{'A'.$sheet->{'maxrow'}}=$student;
           }
       }
       if ($changed) { 
           $sheet->{'f'} = \%f;
           &setformulas($sheet,%f); 
       }
       #
       &setrowlabels($sheet,\%currentlist);
   }
   
   # ----------------------------------- Update rows for student and assess sheets
   sub get_student_rowlabels {
       my ($sheet) = @_;
       #
       my %course_db;
       #
       my $stype = $sheet->{'sheettype'};
       my $uname = $sheet->{'uname'};
       my $udom  = $sheet->{'udom'};
       #
       $sheet->{'rowlabel'} = {};
       #
       my $identifier =$sheet->{'coursefilename'}.'_'.$stype;
       if  ($rowlabel_cache{$identifier}) {
           %{$sheet->{'rowlabel'}}=split(/___;___/,$rowlabel_cache{$identifier});
       } else {
           # Get the data and store it in the cache
           # Tie hash
           tie(%course_db,'GDBM_File',$sheet->{'coursefilename'}.'.db',
               &GDBM_READER(),0640);
           if (! tied(%course_db)) {
               return 'Could not access course data';
           }
           #
           my %assesslist;
           foreach ('Feedback','Evaluation','Tutoring','Discussion') {
               my $symb = '_'.lc($_);
               $assesslist{$symb} = join(':',('symb',$symb,$uname,$udom,0,0,$_));
           }
           #
           while (my ($key,$srcf) = each(%course_db)) {
               next if ($key !~ /^src_(\d+)\.(\d+)$/);
               my $mapid = $1;
               my $resid = $2;
               my $id   = $mapid.'.'.$resid;
               if ($srcf=~/\.(problem|exam|quiz|assess|survey|form)$/) {
                   my $symb=
                       &Apache::lonnet::declutter($course_db{'map_id_'.$mapid}).
                           '___'.$resid.'___'.&Apache::lonnet::declutter($srcf);
                   $assesslist{$symb}='symb:'.&Apache::lonnet::escape($symb).':'
                       .$uname.':'.$udom.':'.$mapid.':'.$resid.':'.
                           $course_db{'title_'.$id};
               }
           }
           untie(%course_db);
           # Store away the data
           $sheet->{'rowlabel'} = \%assesslist;
           $rowlabel_cache{$identifier}=join('___;___',%{$sheet->{'rowlabel'}});
       }
   
 # -------------------------------------------------------- first, check default  }
   
        return &Apache::lonnet::metadata($fn,$rwhat.'.default');  sub get_assess_rowlabels {
       my ($sheet) = @_;
       #
       my %course_db;
       #
       my $stype = $sheet->{'sheettype'};
       my $uname = $sheet->{'uname'};
       my $udom  = $sheet->{'udom'};
       my $usymb = $sheet->{'usymb'};
       #
       $sheet->{'rowlabel'} = {};
       my $identifier =$sheet->{'coursefilename'}.'_'.$stype.'_'.$usymb;
       #
       if  ($rowlabel_cache{$identifier}) {
           %{$sheet->{'rowlabel'}}=split(/___;___/,$rowlabel_cache{$identifier});
       } else {
           # Get the data and store it in the cache
           # Tie hash
           tie(%course_db,'GDBM_File',$sheet->{'coursefilename'}.'.db',
               &GDBM_READER(),0640);
           if (! tied(%course_db)) {
               return 'Could not access course data';
           }
           #
           my %parameter_labels=
               ('timestamp' => 
                    'parameter:Timestamp of Last Transaction<br>timestamp',
                'subnumber' =>
                    'parameter:Number of Submissions<br>subnumber',
                'tutornumber' =>
                    'parameter:Number of Tutor Responses<br>tutornumber',
                'totalpoints' =>
                    'parameter:Total Points Granted<br>totalpoints');
           while (my ($key,$srcf) = each(%course_db)) {
               next if ($key !~ /^src_(\d+)\.(\d+)$/);
               my $mapid = $1;
               my $resid = $2;
               my $id   = $mapid.'.'.$resid;
               if ($srcf=~/\.(problem|exam|quiz|assess|survey|form)$/) {
                   # Loop through the metadata for this key
                   my @Metadata = split(/,/,
                                        &Apache::lonnet::metadata($srcf,'keys'));
                   foreach my $key (@Metadata) {
                       next if ($key !~ /^(stores|parameter)_/);
                       my $display=
                           &Apache::lonnet::metadata($srcf,$key.'.display');
                       unless ($display) {
                           $display.=
                               &Apache::lonnet::metadata($srcf,$key.'.name');
                       }
                       $display.='<br>'.$key;
                       $parameter_labels{$key}='parameter:'.$display;
                   } # end of foreach
               }
           }
           untie(%course_db);
           # Store away the results
           $sheet->{'rowlabel'} = \%parameter_labels;
           $rowlabel_cache{$identifier}=join('___;___',%{$sheet->{'rowlabel'}});
       }
                   
 }  }
   
   sub updatestudentassesssheet {
 # ----------------------------------------------------------------- Update rows      my $sheet = shift;
       if ($sheet->{'sheettype'} eq 'studentcalc') {
 sub updaterows {          &get_student_rowlabels($sheet);
     my $safeeval=shift;      } else {
     my %bighash;          &get_assess_rowlabels($sheet);
 # -------------------------------------------------------------------- Tie hash      }
       if (tie(%bighash,'GDBM_File',$ENV{'request.course.fn'}.'.db',      # Determine if any of the information has changed
                        &GDBM_READER,0640)) {      my %f=&getformulas($sheet);
 # --------------------------------------------------------- Get all assessments      my $changed=0;
   
  my %allkeys=();  
         my %allassess=();  
   
         my $stype=&gettype($safeeval);  
   
         map {  
     if ($_=~/^src\_(\d+)\.(\d+)$/) {  
        my $mapid=$1;  
                my $resid=$2;  
                my $id=$mapid.'.'.$resid;  
                my $srcf=$bighash{$_};  
                if ($srcf=~/\.(problem|exam|quiz|assess|survey|form)$/) {  
                  my $symb=  
                      &Apache::lonnet::declutter($bighash{'map_id_'.$mapid}).  
     '___'.$resid.'___'.  
     &Apache::lonnet::declutter($srcf);  
  $allassess{$symb}=$bighash{'title_'.$id};  
   
                  if ($stype eq 'assesscalc') {  
                    map {  
                        if (($_=~/^stores\_(.*)/) || ($_=~/^parameter\_(.*)/)) {  
   my $key=$_;  
                           my $display=  
       &Apache::lonnet::metadata($srcf,$key.'.display');  
                           unless ($display) {  
                               $display=  
          &Apache::lonnet::metadata($srcf,$key.'.name');  
                           }  
                           $allkeys{$key}=$display;  
        }  
                    } split(/\,/,&Apache::lonnet::metadata($srcf,'keys'));  
          }  
       }  
    }  
         } keys %bighash;  
         untie(%bighash);  
           
 #      $sheet->{'maxrow'} = 0;
 # %allkeys has a list of storage and parameter displays by unikey      my %existing=();
 # %allassess has a list of all resource displays by symb      # Now obsolete rows
 #      foreach my $cell (keys(%f)) {
 # -------------------- Find discrepancies between the course row table and this          my $formula = $f{$cell};
 #          next if ($cell !~ /^A(\d+)/);
         my %f=&getformulas($safeeval);          $sheet->{'maxrow'} = $1 if ($1 > $sheet->{'maxrow'});
         my $changed=0;          my ($usy,$ufn)=split(/__&&&\__/,$formula);
           $existing{$usy}=1;
           unless ((exists($sheet->{'rowlabel'}->{$usy}) && 
                    (defined($sheet->{'rowlabel'}->{$usy})) || (!$1) ||
                    ($formula =~ /^(~~~|---)/) )) {
               $f{$_}='!!! Obsolete';
               $changed=1;
           } elsif ($ufn) {
               # I do not think this works any more
               $sheet->{'rowlabel'}->{$usy}
                   =~s/assesscalc\?usymb\=/assesscalc\?ufn\=$ufn&\usymb\=/;
           }
       }
       # New and unknown keys
       foreach (keys(%{$sheet->{'rowlabel'}})) {
           unless ($existing{$_}) {
               $changed=1;
               $sheet->{'maxrow'}++;
               $f{'A'.$sheet->{'maxrow'}}=$_;
           }
       }
       if ($changed) { 
           $sheet->{'f'} = \%f;
           &setformulas($sheet); 
       }
   }
   
         my %current=();  # ------------------------------------------------ Load data for one assessment
         if ($stype eq 'assesscalc') {  
     %current=%allkeys;  
         } elsif ($stype eq 'studentcalc') {  
             %current=%allassess;  
         }  
   
         my $maxrow=0;  
         my %existing=();  
   
 # ----------------------------------------------------------- Now obsolete rows  
  map {  
     if ($_=~/^A(\d+)/) {  
                 $maxrow=($1>$maxrow)?$1:$maxrow;  
                 $existing{$f{$_}}=1;  
  unless ((defined($current{$f{$_}})) || (!$1)) {  
    $f{$_}='!!! Obsolete';  
                    $changed=1;  
                 }  
             }  
         } keys %f;  
   
 # -------------------------------------------------------- New and unknown keys  sub loadstudent{
            my ($sheet,$r,$c)=@_;
         map {      my %constants=();
             unless ($existing{$_}) {      my %formulas=&getformulas($sheet);
  $changed=1;      $cachedassess=$sheet->{'uname'}.':'.$sheet->{'udom'};
                 $maxrow++;      # Get ALL the student preformance data
                 $f{'A'.$maxrow}=$_;      my @tmp = &Apache::lonnet::dump($sheet->{'cid'},
                                       $sheet->{'udom'},
                                       $sheet->{'uname'},
                                       undef);
       if ($tmp[0] !~ /^error:/) {
           %cachedstores = @tmp;
       }
       undef @tmp;
       # 
       my @assessdata=();
       foreach my $cell (keys(%formulas)) {
           my $value = $formulas{$cell};
           if(defined($c) && ($c->aborted())) {
               last;
           }
    next if ($cell !~ /^A(\d+)/);
           my $row=$1;
           next if (($value =~ /^[!~-]/) || ($row==0));
           my ($usy,$ufn)=split(/__&&&\__/,$value);
           @assessdata=&exportsheet($sheet,$sheet->{'uname'},
                                    $sheet->{'udom'},
                                    'assesscalc',$usy,$ufn,$r);
           my $index=0;
           foreach my $col ('A','B','C','D','E','F','G','H','I','J','K','L','M',
                            'N','O','P','Q','R','S','T','U','V','W','X','Y','Z') {
               if (defined($assessdata[$index])) {
                   if ($assessdata[$index]=~/\D/) {
                       $constants{$col.$row}="'".$assessdata[$index]."'";
                   } else {
                       $constants{$col.$row}=$assessdata[$index];
                   }
                   $formulas{$col.$row}='import' if ($col ne 'A');
             }              }
         } keys %current;                      $index++;
                }
         if ($changed) { &setformulas($safeeval,%f); }  
   
         &setmaxrow($safeeval,$maxrow);  
         &setrowlabels($safeeval,%current);  
   
     } else {  
         return 'Could not access course data';  
     }      }
       $cachedassess='';
       undef %cachedstores;
       $sheet->{'f'} = \%formulas;
       &setformulas($sheet);
       &setconstants($sheet,\%constants);
 }  }
   
 # --------------------------------------------------- Load data for one student  # --------------------------------------------------- Load data for one student
   #
 sub rowazstudent {  sub loadcourse {
     my $safeeval=shift;      my ($sheet,$r,$c)=@_;
     my %c=();      #
     my %f=&getformulas($safeeval);      my %constants=();
     map {      my %formulas=&getformulas($sheet);
       #
       my $total=0;
       foreach (keys(%formulas)) {
  if ($_=~/^A(\d+)/) {   if ($_=~/^A(\d+)/) {
    my $row=$1;      unless ($formulas{$_}=~/^[\!\~\-]/) { $total++; }
            unless ($f{$_}=~/^\!/) {          }
               my @assessdata=split(/\_\_\_\;\_\_\_/,      }
                              &Apache::lonnet::ssi(      my $now=0;
         '/res/msu/korte/junk.assesscalc',('utarget' => 'export',      my $since=time;
                                           'uname'   => $uname,      $r->print(<<ENDPOP);
                                           'udom'    => $udom,  <script>
                   'usymb'   => $f{$_})));      popwin=open('','popwin','width=400,height=100');
               my $index=0;      popwin.document.writeln('<html><body bgcolor="#FFFFFF">'+
               map {        '<h3>Spreadsheet Calculation Progress</h3>'+
                   if ($assessdata[$index]) {        '<form name=popremain>'+
      $c{$_.$row}=$assessdata[$index];        '<input type=text size=35 name=remaining value=Starting></form>'+
                      unless ($_ eq 'A') {         '</body></html>');
  $f{$_.$row}='import';      popwin.document.close();
                      }  </script>
   }  ENDPOP
                   $index++;      $r->rflush();
               } ('A','B','C','D','E','F','G','H','I','J','K','L','M',      foreach (keys(%formulas)) {
                  'N','O','P','Q','R','S','T','U','V','W','X','Y','Z');          if(defined($c) && ($c->aborted())) {
    }              last;
         }          }
     } keys %f;   next if ($_!~/^A(\d+)/);
     &setformulas($safeeval,%f);          my $row=$1;
     &setconstants($safeeval,%c);          next if (($formulas{$_}=~/^[\!\~\-]/)  || ($row==0));
           my ($sname,$sdom) = split(':',$formulas{$_});
           my @studentdata=&exportsheet($sheet,$sname,$sdom,'studentcalc',
                                        undef,undef,$r);
           undef %userrdatas;
           $now++;
           $r->print('<script>popwin.document.popremain.remaining.value="'.
                     $now.'/'.$total.': '.int((time-$since)/$now*($total-$now)).
                     ' secs remaining";</script>');
           $r->rflush(); 
           #
           my $index=0;
           foreach ('A','B','C','D','E','F','G','H','I','J','K','L','M',
                    'N','O','P','Q','R','S','T','U','V','W','X','Y','Z') {
               if (defined($studentdata[$index])) {
                   my $col=$_;
                   if ($studentdata[$index]=~/\D/) {
                       $constants{$col.$row}="'".$studentdata[$index]."'";
                   } else {
                       $constants{$col.$row}=$studentdata[$index];
                   }
                   unless ($col eq 'A') { 
                       $formulas{$col.$row}='import';
                   }
               } 
               $index++;
           }
       }
       $sheet->{'f'}=\%formulas;
       &setformulas($sheet);
       &setconstants($sheet,\%constants);
       $r->print('<script>popwin.close()</script>');
       $r->rflush(); 
 }  }
   
 # ------------------------------------------------ Load data for one assessment  # ------------------------------------------------ Load data for one assessment
   #
   sub loadassessment {
       my ($sheet,$r,$c)=@_;
   
 sub rowaassess {      my $uhome = $sheet->{'uhome'};
     my ($safeeval,$symb)=@_;      my $uname = $sheet->{'uname'};
     my $uhome=&Apache::lonnet::homeserver($uname,$udom);      my $udom  = $sheet->{'udom'};
     my $namespace;      my $symb  = $sheet->{'usymb'};
     unless ($namespace=$ENV{'request.course.id'}) { return ''; }      my $cid   = $sheet->{'cid'};
       my $cnum  = $sheet->{'cnum'};
       my $cdom  = $sheet->{'cdom'};
       my $chome = $sheet->{'chome'};
   
 # ----------------------------------------------------------- Get stored values      my $namespace;
     my $answer=&Apache::lonnet::reply(      unless ($namespace=$cid) { return ''; }
        "restore:$udom:$uname:".      # Get stored values
        &Apache::lonnet::escape($namespace).":".  
        &Apache::lonnet::escape($symb),$uhome);  
     my %returnhash=();      my %returnhash=();
     map {      if ($cachedassess eq $uname.':'.$udom) {
  my ($name,$value)=split(/\=/,$_);          #
         $returnhash{&Apache::lonnet::unescape($name)}=          # get data out of the dumped stores
                     &Apache::lonnet::unescape($value);          # 
     } split(/\&/,$answer);          my $version=$cachedstores{'version:'.$symb};
     my $version;          my $scope;
     for ($version=1;$version<=$returnhash{'version'};$version++) {          for ($scope=1;$scope<=$version;$scope++) {
        map {              foreach (split(/\:/,$cachedstores{$scope.':keys:'.$symb})) {
           $returnhash{$_}=$returnhash{$version.':'.$_};                  $returnhash{$_}=$cachedstores{$scope.':'.$symb.':'.$_};
        } split(/\:/,$returnhash{$version.':keys'});              } 
     }          }
 # ----------------------------- returnhash now has all stores for this resource      } else {
           #
 # ---------------------------- initialize coursedata and userdata for this user          # restore individual
     %courseopt=();          #
     %useropt=();          %returnhash = &Apache::lonnet::restore($symb,$namespace,$udom,$uname);
     my $uhome=&Apache::lonnet::homeserver($uname,$udom);          for (my $version=1;$version<=$returnhash{'version'};$version++) {
     unless ($uhome eq 'no_host') {               foreach (split(/\:/,$returnhash{$version.':keys'})) {
 # -------------------------------------------------------------- Get coursedata                  $returnhash{$_}=$returnhash{$version.':'.$_};
       unless              } 
         ((time-$courserdatas{$ENV{'request.course.id'}.'.last_cache'})<120) {          }
          my $reply=&Apache::lonnet::reply('dump:'.      }
               $ENV{'course.'.$ENV{'request.course.id'}.'.domain'}.':'.      #
               $ENV{'course.'.$ENV{'request.course.id'}.'.num'}.':resourcedata',      # returnhash now has all stores for this resource
               $ENV{'course.'.$ENV{'request.course.id'}.'.home'});      # convert all "_" to "." to be able to use libraries, multiparts, etc
          if ($reply!~/^error\:/) {      #
             $courserdatas{$ENV{'request.course.id'}}=$reply;      # This is dumb.  It is also necessary :(
             $courserdatas{$ENV{'request.course.id'}.'.last_cache'}=time;      my @oldkeys=keys %returnhash;
          }      #
       }      foreach my $name (@oldkeys) {
       map {          my $value=$returnhash{$name};
          my ($name,$value)=split(/\=/,$_);          delete $returnhash{$name};
          $courseopt{&Apache::lonnet::unescape($name)}=          $name=~s/\_/\./g;
                     &Apache::lonnet::unescape($value);            $returnhash{$name}=$value;
       } split(/\&/,$courserdatas{$ENV{'request.course.id'}});      }
 # --------------------------------------------------- Get userdata (if present)      # initialize coursedata and userdata for this user
       unless      undef %courseopt;
         ((time-$userrdatas{$uname.'___'.$udom.'.last_cache'})<120) {      undef %useropt;
          my $reply=  
        &Apache::lonnet::reply('dump:'.$udom.':'.$uname.':resourcedata',$uhome);  
          if ($reply!~/^error\:/) {  
      $userrdatas{$uname.'___'.$udom}=$reply;  
      $userrdatas{$uname.'___'.$udom.'.last_cache'}=time;  
          }  
       }  
       map {  
          my ($name,$value)=split(/\=/,$_);  
          $useropt{&Apache::lonnet::unescape($name)}=  
           &Apache::lonnet::unescape($value);  
       } split(/\&/,$userrdatas{$uname.'___'.$udom});  
    }  
 # -- now courseopt, useropt initialized for this user and course (used parmval)  
   
       my $userprefix=$uname.'_'.$udom.'_';
   
       unless ($uhome eq 'no_host') { 
           # Get coursedata
           unless ((time-$courserdatas{$cid.'.last_cache'})<240) {
               my %Tmp = &Apache::lonnet::dump('resourcedata',$cdom,$cnum);
               $courserdatas{$cid}=\%Tmp;
               $courserdatas{$cid.'.last_cache'}=time;
           }
           while (my ($name,$value) = each(%{$courserdatas{$cid}})) {
               $courseopt{$userprefix.$name}=$value;
           }
           # Get userdata (if present)
           unless ((time-$userrdatas{$uname.'@'.$udom.'.last_cache'})<240) {
               my %Tmp = &Apache::lonnet::dump('resourcedata',$udom,$uname);
               $userrdatas{$cid} = \%Tmp;
               # Most of the time the user does not have a 'resourcedata.db' 
               # file.  We need to cache that we got nothing instead of bothering
               # with requesting it every time.
               $userrdatas{$uname.'@'.$udom.'.last_cache'}=time;
           }
           while (my ($name,$value) = each(%{$userrdatas{$cid}})) {
               $useropt{$userprefix.$name}=$value;
           }
       }
       # now courseopt, useropt initialized for this user and course
       # (used by parmval)
       #
       # Load keys for this assessment only
       #
       my %thisassess=();
       my ($symap,$syid,$srcf)=split(/\_\_\_/,$symb);
       foreach (split(/\,/,&Apache::lonnet::metadata($srcf,'keys'))) {
           $thisassess{$_}=1;
       } 
       #
       # Load parameters
       #
     my %c=();      my %c=();
     my %f=&getformulas($safeeval);      if (tie(%parmhash,'GDBM_File',
     map {              $sheet->{'coursefilename'}.'_parms.db',&GDBM_READER(),0640)) {
  if ($_=~/^A/) {          my %f=&getformulas($sheet);
             unless ($f{$_}=~/^\!/) {          foreach my $cell (keys(%f))  {
         if ($f{$_}=~/^parameter/) {              next if ($cell !~ /^A/);
           $c{$_}=&parmval($f{$_},$symb);              next if  ($f{$cell} =~/^[\!\~\-]/);
        } else {              if ($f{$cell}=~/^parameter/) {
   my $key=$f{$_};                  if (defined($thisassess{$f{$cell}})) {
                   $key=~s/^stores\_/resource\./;                      my $val       = &parmval($f{$cell},$sheet);
                   $key=~s/\_/\./;                      $c{$cell}     = $val;
            $c{$_}=$returnhash{$key};                      $c{$f{$cell}} = $val;
        }                  }
    }              } else {
                   my $key=$f{$cell};
                   my $ckey=$key;
                   $key=~s/^stores\_/resource\./;
                   $key=~s/\_/\./g;
                   $c{$cell}=$returnhash{$key};
                   $c{$ckey}=$returnhash{$key};
               }
         }          }
     } keys %f;          untie(%parmhash);
       }
     &setconstants($safeeval,%c);      &setconstants($sheet,\%c);
 }  }
   
 # --------------------------------------------------------- Various form fields  # --------------------------------------------------------- Various form fields
Line 1016  sub rowaassess { Line 2594  sub rowaassess {
 sub textfield {  sub textfield {
     my ($title,$name,$value)=@_;      my ($title,$name,$value)=@_;
     return "\n<p><b>$title:</b><br>".      return "\n<p><b>$title:</b><br>".
            '<input type=text name="'.$name.'" size=80 value="'.$value.'">';          '<input type=text name="'.$name.'" size=80 value="'.$value.'">';
 }  }
   
 sub hiddenfield {  sub hiddenfield {
Line 1027  sub hiddenfield { Line 2605  sub hiddenfield {
 sub selectbox {  sub selectbox {
     my ($title,$name,$value,%options)=@_;      my ($title,$name,$value,%options)=@_;
     my $selout="\n<p><b>$title:</b><br>".'<select name="'.$name.'">';      my $selout="\n<p><b>$title:</b><br>".'<select name="'.$name.'">';
     map {      foreach (sort keys(%options)) {
         $selout.='<option value="'.$_.'"';          $selout.='<option value="'.$_.'"';
         if ($_ eq $value) { $selout.=' selected'; }          if ($_ eq $value) { $selout.=' selected'; }
         $selout.='>'.$options{$_}.'</option>';          $selout.='>'.$options{$_}.'</option>';
     } sort keys %options;      }
     return $selout.'</select>';      return $selout.'</select>';
 }  }
   
 # ================================================================ Main handler  # =============================================== Update information in a sheet
   #
 sub handler {  # Add new users or assessments, etc.
     my $r=shift;  #
   
     $uname='';  
     $udom='';  
     $csec='';  
   
    if ($r->header_only) {  
       $r->content_type('text/html');  
       $r->send_http_header;  
       return OK;  
    }  
   
 # ----------------------------------------------------- Needs to be in a course  
   
   if (($ENV{'request.course.fn'}) ||   
       ($ENV{'request.state'} eq 'construct')) {   
   
 # --------------------------- Get query string for limited number of parameters  
   
     map {  
        my ($name, $value) = split(/=/,$_);  
        $value =~ tr/+/ /;  
        $value =~ s/%([a-fA-F0-9][a-fA-F0-9])/pack("C",hex($1))/eg;  
        if (($name eq 'uname') || ($name eq 'udom') ||   
            ($name eq 'usymb') || ($name eq 'ufn')) {  
            unless ($ENV{'form.'.$name}) {  
               $ENV{'form.'.$name}=$value;  
    }  
        }  
     } (split(/&/,$ENV{'QUERY_STRING'}));  
   
 # ------------------------------------------- Nothing there? Must be login user  sub updatesheet {
     unless ($ENV{'form.uname'}) {      my ($sheet)=@_;
  $uname=$ENV{'user.name'};      if ($sheet->{'sheettype'} eq 'classcalc') {
         $udom=$ENV{'user.domain'};   return &updateclasssheet($sheet);
     } else {      } else {
         $uname=$ENV{'form.uname'};          return &updatestudentassesssheet($sheet);
         $udom=$ENV{'form.udom'};  
     }      }
 # ----------------------------------------------------------- Change of target?  }
   
     my $reroute=($ENV{'form.utarget'} eq 'export');  
   
 # ------------------------------------------------------------------- Open page  # =================================================== Load the rows for a sheet
   #
   # Import the data for rows
   #
   
     $r->content_type('text/html');  sub loadrows {
     $r->header_out('Cache-control','no-cache');      my ($sheet,$r)=@_;
     $r->header_out('Pragma','no-cache');      my $c = $r->connection;
     $r->send_http_header;      my $stype=$sheet->{'sheettype'};
       if ($stype eq 'classcalc') {
    &loadcourse($sheet,$r,$c);
       } elsif ($stype eq 'studentcalc') {
           &loadstudent($sheet,$r,$c);
       } else {
           &loadassessment($sheet,$r,$c);
       }
   }
   
 # --------------------------------------------------------------- Screen output  # ======================================================= Forced recalculation?
   
   unless ($reroute) {  sub checkthis {
     $r->print('<html><head><title>LON-CAPA Spreadsheet</title>');      my ($keyname,$time)=@_;
     $r->print(<<ENDSCRIPT);      if (! exists($expiredates{$keyname})) {
 <script language="JavaScript">          return 0;
       } else {
           return ($time<$expiredates{$keyname});
       }
   }
   
     function celledit(cn,cf) {  sub forcedrecalc {
         var cnf=prompt(cn,cf);      my ($uname,$udom,$stype,$usymb)=@_;
  if (cnf!=null) {      my $key=$uname.':'.$udom.':'.$stype.':'.$usymb;
     document.sheet.unewfield.value=cn;      my $time=$oldsheets{$key.'.time'};
             document.sheet.unewformula.value=cnf;      if ($ENV{'form.forcerecalc'}) { return 1; }
             document.sheet.submit();      unless ($time) { return 1; }
       if ($stype eq 'assesscalc') {
           my $map=(split(/___/,$usymb))[0];
           if (&checkthis('::assesscalc:',$time) ||
               &checkthis('::assesscalc:'.$map,$time) ||
               &checkthis('::assesscalc:'.$usymb,$time) ||
               &checkthis($uname.':'.$udom.':assesscalc:',$time) ||
               &checkthis($uname.':'.$udom.':assesscalc:'.$map,$time) ||
               &checkthis($uname.':'.$udom.':assesscalc:'.$usymb,$time)) {
               return 1;
           } 
       } else {
           if (&checkthis('::studentcalc:',$time) || 
               &checkthis($uname.':'.$udom.':studentcalc:',$time)) {
       return 1;
         }          }
     }      }
       return 0; 
   }
   
 </script>  # ============================================================== Export handler
 ENDSCRIPT  # exportsheet
     $r->print('</head><body bgcolor="#FFFFFF">'.  # returns the export row for a spreadsheet.
        '<img align=right src=/adm/lonIcons/lonlogos.gif>'.  #
        '<h1>LON-CAPA Spreadsheet</h1>'.  sub exportsheet {
        '<form action="'.$r->uri.'" name=sheet method=post>'.      my ($sheet,$uname,$udom,$stype,$usymb,$fn,$r)=@_;
        &hiddenfield('uname',$ENV{'form.uname'}).      my $flag = 0;
        &hiddenfield('udom',$ENV{'form.udom'}).      $uname = $uname || $sheet->{'uname'};
        &hiddenfield('usymb',$ENV{'form.usymb'}).      $udom  = $udom  || $sheet->{'udom'};
        &hiddenfield('unewfield','').      $stype = $stype || $sheet->{'sheettype'};
        &hiddenfield('unewformula',''));      my @exportarr=();
   }      if (defined($usymb) && ($usymb=~/^\_(\w+)/) && 
           (!defined($fn) || $fn eq '')) {
 # ---------------------------------------- Read new sheet or modified worksheet          $fn='default_'.$1;
       }
     my $sheetone=initsheet();      #
     $r->uri=~/\/(\w+)$/;      # Check if cached
     &settype($sheetone,$1);      #
     if ($ENV{'form.unewfield'}) {      my $key=$uname.':'.$udom.':'.$stype.':'.$usymb;
         $r->print('<h2>Modified Workcopy</h2>');      my $found='';
         $ENV{'form.unewformula'}=~s/\'/\"/g;      if ($oldsheets{$key}) {
         $r->print('New formula: '.$ENV{'form.unewfield'}.'='.          foreach (split(/___&\___/,$oldsheets{$key})) {
                   $ENV{'form.unewformula'}.'<br>');              my ($name,$value)=split(/___=___/,$_);
         &setfilename($sheetone,$ENV{'form.ufn'});              if ($name eq $fn) {
  &tmpread($sheetone,$r->dir_config('lonDaemons').'/tmp/',                  $found=$value;
                  $ENV{'form.usymb'},              }
                  $ENV{'form.unewfield'},$ENV{'form.unewformula'});          }
       }
       unless ($found) {
           &cachedssheets($sheet,$uname,$udom);
           if ($oldsheets{$key}) {
               foreach (split(/___&\___/,$oldsheets{$key})) {
                   my ($name,$value)=split(/___=___/,$_);
                   if ($name eq $fn) {
                       $found=$value;
                   }
               } 
           }
       }
       #
       # Check if still valid
       #
       if ($found) {
           if (&forcedrecalc($uname,$udom,$stype,$usymb)) {
               $found='';
           }
       }
       if ($found) {
           #
           # Return what was cached
           #
           @exportarr=split(/___;___/,$found);
           return @exportarr;
       }
       #
       # Not cached
       #
       my ($newsheet)=&makenewsheet($uname,$udom,$stype,$usymb);
       &readsheet($newsheet,$fn);
       &updatesheet($newsheet);
       &loadrows($newsheet,$r);
       &calcsheet($newsheet); 
       @exportarr=&exportdata($newsheet);
       ##
       ## Store now
       ##
       #
       # load in the old value
       #
       my %currentlystored=();
       if ($stype eq 'studentcalc') {
           my @tmp = &Apache::lonnet::get('nohist_calculatedsheets',
                                          [$key],
                                          $sheet->{'cdom'},$sheet->{'cnum'});
           if ($tmp[0]!~/^error/) {
               # We only got one key, so we will access it directly.
               foreach (split('___&___',$tmp[1])) {
                   my ($key,$value) = split('___=___',$_);
                   $key = '' if (! defined($key));
                   $currentlystored{$key} = $value;
               }
           }
     } else {      } else {
         &readsheet($sheetone,$ENV{'form.ufn'},$r);          my @tmp = &Apache::lonnet::get('nohist_calculatedsheets_'.
         $ENV{'form.ufn'}=&getfilename($sheetone);                                         $sheet->{'cid'},[$key],
                                          $sheet->{'udom'},$sheet->{'uname'});
           if ($tmp[0]!~/^error/) {
               # We only got one key, so we will access it directly.
               foreach (split('___&___',$tmp[1])) {
                   my ($key,$value) = split('___=___',$_);
                   $key = '' if (! defined($key));
                   $currentlystored{$key} = $value;
               }
           }
     }      }
       #
       # Add the new line
       #
       $currentlystored{$fn}=join('___;___',@exportarr);
       #
       # Stick everything back together
       #
       my $newstore='';
       foreach (keys(%currentlystored)) {
           if ($newstore) { $newstore.='___&___'; }
           $newstore.=$_.'___=___'.$currentlystored{$_};
       }
       my $now=time;
       #
       # Store away the new value
       #
       my $timekey = $key.'.time';
       if ($stype eq 'studentcalc') {
           my $result = &Apache::lonnet::put('nohist_calculatedsheets',
                                             { $key     => $newstore,
                                               $timekey => $now },
                                             $sheet->{'cdom'},
                                             $sheet->{'cnum'});
       } else {
           my $result = &Apache::lonnet::put('nohist_calculatedsheets_'.$sheet->{'cid'},
                                             { $key     => $newstore,
                                               $timekey => $now },
                                             $sheet->{'udom'},
                                             $sheet->{'uname'});
       }
       return @exportarr;
   }
   
 # --------------------------------------------- See if all import rows uptodate  # ============================================================ Expiration Dates
   #
     if (tie(%parmhash,'GDBM_File',  # Load previously cached student spreadsheets for this course
        $ENV{'request.course.fn'}.'_parms.db',&GDBM_READER,0640)) {  #
        $csec=&Apache::lonnet::usection($udom,$uname,$ENV{'request.course.id'});  sub load_spreadsheet_expirationdates {
        if ($csec eq '-1') {      undef %expiredates;
           $r->print('<h3><font color=red>'.      my $cid=$ENV{'request.course.id'};
    "User '$uname' at domain '$udom' not a student in this course</font></h3>");      my @tmp = &Apache::lonnet::dump('nohist_expirationdates',
        }                                      $ENV{'course.'.$cid.'.domain'},
        &updaterows($sheetone);                                      $ENV{'course.'.$cid.'.num'});
        untie(%parmhash);      if (lc($tmp[0]) !~ /^error/){
    } else {          %expiredates = @tmp;
        $r->print('<h3><font color=red>'.      }
    'Could not initialize import fields (not in a course)</font></h3>');  
    }  
   
 # ------------------------------------------------ Write the modified worksheet  
   
    &tmpwrite($sheetone,$r->dir_config('lonDaemons').'/tmp/',  
               $ENV{'form.usymb'});  
   
 # ----------------------------------------------------- Print user, course, etc  
    unless ($reroute) {  
     $r->print(&hiddenfield('ufn',$ENV{'form.ufn'}).  
               "<b>User '$uname' at domain '$udom' for '".  
               $ENV{'course.'.$ENV{'request.course.id'}.'.description'}."'");  
     if ($csec) {  
        $r->print(", group/section '$csec'");  
     }  
     $r->print("</b>\n");  
    }  
 # -------------------------------------------------------- Import and calculate  
   
     if (&gettype($sheetone) eq 'assesscalc') {  
  &rowaassess($sheetone,$ENV{'form.usymb'});  
     } elsif  (&gettype($sheetone) eq 'studentcalc') {  
  &rowazstudent($sheetone);  
     }  
     my $calcoutput=&calcsheet($sheetone);  
     unless ($reroute) {  
        $r->print('<h3><font color=red>'.$calcoutput.'</h3></font>');  
     }  
   
 # ------------------------------------------------------- Print or export sheet  
    unless ($reroute) {     
     $r->print(&outsheet($sheetone));  
   
     $r->print('</form></body></html>');  
   } else {  
      $r->print(&exportrow($sheetone));  
   }  
 # ------------------------------------------------------------------------ Done  
   } else {  
 # ----------------------------- Not in a course, or not allowed to modify parms  
       $ENV{'user.error.msg'}=  
         $r->uri.":opa:0:0:Cannot modify spreadsheet";  
       return HTTP_NOT_ACCEPTABLE;   
   }  
     return OK;  
 }  }
   
 1;  # ===================================================== Calculated sheets cache
 __END__  #
   # Load previously cached student spreadsheets for this course
   #
   
   sub cachedcsheets {
       my $cid=$ENV{'request.course.id'};
       my @tmp = &Apache::lonnet::dump('nohist_calculatedsheets',
                                       $ENV{'course.'.$cid.'.domain'},
                                       $ENV{'course.'.$cid.'.num'});
       if ($tmp[0] !~ /^error/) {
           my %StupidTempHash = @tmp;
           while (my ($key,$value) = each %StupidTempHash) {
               $oldsheets{$key} = $value;
           }
       }
   }
   
   # ===================================================== Calculated sheets cache
   #
   # Load previously cached assessment spreadsheets for this student
   #
   
   sub cachedssheets {
       my ($sheet,$uname,$udom) = @_;
       $uname = $uname || $sheet->{'uname'};
       $udom  = $udom  || $sheet->{'udom'};
       if (! $loadedcaches{$uname.'_'.$udom}) {
           my @tmp = &Apache::lonnet::dump('nohist_calculatedsheets',
                                           $sheet->{'udom'},
                                           $sheet->{'uname'});
           if ($tmp[0] !~ /^error/) {
               my %TempHash = @tmp;
               my $count = 0;
               while (my ($key,$value) = each %TempHash) {
                   $oldsheets{$key} = $value;
                   $count++;
               }
               $loadedcaches{$sheet->{'uname'}.'_'.$sheet->{'udom'}}=1;
           }
       }
       
   }
   
   # ===================================================== Calculated sheets cache
   #
   # Load previously cached assessment spreadsheets for this student
   #
   
   # ================================================================ Main handler
   #
   # Interactive call to screen
   #
   #
   sub handler {
       my $r=shift;
   
       my ($sheettype) = ($r->uri=~/\/(\w+)$/);
   
       if (! exists($ENV{'form.Status'})) {
           $ENV{'form.Status'} = 'Active';
       }
       if ( ! exists($ENV{'form.output'}) || 
                ($sheettype ne 'classcalc' && 
                 lc($ENV{'form.output'}) eq 'recursive excel')) {
           $ENV{'form.output'} = 'HTML';
       }
       #
       # Overload checking
       #
       # Check this server
       my $loaderror=&Apache::lonnet::overloaderror($r);
       if ($loaderror) { return $loaderror; }
       # Check the course homeserver
       $loaderror= &Apache::lonnet::overloaderror($r,
                         $ENV{'course.'.$ENV{'request.course.id'}.'.home'});
       if ($loaderror) { return $loaderror; } 
       #
       # HTML Header
       #
       if ($r->header_only) {
           $r->content_type('text/html');
           $r->send_http_header;
           return OK;
       }
       #
       # Global directory configs
       #
       $includedir = $r->dir_config('lonIncludes');
       $tmpdir = $r->dir_config('lonDaemons').'/tmp/';
       #
       # Roles Checking
       #
       # Needs to be in a course
       if (! $ENV{'request.course.fn'}) { 
           # Not in a course, or not allowed to modify parms
           $ENV{'user.error.msg'}=
               $r->uri.":opa:0:0:Cannot modify spreadsheet";
           return HTTP_NOT_ACCEPTABLE; 
       }
       #
       # Get query string for limited number of parameters
       #
       &Apache::loncommon::get_unprocessed_cgi
           ($ENV{'QUERY_STRING'},['uname','udom','usymb','ufn','mapid','resid']);
       #
       # Deal with restricted student permissions 
       #
       if ($ENV{'request.role'} =~ /^st\./) {
           delete $ENV{'form.unewfield'}   if (exists($ENV{'form.unewfield'}));
           delete $ENV{'form.unewformula'} if (exists($ENV{'form.unewformula'}));
       }
       #
       # Clean up symb and spreadsheet filename
       #
       if (($ENV{'form.usymb'}=~/^\_(\w+)/) && (!$ENV{'form.ufn'})) {
           $ENV{'form.ufn'}='default_'.$1;
       }
       #
       # Interactive loading of specific sheet?
       #
       if (($ENV{'form.load'}) && ($ENV{'form.loadthissheet'} ne 'Default')) {
           $ENV{'form.ufn'}=$ENV{'form.loadthissheet'};
       }
       #
       # Determine the user name and domain for the sheet.
       my $aname;
       my $adom;
       unless ($ENV{'form.uname'}) {
           $aname=$ENV{'user.name'};
           $adom=$ENV{'user.domain'};
       } else {
           $aname=$ENV{'form.uname'};
           $adom=$ENV{'form.udom'};
       }
       #
       # Open page, try to prevent browser cache.
       #
       $r->content_type('text/html');
       $r->header_out('Cache-control','no-cache');
       $r->header_out('Pragma','no-cache');
       $r->send_http_header;
       #
       # Header....
       #
       $r->print('<html><head><title>LON-CAPA Spreadsheet</title>');
       my $nothing = "''";
       if ($ENV{'browser.type'} eq 'explorer') {
           $nothing = "'javascript:void(0);'";
       }
   
       if ($ENV{'request.role'} !~ /^st\./) {
           $r->print(<<ENDSCRIPT);
   <script language="JavaScript">
   
       var editwin;
   
       function celledit(cellname,cellformula) {
           var edit_text = '';
           edit_text +='<html><head><title>Cell Edit Window</title></head><body>';
           edit_text += '<form name="editwinform">';
           edit_text += '<center><h3>Cell '+cellname+'</h3>';
           edit_text += '<textarea name="newformula" cols="40" rows="6"';
           edit_text += ' wrap="off" >'+cellformula+'</textarea>';
           edit_text += '</br>';
           edit_text += '<input type="button" name="accept" value="Accept"';
           edit_text += ' onClick=\\\'javascript:';
           edit_text += 'opener.document.sheet.unewfield.value=';
           edit_text +=     '"'+cellname+'";';
           edit_text += 'opener.document.sheet.unewformula.value=';
           edit_text +=     'document.editwinform.newformula.value;';
           edit_text += 'opener.document.sheet.submit();';
           edit_text += 'self.close()\\\' />';
           edit_text += '&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;';
           edit_text += '<input type="button" name="abort" ';
           edit_text +=     'value="Discard Changes"';
           edit_text += ' onClick="javascript:self.close()" />';
           edit_text += '</center></body></html>';
   
           if (editwin != null && !(editwin.closed) ) {
               editwin.close();
           }
   
           editwin = window.open($nothing,'CellEditWin','height=200,width=350,scrollbars=no,resizeable=yes,alwaysRaised=yes,dependent=yes',true);
           editwin.document.write(edit_text);
       }
   
       function changesheet(cn) {
    document.sheet.unewfield.value=cn;
           document.sheet.unewformula.value='changesheet';
           document.sheet.submit();
       }
   
       function insertrow(cn) {
    document.sheet.unewfield.value='insertrow';
           document.sheet.unewformula.value=cn;
           document.sheet.submit();
       }
   
   </script>
   ENDSCRIPT
       }
       $r->print('</head>'.&Apache::loncommon::bodytag('Grades Spreadsheet').
                 '<form action="'.$r->uri.'" name="sheet" method="post">');
       $r->print(&hiddenfield('uname',$ENV{'form.uname'}).
                 &hiddenfield('udom',$ENV{'form.udom'}).
                 &hiddenfield('usymb',$ENV{'form.usymb'}).
                 &hiddenfield('unewfield','').
                 &hiddenfield('unewformula',''));
       $r->rflush();
       #
       # Full recalc?
       #
       if ($ENV{'form.forcerecalc'}) {
           $r->print('<h4>Completely Recalculating Sheet ...</h4>');
           undef %spreadsheets;
           undef %courserdatas;
           undef %userrdatas;
           undef %defaultsheets;
           undef %rowlabel_cache;
       }
       # Read new sheet or modified worksheet
       my ($sheet)=&makenewsheet($aname,$adom,$sheettype,$ENV{'form.usymb'});
       #
       # Check user permissions
       if (($sheet->{'sheettype'} eq 'classcalc'       ) || 
           ($sheet->{'uname'}     ne $ENV{'user.name'} ) ||
           ($sheet->{'udom'}      ne $ENV{'user.domain'})) {
           unless (&Apache::lonnet::allowed('vgr',$sheet->{'cid'})) {
               $r->print('<h1>Access Permission Denied</h1>'.
                         '</form></body></html>');
               return OK;
           }
       }
       # Print out user information
       $r->print('<h2>'.$sheet->{'coursedesc'}.'</h2>');
       if ($sheet->{'sheettype'} ne 'classcalc') {
           $r->print('<h2>'.&gettitle($sheet).'</h2><p>');
       }
       if ($sheet->{'sheettype'} eq 'assesscalc') {
           $r->print('<b>User:</b> '.$sheet->{'uname'}.
                     '<br /><b>Domain:</b> '.$sheet->{'udom'}.'<br />');
       }
       if ($sheet->{'sheettype'} eq 'studentcalc' || 
           $sheet->{'sheettype'} eq 'assesscalc') {
           $r->print('<b>Section/Group:</b>'.$sheet->{'csec'}.'</p>');
       } 
       #
       # If a new formula had been entered, go from work copy
       if ($ENV{'form.unewfield'}) {
           $r->print('<h2>Modified Workcopy</h2>');
           $ENV{'form.unewformula'}=~s/\'/\"/g;
           $r->print('<p>New formula: '.$ENV{'form.unewfield'}.'='.
                     $ENV{'form.unewformula'}.'<p>');
           $sheet->{'filename'} = $ENV{'form.ufn'};
           &tmpread($sheet,$ENV{'form.unewfield'},$ENV{'form.unewformula'});
       } elsif ($ENV{'form.saveas'}) {
           $sheet->{'filename'} = $ENV{'form.ufn'};
           &tmpread($sheet);
       } else {
           &readsheet($sheet,$ENV{'form.ufn'});
       }
       # Additional options
       if ($sheet->{'sheettype'} eq 'assesscalc') {
           $r->print('<p><font size=+2>'.
                     '<a href="/adm/studentcalc?'.
                     'uname='.$sheet->{'uname'}.
                     '&udom='.$sheet->{'udom'}.'">'.
                     'Level up: Student Sheet</a></font></p>');
       }
       if (($sheet->{'sheettype'} eq 'studentcalc') && 
           (&Apache::lonnet::allowed('vgr',$sheet->{'cid'}))) {
           $r->print ('<p><font size=+2><a href="/adm/classcalc">'.
                      'Level up: Course Sheet</a></font></p>');
       }
       # Recalc button
       $r->print('<br />'.
                 '<input type="submit" name="forcerecalc" '.
                 'value="Completely Recalculate Sheet"></p>');
       # Save dialog
       if (&Apache::lonnet::allowed('opa',$ENV{'request.course.id'})) {
           my $fname=$ENV{'form.ufn'};
           $fname=~s/\_[^\_]+$//;
           if ($fname eq 'default') { $fname='course_default'; }
           $r->print('<input type=submit name=saveas value="Save as ...">'.
                     '<input type=text size=20 name=newfn value="'.$fname.'">'.
                     'make default: <input type=checkbox name="makedefufn"><p>');
       }
       $r->print(&hiddenfield('ufn',$sheet->{'filename'}));
       # Load dialog
       if (&Apache::lonnet::allowed('opa',$ENV{'request.course.id'})) {
           $r->print('<p><input type=submit name=load value="Load ...">'.
                     '<select name="loadthissheet">'.
                     '<option name="default">Default</option>');
           foreach (&othersheets($sheet)) {
               $r->print('<option name="'.$_.'"');
               if ($ENV{'form.ufn'} eq $_) {
                   $r->print(' selected');
               }
               $r->print('>'.$_.'</option>');
           } 
           $r->print('</select><p>');
           if ($sheet->{'sheettype'} eq 'studentcalc') {
               &setothersheets($sheet,
                               &othersheets($sheet,'assesscalc'));
           }
       }
       #
       # Set up caching mechanisms
       #
       &load_spreadsheet_expirationdates();
       # Clear out old caches if we have not seen this class before.
       if (exists($oldsheets{'course'}) &&
           $oldsheets{'course'} ne $sheet->{'cid'}) {
           undef %oldsheets;
           undef %loadedcaches;
       }
       $oldsheets{'course'} = $sheet->{'cid'};
       #
       if ($sheet->{'sheettype'} eq 'classcalc') {
           $r->print("Loading previously calculated student sheets ...\n");
           $r->rflush();
           &cachedcsheets();
       } elsif ($sheet->{'sheettype'} eq 'studentcalc') {
           $r->print("Loading previously calculated assessment sheets ...\n");
           $r->rflush();
           &cachedssheets($sheet);
       }
       # Update sheet, load rows
       $r->print("Loaded sheet(s), updating rows ...<br>\n");
       $r->rflush();
       #
       &updatesheet($sheet);
       $r->print("Updated rows, loading row data ...\n");
       $r->rflush();
       #
       &loadrows($sheet,$r);
       $r->print("Loaded row data, calculating sheet ...<br>\n");
       $r->rflush();
       #
       my $calcoutput=&calcsheet($sheet);
       $r->print('<h3><font color=red>'.$calcoutput.'</h3></font>');
       # See if something to save
       if (&Apache::lonnet::allowed('opa',$ENV{'request.course.id'})) {
           my $fname='';
           if ($ENV{'form.saveas'} && ($fname=$ENV{'form.newfn'})) {
               $fname=~s/\W/\_/g;
               if ($fname eq 'default') { $fname='course_default'; }
               $fname.='_'.$sheet->{'sheettype'};
               $sheet->{'filename'} = $fname;
               $ENV{'form.ufn'}=$fname;
               $r->print('<p>Saving spreadsheet: '.
                         &writesheet($sheet,$ENV{'form.makedefufn'}).
                         '<p>');
           }
       }
       #
       # Write the modified worksheet
       $r->print('<b>Current sheet:</b> '.$sheet->{'filename'}.'</p>');
       &tmpwrite($sheet);
       if ($sheet->{'sheettype'} eq 'assesscalc') {
           $r->print('<p>Show rows with empty A column: ');
       } else {
           $r->print('<p>Show empty rows: ');
       }
       #
       $r->print(&hiddenfield('userselhidden','true').
                 '<input type="checkbox" name="showall" onClick="submit()"');
       #
       if ($ENV{'form.showall'}) { 
           $r->print(' checked'); 
       } else {
           unless ($ENV{'form.userselhidden'}) {
               unless 
                   ($ENV{'course.'.$sheet->{'cid'}.'.hideemptyrows'} eq 'yes') {
                       $r->print(' checked');
                       $ENV{'form.showall'}=1;
                   }
           }
       }
       $r->print('>');
       #
       # CSV format checkbox (classcalc sheets only)
       $r->print(' Output as <select name="output" size="1" onClick="submit()">'.
                 "\n");
       foreach my $mode (qw/HTML CSV Excel/) {
           $r->print('<option value="'.$mode.'"');
           if ($ENV{'form.output'} eq $mode) {
               $r->print(' selected ');
           } 
           $r->print('>'.$mode.'</option>'."\n");
       }
       if ($sheet->{'sheettype'} eq 'classcalc') {
           $r->print('<option value="recursive excel"');
           if ($ENV{'form.output'} eq 'recursive excel') {
               $r->print(' selected ');
           } 
           $r->print(">Multi-Sheet Excel</option>\n");
       }
       $r->print("</select>\n");
       #
       if ($sheet->{'sheettype'} eq 'classcalc') {
           $r->print('&nbsp;Student Status: '.
                     &Apache::lonhtmlcommon::StatusOptions
                     ($ENV{'form.Status'},'sheet'));
       }
       #
       # Buttons to insert rows
   #    $r->print(<<ENDINSERTBUTTONS);
   #<br>
   #<input type='button' onClick='insertrow("top");' 
   #value='Insert Row Top'>
   #<input type='button' onClick='insertrow("bottom");' 
   #value='Insert Row Bottom'><br>
   #ENDINSERTBUTTONS
       # Print out sheet
       &outsheet($sheet,$r);
       $r->print('</form></body></html>');
       #  Done
       return OK;
   }
   
   1;
   __END__

Removed from v.1.21  
changed lines
  Added in v.1.147


FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>