pz2.js part of dist

Notes on changes in Debian package

Make init script LSB compliant. wiki.debian.org/LSBInitScripts .

Make NEWS part of Debian package

Default pazpar2 installation listens on port 8004. It is not in use
by an existing service, AFAIK.

Added man page for the pazpar2 daemon. Volume is now 8 rather than 1
because it's a daemon.

Use /usr/sbin/pazpar2 rather than /usr/bin/pazpar2

Install pazpar2 in /usr/sbin rather than /usr/bin

Sort options

Include usr/sbin in pazpar2.dirs

First version with start/stop script. The configuration lives in
/etc/pazpar2 . The default configuration writes PID file in
/var/run/pazpar2.pid. The log file is written to /var/log/pazpar2.log.
The pazpar2 process is running as nobody.

Pidfile was written with wrong PID. Bug introduced in previous commit.

Added option -D which puts pazpar2 in background. This improves the
startup process when pazpar2 is used in start scripts such as Debian's
start-stop-daemon. Without -D, pazpar2 would have to be started using
-b for start-stop-daemon. Refer to man page start-stop-daemon(8).
This change also makes pazpar2 change uid before the daemon is running.
We just ensure that HTTP binding and YAZ log files, PID files are dealt with
before any setuid takes place.. Pazpar2 makes log entry with version
info. The daemon mode refuses to start if -l is not given. This is to ensure
that logfile output is not dumped to /dev/null by accident.

Disable linking of pz2.js. It breaks make dist

Javascript util js/pz2.js part of dist. This is installed in
PREFIX/usr/share/papazpar2/js and is also part of the Debian package.

Only one include of stdio.h and with _GNU_SOURCE defined.
Added include of "cconfig.h". _all_ Pazpar2 source must include it.

Pazpar2 require YAZ 3

Avoid non-zero exit in make dist of Debian part

Added Original Debian dh_make output files. These files should not
be part of the distribution. They just serve as examples .. includes
init-scripts etc.

First Debian package. Only tested on Debian testing (lenny).

Removed definition of docdir. It is set by automake already

icu_chain_test is a noinst program at this stage

Use block=1 in test of show command

Work on bug #1192: block=1, session_watch problems. The http_channel
now includes an observer interface so that objects using it
can be notified when it's destroyed. This is combined with the
watch mechanism. Tests shows that this change fixes first problem
as described in bug #1192. Second problem is also fixed. If a watch
is already registered on show records, subsequent requests will not
block. The third and fourth problems are not solved by this. While
the show raw (pass through) does not uses session watch, it is still
fixed to use the http_channel observer. This commit also fixes two
leaks.

Ooops. Not using same result set ID for search & present. Pazpar2
now no longer sets resultSetId for search/present. zget_.. does it
just right. The ID is 'default' (Not 'Default').

Extended command 'record' so that XML representation of original record
can be returned. Bug #1172. If parameter 'offset' is given for command
'record' the original record is returned and offset is the record offset
within cluster (merged) record, where 0=first, 1=second, etc.. If no record
at offset is given diagnostic RECORD_FAIL is returned.  When offset
is given, the value of parameter 'syntax' and 'esn' specifies the
record syntax and element set respectively. If any of these are omitted
the present request also omits them. The code to convert from 'raw' to
XML is combined into one function record_to_xml. Note that OPAC records
are not converted to XML yet.

Update test_record test for new arg to record_create

Work on bug #1172. Save result set postition for each record in a
cluster.

clear simple query was missing

stop function implemented.

Post request possible with pzHttpRequest class.

Fixed bug #1187: command=show crashes if used before a search is
performed. Also changed log of session destroy to actually log what
session gets destroyed.

For errors, pazpar2 returns diagnostic 'code', 'msg' (text representation
of code) + additional info for error. This allows clients to handle errors
in more proper manner.

Option -p specifies pidfile. Option -u specifies uid for child process.
Non-zero exit code makes pazpar2 stop completely.

Removed dead code

Fix problem with show not showing all records. Fixed encoding of
query term in refine_query.

Ignore this.

Update test due to slightly different relevance rank output that
occurred with fix of bug #1185.

Set termlist highscore to 25. It took an hour to figure out why
command=termlist&num=20 did NOT work!

Fixed bug #1185: metadata includes entities. This minor change makes
the internal data raw and without entities. It missing xmlputs for
records explained why this worked before. However, the termlist output
was bad, because xmlputs were used and so it was _double_ &amp escaped.
This could explain why entities were seen by some on the facet output.

Removed unused code

Process management/respawn. Bug #1173. PID file pazpar2.pid generated
by default.

Get rid of record_assign_client

updated documentation of Z39.50 proxying in settings config section

removed dead, commened out code left from removing global Z39.50 proxying

removed Z39.50 Proxy functionality from parameters global overrides and moved into the session settings. Added new setting 'pz:zproxy' for the same.

Update documentation about ProxyPass.

forgot a closing XML element '>' .. now targets state info is wellformed XML

New function: stop
              clearSimpleQuery

prevent sending empty XML elements in term lists.
In target term lists, empty names are replaced by 'NO TARGET NAME' to be visible, in ordinary dynamic term lists terms without ndisplay names are jumped over.
Fixed bug #1161

Changed all wrbuf_printf statements involving strings, like
wrbuf_printf(wrbuf, "<id>%s</id>\n", ht[i].id);
to the save XML entity-encoded form using wrbuf_xmlputs(..).

Left all  wrbuf_printf statements involving integers as they are, for example
wrbuf_printf(c->wrbuf, "<hits>%d</hits>\n", stat.num_hits);
as these can not go wrong with the 5 XML entities.

Tested, and working, Bug #1163 closed.

Removed payload log msg for well-formed payload

Work on bug #1162.. PP2 right now always dump the payload text/xml
response for our convenience. It warns if it's non-wellformed .

Cont.

continued.

Handling empty nodes in the termlists.

Added section about using Apache 2's Proxy.

When using xslt stylesheet record data will a recid member.

Use idcommon instead of common for entities.

Fixed Bug #1044 -- connections should no lomnger be re-used if authent tokens
don't match.

Added diagnostic cocde for NSD response records

Parse XML records from targets if they are received.

Encoding the URI properly .

change

change

change

Form url encoded.

Changing the request header.

Simple query was unesesary escaped with quotes.

Removed settings

moved declarations and definitions before actual instructions to keep old compilers happy

renamed instruction 'norm' to 'index' and 'sort' to sortkey'. otherwise no changes

added ICU urls and a section on ICU tokenization and normalization

removed debug print statements

Fixed non-icu compilation

took sizeof of the wrong variable.. darnit

Similar to pazpar2.cfg.dist but with ICU stuff in it. Seems to
work quite well at this time.

Minor rearrangements. Prints normalized terms to console in
ICU mode (must be removed or controlled later).

Cosmetic

Removed unneeded initialization of more_tokens and need_new_token.
Simplified initialization of buf16 chain member.

Test for bug 1140 now passes

Fixed bug #1140: Unexpected EOF for icu_chain_next_token. The
need_new_token was left in an unitialized state (from last round).

Added test case for bug #1140 in routine test_bug_1140. Is not currently
called from main (#if 0 block).

New pazpar2 option -X which puts pazpar2 in debug (insecure) mode.
At this point (-X) only affects the session ID creation.

First ICU chain integration in relevance ranking of pazpar2.
Tokenization not working correctly, need more debugging.

ICU chain loaded imder configuration of server. This happens only if ICU support is compiled in, and additionally, an ICU chain config section is present in the main pazpar2.cfg XML file.

Ignore executable

HTTP error handler yaz_logs and uses yaz_snprintf to prevent buffer
overflows. Queries are checked for UTF-8 correctness. This works best
with YAZ 3.0.5 or later.

Removed bug with improper utf-8 query encoding.

use  <form accept-charset='UTF-8'

protect from missing ICU development environment by #ifdef HAVE_ICU , such that build process can continue on platforms missing ICU

finished test ICU stand-allone program for benchmarking of ICU tokenization and normalization. Works quite well, benchmarking on the James English Bible from Project Gutenberg (4,5 MB plain text consisting of 870.000 individual tokens) took 3.5 seconds on a laptop. More testing/benchmarking is needed.

started stand-allone ICU test

Added a few frees here and there

ICU chain XML configuration up and running, used in unit test as well.

Counters and timers cd.

No longer relevant.

Corrected timers and counters.

Creating symlinks for the pz2.js during the configure process

ICU chain working correctly with tokenizer, normalizer and casemap operations, and data extraction in normalform, sortkey form and display form all possible. New unit test added